今天我在家呐
返回博客列表
2026年6月25日更新于 2026年6月25日

本地部署了qwen3.5 4b

如题

本地部署了qwen3.5 4b

Qwen3.5fast path 在当前环境下无法启用,因为用的Windows而且我的框架组合没有支持的wheel包,

气煞我也!

折腾了好多...😭

  • 升级pytorch和cuda
  • 各种版本的triton-windows都试了🤦‍♀️

我感觉我要转wsl了 ,受不了了,没有fast path 我心难受!

原版模型跑的效果不理想,太慢了,问一嘴**你是谁?**都能跑一分钟多,真的是我的电脑太次吗😭 ε=(´ο`*)))唉,下一步计划

  • 开始训练了