想跑点大模型，现在最划算的方案是什么？

[风骚的太医]

就研究些和ai相关的应用，感觉调用和token都会挺多的。要求也不高，能跑个40B，或者72B左右的模型就很满足了。



我有几个简单的想法：

1.租个VDS/杜甫，新一点的CPU支持AVX512的，大内存用CPU跑。

2.租GPU资源。但是感觉太贵了，没有什么便宜的路子。

3.直接调用付费API。

4.自己组一台电脑，内存和CPU拉满给很大。大力出奇迹。



不组GPU那是因为确实组不起

5.苹果电脑加钱配大内存？



大佬们有啥想法吗

精彩评论

---

redneck 发表于6 分钟前

多买几台国补的mac mini