• 本站招聘各个版块版主共同发展,有意可私聊站长

龙虾怎么配本地模型跑

Telegram账号购买找【ITCRY】-顶级号商 https://itcry.com/

bingo

Active member
Lv0
Lv1
Lv2
10
消息得分
注册
2025-07-03
消息
1,226
反馈评分
0
14600KF 4060Ti16G 48GDDR5够用不

精彩评论


职业菜鸟 发表于50 秒前

应该可以吧。 那玩意 我看了下没装。 自己搭了个 本地模型。 纯CPU 是真不行。 80核 128G 的 一个会话 CPU 就50% 了。 内存占用倒是不高. 这玩意还是得 显卡跑。



这个同事在用。据说成本还是很高的。 token消耗巨大。
 
后退
顶部