立即注册  找回密码
 立即注册
CeraNetworksBGVM服务器主机交流会员请立即修改密码Sharktech防护
查看: 83|回复: 9

好想知道X79的垃圾服务器能不能跑Llama3 70b

[复制链接]

好想知道X79的垃圾服务器能不能跑Llama3 70b

[复制链接]

21

主题

77

回帖

335

积分

中级会员

积分
335
lilyhcn1

21

主题

77

回帖

335

积分

中级会员

积分
335
2024-4-25 15:31:18 | 显示全部楼层 |阅读模式
自己试了一下llama3 8b的版本,居然7735hs的小主机也能跑起来,而且速度很快。
也试了一下llama3 70b的效果,感觉非常不错。
很想知道 要是自己组装个x79的2000块破服务器,能不能跑起来。
回复

使用道具 举报

19

主题

278

回帖

851

积分

高级会员

积分
851
huayixin

19

主题

278

回帖

851

积分

高级会员

积分
851
2024-4-25 15:32:02 | 显示全部楼层
不是吃显卡么
回复

使用道具 举报

21

主题

77

回帖

335

积分

中级会员

积分
335
lilyhcn1 楼主

21

主题

77

回帖

335

积分

中级会员

积分
335
2024-4-25 15:36:01 | 显示全部楼层

huayixin 发表于 2024-4-25 15:32

不是吃显卡么

这玩意居然是靠cpu算的,我都惊呆了。
回复

使用道具 举报

151

主题

232

回帖

1265

积分

金牌会员

积分
1265
skugov

151

主题

232

回帖

1265

积分

金牌会员

积分
1265
2024-4-25 15:32:00 | 显示全部楼层
CPU 和显卡都可以,显卡效果好
回复

使用道具 举报

43

主题

172

回帖

695

积分

高级会员

积分
695
comet

43

主题

172

回帖

695

积分

高级会员

积分
695
2024-4-25 15:37:14 | 显示全部楼层
cpu卡死人。用甲骨文arm试过
回复

使用道具 举报

21

主题

77

回帖

335

积分

中级会员

积分
335
lilyhcn1 楼主

21

主题

77

回帖

335

积分

中级会员

积分
335
2024-4-25 15:40:22 | 显示全部楼层

skugov 发表于 2024-4-25 15:37

CPU 和显卡都可以,显卡效果好

显卡 不会用,只会cpu
回复

使用道具 举报

66

主题

730

回帖

2514

积分

金牌会员

积分
2514
jekyll

66

主题

730

回帖

2514

积分

金牌会员

积分
2514
2024-4-25 15:42:25 | 显示全部楼层
内存够就能跑。
双路X79,满8通道DDR3内存,胜在便宜,但远远比不上GDDR的速度。
回复

使用道具 举报

18

主题

155

回帖

516

积分

高级会员

积分
516
yaren

18

主题

155

回帖

516

积分

高级会员

积分
516
2024-4-25 15:37:00 | 显示全部楼层
x79可以一战
回复

使用道具 举报

19

主题

278

回帖

851

积分

高级会员

积分
851
huayixin

19

主题

278

回帖

851

积分

高级会员

积分
851
2024-4-25 16:03:26 | 显示全部楼层

lilyhcn1 发表于 2024-4-25 15:36

这玩意居然是靠cpu算的,我都惊呆了。

我看有人3060 12g 70B跑着很吃力,就放弃了本地测试的念头。

听你这么一说又有兴趣了,不知道手上的x99洋垃圾2666V3 64G能不能一试。
回复

使用道具 举报

80

主题

289

回帖

1242

积分

金牌会员

积分
1242
拼命二郎

80

主题

289

回帖

1242

积分

金牌会员

积分
1242
2024-4-25 16:37:39 | 显示全部楼层
看过评测,cpu的确可以跑,但是效率很低,那个测试博主用家用游戏显卡跑问题,秒出结果,用CPU跑,一秒蹦2个字
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|小黑屋|HS2V主机综合交流论坛

GMT+8, 2024-12-23 11:56 , Processed in 0.024468 second(s), 3 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表