立即注册  找回密码
 立即注册
CeraNetworksBGVM服务器主机交流会员请立即修改密码Sharktech防护
查看: 51|回复: 5

amd 7502p 可以跑什么ai大模型?

[复制链接]

amd 7502p 可以跑什么ai大模型?

[复制链接]

65

主题

123

回帖

919

积分

高级会员

积分
919
crm

65

主题

123

回帖

919

积分

高级会员

积分
919
2024-3-16 17:28:25 | 显示全部楼层 |阅读模式
amd 7502p 可以跑什么ai大模型?

单路32核 256g 2t-nvme 无显卡
回复

使用道具 举报

25

主题

189

回帖

905

积分

高级会员

积分
905
Nothing1024

25

主题

189

回帖

905

积分

高级会员

积分
905
2024-3-16 17:29:45 | 显示全部楼层
只能跑轻量一点的吧,大模型都比较吃GPU
回复

使用道具 举报

12

主题

548

回帖

1896

积分

金牌会员

积分
1896
DUNAI

12

主题

548

回帖

1896

积分

金牌会员

积分
1896
2024-3-16 17:30:27 | 显示全部楼层
跑我们星火大模型

回复

使用道具 举报

65

主题

123

回帖

919

积分

高级会员

积分
919
crm 楼主

65

主题

123

回帖

919

积分

高级会员

积分
919
2024-3-16 17:31:42 | 显示全部楼层

Nothing1024 发表于 2024-3-16 17:29

只能跑轻量一点的吧,大模型都比较吃GPU


有推荐的? 主要拿来翻译和查询代码
回复

使用道具 举报

12

主题

736

回帖

2162

积分

金牌会员

积分
2162
kindlecon

12

主题

736

回帖

2162

积分

金牌会员

积分
2162
2024-3-16 17:29:00 | 显示全部楼层
本帖最后由 kindlecon 于 2024-3-16 17:45 编辑

什么只能跑轻量啊,他纯内存都能跑,只是速度比GPU慢很多,256G,4bit应该130B都能跑。
别提那些小模型了。

不过也不算慢到不能用。
回复

使用道具 举报

65

主题

123

回帖

919

积分

高级会员

积分
919
crm 楼主

65

主题

123

回帖

919

积分

高级会员

积分
919
2024-3-16 17:44:14 | 显示全部楼层

kindlecon 发表于 2024-3-16 17:44

什么只能跑轻量啊,他纯内存都能跑,只是速度比GPU慢很多,256G,4bit应该130B都能跑。
别提那些小模型了。 ...

非常感谢
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|小黑屋|HS2V主机综合交流论坛

GMT+8, 2024-11-23 03:35 , Processed in 0.068126 second(s), 4 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表