[array viewthread_profileside/0]
- 积分
- 22945
[array viewthread_imicons/0][array viewthread_magic_user/0]
[array viewthread_avatar/0]
[array viewthread_sidetop/0]
论坛元老
 
- 积分
- 22945
[array viewthread_sidebottom/0]
|
发表于 12 小时前
|
显示全部楼层
|阅读模式
[array viewthread_postheader/0]
[ad thread/a_pt/2/0]
[array viewthread_posttop/0]
[ad thread/a_pr/3/0]神皇房卡在哪购买便宜点的《微信,添加客服dkg006》DeepSeek 70B 这样的模型对于整个系统已经有一定压力了,查看任务管理器,虽然模型推理阶段的 CPU 占用仅为 3??但内存占用达到了 40?约 13GB 大小。GPU 占用更是达到了 100?其中专用 GPU 内存的 96GB 几乎占用了一半,达到了 43.7GB,可见这个量级的大模型还是很吃 GPU 和显存的。该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务《微信,添加客服dkg006》神皇房卡在哪购买便宜点的《微信,添加客服dkg006》

|
[array viewthread_postbottom/0]
|