来源:JRS低调看直播
2025-01-28 16:47:29
“预训练”是AI大模型学习中的一种方法,指的是通过海量的数据,训练一个大模型。训练时需要大量的数据和算力支持,每次迭代可能耗资数百万至数亿美元。
官方技术论文披露,DeepSeek-V3在预训练阶段仅使用2048块GPU训练了2个月,且只花费557.6万美元。这个费用是什么概念?
据报道,GPT-4o的模型训练成本约为1亿美元。简单粗暴地说,这相当于DeepSeek-V3比同等性能的AI大模型,降了十几倍的成本。
早在2024年5月,深度求索发布DeepSeek-V2时,就曾因给模型的定价太过于便宜,开启了中国大模型的价格战,被称之为“AI界的拼多多”。
“相比于说它是‘拼多多’,它更像小米,贴近成本定价,并且自产自销。”马千里认为,训练成本比较低的原因,离不开深度求索团队自研的架构和算力,他们自身的算力储备可以与大厂比肩,并且更注重底层的模型。
“ChatGPT走的是大参数、大算力、大投入的路子,DeepSeek-V3的路径用了更多的巧思,依托数据与算法层面的优化创新,从而高效利用算力,实现较好的模型效果。”马千里说道。
相关新闻
小米官宣开售18小时YU7锁单突破24万台!仅定金就狂收12亿元
来源 : JRS低调看直播2025-06-27 16:53:35
LPL女主持人Baobao晒照:MSI开赛倒计时~穿上小魄罗给LPL打call~
来源 : JRS低调看直播2025-06-27 16:53:32
Faker:对遇到Gen既感到警惕也非常期待 海外LPL可能竞争最强
来源 : JRS低调看直播2025-06-27 16:53:09
Doran:LPL实力强比赛风格也有趣,特别渴望与LPL队伍较量
来源 : JRS低调看直播2025-06-27 16:53:07
心火燎原!2025季中冠军赛6月28日正式开赛!
来源 : JRS低调看直播2025-06-27 16:52:58
Bin:这次MSI最关注多兰;前三上单圣枪哥、Doran、Kiin
来源 : JRS低调看直播2025-06-27 16:52:12
非凡尔赛非段子!Angel:一不小心抢到了小米YU7MAX现车 很快提车
来源 : JRS低调看直播2025-06-27 16:51:58
Keria:连续四年打进MSI,现在应该到了要夺冠的时候了吧
来源 : JRS低调看直播2025-06-27 16:51:50
Bin给网友们调好了?管泽元采访BLG全员:Bin回复采访全程中肯丧失攻击性!
来源 : JRS低调看直播2025-06-27 16:51:49
Gumayusi:Keria启封秘籍用得最好 有自信能夺冠
来源 : JRS低调看直播2025-06-27 16:51:46