马斯克宣称xAI 2万亿参数大模型即将完成训练,直接对标月之暗面Kimi K3

server rack

2万亿参数量级曝光,xAI向极限规模再次冲刺

根据AIbase.cn最新消息,埃隆·马斯克公开表示xAI正在训练一个参数规模高达2万亿的超大规模语言模型,且训练已接近完成。这一消息瞬间引发AI技术圈的广泛关注,不仅因为其参数体量远超当前多数公开模型,更因为它被明确置于与国产明星模型Kimi K3直接竞争的语境下。如果该消息属实,xAI即将推出的模型将成为截至目前参数规模最大的公开讨论的语言模型之一,仅次于部分早期传闻中的科研项目。

从Grok到2万亿:xAI的技术路径与野心

data center

xAI自成立以来一直以激进的技术路线著称,其首个公开模型Grok-1即采用了约3140亿参数的MoE(混合专家)架构,随后迭代至Grok-2和Grok-3,在推理和编码能力上不断逼近第一梯队。但即便Grok-3的参数规模传闻在数千亿级别,距离2万亿仍有数倍落差。此次披露的2万亿参数模型,很可能意味着xAI在预训练基础设施上完成了关键升级——例如十万卡级GPU集群的稳定运行、高效分布式训练框架的研发,或是新型MoE路由策略的应用。马斯克此前曾多次强调其数据中心规模的扩展速度,这为训练如此庞大的模型提供了算力基础。

被点名的Kimi K3:中国大模型的参数效率标杆

AIbase的报道特别指出,马斯克将该模型的性能挑战目标定为Kimi K3。Kimi是月之暗面(Moonshot AI)推出的对话助手,其K3版本以独特的长上下文窗口和高效的参数利用效率在中文AI社区积累了极高口碑。Kimi K3并非单纯追求参数规模,而是在数十亿激活参数量级下实现了接近数倍规模模型的性能。若xAI的2万亿参数模型以Kimi K3为标尺,则隐含了两层意味:其一,xAI认可Kimi K3在特定能力上的领先地位,这本身就是对国产模型实力的印证;其二,xAI可能希望通过绝对规模的优势来超越对手的效率优势,从而引发一场“暴力美学”与“精致设计”之间的路线对决。

data center

参数军备竞赛再升温,但规模不等于一切

2万亿参数模型的训练成本将极为惊人。参考业界数据,训练一个1.8万亿参数的MoE模型可能需要数万块H100 GPU运行数月,电力与硬件支出可达数亿美元。这背后是xAI以及其他少数科技巨头才具备的资源壁垒。然而,行业内对于参数规模的迷恋正在消退,越来越多的证据表明,数据质量、后训练策略和推理场景的适配比单纯扩大模型尺寸更能带来用户可感知的收益。此次马斯克若高调推出2万亿参数模型,可能会重新点燃“唯参数论”的争议,同时也迫使竞争对手审视自己的算力储备——尤其是当目标对手是中国公司时,涉及出口管制的先进芯片获取能力将变得更加关键。

市场与生态影响:Grok用户将面临什么

对于xAI的现有用户和Grok系列使用者来说,2万亿参数模型若成功推出,大概率不会直接向免费用户全量开放。鉴于其高昂推理成本,xAI可能采取分层服务模式:免费层保留较小模型,付费订阅者或API客户才能调用这一超大模型。若性能真实达到或超过Kimi K3,这或许能帮助xAI在企业级市场打开局面,尤其是在代码生成、复杂分析等高附加值场景中。但另一方面,模型的延迟和部署成本将成为实际落地的关键瓶颈。从AIbase的排行榜来看,Grok.com近期已进入总榜前五,若再获旗舰模型加持,其流量和市场份额可能进一步扩大。

Source: AIbase
345tool Editorial Team
345tool Editorial Team

We are a team of AI technology enthusiasts and researchers dedicated to discovering, testing, and reviewing the latest AI tools to help users find the right solutions for their needs.

我们是一支由 AI 技术爱好者和研究人员组成的团队,致力于发现、测试和评测最新的 AI 工具,帮助用户找到最适合自己的解决方案。

コメント

Loading comments...