01

字节跳动训练10万亿参数模型对标Anthropic

据知情人士透露，字节跳动正在训练一个参数规模最多达10万亿的AI模型，接近Anthropic最先进的Mythos系统规模，是Moonshot Kimi K3的三倍。该模型目前处于预训练早期阶段，通常需3-6个月。Anthropic不披露参数，但业界估计Mythos 5约8万亿、Fable 5约5万亿。字节跳动此举显示中国实验室在AI前沿领域追赶乃至超越美国的雄心。其Seed团队约2000人，采用独立训练方法。