IT之家8月21日消息，蚂蚁百灵官方昨日宣布，将Ling-3.0-tiny-base与Ling-3.0-flash-base正式开源，除最终Base checkpoint外，还同步开放两个模型的预训练和中期训练权重checkpoint，共计6个checkpoints。
预训练checkpoint已完成大规模预训练，尚未进行中期训练、WSM合并和后训练；中期训练checkpoint已完成中期训练，尚未进行WSM合并和后训练；WSM合并checkpoint已基于中期训练checkpoint完成WSM合并，尚未进行后训练。
官方表示，这些checkpoints适合用于持续预训练、领域监督微调、偏好优化、强化学习后训练、蒸馏，以及长上下文和MoE系统研究。Base Model并非已完成指令对齐的聊天模型，不建议未经后训练直接部署为终端用户聊天服务。
其中，Ling-3.0-tiny-base总参数7.9B、激活参数1.3B，以相比前代约50%的总参数量在多数评测中取得更高结果；Ling-3.0-flash-base总参数124B、激活参数5.1B，在代码、复杂推理和长上下文方向表现突出。