大模型训练共2篇
5万亿参数加禁止蒸馏:张一鸣的长期主义豪赌,字节跳动要造中国最大模型-AI智能库

5万亿参数加禁止蒸馏:张一鸣的长期主义豪赌,字节跳动要造中国最大模型

字节跳动内部讨论训练超5万亿参数大模型,将超越Kimi K3和通义千问。张一鸣明确禁止蒸馏刷榜,要求坚持长期主义。项目由Seed团队项亮牵头,处于早期阶段,训练成本或超50亿美元。
admin的头像-AI智能库admin1个月前
547
LoRA微调实战:用消费级显卡训练自己的大模型-AI智能库

LoRA微调实战:用消费级显卡训练自己的大模型

用一张RTX 4090微调Qwen大模型的完整教程。涵盖环境搭建、数据集准备、LoRA参数配置、训练监控和部署导出全流程,附LLaMA-Factory实操。
admin的头像-AI智能库admin2个月前
385