232人在线 发帖 开专辑 登录
张小珺Jùn|商业访谈录

152. 领读Kimi K3技术报告:从架构创新聊起,注意力美学、多教师蒸馏和开源MoE

珊珊来了 8月26日 2:04:19 0 播放 0 时点评论

今天的节目是一集学习播客,学习Kimi K3技术报告,希望和大家一起领略“技术之美”。 K3是有效扩展到2.8T总参数并全量开源的MoE模型。大家可能注意到,这集技术报告的领读距离模型发布已经过去一段时间。期间,我们试图寻找一位合适的嘉宾,我们希望这位嘉宾的学术和工作背景非常适合讲K3。最后找到孙宇涛。 宇涛目前是清华大学计算机系博士候选人,上海创智学院璞锐学者。他从博士开始的研究方向是LLM架构、预训练,架构创新一直是他的兴趣点,这正好是K3亮点之一。 宇涛透过领读K3技术报告也串联讲解了十多篇相关论文。他的语速非常快——前方语速预警。 OUTLINE: 02:00 宇涛的自我介绍和研究经历…

00:00 / 2:04:19
00:000 条评论落在这条时间线上 · 点任意刻度即可在此刻留言2:04:19

打赏 珊珊来了 90% 归创作者

区间 ¥1.00-¥500.00;付款走与会员相同的订单流程,可在「我的订单」查看。

本集片段卡0 张

还没有人截片段。听到上头的那 30 秒,就顺手截一下。

时间线评论 按时间 最热 最新

还没有时点评论,做第一个在刻度上留下话的人。

接着听

+