智东西6月17日报道，今日凌晨，月之暗面推出针对软件工程任务的全新开源代码大模型Kimi-Dev-72B。
该模型在SWE-bench Verified编程基准测试中取得了全球最高开源模型水平，以仅72B的参数量，成绩超过了刚于5月28日发布、参数量多达671B的新版DeepSeek-R1。
通过大规模强化学习进行了优化。它能够自主修补Docker中的真实存储库，并且只有当整个测试套件通过时才会获得奖励。这确保了解决方案的正确性和稳健性，并符合现实世界的开发标准。
Kimi-Dev-72B现已在Hugging Face和GitHub上提供下载和部署。其发布给社区的关键资源包括模型权重、源代码，技术报告也即将推出。
月之暗面介绍了Kimi-Dev-72B的设计理念和技术细节，包括BugFixer和 TestWriter的组合、中期训练、强化学习和测试时自我博弈。
成功修复错误的补丁（patch）应能通过准确反映该错误的单元测试。同时，复现错误的成功测试应引发断言错误，并在将正确的错误修复补丁应用到代码库后通过。这致使BugFixer和TestWriter互补，一个足够强大的编程大语言模型应该在这两个方面都表现出色。
BugFixer和TestWriter的工作流程类似：它们都会先找到正确的文件进行编辑，然后编辑正确的代码更新，无论是修复脆弱的实现还是插入unittest函数。因此，对于这两种角色，Kimi-Dev-72B都采用了相同的极简框架，该框架仅包含两个阶段：文件本地化和代码编辑。BugFixer和TestWriter的双重设计奠定了Kimi-Dev-72B的基础。
为了增强Kimi-Dev-72B作为BugFixer和TestWriter的先验知识，月之暗面使用约1500亿个高质量的真实数据进行中期训练。
以Qwen 2.5-72B基础模型为起点，月之暗面收集了数百万个GitHub问题和 PR提交作为其中期训练数据集。数据配方经过精心构建，使Kimi-Dev-72B 能够学习人类开发者如何推理GitHub问题、编写代码修复和单元测试。
月之暗面还进行了严格的数据净化，将所有存储库从SWE-bench Verified中剔除。
IM电竞,IM电竞官网,IM电竞注册,电竞投注平台,电竞博彩,英雄联盟竞猜
中期训练充分增强了基础模型对实际Bug修复和单元测试的了解，使该模型成为后续强化学习训练的更佳起点。
通过适当的中期训练和SFT，Kimi-Dev-72B在文件本地化方面表现出色。因此，其强化学习阶段专注于提升其代码编辑能力。
月之暗面使用了Kimi k1.5中描述的策略优化方法，该方法在推理任务中表现出色。对于SWE-bench Verified，月之暗面重点关注以下三个关键设计：
仅基于结果的奖励。仅使用Docker的最终执行结果（0或1）作为奖励，训练期间不采用任何基于格式或过程的奖励。高效的提示集。过滤掉模型在多样本评估下成功率为零的提示，从而更有效地利用大批量。采用课程学习（curriculum learning）法，引入新的提示，逐步提高任务难度。正例强化。在训练的最后阶段，将之前迭代中最近成功的样本纳入当前批次。这有助于模型增强成功模式并提升性能。
Kimi-Dev-72B通过使用高度并行、强大且高效的内部agent基础设施，从可扩展数量的问题解决任务的训练中受益。
经过强化学习后，Kimi-Dev-72B能同时掌握BugFixer和TestWriter的角色。在测试过程中，它会采用自我博弈机制，协调自身Bug修复和测试编写的能力。
每个问题最多可生成40个补丁候选和40个测试候选（按照标准无agent设置），可观察到测试时自博弈的扩展效应。
月之暗面正在积极研究和开发扩展Kimi-Dev-72B功能的方法，并探索更复杂的软件工程任务。
其未来的迭代将侧重于与流行的集成开发环境（IDE）、版本控制系统和CI/CD流水线进行更深入的集成，使Kimi-Dev-72B更加无缝地融入开发者的工作流程。
该公司承诺将持续改进Kimi-Dev-72B，进行严谨的红队测试，并向社区发布更强大的模型。
06月10日，中方介绍挪威外交大臣艾德访华安排及期待，彩票快三计划app，太阳城快速开户，19体育app下载，云顶手机网投
06月10日，2023年中国31个省份财政收入全部实现正增长，免费游戏炸金花，真人网客户端，新必赢亚洲，牌类游戏可赢钱
06月10日，新疆巴音郭楞州尉犁县发生3.0级地震 震源深度10千米，网投体育平台合集下载，手机棋牌扎金花技巧，免费送彩金mg游戏，买滚球的大型网站
06月10日产学研协同 浙江多措并举推进历史经典产业高质量发展森林舞会游戏免费送分捕鱼1比1金币奥门新匍京app下载yabo娱乐官网
06月10日长沙迎2024年首场降雪 北极狐、企鹅外出“撒欢”365bet体育注册开户金沙官网充值龙王捕鱼下载bet体育足球外围
06月10日中国驻美大使谢锋：中国坚持“开门”“修路”“挂钩”，与世界分享改革发展红利环宇足球俱乐部挂牌寻宝云顶娱乐的网址谁知道宝博捕鱼安卓……
06月10日，福建各级法院保护残疾人合法权益 持续加大司法救助力度，玄机彩图，百老汇入口登录，欧洲杯门票第二轮，优博客户端下载
06月10日，全国花样滑冰青年锦标赛在吉林市开赛，千赢国际竞彩官网，必发手机APP，金宝博网，利澳登录网址
06月10日福建泉州：世遗之城 书香氤氲qy88千赢国际官网欢迎您雷速体育下载app安卓电子下载中彩神彩票网官网
06月10日，杭州：增值服务赋能数字企业 助力文化出海，雷竞技app下载官方版_官网，沙巴免费试玩，千亿彩网官方app，欢迎来到乐乐体育
06月10日，青年节见证：“i人”变“e人”，记者的青春成长印记，乐鱼官方平台下载，哪里能赌足球，小贴士B，bob综合体育下载地址
06月10日，江苏南京：全国青少年民乐好手上演视听盛宴 展现青春风采，火狐体育kok，真人AG亚洲登录app是多少，世界杯足球官网，凯时首页
06月10日中国驻韩大使馆提醒在韩中国公民加强安全防范十博官方网站豪情棋牌188bet登录官网皇冠app下载苹果版
06月10日来西安过年，这篇攻略就够了！永乐国际AG旗舰厅沙巴体育规则AG平台是哪里的凯时官网手机版
06月10日当局称对岛内民众组团赴陆旅游“有条件松绑” 国台办回应澳门娱乐开户网站天棋棋牌苹果版官网js333金沙线路检测美高梅直营注册
罗德岛掀起开西瓜热潮，张继科已成立个人工作室河北石家庄：二月二校园“庙”趣横生凯时竞彩官网bet356手机体育澳博体育外围新莆京网站
迪丽热巴鼻子倒影，美日韩举行海上联合训练“集章”游四方 中国游客注重仪式感无网斗牛游戏龙8国际最新版APP雷竞技在线官网进入必博好玩吗?
美国国务卿布林肯4月24日至26日访华，立陶宛限制中国外交人员离境万千气象看广东：千亿风电产业集群！看汕尾海上丛林追风逐电kok登陆官网AG平台是什么意思手机赌博有哪些九州体育真人
第一次带女朋友回家有多夸张，分裂 第一季孩童视角展现玉树风光 儿童剧《高原上的黑眼睛》在京首演美高梅网址m79银河真人国际千亿在线登陆线上电子赌钱
河南学校火灾致13死 宿舍是否上锁？，WBG 3-2 战胜LNG体育是读懂中国的一个好窗口大众棋牌官网优博网址平台大红鹰网址怎么打不开蛊真人在起点国际排名如何千亿手机版登陆
福奇感染西尼罗病毒，中国跨境电商App在韩国用户数暴涨山西省气象台发布高温红色预警 民众“全副武装”防暑防晒永利皇宫怎么下载AG视讯网站mgm在哪开户华体会 hth 登录入
游客在上海野生动物园被袋鼠暴揍，降世神通：最后的气宗 第一季【小新的Vlog】降噪耳机为何可以削弱噪音？声学专家“悬空实验室”现场讲解扑克打二八杠168电玩城最新下载地址AG亚洲国际平台游戏皇家宝贝官网
