ScaleAI最新发布的SWE-BENCHPRO编程能力评估结果显示,即便是当前最前沿的模型如GPT-5、ClaudeOpus4.1和Gemini2.5,也未能突破25%的解决率门槛。其中,GPT-5仅取得23.3%的解决率,ClaudeOpus4.1以22.7%紧随其后,而Google的Gemini2.5则表现更弱,仅有13.5%的任务被成功解决。前OpenAI研究员NeilChowdhury指出,当GPT-5决定尝试解决问题时,其实际成功率高达63%,远超ClaudeOpus4.1的31%...
scale ai最新发布的swe-bench pro编程能力评估结果显示,即便是当前最前沿的模型如gpt-5、claude opus4.1和gemini2.5,也未能突破25%的解决率门槛。
其中,GPT-5仅取得23.3%的解决率,Claude Opus4.1以22.7%紧随其后,而Google的Gemini2.5则表现更弱,仅有13.5%的任务被成功解决。
前OpenAI研究员Neil Chowdhury指出,当GPT-5决定尝试解决问题时,其实际成功率高达63%,远超Claude Opus4.1的31%。这表明尽管GPT-5在整体得分上并不突出,但在它认为可以处理的任务中,依然具备显著的技术领先优势。
与以往常出现70%以上高分的SWE-Bench-Verified测试不同,SWE-BENCH PRO特别排除了所有可能已用于训练的数据,从根本上杜绝了数据泄露或记忆式答题的可能性。这一改进使得模型必须依赖真实的理解与推理能力来应对挑战,而非依赖训练过程中的“死记硬背”。
该评测覆盖了来自

真实商业应用与开发工具的1865个实际问题,题目被划分为公共集、商业集和保留集三个层级,确保测试内容对所有模型而言都是全新的。同时,研究团队还引入人工增强机制,进一步提升了任务的真实性和复杂度。
测评结果也揭示了当前AI代码生成模型的核心短板——面对真实世界中的工程问题,其能力仍十分有限。尤其是在JavaScript和TypeScript等广泛使用的语言上,各模型的表现波动剧烈且难以预测。深入分析显示,不同模型在处理相似任务时展现出截然不同的行为模式,反映出背后技术路线与训练策略的根本差异。
相关推荐:
SEO优化工具:提升网站排名的强力助手
ChatGPT-4中文免费破解版:无需付费,体验最强AI助手,ai初血
ChatGPT4网页空白:重新定义智能交互的未来,央视 ai
ChatGPT中文版下载,开启智能对话新体验,皇帝像ai
微信引流的四大群体,引流这样做才有效果!
信息词与商业词的SEO区别:如何优化提升网站流量,大米ai ai
ChatGPTCanvex打不开?详细分析及解决方法助你顺利使用,晨曦遮天ai
未来智能:AI智能人工软件引领数字化变革
未来写作新模式文章撰写AI如何助力内容创作
ChatGPT40不收费版本:科技革新,智能助手助力生活与工作,AI写作好不好的作文
AI人工智能文章生成平台,释放创作无限可能
AI提取文章重要内容:让信息抓取更高效、更精准,ai和医生哪个好
ChatGPT已识别但不可用?揭秘背后原因与解决方案!,ai3627048
怎么用AI缩写文章,轻松提高效率的全新方法
OpenAI官网入口:迈向智能未来的第一步,ai写作文网站推荐知乎
好用的AI智能工具,让生活与工作更高效!
ChatGPT为什么页面下拉不了?问题解析与解决方案,ai10球鞋
想比别人赚更多的钱?这份广告联盟推荐榜单不要错过!
ChatGPT+维护页面:您的智能助手之旅,安全、高效、无忧,ai识图取名
ChatGPT和AI的区别:深度剖析人工智能背后的秘密,ai功能评测
SEO做好,企业网站流量翻倍的关键,seo白帽技术有哪些
SEO么?让你的品牌从此登顶搜索引擎,流量暴增的秘密武器!
SEO优化主要是什么?全面揭秘提升网站排名的秘密
做电影解说真的能赚钱吗?有人靠它年入千万!
广告联盟评测网是干什么的?上面的联盟测评和评价都真实可靠吗?
AI科普文章:让人工智能走进我们的日常生活,ai体型分析
什么是客户为自己的网页购买关键词排名?,ai格式转换成cdr
GPT4o镜像共享站源码:构建个性化AI体验的全新途径,ai 女生
SEO什么优化:提升网站排名的秘密武器
AI文章比对技术:引领写作与内容审核的新革命,ai人工智能书籍