今天凌晨2点，OpenAI开源了一个全新评估大模型代码能力的测试基准——SWE-Lancer。
目前，测试模型代码能力的基准主要有SWE-Bench和SWE-BenchVerified，但这两个有一个很大的局限性，主要针对孤立任务，很难反映现实中软件工程师的复杂情况。例如，开发人员需处理全技术栈的工作，要考虑代码库间的复杂交互和权衡。
而SWE-Lancer的测试数据集包含1488个来自Upwork平台上Expensify开源仓库的真实开发任务，并且总价值高达100万美元。也就是说，如果你的大模型能全部答对这些问题，就能像人类一样获得百万年薪
开源地址：https://github.com/openai/SWELancer-Benchmark
SWE-Lancer独特测试方法
SWE-Lancer的一个重要创新是其采用的端到端测试方法。与传统的单元测试不同，端到端测试能够模拟真实用户的工作流程，验证应用程序的完整行为。这种方法不仅能够更全面地评估模型的解决方案，还能够避免一些模型通过作弊来通过测试。
例如，对于一个价值1000美元的开发任务，模型需要修复一个导致用户头像在“分享代码”页面与个人资料页面不一致的漏洞。
传统的单元测试可能只能验证头像上传和显示的独立功能，但端到端测试则会模拟用户登录、上传头像、切换账户以及查看不同页面的完整流程。通过这种方式，测试不仅能够验证头像是否正确显示，还能够确保整个交互过程的连贯性和正确性。
端到端测试的另一个重要特点是其对真实场景的还原能力。在软件工程中，许多问题并非孤立出现，而是与系统的其他部分相互作用。
例如，一个看似简单的漏洞可能涉及到多个组件的协同工作，或者与数据库、网络状态等外部因素相关。
端到端测试通过模拟真实用户的行为，能够捕捉到这些复杂的交互关系，从而更准确地评估模型的解决方案是否真正解决了问题。
在评估的过程中，引入了一个重要模块用户工具，允许模型在本地运行应用程序，并模拟用户的行为来验证其解决方案
例如，在处理Expensify应用中报销流程的相关任务时，模型借助用户工具模拟用户进行费用录入操作。会按照真实用户的操作习惯，在本地运行的应用程序中依次输入各项费用明细，如金额、日期、费用类型等信息，之后点击提交按钮，观察应用程序是否能正确记录费用数据，以及后续的审批流程是否能顺利启动。
通过这样的模拟操作，模型能够判断自己对报销流程问题的解决方案是否有效，比如是否修复了费用录入后数据丢失的漏洞，或者是否优化了审批流程中的卡顿现象等。
SWE-Lancer数据集
SWE-Lancer数据集一共包含1488个来自Upwork平台上Expensify开源库的真实软件开发任务，一共分为独立贡献者和软件工程管理任务两大类。
独立开发任务一共有764个，价值414,775美元，主要模拟个体软件工程师的职责，例如，实现功能、修复漏洞等。在这类任务中，模型会得到问题文本描述涵盖重现步骤、期望行为、问题修复前的代码库检查点以及修复目标。
软件管理任务，有724个，价值585,225美元。模型在此类任务中扮演软件工程经理的角色，需要从多个解决任务的提案中挑选最佳方案。例如，在一个关于在iOS上实现图像粘贴功能的任务中，模型要从不同提案里选择最适宜的方案。
首批SWE-Lancer测试结果
OpenAI使用了GPT-4o、o1和Claude3.5Sonnet在SWE-Lancer进行了测试，结果显示，大模型冲击百万年薪都失败了。
在独立开发测试任务中，表现最好的模型Claude 3.5 Sonnet的通过率仅为26.2%，只能正确解决不到三分之一的开发任务。而在软件工程管理任务中，Claude 3.5 Sonnet的表现稍好，通过率达到了44.9%。
而GPT-4o在独立开发测试中的通过率仅为8%，o1的通过率为20.3%；在软件工程管理任务中，GPT-4o为37.0%，o1为46.3%。
需要注意的是，模型在不同任务类型和难度级别上的表现存在显著差异。在价值较低、相对简单的任务中，模型的通过率相对较高；而在价值较高、难度较大的任务中，通过率则明显下降。
例如，在SWE-Lancer Diamond数据集中，价值超过1000美元的任务，模型的通过率普遍低于30%。这表明，尽管模型在处理一些基础任务时能够表现出一定的能力，但在面对复杂的、高价值的软件工程任务时，他们仍比人类要差很多。
看完这个基准测试，网友表示，现在我们竟然需要测试大型语言模型是否能成为百万富翁，这简直疯狂。
我很喜欢这个发展的方向。用全栈问题进行测试，将其与市场价值和开发工作的日常现实联系起来。一直觉得以前的基准测试就不太准确。
百分之百确定o3在这方面会胜过Grok3。
将它与现实世界的任务和经济价值联系起来真是天才之举，非常有趣。
本文素材来源OpenAI，如有侵权请联系删除
