Bendi新闻
>
GPT-4加Agent轻松追平Devin!普林斯顿造,开源首日斩获1.6k星

GPT-4加Agent轻松追平Devin!普林斯顿造,开源首日斩获1.6k星

3月前


MLNLP社区是国内外知名的机器学习与自然语言处理社区,受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。
社区的愿景是促进国内外自然语言处理,机器学习学术界、产业界和广大爱好者之间的交流和进步,特别是初学者同学们的进步。
转载自 | 量子位
作者 | 白交

用GPT-4打造的AI程序员,结果轻松追平Devin!

普林斯顿打造的开源SWE-agent,直接开箱即用——修复GitHub存储库中真实bug。

在25%的SWE-bench测试集上,它实现了与Devin相似的准确度—— 解决了12.29%的问题。

GitHub上线首日即斩获1.6K星。不少网友感叹,只需对GPT-4命令行工具进行简单设计,就可以让GPT-4部分能力大幅提升。

这恰好也印证了前几天吴恩达在演讲中的观点:

我认为AI Agent将在今年推动人工智能巨大进步,甚至可能超过下一代基础模型。

因为在吴恩达的研究中,GPT-3.5的Agent比GPT-4的表现还要好。

如今开源版Devin现世,已经有人开始RIP Devin了。

这就来看看这个开源版Devin长什么样。

开源版Devin来了

简单来说,SWE-agent是将语言模型(比如GPT-4)转变为软件工程agent,来Debug GitHub存储库中的一些问题。

他们设计了以 LM 为中心的命令和反馈格式来实现这些结果,使语言模型更容易浏览存储库、查看、编辑和执行代码文件。

用他们的说法,这叫做代理计算机接口(ACI),并构建SWE-agent存储库,以便轻松迭代ACI设计。

在SWE-agent上,团队主要设计了这些功能。

  • 创建文件查看和编辑器,可以打开、滚动和编辑文件。

结果发现每轮只显示100行时效果最佳。

  • 通过自动语法检查编辑特定行。

如果代码语法不正确,就不让编辑命令通过。当命令输出为空时会返回一条信息:”您的命令运行成功,但未产生任何输出”。

  • 编写和执行测试。

目前使用SWE-agent主要有两个步骤。

首先,推理。SWE-agent接收一个输入的GitHub问题,并返回一个试图修复该问题的拉取请求。

第二步是评估拉取请求,以验证它是否确实修复了问题。*(目前仅适用于SWE-bench 基准中的问题)。

英伟达科学家Jim Fan为其工作点赞:Great Work!揭开了炒作背后的简单本质。

只需对GPT-4命令行工具进行更好的手动设计,就能在SWEBenche上获得12.3的成绩。没有什么神奇之处,没有什么模型突破,也没有什么理由要极力炒作。

当GPT-5到来时,这些 “提示工程 2.0 “都将不再重要。

这不免让人想到前段时间Devin横空出世,如今也很少见人讨论它了。

不过也有人问为什么不用Claude 3来做Agent,主创团队表示:尝试了,但结果不太好。

在SWE-bench Lite(测试集的 10% 子集)上,它的成绩比GPT-4少了近 6%。而且它也慢得多。(GPT-4的响应时间是93秒)

除此之外,他还表示团队在logo设计上费了很大心思——

花了几个小时用DALL-3来设计。(Doge)

普林斯顿造

这是来自普林斯顿NLP小组打造的软件工程Agent。

据了解,John Yang和Carlos E. Jimenez是共同一作。

除此之外还有姚顺雨,目前是普林斯顿在读博士生,2015年毕业清华姚班。

他们的共同导师是Karthik Narasimhan,目前是普林斯顿NLP联合主任,跟陈丹琦是同事。

团队表示,他们将在4月10号发布论文。

虽然但是,最后还有一个灵魂拷问:

但GPT-4不是开源的……

好了,你觉得这个开源的AI程序员怎么样呢?

参考链接:
[1]https://swe-agent.com/
[2]https://twitter.com/DrJimFan/status/1775173542470111475


技术交流群邀请函

△长按添加小助手

扫描二维码添加小助手微信

请备注:姓名-学校/公司-研究方向
(如:小张-哈工大-对话系统)
即可申请加入自然语言处理/Pytorch等技术交流群

关于我们

MLNLP 社区是由国内外机器学习与自然语言处理学者联合构建的民间学术社区,目前已经发展为国内外知名的机器学习与自然语言处理社区,旨在促进机器学习,自然语言处理学术界、产业界和广大爱好者之间的进步。
社区可以为相关从业者的深造、就业及研究等方面提供开放交流平台。欢迎大家关注和加入我们。

微信扫码关注该文公众号作者

来源:机器学习算法与自然语言处理

相关新闻

讯飞星火V3.5整体接近GPT-4 Turbo!首个13B开源大模型发布,深度适配国产算力发布几小时,微软秒删媲美GPT-4开源大模型!竟因忘记投毒测试开源模型打败GPT-4!LLM竞技场最新战报,Cohere Command R+上线史上最强!全球首个“开源GPT-4”出世!全球首个「开源GPT-4」出世!Llama 3震撼发布,Meta AI免登录可用UC伯克利「LLM排位赛」结果出炉!Claude 3追平GPT-4并列第一三个Agent顶个GPT-4,基于开源小模型的那种|中大阿里联合出品最佳开源模型刷新多项SOTA,首次超越Mixtral Instruct!「开源版GPT-4」家族迎来大爆发微软秒删堪比 GPT-4 的开源大模型!研发总部还被爆在北京?官方:我们只是忘了测试微软秒删堪比GPT-4的开源大模型!研发总部还被爆在北京?官方:我们只是忘了测试媲美GPT-4的开源模型泄露!Mistral老板刚刚证实:正式版本还会更强性能直逼 GPT-4!最强大的免费开源模型出世 | 极客时间Llama 3突然来袭!开源社区再次沸腾:GPT-4级别模型可以自由访问的时代到来GPT-4级模型Grok开源可商用!卷底层大模型的公司危了直逼GPT-4开源模型大泄漏,AI社区炸锅!Mistral CEO自曝是旧模型,OpenAI再败一局?杀疯了!全面超越Llama3的强悍开源模型,仅9B,1000k上下文;GPT-4级别模型1年降价1万倍开源版AI程序员来了:GPT-4加持,能力比肩Devin,一天1.4k Star小扎砸数百亿美元猛攻开源AGI!狂掷60万块H100,爆50倍GPT-4算力首个开源世界模型!百万级上下文,长视频理解吊打GPT-4,UC伯克利华人一作开源11天,马斯克再发Grok-1.5!128K代码击败GPT-4最强开源大模型Llama 3来了!4000亿参数狙击GPT-4,训练数据达Llama 2七倍最强开源大模型深夜炸场! Llama 3 王者归来,直逼 GPT-4, 马斯克点赞 | 附体验链接开源大模型Llama 3王者归来!最大底牌4000亿参数,性能直逼GPT-4腾讯混元大模型升级:部分中文能力已追平GPT-4,支持16s视频生成;索尼音乐禁止人工智能开发商使用其音乐内容丨AIGC日报
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。