跳到主要内容
SecondHome

AI Coding 拖后腿?增加 19%的开发时长?

约 2 分钟原创论文笔记(致敬 MP)#paper-reading#llm#ai-coding

Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity

image.png

经济领域的专家预估提升 39%;机器学习专家预估提升 38%;有 AI Coding 经验的开发预估提升 24%,开发完感觉提升 20%;论文观察评估的结果相同的任务反而增加了 19% 的开发时间。

完全反直觉,与自身的使用情况背道而驰,甚至有种营销号的味道。

任何不带上下文的结论都是耍流氓,批评、否定也是!

实验上下文

16 名,有 10~100 小时 LLM Coding 的开发人员,使用 Cursor IDE 工具,选用 Claude 3.5 / 3.7(没毛病,事实最强编程模型,包括现在的 Claude 4),chat /agent/autocomplete 模式任选,在开发人员参与多年的开源项目(22k+ star,1m+ 行代码),完成 246 个 bug 修复、功能开发和重构工作。

每个人开发给 150 美刀 / 小时。

结论

论文做了大量的、细节化、多方面的分析和结论。个人认为最重要的是以下几点:

  1. 项目够负责,代码体量大。
  2. 开发人员对项目足够熟悉,1500+ 提交记录。
  3. 开发人员够自身,5+ 开发经验,150 美刀 / 小时,agent 模式下代码的接受率为 44%。
  4. 模型的能力还有很大的提升空间。

个人使用经验

按照这样的实现配置,是可能存在不升反降的现象的,也符合平时使用的经验。

现在的 AI Coding,特别适合快速原型开发,从 0 到 1,系统复杂度不像成熟系统那么高,代码在 100k 以下。

举个例子:让 AI 解决一个问题,把 Cursor Pro 的用量耗尽(本来就不多),还用上了 Augment Code 试用版本(都比 Cursor 豪气许多),都没能解决问题。自己花了一个来小时看完代码,只改了一行代码解决问题😅😅😅

相关阅读

持续耕种,欢迎订阅 🌱

RSS全站 ·原创 ·策展 ·雷达;公众号「炼金术」同步更新。