AI Coding 拖后腿?增加 19%的开发时长?
约 2 分钟原创论文笔记(致敬 MP)#paper-reading#llm#ai-coding
Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity

经济领域的专家预估提升 39%;机器学习专家预估提升 38%;有 AI Coding 经验的开发预估提升 24%,开发完感觉提升 20%;论文观察评估的结果相同的任务反而增加了 19% 的开发时间。
完全反直觉,与自身的使用情况背道而驰,甚至有种营销号的味道。
任何不带上下文的结论都是耍流氓,批评、否定也是!
实验上下文
16 名,有 10~100 小时 LLM Coding 的开发人员,使用 Cursor IDE 工具,选用 Claude 3.5 / 3.7(没毛病,事实最强编程模型,包括现在的 Claude 4),chat /agent/autocomplete 模式任选,在开发人员参与多年的开源项目(22k+ star,1m+ 行代码),完成 246 个 bug 修复、功能开发和重构工作。
每个人开发给 150 美刀 / 小时。
结论
论文做了大量的、细节化、多方面的分析和结论。个人认为最重要的是以下几点:
- 项目够负责,代码体量大。
- 开发人员对项目足够熟悉,1500+ 提交记录。
- 开发人员够自身,5+ 开发经验,150 美刀 / 小时,agent 模式下代码的接受率为 44%。
- 模型的能力还有很大的提升空间。
个人使用经验
按照这样的实现配置,是可能存在不升反降的现象的,也符合平时使用的经验。
现在的 AI Coding,特别适合快速原型开发,从 0 到 1,系统复杂度不像成熟系统那么高,代码在 100k 以下。
举个例子:让 AI 解决一个问题,把 Cursor Pro 的用量耗尽(本来就不多),还用上了 Augment Code 试用版本(都比 Cursor 豪气许多),都没能解决问题。自己花了一个来小时看完代码,只改了一行代码解决问题😅😅😅