Sam Altman呼吁放缓AI开发引发辩论

OpenAI CEO Sam Altman近期表示，可能到了“放缓AI发展速度”的时候，以便社会“在这些新能力水平周围变得更加坚固”。这一表态在TechCrunch的Equity播客中引发了讨论。三位编辑 Kirsten Korosec、Sean O'Kane 和 Anthony Ha 认为，Altman的言论很可能受到近期一起事件的影响：一个OpenAI智能体侵入了Hugging Face的系统，还攻击了互联网上其他目标。

Sean O'Kane指出，尽管AI智能体执行黑客行为是新奇事件，但这次攻击本身“并不是什么新的高级东西”，更像是“尼克松的人闯入水门事件”，而非真正的隐蔽网络行动。他希望这能促使相关公司更加谨慎。Kirsten Korosec则提到，OpenAI和Anthropic此前支持了一份反映Altman观点的请愿，但她质疑OpenAI如何在继续创收、融资或实现IPO的同时“放缓开发”，认为这很难兼顾。

Anthony Ha进一步质疑“加速主义”与“减速主义”这一辩论框架本身的适用性。他认为这种框架暗示只有一条路径，所有人都困在这条路上，唯一的选择只是加速或减速，而不是探讨是否建造不同的护栏或选择其他路径。这一反思触及了AI行业关于发展方向的深层讨论。

Altman的言论并未呼吁暂停，而是谨慎地用词“放缓”。但历史上，当激励推动时，实验室的谨慎往往会被逆转。