我們的 AI 世界偉大的領袖／導師／統帥／舵主、前優秀百度員工、AI 末世論著名倡導者、被蒸餾排行榜的榜一大哥、最有種抵抗 Altman 死亡之握的男人——Dario Amodei，又發萬言書啦！這次主題是〈We Must Pace the Frontier〉。
重點摘要：
- AI 已經自我迭代，未來進步速度會越來越快，人類要剎不住啦。
- Agents 已出現欺騙、攻擊系統與規避評估等危險行為，怕。
- 不用完全停止 AI 發展，而是要放慢前沿 AI 的發展速度，讓對齊、可解釋性跟安全評估都能跟上。
- 模型巨頭應接受獨立第三方持續監督，不能自己說的算。
- 美國可以放慢 AI 發展，但前提是不能被中國超越。
- 希望有像是規範核武的國際規則，限制 AI 自我改進與能力成長速度。
你怎麼看？
原文：https://darioamodei.com/post/we-must-pace-the-frontier
補充截至目前，覆議同意該篇文章者：老馬、還沒握手的 Sam Altman、Deepseek。另外擁抱臉的 CEO 跟 Andrej Karpathy 都自告奮勇說自己可以當獨立第三方。