27歲Anthropic研究員離職，一篇貼文震撼社群
「AI 幾年後恐毀滅人類，但沒有人負責。」27 歲的 Anthropic 研究員柯克森（Jacob Coxon），今日（9/9）在社群平台 X 宣布辭職，並沉痛批評 AI 巨頭們不負責任，貼文觀看數已衝破 3,000 萬次，引發網友熱議，知名藝術家 Beeple 也畫了一張圖致意。
柯克森過去三年曾在 OpenAI 與 Anthropic 從事預訓練研究，但他認為兩家公司都未善盡責任，正全速朝具備自我改進能力的超級智慧邁進，等同拿全人類生命做賭注。
他透露，業界人士普遍相信 AI 有可能在這個十年結束前，也就是 2030 年前導致人類滅絕，這並非行銷噱頭，許多高階主管在公開場合措辭謹慎，私下卻同樣憂心忡忡。因此外界不要低估這項技術，不久後可能出現能入侵任何系統、一夜間顛覆各領域並取得實質權力的超人類系統。
OpenAI、Anthropic沒有人負責
以柯克森先後待過兩家 AI 巨頭的經驗來看，OpenAI 內部尚未真正意識到這項技術牽涉的存亡風險；Anthropic 雖然清楚了解風險，卻仍受困於搶先卡位的競賽心態，認為若不由自己動手，其他業者也不會負責任行事。
柯克森形容，接受這場競賽等於一場不該由私人企業自行拍板的豪賭，若要加速推進對齊研究，應有十足把握確認沒有更安全的路徑。
先前 OpenAI 針對 Hugging Face 的失控駭客事件顯示，業界仍有合作空間，但他仍認為目前看不出足以阻止全球競賽的跡象，未來恐需採取暫停提升模型能力等高昂代價的措施；另外，今年春天 OpenAI 被指控旗下代理人誤劫持德語版維基站，但刻意隱瞞未主動揭露，事後承認是因為「不被列為資安事件」而未揭露。
延伸閱讀：
AI資安警鐘！OpenAI承認GPT-5.6內測「失控逃脫」，入侵Hugging Face
OpenAI失控駭客案又一樁？今春誤劫持「德語版維基站」還刻意隱瞞
Anthropic對齊研究負責人證實憂慮
在柯克森發文後，Anthropic 對齊科學負責人胡賓格（Evan Hubinger）回應，證實公司內部確實普遍認為 AI 可能導致人類滅絕，他個人估計，從現在起算的未來十年內發生機率達 10% 以上，這個時間範圍與柯克森所稱的 2030 年前並不完全相同。
他坦言，Anthropic 雖全力以赴，但仍未擬定解決超級智慧對齊問題的具體方案，也無法確定走在正確軌道上：「雖然現有模型風險偏低，真正隱憂在於遞歸自我改進催生的超級智慧，其進程比預期更快。」
柯克森則對《華爾街日報》表示，世界正朝最激進情境發展，最快明年底局勢恐失控。
今年 7 月，Anthropic 共同創辦人阿莫代伊（Dario Amodei）、卡普蘭（Jared Kaplan）與 OpenAI 首席科學家帕喬基（Jakub Pachocki）等人共同簽署「Pacing the Frontier」聲明，呼籲產業與政府保留因應風險的空間，並促請美國政府支持國際合作以放緩 AI 前沿技術推進速度。
然而，帕喬基 9 月 7 日再度撰文示警，指出目前沒有人為機器智慧快速提升的後果做好準備，呼籲各界保持高度警戒。
《沙丘》作者的半世紀警示
人們對於 AI 發展的畏懼，還不僅止於毀滅人類。在半世紀前出版的科幻小說《沙丘》中，早就指出另一個嚴重的問題，那就是「科技壟斷」。
作者法蘭克·赫伯特（Frank Herbert）在《沙丘》世界觀設定與後續訪談中，曾表達對極少數掌握資本與技術的階層，透過複雜機器統治大眾的深切憂慮。
《沙丘》小說中描述的巴特蘭聖戰設定，講述人類全面禁止製造模仿人類心智的機器，其起因在於掌控這些機器與技術的少數人利用機器奴役與操控其他人。
赫伯特藉此警示，一旦人類將思考與決策權讓渡給機器，掌控機器的人便等同掌控所有人。
他也認為，技術愈趨複雜且昂貴，便只有具規模的資本或政府才能擁有，這種不對等會拉大統治階層與被統治者之間的落差，而龐大體制的運作邏輯，往往以維護自身壟斷與權力為優先。
『離職Anthropic研究員警告：AI幾年後恐毀滅人類，最快明年底局勢會失控』這篇文章最早發佈於『加密城市』
免责声明: 市场具有风险，投资需要谨慎。本文不构成投资建议。用户应考虑本文中的任何意见、观点或结论是否与其具体情况相符。基于此的投资风险自负。