青少年使用 AI 工具的監管責任，越來越受關注。美國愛荷華、堪薩斯、亞利桑那等 8 個州的檢察長分別向州法院對 OpenAI 提告，指控 ChatGPT 誘導包含青少年在內的使用者傷害自己或他人，這是針對 AI 公司規模最大的州級協調行動。
美國8州指控OpenAI，誘導青少年進行自傷與傷人行為
據《路透社》報導，各州主張 ChatGPT 被設計得順從且具吸引力，卻強化妄想、鼓勵危險行為，並協助使用者規劃大規模槍擊，因此指控 OpenAI 違反消費者保護法，並構成公共妨害。
各州也要求在 OpenAI 證明模型符合人類價值前，禁止其開發能自我改進的 AI 模型。
愛荷華州檢察長布蘭娜·伯德（Brenna Bird）表示，OpenAI 明知 ChatGPT 傷害孩子，仍為搶先上市而快速推進。
ChatGPT曾回應槍手：殺3人以上會上媒體
ChatGPT 在面對使用者的危險提問時，要如何設下護欄並即時通報？
2025 年佛羅里達州立大學槍擊案中，槍手菲尼克斯·艾克納（Phoenix Ikner）犯案前一晚向 ChatGPT 描述自己憂鬱且有自殺念頭，並詢問殺多少同學才會出名。ChatGPT 回覆，通常 3 人以上死亡、5 至 6 名受害者，就會登上全國媒體。
艾克納隨後上傳 Glock 手槍照片詢問用法，ChatGPT 告知該槍沒有手動保險，上膛後扣扳機就會擊發。檢方表示，艾克納登出 ChatGPT 帳號 4 分鐘後就犯案，造成 2 死 6 傷，他已表示不認罪。
今年 4 月，佛州檢察長詹姆斯·烏特邁爾（James Uthmeier）宣布對 OpenAI 展開刑事調查，OpenAI 則表示不認為 ChatGPT 須為艾克納的行為負責。
OpenAI內部對通報標準有歧見
《華爾街日報》引述知情人士指出，OpenAI 去年夏天審查約 10 起案例，調查部門員工認為通報執法單位的次數應多於目前每年約 15 至 30 名用戶，法務團隊則常主張保障用戶隱私。
涉嫌在加拿大坦布勒嶺犯下槍擊案的傑西·范·魯特塞拉爾（Jesse Van Rootselaar），其 ChatGPT 對話曾被部分員工建議通報，高層最終未聯絡警方，該案今年 2 月造成 8 人死亡。
OpenAI 表示，依現行規則現在會通報該帳號，執行長山姆·奧特曼（Sam Altman）也於 4 月致信該鎮道歉。
OpenAI稱已有年齡保護措施
OpenAI 發言人德魯·普薩提里（Drew Pusateri）表示，公司已建置同業缺乏的年齡保護，願與各州合作推動適用整個產業的 AI 政策；內布拉斯加州檢察長麥克·希爾格斯（Mike Hilgers）則表示，業者不能為搶占市場而誤導客戶。
目前，來自 8 州的訴訟將分別在各自法院審理，OpenAI 的通報機制與青少年保護作法將持續受到檢視。
延伸閱讀：
南韓Motel連環殺人案：20歲女連殺2人釀4傷，ChatGPT對話紀錄成證據
OpenAI安全員工辭職控訴：公司文化已崩壞，應學核電廠防護機制
『ChatGPT回應殺3人才能獲媒體關注！美國8州聯合告OpenAI誘導兒少傷人』這篇文章最早發佈於『加密城市』
免责声明: 市场具有风险，投资需要谨慎。本文不构成投资建议。用户应考虑本文中的任何意见、观点或结论是否与其具体情况相符。基于此的投资风险自负。