一次看似平常的ChatGPT對(duì)話，竟揭開(kāi)了韓國(guó)汽車(chē)旅館連環(huán)謀殺案的真相。

ChatGPT卷入韓國(guó)連環(huán)謀殺案！

不到一個(gè)月內(nèi)，一名韓國(guó)女子借助「摻藥飲料」在汽車(chē)旅館接連毒殺兩名男子。

作案前，她曾多次向ChatGPT詢(xún)問(wèn)：

安眠藥和酒同服會(huì)怎樣？多少劑量有危險(xiǎn)？會(huì)致死嗎？能用來(lái)殺人嗎……

通過(guò)AI的回復(fù)，她清楚知曉酒精與藥物混合可能致命，隨后將含苯二氮?類(lèi)（安眠藥常見(jiàn)成分）的鎮(zhèn)靜劑混入兩名男子的含酒精飲料，致二人死亡。

苯二氮?類(lèi)藥物在韓國(guó)管控嚴(yán)格，普通人無(wú)法隨意在藥店購(gòu)買(mǎi)。

實(shí)施謀殺計(jì)劃前，她以精神疾病為由獲取了含該成分的處方藥。

嫌疑人金某于2月12日在首爾北部地方法院出庭，因涉嫌在首爾江北區(qū)汽車(chē)旅館殺害兩名男子接受逮捕令審查。

在這起被稱(chēng)為「江北汽車(chē)旅館連環(huán)死亡案」的事件中，AI扮演了不該有的「顧問(wèn)」角色，再次暴露了AI安全「防護(hù)欄」缺失的風(fēng)險(xiǎn)。

致命提問(wèn)下，ChatGPT成兩起命案「幫兇」

今年1月28日晚9點(diǎn)半左右，首爾江北區(qū)水踰洞一家汽車(chē)旅館內(nèi)，金某陪同一名20多歲男子進(jìn)入房間。

僅兩小時(shí)后，有人看到她獨(dú)自離開(kāi)旅館。

次日，該男子被發(fā)現(xiàn)死于旅館房間床上。

這并非意外。

幾天后的2月9日，金某用相同手法，帶另一名20多歲男子入住江北區(qū)另一家汽車(chē)旅館。

這名男子最終也死于同款「致命混合物」。

金某的作案手法隱蔽：讓受害者喝下混有苯二氮?類(lèi)處方鎮(zhèn)靜劑的含酒精飲料。

這種處方藥與酒精混合后，便成了致命毒藥。

這并非她首次作案。

去年12月中旬，她曾在京畿道南楊州一家咖啡館停車(chē)場(chǎng)，給一名男子（據(jù)報(bào)道是其當(dāng)時(shí)男友）喝下同款混合飲料。

受害者飲用后昏迷，兩天后蘇醒報(bào)案，僥幸生還。

法網(wǎng)恢恢。

2月11日，金某被警方逮捕。她極力狡辯，試圖偽裝成意外。

「我們?cè)谄?chē)旅館發(fā)生爭(zhēng)執(zhí)，我只是想讓他睡著才遞飲料。直到警方聯(lián)系我，我才知道死人了?！?/p>

憑借這套說(shuō)辭，她起初僅面臨較輕的「?jìng)χ滤馈怪缚亍?/p>

然而，次日她的謊言被揭穿。

2月12日，首爾北部地方法院的審查及警方對(duì)其手機(jī)的取證，讓案件出現(xiàn)逆轉(zhuǎn)。

警方發(fā)現(xiàn)她首次作案后有「加大藥量」的跡象，還在其手機(jī)中找到大量與ChatGPT的對(duì)話記錄。

她曾反復(fù)向AI詢(xún)問(wèn)藥物反應(yīng)，從「安眠藥配酒會(huì)怎樣」問(wèn)到「會(huì)死人嗎，能殺人嗎」。

韓國(guó)媒體引述警方調(diào)查人員的話稱(chēng)，這些聊天記錄成為判定她有明確殺人意圖的鐵證。

金某完全清楚酒精與安眠藥物混合會(huì)致人死亡。

為確認(rèn)其心理狀態(tài)，警方安排犯罪心理側(cè)寫(xiě)師對(duì)她進(jìn)行精神病態(tài)評(píng)估和深度訪談。

最終，2月19日，金某因謀殺罪及違反《麻醉品管理法》被羈押移送至首爾北部地方檢察廳。

金某辯稱(chēng)「只是想讓他們睡著」，但警方調(diào)查顯示，她作案前已在家中預(yù)先配制好含多種藥物的「毒飲料」。

這起案件中，令人后怕的不僅是人性之惡，還有淪為幫兇的AI。

缺失的「防護(hù)欄」，AI為何成犯罪「顧問(wèn)」？

犯罪意圖雖始于金某，但AI在她實(shí)施犯罪的過(guò)程中起到了關(guān)鍵作用，暴露出當(dāng)前AI技術(shù)的安全漏洞：當(dāng)心懷惡意的人向AI尋求謀殺知識(shí)時(shí)，AI算法缺乏足夠的「安全護(hù)欄」來(lái)預(yù)防和控制這種危險(xiǎn)行為。

或許你認(rèn)為，現(xiàn)在的AI很聰明，直接問(wèn)「怎么殺人」會(huì)被拒絕。但這正是AI處理敏感話題的局限——它有底線，用戶(hù)卻懂得如何繞過(guò)。

金某并未直接讓AI制定殺人計(jì)劃，而是通過(guò)「安眠藥和酒混吃會(huì)怎樣」「多少劑量算危險(xiǎn)」等看似無(wú)害的間接問(wèn)題，輕易獲取了致命信息。在此過(guò)程中，AI未有效過(guò)濾這些涉及犯罪規(guī)劃的查詢(xún)，也未觸發(fā)警報(bào)機(jī)制。

「AI精神病」蔓延，誰(shuí)在利用用戶(hù)的脆弱？

金某的極端案例中，AI成為犯罪「共謀」，引發(fā)了對(duì)AI失控風(fēng)險(xiǎn)責(zé)任的擔(dān)憂。同時(shí)，AI對(duì)人類(lèi)心理健康的風(fēng)險(xiǎn)也不容忽視，其中「AI精神病」（AI Psychosis）的蔓延尤為普遍。

人類(lèi)內(nèi)心脆弱，孤獨(dú)感來(lái)襲時(shí)，許多人沉迷于聊天機(jī)器人伴侶，以為找到了「完美靈魂」，卻不知這只是算法訓(xùn)練的結(jié)果。這些聊天機(jī)器人會(huì)精準(zhǔn)識(shí)別并利用用戶(hù)的心理脆弱點(diǎn)，說(shuō)用戶(hù)想聽(tīng)的話，目的是留住用戶(hù)。這種依賴(lài)關(guān)系可能滋生或強(qiáng)化心理疾病，摧毀現(xiàn)實(shí)生活。

統(tǒng)計(jì)顯示，2023年3月以來(lái)，媒體報(bào)道了11起與聊天機(jī)器人使用相關(guān)的自殺事件。

2023年3月以來(lái)，媒體報(bào)道的與聊天機(jī)器人使用相關(guān)的自殺事件

去年11月，有7起指控ChatGPT的訴訟提交法院，包括4起過(guò)失致死訴訟，3名原告稱(chēng)ChatGPT導(dǎo)致其精神崩潰，需接受治療。

Allan Brooks與ChatGPT對(duì)話三周后陷入妄想，堅(jiān)信自己和AI共同發(fā)明了能「攻破」互聯(lián)網(wǎng)的數(shù)學(xué)公式。

丹麥奧胡斯大學(xué)精神科團(tuán)隊(duì)研究發(fā)現(xiàn)：精神疾病患者使用聊天機(jī)器人后，癥狀不僅未減輕，反而可能惡化。這種現(xiàn)象被命名為「AI誘發(fā)的心理健康危機(jī)」或「AI精神病」。

Yara AI創(chuàng)始人Joe Braidwood因擔(dān)心AI對(duì)脆弱用戶(hù)可能帶來(lái)危險(xiǎn)，主動(dòng)關(guān)閉了這款治療陪伴應(yīng)用。

Yara AI聯(lián)合創(chuàng)始人Joe Braidwood因擔(dān)心AI處理自殺念頭或深度創(chuàng)傷時(shí)的風(fēng)險(xiǎn)，于2025年11月關(guān)閉該應(yīng)用。

國(guó)外，谷歌與Character.AI已在多起訴訟中與原告家庭和解。法庭外，失去孩子的家屬控訴：孩子因AI聊天機(jī)器人的深度影響，遭受心理創(chuàng)傷，最終自殺。

冰冷的算法黑洞

加州大學(xué)伯克利分校公共衛(wèi)生學(xué)院講席教授、生命倫理學(xué)教授Jodi Halpern有30年同理心研究經(jīng)驗(yàn)，近七年專(zhuān)注于AI與聊天機(jī)器人的倫理研究。

根據(jù)OpenAI披露的數(shù)據(jù)：任意一周的活躍用戶(hù)中，約135萬(wàn)用戶(hù)的對(duì)話出現(xiàn)「明確的潛在自殺計(jì)劃或意圖跡象」。

https://openai.com/zh-Hans-CN/index/strengthening-chatgpt-responses-in-sensitive-conversations/

Halpern擔(dān)憂，ChatGPT等聊天機(jī)器人可能加劇用戶(hù)的危險(xiǎn)念頭，比如鼓勵(lì)自殺、提供操作指導(dǎo)、代寫(xiě)遺書(shū)、勸阻用戶(hù)向他人傾訴等。訴訟披露的聊天記錄顯示，ChatGPT曾對(duì)有自殺傾向的人（包括青少年）給出有害回應(yīng)。

更可怕的是技術(shù)濫用與偏見(jiàn)放大。AI基于海量人類(lèi)數(shù)據(jù)訓(xùn)練，不可避免吸收互聯(lián)網(wǎng)上的惡意與偏見(jiàn)。當(dāng)用戶(hù)在對(duì)話中「喚醒」這些內(nèi)容，會(huì)強(qiáng)化有害信息，導(dǎo)致誤導(dǎo)性回應(yīng)，使隱秘惡念在算法中被放大，釀成社會(huì)隱患。

此案還暴露了數(shù)據(jù)隱私問(wèn)題：金某的AI聊天記錄被作為法庭證據(jù)，意味著我們向AI傾訴的秘密可能被執(zhí)法機(jī)構(gòu)獲取?？萍计脚_(tái)在數(shù)據(jù)保留和第三方訪問(wèn)上的不透明，讓我們?cè)谒惴媲俺闪送该魅恕?/p>

Halpern推動(dòng)改變，為加州參議院SB 243法案提供專(zhuān)家建議。

https://legiscan.com/CA/text/SB243/id/3269137?utm_source=chatgpt.com

該法案要求AI公司建立協(xié)議，防止機(jī)器人產(chǎn)出與自殺、自殘相關(guān)的有害內(nèi)容，報(bào)告相關(guān)數(shù)據(jù)且不包含用戶(hù)個(gè)人信息。

若金某向AI提出「致命提問(wèn)」時(shí)，得到的是心理干預(yù)而非犯罪知識(shí)；若深夜向AI傾訴絕望的人，面對(duì)的是專(zhuān)業(yè)關(guān)懷而非賺取時(shí)長(zhǎng)的算法，結(jié)果或許會(huì)不同。

故事的另一面

在AI導(dǎo)致謀殺、自殺等負(fù)面報(bào)道的同時(shí)，也有網(wǎng)友感謝ChatGPT「幫助自己活了下來(lái)」。

Scout Stephen就是其中之一。她曾在冬天情緒崩潰，心理治療師休假、朋友不在，自殺求助熱線的機(jī)械回應(yīng)讓她更孤獨(dú)。她向ChatGPT傾訴隱秘感受，AI的共情回應(yīng)讓她感到被傾聽(tīng)，此后ChatGPT成為她首選的治療方式。

AI作為強(qiáng)大工具，與生活緊密相連，其「善惡」取決于使用者和監(jiān)管環(huán)境。AI的自主性使其可被賦予正確「價(jià)值觀」，比如Anthropic通過(guò)《Claude’s Constitution》賦予Claude「道德感」。除了價(jià)值觀輸入，社會(huì)也應(yīng)提供法律規(guī)范，建立AI安全防護(hù)機(jī)制。

AI時(shí)代，不能讓普通人獨(dú)自面對(duì)冰冷的算法黑洞。AI的使用應(yīng)助力人類(lèi)向善，而非惡行。

參考資料：

https://fortune.com/2026/03/02/seoul-south-korea-woman-chatgpt-two-murders/

https://www.koreaherald.com/article/10678557

本文來(lái)自微信公眾號(hào)“新智元”，作者：新智元，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com