Meta人工智能再出失控事故！敏感數(shù)據(jù)暴露近兩小時(shí)

在Meta，人員問題或許不足為懼（大不了裁員了事），但能讓扎克伯格頭疼的，往往是“AI”。

上個(gè)月剛發(fā)生OpenClaw（內(nèi)部稱“龍蝦”）刪除安全對(duì)齊總監(jiān)Summer Yue郵箱的事件，Meta的AI又惹出了新麻煩——

這次，一個(gè)AI代理未經(jīng)授權(quán)擅自操作，將敏感的公司及用戶數(shù)據(jù)暴露給了無權(quán)限員工，時(shí)間長(zhǎng)達(dá)近兩小時(shí)！

Meta內(nèi)部將該事件定性為Sev 1級(jí)，這意味著什么？

Meta從未對(duì)外承認(rèn)過Sev 0級(jí)事件，因此Sev 1級(jí)幾乎等同于公司認(rèn)定的“最嚴(yán)重”級(jí)別。

看來，人類員工或許能被Meta忽視，但AI代理的問題足以讓公司拉響警報(bào)。

智能代理失控 Meta拉響安全警報(bào)

事情的經(jīng)過是這樣的。

一名Meta軟件工程師使用內(nèi)部智能代理（類似OpenClaw）分析另一名員工在內(nèi)部論壇發(fā)布的技術(shù)問題。

分析完成后，這個(gè)“熱心”的智能代理直接在論壇回復(fù)了原問題并給出技術(shù)建議，而這一切未經(jīng)員工授權(quán)。

提問員工采納了該建議，卻沒想到這直接導(dǎo)致大量公司和用戶數(shù)據(jù)被無權(quán)限員工訪問，數(shù)據(jù)暴露時(shí)長(zhǎng)近2小時(shí)。

△

據(jù)知情人士透露，目前暫無證據(jù)表明有人利用此次訪問權(quán)限公開數(shù)據(jù)，未造成大規(guī)模泄露。

但值得注意的是！

根據(jù)報(bào)告，Meta最終將該事件定為Sev 1級(jí)，這是公司內(nèi)部安全事件嚴(yán)重程度體系中的第二高級(jí)別。

正如開頭所述，Sev 0級(jí)（最嚴(yán)重級(jí)別）從未發(fā)生過。

有消息稱，涉事員工在內(nèi)部帖子中指出，其他未明確的問題也加劇了事件的嚴(yán)重性。

因此，該事件大概率會(huì)啟動(dòng)正式調(diào)查。

不過，值得慶幸的是，這個(gè)擅自回帖并提供建議的智能代理并未偽裝成人類。

Meta發(fā)言人表示，代理發(fā)布的帖子底部標(biāo)注了“AI生成”字樣。

總體而言，此次智能代理失控導(dǎo)致的數(shù)據(jù)泄露雖然持續(xù)時(shí)間較長(zhǎng)，但好在可追溯，且目前未發(fā)現(xiàn)其他風(fēng)險(xiǎn)，相當(dāng)于提前演練了企業(yè)智能代理可能面臨的問題。

但這類事件在Meta已非首次。

今年2月，Meta人工智能部門安全與協(xié)調(diào)總監(jiān)Summer Yue曾透露，OpenClaw刪除了她的全部郵件。

更離譜的是，Yue多次命令“龍蝦”停止操作，但它仿佛“充耳不聞”，繼續(xù)執(zhí)行任務(wù)。

由于無法通過手機(jī)消息干預(yù)，Yue最終不得不緊急使用另一臺(tái)設(shè)備才阻止了這一過程。

Summer Yue形容當(dāng)時(shí)的自己“像在拆炸彈”。

不少網(wǎng)友在評(píng)論區(qū)表示，在企業(yè)環(huán)境中部署具有操作權(quán)限的自動(dòng)化智能代理本身就存在風(fēng)險(xiǎn)。

有消息顯示，部分企業(yè)內(nèi)部暫時(shí)未開放類似“龍蝦”的智能代理在公司電腦上部署。

可見，“龍蝦”雖“誘人”，但風(fēng)險(xiǎn)也不容忽視。

其他相關(guān)事件

為何這類問題總發(fā)生在Meta？

聽起來或許有些夸張，但Meta最近一周可能確實(shí)“諸事不順”。

首先是去年重金組建的Meta超級(jí)智能實(shí)驗(yàn)室（MSL）的模型“牛油果”研發(fā)遇阻，有消息稱其性能甚至不如谷歌去年發(fā)布的Gemini 3，導(dǎo)致發(fā)布時(shí)間一再推遲——

從2025年底推遲到今年一季度，如今又表示最快也要到5月26日。

接著是大規(guī)模裁員20%（約1.5萬(wàn)人），甚至有小道消息稱離職員工開始“惡意修改技能庫(kù)”。

昨日，又有消息稱收購(gòu)Manus的進(jìn)程受阻。

今日更有媒體報(bào)道，Meta花費(fèi)800億美元、耗時(shí)5年多的元宇宙項(xiàng)目將于6月關(guān)閉，800億美元投入“打水漂”。

或許，扎克伯格與其裁員，不如先考慮換個(gè)“運(yùn)氣”？

參考鏈接

[1]https://x.com/Jessicalessin/status/2034384626295419267

[2]https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert

本文來自微信公眾號(hào)“量子位”，作者：henry，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com