托舉小紅書社區(qū)氛圍的真實體驗和情感，只能來源于人。

托舉小紅書社區(qū)氛圍的真實體驗和情感，只能來源于人。

當(dāng)OpenClaw爆火且“養(yǎng)龍蝦”安全性存疑時，借助這類AI工具形成的AI托管賬號已悄然流入主流內(nèi)容社區(qū)。在此背景下，小紅書率先向AI托管賬號出手，成為主流平臺中首個對AI智能體工具濫用行為明確規(guī)制的平臺。作為以真人分享起家的UGC社區(qū)，真誠與真實是小紅書的底色，AI Agent對社區(qū)真實性的侵入，已然觸碰了平臺不可逾越的底線。小紅書此次行動，既是對自身生態(tài)的守護(hù)，也是對行業(yè)亂象的及時糾偏。

出手

開源AI智能體OpenClaw近期在全球引發(fā)熱潮，因其圖標(biāo)形似小龍蝦，“養(yǎng)龍蝦”迅速成為科技圈熱門話題。與傳統(tǒng)AI助手僅能對話不同，“龍蝦”的核心優(yōu)勢是“可動手干活”——如同個人超級助手，它不僅能與用戶互動、按指令完成任務(wù)，還可“接管”用戶電腦，自動調(diào)用不同數(shù)據(jù)完成復(fù)雜任務(wù)，且能24小時在線。從某種程度而言，“龍蝦”實現(xiàn)了AI從對話向執(zhí)行的技術(shù)跨越，降低了人們使用Agent的理解門檻，只需自然語言指令就能直接操控計算機(jī)完成相關(guān)操作。很快，“龍蝦熱”出圈蔓延，安裝和養(yǎng)殖方法一度成為社交媒體最受關(guān)注的話題。

然而短短幾天后，關(guān)于“龍蝦”可能帶來信息泄露等風(fēng)險的聲音開始出現(xiàn)。3月10日，國家互聯(lián)網(wǎng)應(yīng)急中心發(fā)布OpenClaw安全應(yīng)用風(fēng)險提示，指出其默認(rèn)安全配置極為脆弱，攻擊者一旦找到突破口，便能輕易獲取系統(tǒng)完全控制權(quán)。這意味著，缺乏專業(yè)能力的普通用戶若使用OpenClaw，一旦漏洞被惡意利用，就如同將家門鑰匙交給路人。

就在“龍蝦”安全性備受爭議之際，借助OpenClaw等AI工具形成的AI托管賬號已悄悄滲透到各大主流內(nèi)容社區(qū)，小紅書便是其中之一。AI托管賬號，簡單來說就是用戶采用AI托管模式運(yùn)營賬號，通過技術(shù)手段自動生成內(nèi)容、發(fā)布筆記，并在評論、私信、群聊等場景模擬真人互動。例如小紅書賬號“賽博螃蟹”，其人設(shè)、創(chuàng)作及日常運(yùn)營均由AI完成，雖模擬真人表達(dá)，但信息同質(zhì)化程度高、真實性無法考證，目前已被封禁。

針對這些批量運(yùn)營的AI托管賬號，小紅書已正式采取行動。2026年3月10日，小紅書發(fā)布打擊AI托管運(yùn)營賬號的治理公告，嚴(yán)格禁止任何利用技術(shù)手段模擬真人、生成非真實內(nèi)容或開展虛假互動的行為，并開通舉報通道，用戶可在筆記或賬號頁面通過舉報功能反饋疑似AI托管賬號。

公告還提及對AI托管類賬號實施的具體治理措施：一、普通賬號偶發(fā)使用AI托管代寫、代發(fā)筆記或虛假互動的，平臺將根據(jù)違規(guī)程度采取警告、限制內(nèi)容分發(fā)等梯度處理措施；二、直接通過AI托管工具完成注冊、發(fā)布、互動的賬號，或主頁所有公開筆記均為AI托管代發(fā)的賬號，平臺將予以封禁處理。

至于如何判斷AI托管賬號，接近小紅書的人士表示，平臺會根據(jù)賬號發(fā)布行為綜合判定是否為AI自動操縱發(fā)布，同時保留申訴入口。小紅書此次出手，不僅是主流內(nèi)容平臺向AI托管賬號開出的第一槍，更標(biāo)志著主流平臺首次對AI智能體工具在內(nèi)容社區(qū)的濫用行為作出明確規(guī)制。

真實性是底線

小紅書為何選擇打響第一槍？原因很簡單——AI托管賬號的存在與小紅書一直倡導(dǎo)的真實性相悖。作為以真人分享起家的UGC社區(qū)，“真誠、真實”是小紅書的立身之本，源于真人經(jīng)驗的UGC內(nèi)容是其最核心的資產(chǎn)。具備“活人感”的社區(qū)氛圍，曾讓小紅書在互聯(lián)網(wǎng)競爭中脫穎而出，成就了如今的自己，而“人味”的背后，正是用戶的真實分享與表達(dá)。小紅書官方曾披露，2025年1月至11月，平臺每天產(chǎn)生超7000萬條評論，每月約有2億用戶在小紅書尋求購買建議。

但AI托管賬號的邏輯是跑規(guī)模、做變現(xiàn)，內(nèi)容模板一旦跑通便批量復(fù)制，最終通過接廣告或?qū)Я魃唐锋溄幼儸F(xiàn)，與真人創(chuàng)作毫無關(guān)系，真實性堪憂，更談不上產(chǎn)出優(yōu)質(zhì)內(nèi)容。這類賬號一旦批量入駐，難免會逐漸侵蝕小紅書的核心資產(chǎn)：AI生成的低質(zhì)、同質(zhì)化內(nèi)容會擠占真實UGC的分發(fā)空間，稀釋優(yōu)質(zhì)內(nèi)容權(quán)重；更重要的是，當(dāng)AI味慢慢滲入社區(qū)，長此以往用戶將難以分辨屏幕背后是真人還是算法，最終影響對平臺的信任，動搖社區(qū)根基。

社區(qū)是小紅書一切價值的土壤，UGC內(nèi)容仍是其商業(yè)化的基礎(chǔ)，這也是“種草”能在小紅書誕生并被驗證的原因。如今用戶在小紅書更相信內(nèi)容、更容易產(chǎn)生消費(fèi)行為，本質(zhì)是愿意相信普通人的種草，而非無孔不入的廣告。隨著種草文化的生根發(fā)芽，小紅書已成為人們消費(fèi)決策的最后一站。但AI托管賬號催生了一系列灰色產(chǎn)業(yè)鏈，一旦這些賬號偽裝成素人筆記引流變現(xiàn)，真假難辨的內(nèi)容不僅損害用戶信任，還會嚴(yán)重擾亂品牌與商家的正常經(jīng)營。

去年上半年起，小紅書為治理平臺虛假營銷內(nèi)容，內(nèi)部成立“打擊虛假營銷戰(zhàn)隊”，封禁虛假賬號超1200萬個。當(dāng)時這些賬號還是真人團(tuán)隊運(yùn)營，若借助AI托管賬號，數(shù)量將呈幾何倍數(shù)增長。打擊AI托管賬號，對小紅書而言也是一種“提前干預(yù)”。

AI托管賬號示例

歸根結(jié)底，小紅書此次治理行動是對用戶、創(chuàng)作者和平臺三者的共同保護(hù)：于用戶，守護(hù)真實分享空間，避免被虛假內(nèi)容誤導(dǎo)；于創(chuàng)作者，維護(hù)公平健康的創(chuàng)作環(huán)境，讓優(yōu)質(zhì)真人內(nèi)容實現(xiàn)正循環(huán)，獲得應(yīng)有的曝光與回報；于平臺，堅守社區(qū)核心價值，保住立身之本。

AI Agent的邊界究竟在哪里？

需要注意的是，小紅書此次打擊AI托管賬號，并非對AI技術(shù)使用一刀切。事實上，AI Agent并非洪水猛獸，在社區(qū)場景中合理應(yīng)用能為用戶和創(chuàng)作者提供助力，豐富社區(qū)內(nèi)容生態(tài)。小紅書封禁的是完全依賴AI托管進(jìn)行發(fā)文、互動乃至運(yùn)營的行為，并非限制創(chuàng)作者在創(chuàng)作中輔助使用AI技術(shù)。換言之，平臺真正關(guān)注的是生產(chǎn)內(nèi)容的背后究竟是人還是AI。

畢竟，托舉小紅書社區(qū)氛圍的真實體驗和情感只能來源于人，人和人之間的情感流動，任何AI都無法替代。因此，當(dāng)AI Agent試圖侵入社區(qū)真實性時，便觸犯了小紅書不可逾越的底線——技術(shù)可以服務(wù)于內(nèi)容創(chuàng)作，但不能用來偽造真實、欺騙用戶。

社區(qū)的本質(zhì)是“人與人的真實連接”，技術(shù)的價值在于輔助這種連接，而非替代。人們希望AI是輔助生活的工具，而非毫無痕跡地浸入生活，更不該是決定自己看到什么、誘導(dǎo)欺騙甚至影響決策的角色。AI Agent可以作為輔助，但絕不能替代真人成為社區(qū)主體。

尤其對于小紅書這類依賴信任關(guān)系的UGC社區(qū)，用戶追求的是真實經(jīng)驗分享、真誠互動交流以及人與人之間的溫暖，而非被算法包裝的虛假內(nèi)容或AI批量生產(chǎn)的“模板化筆記”。一旦真實性被打破，社區(qū)凝聚力會消解，平臺價值也會崩塌。

從宏觀來看，AI Agent的規(guī)?；涞厥潜厝悔厔荨Ｄ撤N程度上，AI與社區(qū)并非對立關(guān)系，只有找到合理應(yīng)用邊界才能實現(xiàn)共生。小紅書對AI托管賬號的治理，不僅是對自身社區(qū)生態(tài)的守護(hù)，也為行業(yè)提供了AI Agent技術(shù)在社區(qū)場景應(yīng)用的啟示。畢竟，與AI的動態(tài)共生，是所有內(nèi)容平臺共同面對的未來考驗，今天只是開始。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com