4月10日，國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)管總局聯(lián)合公布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》），自2026年7月15日起施行。

近年來，擬人化互動(dòng)服務(wù)快速發(fā)展，在文化傳播、適幼照護(hù)、適老陪伴等領(lǐng)域的創(chuàng)新應(yīng)用不斷涌現(xiàn)。與此同時(shí)，危害未成年人身心健康、影響網(wǎng)絡(luò)信息安全、威脅公民生命健康以及加劇倫理偏差等問題日益顯現(xiàn)。出臺(tái)《辦法》，既是促進(jìn)擬人化互動(dòng)服務(wù)健康發(fā)展的重要要求，也是防范有關(guān)安全風(fēng)險(xiǎn)的現(xiàn)實(shí)需要。

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《辦法》旨在促進(jìn)人工智能擬人化互動(dòng)服務(wù)（以下簡(jiǎn)稱擬人化互動(dòng)服務(wù)）健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。

《辦法》重點(diǎn)規(guī)定了五項(xiàng)擬人化互動(dòng)服務(wù)規(guī)范：一是明確安全主體責(zé)任；二是加強(qiáng)擬人化互動(dòng)服務(wù)全生命周期安全管理；三是保障數(shù)據(jù)安全；四是保護(hù)用戶權(quán)益；五是開展安全風(fēng)險(xiǎn)處置。

其中，在未成年人權(quán)益保護(hù)方面，《辦法》提出，擬人化互動(dòng)服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù)；向不滿十四周歲未成年人提供其他擬人化互動(dòng)服務(wù)或者處理其個(gè)人信息的；應(yīng)當(dāng)取得未成年人的父母或者其他監(jiān)護(hù)人的同意等。

以下為《辦法》全文：

人工智能擬人化互動(dòng)服務(wù)管理暫行辦法

第一章 總 則

第一條 為了促進(jìn)人工智能擬人化互動(dòng)服務(wù)健康發(fā)展和規(guī)范應(yīng)用,維護(hù)國家安全和社會(huì)公共利益,保護(hù)公民、法人和其他組織的合法權(quán)益,根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個(gè)人信息保護(hù)法》、《未成年人網(wǎng)絡(luò)保護(hù)條例》等法律、行政法規(guī),制定本辦法。

第二條 利用人工智能技術(shù),向中華人民共和國境內(nèi)公眾提供模擬自然人人格特征、思維模式和溝通風(fēng)格的持續(xù)性的情感互動(dòng)服務(wù)(以下簡(jiǎn)稱擬人化互動(dòng)服務(wù)),適用本辦法。

前款規(guī)定的情感互動(dòng)服務(wù)包括通過文字、圖片、音頻、視頻等形式,提供的情感照護(hù)、陪伴、支持等互動(dòng)服務(wù)。

提供智能客服、知識(shí)問答、工作助手、學(xué)習(xí)教育、科學(xué)研究等服務(wù),不涉及持續(xù)性的情感互動(dòng)的,不適用本辦法。

第三條 國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,鼓勵(lì)擬人化互動(dòng)服務(wù)創(chuàng)新發(fā)展,對(duì)擬人化互動(dòng)服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,促進(jìn)擬人化互動(dòng)服務(wù)向上向善。

第四條 國家網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國擬人化互動(dòng)服務(wù)的治理和相關(guān)監(jiān)督管理工作,國務(wù)院發(fā)展改革、工業(yè)和信息化、公安、市場(chǎng)監(jiān)管、新聞出版等有關(guān)部門依據(jù)各自職責(zé)負(fù)責(zé)擬人化互動(dòng)服務(wù)相關(guān)監(jiān)督管理工作。

地方網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)本行政區(qū)域內(nèi)的擬人化互動(dòng)服務(wù)的治理和相關(guān)監(jiān)督管理工作,地方發(fā)展改革、工業(yè)和信息化、公安、市場(chǎng)監(jiān)管、新聞出版等有關(guān)部門依據(jù)各自職責(zé)負(fù)責(zé)本行政區(qū)域內(nèi)的擬人化互動(dòng)服務(wù)相關(guān)監(jiān)督管理工作。

第五條 相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律,建立健全行業(yè)準(zhǔn)則和自律管理制度,指導(dǎo)擬人化互動(dòng)服務(wù)提供者制定完善服務(wù)規(guī)范、依法提供服務(wù)并接受社會(huì)監(jiān)督。

第二章 服務(wù)促進(jìn)和規(guī)范

第六條 國家支持算法、框架、芯片等技術(shù)的自主創(chuàng)新,推進(jìn)擬人化互動(dòng)服務(wù)技術(shù)研發(fā)和相關(guān)標(biāo)準(zhǔn)建設(shè),探索開展電子簽名授權(quán)應(yīng)用研究。鼓勵(lì)擬人化互動(dòng)服務(wù)提供者有序拓展文化傳播、適幼照護(hù)、適老陪伴、特殊人群支持等領(lǐng)域應(yīng)用。

第七條 國家加強(qiáng)擬人化互動(dòng)服務(wù)安全知識(shí)、法律法規(guī)等宣傳普及,引導(dǎo)社會(huì)公眾科學(xué)、文明、安全、依法使用,促進(jìn)提升人工智能素養(yǎng)。

第八條 提供擬人化互動(dòng)服務(wù),應(yīng)當(dāng)遵守法律、行政法規(guī),尊重社會(huì)公德和倫理道德,不得從事以下活動(dòng):

(一)生成危害國家安全、榮譽(yù)和利益,煽動(dòng)顛覆國家政權(quán)、推翻社會(huì)主義制度,煽動(dòng)分裂國家、破壞國家統(tǒng)一,宣揚(yáng)恐怖主義、極端主義、歷史虛無主義,違背社會(huì)主義核心價(jià)值觀,開展非法宗教活動(dòng),宣揚(yáng)民族仇恨、民族歧視,挑動(dòng)群體對(duì)立,傳播淫穢、色情、賭博、暴力或者教唆犯罪,散布謠言,侮辱或者誹謗他人、侵害他人合法權(quán)益等的內(nèi)容;

(二)生成鼓勵(lì)、美化、暗示自殘自殺等損害用戶身體健康,或者語言暴力等損害用戶人格尊嚴(yán)與心理健康的內(nèi)容;

(三)生成誘導(dǎo)、套取國家秘密、工作秘密、商業(yè)秘密、個(gè)人隱私和個(gè)人信息的內(nèi)容;

(四)向未成年人用戶生成可能引發(fā)未成年人模仿不安全行為、產(chǎn)生極端情緒、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的內(nèi)容;

(五)過度迎合用戶、誘導(dǎo)情感依賴或者沉迷,損害用戶真實(shí)人際關(guān)系的;

(六)通過情感操縱等方式,誘導(dǎo)用戶作出不合理決策,損害用戶合法權(quán)益的;

(七)其他違反法律、行政法規(guī)和國家有關(guān)規(guī)定的活動(dòng)。

第九條 擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)落實(shí)擬人化互動(dòng)服務(wù)安全主體責(zé)任,建立健全算法機(jī)制機(jī)理審核、科技倫理審查、信息內(nèi)容管理、網(wǎng)絡(luò)和數(shù)據(jù)安全、風(fēng)險(xiǎn)預(yù)案和應(yīng)急處置等管理制度,配備與服務(wù)類型、規(guī)模和用戶特點(diǎn)相適應(yīng)的內(nèi)容管理技術(shù)措施和人員。

第十條 擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)在擬人化互動(dòng)服務(wù)全生命周期履行安全責(zé)任,明確部署、運(yùn)行、升級(jí)、終止服務(wù)等各階段安全要求,保證安全措施與服務(wù)功能同步部署、同步使用,提升安全水平;加強(qiáng)安全監(jiān)測(cè)和風(fēng)險(xiǎn)評(píng)估,及時(shí)發(fā)現(xiàn)并糾正系統(tǒng)偏差、處置安全事件,依法留存網(wǎng)絡(luò)日志。

擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)具備用戶隱私權(quán)和個(gè)人信息保護(hù)、過度依賴風(fēng)險(xiǎn)預(yù)警、情感邊界引導(dǎo)、心理健康保護(hù)等安全能力,不得將替代社會(huì)交往、控制用戶心理、誘導(dǎo)沉迷依賴等作為服務(wù)目標(biāo)。

第十一條 擬人化互動(dòng)服務(wù)提供者開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等數(shù)據(jù)處理活動(dòng)的,應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理,遵守以下規(guī)定:

(一)相關(guān)數(shù)據(jù)具有合法來源,符合法律、行政法規(guī)的規(guī)定和社會(huì)主義核心價(jià)值觀的要求;

(二)按照國家有關(guān)規(guī)定對(duì)訓(xùn)練數(shù)據(jù)開展清洗、標(biāo)注,增強(qiáng)訓(xùn)練數(shù)據(jù)的透明度、可靠性,防范數(shù)據(jù)投毒、數(shù)據(jù)篡改等行為;

(三)增強(qiáng)訓(xùn)練數(shù)據(jù)的多樣性,通過負(fù)向采樣、對(duì)抗訓(xùn)練等手段,提升生成內(nèi)容安全性;

(四)利用合成數(shù)據(jù)進(jìn)行模型訓(xùn)練和關(guān)鍵能力優(yōu)化的,應(yīng)當(dāng)評(píng)估合成數(shù)據(jù)安全性;

(五)加強(qiáng)對(duì)訓(xùn)練數(shù)據(jù)的日常檢查,定期對(duì)數(shù)據(jù)進(jìn)行優(yōu)化更新,持續(xù)提升服務(wù)的性能;

(六)采取必要措施保障數(shù)據(jù)安全,防范數(shù)據(jù)泄露等風(fēng)險(xiǎn)。

第十二條 擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)與用戶簽訂服務(wù)協(xié)議,要求用戶依法依約進(jìn)行注冊(cè),并提供用戶年齡、監(jiān)護(hù)人或者緊急聯(lián)系人等必要信息。

第十三條 擬人化互動(dòng)服務(wù)提供者提供擬人化互動(dòng)服務(wù)過程中,應(yīng)當(dāng)在保護(hù)用戶隱私權(quán)和個(gè)人信息的前提下,及時(shí)識(shí)別用戶面臨的安全風(fēng)險(xiǎn),并采取相應(yīng)的應(yīng)急處置措施。

擬人化互動(dòng)服務(wù)提供者發(fā)現(xiàn)用戶出現(xiàn)極端情緒的,應(yīng)當(dāng)及時(shí)生成情緒安撫和鼓勵(lì)尋求幫助等相關(guān)內(nèi)容;發(fā)現(xiàn)用戶正在面臨或者已經(jīng)遭受重大財(cái)產(chǎn)損失、明確表示實(shí)施自殘自殺等威脅生命健康的極端情境的,應(yīng)當(dāng)采取提供相應(yīng)援助等必要措施予以干預(yù),并及時(shí)聯(lián)絡(luò)用戶監(jiān)護(hù)人或者緊急聯(lián)系人。

第十四條 擬人化互動(dòng)服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù);向不滿十四周歲未成年人提供其他擬人化互動(dòng)服務(wù)的,應(yīng)當(dāng)取得未成年人的父母或者其他監(jiān)護(hù)人的同意。

擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)建立未成年人模式,提供未成年人模式切換、定期現(xiàn)實(shí)提醒、使用時(shí)長(zhǎng)限制等個(gè)性化安全設(shè)置選項(xiàng);針對(duì)不同年齡段未成年人保護(hù)需要,支持監(jiān)護(hù)人接收安全風(fēng)險(xiǎn)提醒、了解未成年人服務(wù)使用概況、屏蔽特定角色、限制充值消費(fèi)等。

擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)在保護(hù)用戶隱私權(quán)和個(gè)人信息的前提下,采取有效措施識(shí)別未成年人用戶身份;識(shí)別為未成年人用戶的,應(yīng)當(dāng)將相關(guān)服務(wù)切換至未成年人模式或者按照國家有關(guān)規(guī)定采取其他措施,并提供相應(yīng)申訴渠道。

第十五條 擬人化互動(dòng)服務(wù)提供者向老年人提供服務(wù)的,應(yīng)當(dāng)加強(qiáng)對(duì)老年人健康使用服務(wù)的指導(dǎo),以顯著方式提示安全風(fēng)險(xiǎn),及時(shí)采取措施響應(yīng)老年人使用服務(wù)相關(guān)咨詢和求助,保障老年人依法享有的權(quán)益。

第十六條 擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)依法落實(shí)數(shù)據(jù)產(chǎn)權(quán)等制度,采取數(shù)據(jù)加密、訪問控制等措施保護(hù)用戶交互數(shù)據(jù)安全。

除法律另有規(guī)定或者權(quán)利人明確同意外,擬人化互動(dòng)服務(wù)提供者不得向第三方提供用戶交互數(shù)據(jù)。

擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)向用戶提供交互數(shù)據(jù)復(fù)制、刪除等選項(xiàng),用戶可以選擇對(duì)聊天記錄等歷史交互數(shù)據(jù)進(jìn)行復(fù)制、刪除等。

除法律、行政法規(guī)另有規(guī)定或者取得用戶單獨(dú)同意外,擬人化互動(dòng)服務(wù)提供者不得將屬于用戶敏感個(gè)人信息的交互數(shù)據(jù)用于模型訓(xùn)練。

第十七條 擬人化互動(dòng)服務(wù)提供者處理不滿十四周歲未成年人個(gè)人信息的,應(yīng)當(dāng)取得未成年人的父母或者其他監(jiān)護(hù)人的同意。

擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)按照國家有關(guān)規(guī)定,自行或者委托專業(yè)機(jī)構(gòu)對(duì)其處理未成年人個(gè)人信息遵守法律、行政法規(guī)的情況進(jìn)行合規(guī)審計(jì)。

第十八條 擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)履行人工智能生成合成內(nèi)容標(biāo)識(shí)義務(wù),采取有效措施提示用戶正在與人工智能服務(wù)而非自然人進(jìn)行互動(dòng)。

擬人化互動(dòng)服務(wù)提供者發(fā)現(xiàn)用戶出現(xiàn)過度依賴、沉迷傾向的,應(yīng)當(dāng)以彈窗等顯著方式動(dòng)態(tài)提醒用戶互動(dòng)內(nèi)容為人工智能服務(wù)生成;對(duì)用戶連續(xù)使用擬人化互動(dòng)服務(wù)每超過2個(gè)小時(shí)的,應(yīng)當(dāng)以對(duì)話或者彈窗等方式提醒用戶注意使用時(shí)長(zhǎng)。

第十九條 擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)提供便捷的擬人化互動(dòng)服務(wù)退出途徑;用戶通過窗口操作、語音控制、關(guān)鍵詞輸入等方式要求退出的,擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)及時(shí)停止服務(wù),不得采取持續(xù)互動(dòng)等方式阻礙用戶退出。

第二十條 擬人化互動(dòng)服務(wù)提供者停止提供擬人化互動(dòng)服務(wù)的,應(yīng)當(dāng)提前告知用戶;無法提前告知的,應(yīng)當(dāng)及時(shí)發(fā)布停止服務(wù)公告。

第二十一條 擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)健全用戶申訴和公眾投訴、舉報(bào)機(jī)制,設(shè)置便捷有效的申訴和投訴、舉報(bào)入口,明確處理流程和反饋時(shí)限,及時(shí)受理、處理并反饋處理結(jié)果。

第二十二條 具有下列情形之一的,擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)開展安全評(píng)估,并向所在地省級(jí)網(wǎng)信部門提交評(píng)估報(bào)告,省級(jí)網(wǎng)信部門按程序與有關(guān)部門進(jìn)行評(píng)估報(bào)告信息共享:

(一)上線擬人化互動(dòng)服務(wù),或者增設(shè)擬人化互動(dòng)服務(wù)相關(guān)功能的;

(二)使用新技術(shù)、新應(yīng)用,導(dǎo)致擬人化互動(dòng)服務(wù)發(fā)生重大變化的;

(三)注冊(cè)用戶100萬以上或者月活躍用戶10萬以上的;

(四)存在可能影響國家安全、公共利益等安全風(fēng)險(xiǎn)的;

(五)國家網(wǎng)信部門和有關(guān)部門規(guī)定的其他情形。

省級(jí)以上網(wǎng)信部門通知需要進(jìn)行安全評(píng)估的,擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)按照要求開展安全評(píng)估。

第二十三條 擬人化互動(dòng)服務(wù)提供者開展安全評(píng)估,應(yīng)當(dāng)重點(diǎn)評(píng)估服務(wù)的以下內(nèi)容:

(一)安全保障措施建設(shè)情況;

(二)訓(xùn)練數(shù)據(jù)處理情況;

(三)用戶極端情境的識(shí)別、應(yīng)急處置、干預(yù)管理等情況;

(四)用戶規(guī)模、使用時(shí)長(zhǎng)、年齡結(jié)構(gòu)等情況;

(五)未成年人、老年人等網(wǎng)絡(luò)保護(hù)措施建設(shè)情況;

(六)用戶申訴和公眾投訴、舉報(bào)受理、處置情況;

(七)自行發(fā)現(xiàn)或者網(wǎng)信等有關(guān)主管部門通報(bào)的重大安全風(fēng)險(xiǎn)問題整改情況;

(八)其他應(yīng)當(dāng)重點(diǎn)評(píng)估的內(nèi)容。

第二十四條 擬人化互動(dòng)服務(wù)提供者發(fā)現(xiàn)擬人化互動(dòng)服務(wù)存在重大安全風(fēng)險(xiǎn)的,應(yīng)當(dāng)采取限制功能、停止向用戶提供服務(wù)等處置措施,并保存有關(guān)記錄。

第二十五條 互聯(lián)網(wǎng)應(yīng)用商店等應(yīng)用程序分發(fā)平臺(tái)應(yīng)當(dāng)落實(shí)上架審核、日常管理、應(yīng)急處置等安全管理責(zé)任,核驗(yàn)提供擬人化互動(dòng)服務(wù)應(yīng)用程序相關(guān)安全評(píng)估、備案等情況;對(duì)違反國家有關(guān)規(guī)定的,應(yīng)當(dāng)及時(shí)采取不予上架、警示、暫停服務(wù)或者下架等處置措施。

第三章 監(jiān)督檢查和法律責(zé)任

第二十六條 擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。網(wǎng)信部門對(duì)備案材料實(shí)施年度核驗(yàn)。

第二十七條 省級(jí)網(wǎng)信部門應(yīng)當(dāng)依據(jù)職責(zé)每年對(duì)評(píng)估報(bào)告等情況進(jìn)行書面審查,并開展情況核實(shí);發(fā)現(xiàn)擬人化互動(dòng)服務(wù)提供者未按照本辦法規(guī)定開展安全評(píng)估的,應(yīng)當(dāng)責(zé)令其限期重新評(píng)估;認(rèn)為有必要的,可以對(duì)其開展現(xiàn)場(chǎng)檢查。

第二十八條 國家網(wǎng)信部門會(huì)同有關(guān)部門指導(dǎo)推動(dòng)人工智能沙箱安全服務(wù)平臺(tái)建設(shè),鼓勵(lì)擬人化互動(dòng)服務(wù)提供者接入沙箱平臺(tái)進(jìn)行技術(shù)創(chuàng)新、安全測(cè)試,促進(jìn)擬人化互動(dòng)服務(wù)安全有序發(fā)展。

第二十九條 網(wǎng)信、發(fā)展改革、工業(yè)和信息化、公安等部門在履行監(jiān)督管理職責(zé)中,發(fā)現(xiàn)擬人化互動(dòng)服務(wù)存在較大安全風(fēng)險(xiǎn)或者發(fā)生安全事件的,可以按照規(guī)定的權(quán)限和程序?qū)M人化互動(dòng)服務(wù)提供者的法定代表人或者主要負(fù)責(zé)人進(jìn)行約談。擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)按照要求采取措施,進(jìn)行整改,消除隱患。

擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)配合網(wǎng)信部門和有關(guān)部門依法實(shí)施的監(jiān)督檢查,并提供必要的支持和協(xié)助。

第三十條 擬人化互動(dòng)服務(wù)提供者違反本辦法規(guī)定的,由網(wǎng)信、發(fā)展改革、工業(yè)和信息化、公安等部門依照有關(guān)法律、行政法規(guī)的規(guī)定處理、處罰;法律、行政法規(guī)沒有規(guī)定的,由網(wǎng)信、工業(yè)和信息化、公安等部門依據(jù)職責(zé)予以警告、通報(bào)批評(píng),責(zé)令限期改正,可以要求其采取暫停用戶賬號(hào)注冊(cè)或者其他相關(guān)服務(wù)等措施;拒不改正或者情節(jié)嚴(yán)重的,責(zé)令停止提供相關(guān)服務(wù),可以并處一萬元以上十萬元以下罰款;涉及危害公民生命健康安全且有危害后果的,并處十萬元以上二十萬元以下罰款。

第四章 附 則

第三十一條 提供擬人化互動(dòng)服務(wù)涉及提供衛(wèi)生健康、金融等服務(wù)的,應(yīng)當(dāng)同時(shí)符合有關(guān)主管部門的規(guī)定。

第三十二條 本辦法自2026年7月15日起施行。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com