日前，國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部等五部門聯(lián)合公布《人工智能擬人化互動服務管理暫行辦法》（以下簡稱《辦法》），自2026年7月15日起施行。《辦法》明確，擬人化互動服務提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系的服務；同時，擬人化互動服務提供者向老年人提供服務的，應當加強對老年人健康使用服務的指導，以顯著方式提示安全風險。
中國網(wǎng)絡空間研究院院長王江表示，當前，大語言模型應用逐步向情感與心理領域深度延伸，基于大語言模型等人工智能技術的產(chǎn)品或者服務被賦予性格、記憶、共情等擬人化特征，能夠通過文字、圖片、音頻、視頻等形式與人類互動，持續(xù)提供模擬人類人格特征、思維模式和溝通風格的情感互動服務。擬人化互動服務在應對人口老齡化挑戰(zhàn)、緩解社會個體的孤獨感、提供心理疏導等方面展現(xiàn)出積極價值，也帶來了深度沉迷、威脅公民生命健康等有關安全風險。
為此，《辦法》提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則，鼓勵擬人化互動服務創(chuàng)新發(fā)展，對擬人化互動服務實行包容審慎和分類分級監(jiān)管，促進擬人化互動服務向上向善。提出擬人化互動服務促進措施，鼓勵擬人化互動服務創(chuàng)新發(fā)展，支持算法、框架、芯片等技術的自主創(chuàng)新，推進擬人化互動服務技術研發(fā)和相關標準建設，探索開展電子簽名授權應用研究；鼓勵擬人化互動服務提供者有序拓展文化傳播、適幼照護、適老陪伴、特殊人群支持等領域應用。
根據(jù)《辦法》，提供擬人化互動服務，不得從事：生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康，或者語言暴力等損害用戶人格尊嚴與心理健康的內(nèi)容；過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關系；通過情感操縱等方式，誘導用戶作出不合理決策，損害用戶合法權益等活動。
此外，《辦法》還規(guī)定了安全評估、算法備案、指導推動人工智能沙箱安全服務平臺建設等制度。
“《辦法》系統(tǒng)回應了擬人化互動服務在情感操縱等方面的特殊挑戰(zhàn)，以精準監(jiān)管邊界、正向場景引導、合規(guī)發(fā)展空間的制度設計，促進高質量發(fā)展和高水平安全良性互動，為智能社會提供了有力制度保障。”中國信息通信研究院院長余曉暉表示，面向未來，我國應以《辦法》公布為基礎，堅持問題導向、系統(tǒng)謀劃，持續(xù)完善有關技術標準體系與行業(yè)自律機制，深化產(chǎn)學研協(xié)同與公眾人工智能素養(yǎng)培育，推動形成政府、企業(yè)、社會等多元共治的人工智能治理生態(tài)。
|