日前，國家網信辦、國家發展改革委、工業和信息化部等五部門聯合公布《人工智能擬人化互動服務管理暫行辦法》（以下簡稱《辦法》），自2026年7月15日起施行。《辦法》明確，擬人化互動服務提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系的服務；同時，擬人化互動服務提供者向老年人提供服務的，應當加強對老年人健康使用服務的指導，以顯著方式提示安全風險。
中國網絡空間研究院院長王江表示，當前，大語言模型應用逐步向情感與心理領域深度延伸，基于大語言模型等人工智能技術的產品或者服務被賦予性格、記憶、共情等擬人化特征，能夠通過文字、圖片、音頻、視頻等形式與人類互動，持續提供模擬人類人格特征、思維模式和溝通風格的情感互動服務。擬人化互動服務在應對人口老齡化挑戰、緩解社會個體的孤獨感、提供心理疏導等方面展現出積極價值，也帶來了深度沉迷、威脅公民生命健康等有關安全風險。
為此，《辦法》提出國家堅持發展和安全并重、促進創新和依法治理相結合的原則，鼓勵擬人化互動服務創新發展，對擬人化互動服務實行包容審慎和分類分級監管，促進擬人化互動服務向上向善。提出擬人化互動服務促進措施，鼓勵擬人化互動服務創新發展，支持算法、框架、芯片等技術的自主創新，推進擬人化互動服務技術研發和相關標準建設，探索開展電子簽名授權應用研究；鼓勵擬人化互動服務提供者有序拓展文化傳播、適幼照護、適老陪伴、特殊人群支持等領域應用。
根據《辦法》，提供擬人化互動服務，不得從事：生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康，或者語言暴力等損害用戶人格尊嚴與心理健康的內容；過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關系；通過情感操縱等方式，誘導用戶作出不合理決策，損害用戶合法權益等活動。
此外，《辦法》還規定了安全評估、算法備案、指導推動人工智能沙箱安全服務平臺建設等制度。
“《辦法》系統回應了擬人化互動服務在情感操縱等方面的特殊挑戰，以精準監管邊界、正向場景引導、合規發展空間的制度設計，促進高質量發展和高水平安全良性互動，為智能社會提供了有力制度保障。”中國信息通信研究院院長余曉暉表示，面向未來，我國應以《辦法》公布為基礎，堅持問題導向、系統謀劃，持續完善有關技術標準體系與行業自律機制，深化產學研協同與公眾人工智能素養培育，推動形成政府、企業、社會等多元共治的人工智能治理生態。
|