國家互聯(lián)網(wǎng)信息辦公室近日就《人工智能擬人化互動服務管理暫行辦法》面向社會公開征求意見，旨在規(guī)范人工智能擬人化互動服務的發(fā)展，保障用戶權益，推動行業(yè)健康有序進步。

征求意見稿明確要求，服務提供者需在顯著位置提示用戶，當前交互對象為人工智能而非自然人。當識別到用戶出現(xiàn)過度依賴或沉迷傾向，或在用戶首次使用、重新登錄時，提供者應以彈窗等動態(tài)方式提醒用戶，其交互內(nèi)容由人工智能生成。若用戶連續(xù)使用擬人化互動服務超過2小時，提供者也需通過彈窗等方式動態(tài)提醒用戶暫停使用。

在安全能力方面，提供者需具備心理健康保護、情感邊界引導、依賴風險預警等能力。設計目標不得包含替代社會交往、控制用戶心理、誘導沉迷依賴等內(nèi)容，以確保服務不會對用戶造成負面影響。

針對未成年人保護，征求意見稿要求提供者建立未成年人模式，提供模式切換、定期現(xiàn)實提醒、使用時長限制等個性化安全設置選項。向未成年人提供情感陪伴服務時，需取得監(jiān)護人明確同意，并提供監(jiān)護人控制功能，如實時接收安全風險提醒、查閱使用概要信息、設置屏蔽特定角色、限制使用時長、防止充值消費等。提供者還需具備識別未成年人身份的能力，在保護用戶隱私的前提下，對疑似未成年人切換至未成年人模式，并提供申訴渠道。

對于老年人群體，征求意見稿也提出了相應要求。提供者應引導老年人設置服務緊急聯(lián)系人，發(fā)現(xiàn)老年人使用期間出現(xiàn)危害生命健康和財產(chǎn)安全的情況時，及時通知緊急聯(lián)系人，并提供社會心理援助或緊急救助渠道。同時，明確禁止提供模擬老年人用戶親屬、特定關系人的服務，以保護老年人的合法權益。