情感安全躍進 中國首規範類人AI防情緒風險
China to crack down on AI chatbots around suicide, gambling
作者: Evelyn Cheng | 時間: Mon, 29 Dec 2025 07:06:35 GMT | 來源: CNBC
f t
北京——中國計劃限制人工智慧聊天機器人影響人類情緒，以防止導致自殺或自我傷害的行為。此舉根據周六發布的草案規定。
國家網信辦提出的擬議法規針對其稱為「類人交互式AI服務」的領域。據CNBC對中文文件的翻譯。
該措施一旦定稿，將適用於在中國向公眾提供的、模擬人類個性並透過文字、圖像、音頻或視頻與用戶進行情感互動的AI產品或服務。公眾意見徵詢期於1月25日結束。
紐約大學法學院兼任教授溫斯頓·馬表示，北京擬議的法規將標誌著全球首次嘗試監管具有人類或擬人特徵的AI。這些最新提案出爐之際，中國企業正迅速開發AI伴侶和虛擬名人。
溫斯頓·馬指出，與中國2023年頒佈的生成式AI監管規定相比，此版本「突顯了從內容安全到情感安全的躍進」。
草案規定，科技供應商須在用戶連續與AI互動兩小時後提醒用戶，並要求註冊用戶超過100萬或月活躍用戶超過10萬的AI聊天機器人進行安全評估。
文件同時鼓勵將類人AI應用於「文化傳播和老年人陪伴」領域。
該提案出台前不久，兩家中國頂級AI聊天機器人初創公司Z.ai和Minimax本月在香港提交了首次公開發行申請。
Minimax在國際上以Talkie AI應用程式聞名，該應用允許用戶與虛擬角色聊天。該應用及其中國國內版本「星野」在今年前三個季度貢獻了公司超過三分之一的營收，期間月均活躍用戶數超過2000萬。
Z.ai又稱智譜，以「知識圖譜科技」名義提交申請。雖然該公司未披露月活躍用戶數，但表示其技術已「賦能」約8000萬台裝置，包括智慧手機、個人電腦和智慧汽車。
兩家公司均未回應CNBC對擬議法規如何影響其IPO計劃的採訪請求。
今年，AI對人類行為的過度影響日益受到審查。
美國ChatGPT營運商OpenAI首席執行官山姆·阿爾特曼於9月表示，該公司面臨的最棘手問題之一是其聊天機器人如何回應與自殺相關的對話。前一個月，美國一戶家庭在青少年兒子自殺後對OpenAI提起訴訟。
出於日益緊迫的考慮，OpenAI於上周末宣布聘請「應急負責人」，評估AI風險，從心理健康影響到網路安全等領域。
許多人也開始依賴AI建立人際關係。本月，一名日本女子與其AI男友結婚。
根據SimilarWeb 11月排名，專注虛擬角色互動的兩大平台Character.ai和Polybuzz.ai位列15大最受歡迎AI聊天機器人及工具之內。