中國AI新規草案 強化兒童安全防護
China to crack down on AI firms to protect kids
作者: Osmond Chia | 時間: Tue, 30 Dec 2025 02:32:33 GMT | 來源: BBC
f t
中國提出嚴格的新人工智慧（AI）規定，旨在為兒童提供保護，並防止聊天機器人提供可能導致自殘或暴力行為的建議。
根據計劃中的法規，開發人員還需確保其AI模型不會產生宣傳賭博的內容。
此舉正值中國及全球聊天機器人數量激增之際。
一旦 finalized，這些規則將適用於中國的AI產品和服務，標誌著對這項快速發展技術的重要監管行動。今年，該技術因安全問題備受嚴格審查。
中國國家網信辦（CAC）於週末發布的草案規則包括兒童保護措施，例如要求AI企業提供個性化設定、限制使用時間，並在提供情感陪伴服務前徵得監護人同意。
國家網信辦表示，聊天機器人運營者必須在涉及自殺或自殘的對話中由人工接手，並立即通知用戶監護人或緊急聯繫人。
該聲明指出，AI服務提供商必須確保其服務不會產生或分享「危害國家安全、損害國家榮譽和利益或破壞國家統一」的內容。
國家網信辦表示，只要技術安全可靠，鼓勵採用AI來弘揚地方文化或為老年人開發陪伴工具，同時徵求公眾意見。
中國AI企業深度求索（DeepSeek）今年因登上應用程式下載榜榜首而引發全球關注。
本月，擁有數千萬用戶的兩家中國初創企業Z.ai和Minimax宣布計劃上市。
該技術迅速獲得大量用戶，部分人將其用於情感陪伴或心理輔導。
近幾個月來，人工智慧對人類行為的影響受到越來越嚴厲的審查。
ChatGPT開發商OpenAI負責人山姆·阿爾特曼（Sam Altman）今年表示，聊天機器人在自殘相關對話中的回應方式是公司最棘手的問題之一。
今年8月，加州一戶家庭因16歲兒子去世起訴OpenAI，指控ChatGPT鼓勵其自殺。這起訴訟標誌著首起指控OpenAI過失致死的法律行動。
本月，該公司招聘「應變主管」，負責防範AI模型對人類心理健康和網路安全構成的風險。
獲聘者將負責追蹤可能對人造成傷害的AI風險。阿爾特曼表示：「這將是一份壓力很大的工作，你幾乎會立刻投身深水區。」