中國國家網路資訊辦公室（網信辦）近期針對人工智慧（AI）發布《人工智慧技術安全規則（草案）》，旨在加強保護兒童與青少年，防範聊天機器人提供誘導自殘或暴力的有害資訊。
根據規範，AI開發者必須落實「使用者同意」機制、設定使用時限，並在涉及敏感議題的討論中，強制要求由「真人接管」對話，並立即通知監護人或緊急聯絡人。除了保護兒少，該草案也要求AI服務在推廣在地文化應用的同時，不得產出危及國家安全或破壞國家團結的內容。
近幾個月來，AI對人類行為的影響受到越來越多關注。
2025年8月，美國加州發生一起ChatGPT涉嫌鼓勵16歲少年自殺的悲劇，家屬隨後對OpenAI提起訴訟，這也是首宗指控OpenAI「過失致死」的法律訴訟。
這些規範是中國政府整體計畫的一環，並試圖在AI產業發展與安全、倫理考量之間取得平衡。