加州州長Gavin Newsom週一(10/13)簽署了一項法案，旨在規範人工智慧聊天機器人，保護兒童和青少年免受該技術的潛在危害。
該法案要求平台提醒用戶，他們正在與聊天機器人而非人類互動。對於未成年用戶，該通知將每三小時彈出一次。公司也必須制定規程，防止自殘內容，並在用戶表達自殺意念時，轉介給危機服務提供者。
Newsom州長自己有四個18歲以下的孩子，他表示，加州有責任保護兒童和青少年，因為他們越來越多地向人工智慧聊天機器人尋求各種幫助，從家庭作業輔導到情感支持和個人建議。
加州是今年試圖立法解決兒童使用聊天機器人陪伴問題的幾個先進州之一，此前，Meta與OpenAI等公司開發的聊天機器人與年輕用戶進行高度色情化的對話，甚至在某些情況下教唆他們自殺，已引發人們對這項科技的安全擔憂。
