Meta公司於七月中宣布，如果青少年與該公司的Meta AI聊天機器人討論自殺或自殘，系統將通知家長。
Meta表示，他們還在開發一項功能，如果用戶的對話顯示其可能面臨迫在眉睫的自殺風險，系統將自動聯繫緊急服務部門。
當下Meta和其它科技公司正面臨監管機關和家長，對其AI聊天機器人如何應對危機使用者（尤其是青少年）的嚴格審查。Meta的這項新措施便是在此背景下產生的，因為這個責任問題正日益影響著AI公司設計和行銷其產品的方式。
Meta在一篇部落格文章中寫道：「我們理解家長收到這些警報會有多麼焦慮，因此在我們不斷改進檢測技術的同時，所有由人工智慧標記的聊天記錄，在發出警報前都會經過人工審核。如果青少年的意圖不明，我們會謹慎行事，直接通知家長。雖然這意味著我們有時可能會在無需真正擔憂的情況下通知家長，但我們認為這是正確的起點。我們會持續監控，以保障我們的工作方向正確。」
