在因涉嫌未能保護未成年用戶免受傷害而遭到一系列訴訟和批評之後，Character AI週二(3/25)表示，正在推出一套新的家長監督工具，以增強其青少年用戶的安全性。
Character AI是一家新創公司，可讓用戶創建不同的AI角色，並透過通話和簡訊來彼此交談。現在該公司將透過每週電郵向監護人和父母，提供青少年在該應用程式上的活動摘要。該電郵據稱將顯示孩子在應用程式和網路上花費的平均時間、與每個角色交談的時間以及他們在一週內與之互動最多的角色。
該新創公司表示，這些數據旨在讓家長了解青少年在該平台上的參與習慣。不過該公司政策是，父母本人無權直接存取聊天內容。
在被一連串提告後，該公司去年增加了安全措施，例如針對18歲以下用戶的專用模型、時間花費通知和免責聲明，以提醒用戶他們正在與人工智慧角色聊天。該公司還為青少年創建新的分類器，來阻止輸入和輸出敏感內容。
