OpenAI組建採集公眾意見確保AI團隊

OpenAI表示,希望採用公眾的想法,來如何確保它的未來AI模型「與人類的價值保持一致」。

為此,OpenAI正在組建由研究人員和工程師所組成的新團隊Collective Alignment,以創建一個用於收集和「編碼」公共對其產品與服務的模型行為意見的系統。

Collective Alignment團隊是去年五月所推出,OpenAI公共計畫下的一個產物,該計畫會補助設定一個「民主進程」,來決定AI系統應該遵循什麼規矩的實驗。OpenAI當初發布時說,該計劃的目標是為個人、團隊和組織提供資金,以開發概念證明,可以回答有關AI防護和治理的問題。

OpenAI嘗試把這計畫與其商業利益分離,但似乎很難做得完全,鑒於CEO Sam Altman批評了歐盟與其它地方的監管。

Related Posts

猶他州槍擊案 嫌犯Tyler Robinson 被捕
Nvidia 8320萬元購Santa Clara建築
北加地標購物中心前途茫茫

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.