OpenAI表示,希望採用公眾的想法,來如何確保它的未來AI模型「與人類的價值保持一致」。
為此,OpenAI正在組建由研究人員和工程師所組成的新團隊Collective Alignment,以創建一個用於收集和「編碼」公共對其產品與服務的模型行為意見的系統。
Collective Alignment團隊是去年五月所推出,OpenAI公共計畫下的一個產物,該計畫會補助設定一個「民主進程」,來決定AI系統應該遵循什麼規矩的實驗。OpenAI當初發布時說,該計劃的目標是為個人、團隊和組織提供資金,以開發概念證明,可以回答有關AI防護和治理的問題。
OpenAI嘗試把這計畫與其商業利益分離,但似乎很難做得完全,鑒於CEO Sam Altman批評了歐盟與其它地方的監管。