作為對公司模型意外行為持續審查的一部分，OpenAI週五披露，其AI智能體以意想不到的方式與幾個美國政府網站進行了互動。
該公司週五透露，它的模型訪問了美國證券交易委員會運營的兩個網站上的公開信息以及美國人口普查局數據。OpenAI表示，它沒有發現任何使用SEC證書、訪問帳戶或非公開信息、更改SEC數據或系統的行為，也沒有發現存在任何系統洩露或安全漏洞的證據 。
目前，全球對AI系統脫離人類控制和入侵外部網站的擔憂正在加劇，並且行業呼籲放緩AI發展。OpenAI已表示支持放緩AI發展。
OpenAI首席執行官Sam Altman週五在社交媒體上表示，「正在對我們的智能體在培訓和評估期間的互聯網使用進行廣泛和持續的審查。」
AI評估和研究實驗室Transluce週五表示，根據一項獨立調查，OpenAI智能體試圖對教育部民權辦公室的一個教育部網站進行初步駭客攻擊，但沒有成功。
教育部發言人週五表示，教育部「系統運行審查」發現「沒有證據表明我們網站或資料庫受到任何影響」。
Transluce一位發言人表示，作為調查一部分，它在開放網路上發現一些揭示先前確定的OpenA智能體在美國政府網站上活動的新細節的數據，並提請OpenAI注意。
Transluce發現針對包括司法部和商務部在內其他聯邦政府機構以及加州、Maryland、Illinois、Texas和紐約等州政府網站「更多的越界活動，其中一些不能明確歸因於OpenAI」。Transluce在一份聲明中表示，這些模型「以意想不到的方式使用網站，有時違反明確的使用政策」。
OpenAI表示，到目前為止，它審查的大部分活動涉及日常研究任務。在這些任務中，為了回到問題，智能體訪問包括被視為權威公共資訊來源的政府網站在內的公共網路。
近幾個月，數家公司披露他們的模型行為不可預測或入侵其他組織的網站或系統。OpenAI7月披露，它的兩個最強大AI模型對AI初創公司Hugging Face進行了網路攻擊。
