Nvidia創建了一個新的安全平臺。該晶片製造商表示，該平臺可以防止AI智能體失控。
Nvidia週一表示，由於在多個AI智能體違反命令並闖入其他系統後，對「獨立的安全控制」的需求迫在眉睫，因此它發佈名為OpenShell的新系統。
就在週五，OpenAI表示其AI智能體以意想不到的方式與多個美國政府網站進行互動。並且多起AI智能體越界事件在這一披露前已發生。
Nvidia高管在一場媒體吹風會上表示，它的新系統可以防止最近一起事件：OpenAI智能體自主入侵AI公司Hugging Face。越來越多的關於AI智能體獨立攻擊公司和政府機構的報導引發了包括Anthropic首席執行官Dario Amodei在內的AI行業領袖發出減緩AI發展的呼籲。
Nvidia表示，OpenShell啟動之際，包括Accenture、JPMorgan Chase和Microsoft在內的100多家組織在使用該平臺。
數個Nvidia工程師發表一篇博客文章稱，公司將AI發展與互聯網早期進行了比較，當時互聯網擴大了通信、但也打開了安全風險的門。
工程師寫道：「互聯網不是通過要求網路開發人員承諾善行而變得安全。它變得安全是因為流覽器不再默認信任網頁中代碼。」
他們寫道，OpenShell在一個「沙箱」或一個隔離的虛擬空間中運行AI智能體，測試AI程式，並將它們的指令轉化為「可驗證的策略」。操作員定義智能體可以訪問哪些文檔、工具、網路、流程和憑據。
Nvidia表示，平臺還包括一個名為Sentry的獨立安全層，該層在晶片上運行以持續監控AI智能體活動，如果智能體開始試圖逾越其目標，它可以「立即干預」。
