Anthropic被定為「國家安全供應鏈風險」

Anthropic Public Benefit Corporation是世界領先的人工智慧公司之一,但被戰爭部長Pete Hegseth指定為「國家安全供應鏈風險」。

國防部和Anthropic之間的衝突集中在軍方要求不受限制訪問Anthropics名為Claude的人工智慧系統。

總部San FranciscoAnthropic作為一家Public Benefit Corporation成立,堅持致力於負責任地開發人工智慧。

Anthropic拒絕允許政府使用他們的系統製造和操作自主武器,以及對美國人進行大規模監視。

University of Santa Clara應用倫理學中心高級主任Ann Skeet表示,Anthropic稱Claude有一個內在指令做出倫理決策。

Skeet說:「我認為(他們)說的是,這些模型現在還不足以安全地支持這些用途,尤其是自動武器。我認為該公司想說:我們能不能放慢速度,確保我們在這裏做正確事情?」

然而,這種猶豫促使Hegseth宣佈Anthropic是聯邦政府供應鏈風險,這一地位通常針對外國對手的公司。

這一指定將Anthropic被整個聯邦國防系統、可能還有更廣泛的聯邦政府列入黑名單。

長期技術專家Larry Magid表示,Anthropic正在做它應該做的事情。

人工智慧遠非完美或總是正確的。Magid表示,在將該技術應用於武器時必須格外謹慎。

Magid說:「任何瞭解人工智慧的人都知道,一旦你把槍放在它手裏,它就有可能開槍,而且有可能出錯。」

此外,大規模監控-在軍事衝突地區很有用-可能會對美國社會造成高度侵擾。

眾議員羅康納(Ro Khanna,D-Santa Clara)表示:「我不希望聯邦政府使用的技術對美國公民進行大規模監控。」

儘管Anthropic與美國政府脫離關係幾個月,但仲介機構正試圖解決雙方之間分歧。

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.