包括AIG、Great American和WR Berkley在內的多家大型保險公司，正在向美國監管機關申請，希望將人工智慧相關的責任排除在企業保單之外。
據《金融時報》報導，一位承保人員向該報形容，人工智慧模型的輸出「就像一個黑盒子」。報導提醒我們，保險業的擔憂並非空穴來風，Google的AI Overview就曾錯誤地指控一家太陽能公司有法律問題，導致該公司在今年三月面臨一場1.1億元的訴訟。
去年，加拿大航空公司被迫履行其聊天機器人創造的折扣。去年，詐騙分子利用一位高階主管的數位複製版本，在看似真實的視訊通話中，從總部位於倫敦的設計工程公司Arup竊取了2500萬元。
真正令保險公司感到恐懼的並非單筆巨額賠償，而是當廣泛使用的人工智慧模型介入時，可能引發的數千起同時發生的索賠，這會帶來系統性風險。正如Aon集團一位高層所說，保險公司可以承受一家公司四億元的損失，但他們無法負擔人工智慧代理系統發生故障，導致一萬家公司同時遭受損失。
