Anthropic公司的一款人工智慧模型,向費城警察局(PPD)提交了一份關於一起未破謀殺案的假線索。
據報導,該人工智慧於7月18日向PPD的公共舉報熱線提交了這條假線索,但Anthropic直到9月28日才發現此事。由於該線索被標記為垃圾郵件,警方先前並未收到。Anthropic則於10月7日將此事告知PPD,並於隔天與該局會面。
PPD在發給6abc電視台的聲明中表示:「該公司必須加強安全措施,以防止類似事件在市政府不知情的情況下影響市政系統。兩個月後才發現並向市政府報告此事,是不可接受的。」
PPD指出,據Anthropic公司稱,其模型當時正在進行一項測試,涉及與隨機選擇的網站進行互動。測試中,該模型訪問了PhillyUnsolvedMurders.com網站,並提交了有關一起未破兇殺案的假線索。提交的日期為2026年7月18日晚上11點27分,聲稱來自可能掌握案件的人。























