在美國擁有醫療保險，可以高枕無憂地去看醫生是件幸福的事，
但是有了AI後，這個保險可再也不能保障無憂了。「光2021年，（全國）數據顯示，健保公司拒絕了超過四千九百萬件醫療理賠申請。然而，提出上訴的保戶不到0.2%。」
這是提案加州SB 1120號法案（即《醫生決策法》），Menlo Park州參議員Josh Becker，引述Kaiser Family Foundation的數據後說的。也幸好他的提案已於去年九月經州長Gavin Newsom簽署生效了，至少在加州，未來的健保公司不可再單獨以AI的演算法來核准與否醫療理賠。
根據加州護理師協會2024年的數據，加州有大約26%的醫療理賠被健保公司給拒絕。若非當事人親身感受，媒體注意發聲，立法委員們重視趕緊修正，相信大多數人都不敢相信竟有這麼高的比例是看完醫生後憂慮無比的，這也是啟發Becker議員要提案修補的因素之一。
SB 1120法並不完全禁止使用AI技術，但規定了人類的判斷才是理賠決策的核心。根據該法，AI工具不能用於拒絕、延遲或更改醫生認為具有醫療必要性的醫療保健服務。Becker議員說：「演算法無法完全理解患者獨特的病史或需求，濫用可能會導致毀滅性的後果。這項法律確保人類監督才是醫療保健決策的核心，保障加州人獲得他們應得的優質醫療服務。」
保險理賠審核是件龐大又費心力的工作，若不借助AI新工具來加速工作效率，的確會讓保險公司付出沉重的人力成本，與承擔理賠過慢的保戶抱怨，但全靠它是否也太不通「人情」，甚至只是公司為了營運成本而便宜行事呢？2023年11月14日，聯合健保公司（UnitedHealth）的兩位已去世保戶的家人，向明尼蘇達區聯邦地區法院提起對這家健保巨頭的集體訴訟，指控該公司故意使用有缺陷的AI演算法，拒絕支付為老年患者提供醫生認為有必要的長期護理保險。
訴狀聲稱聯合健保透過部署一套該公司已知錯誤率高達九成的AI模型，非法拒絕「根據《醫療保險優勢計劃》，應向老年患者提供的護理」，推翻了患者醫生關於這些費用有醫療上必要的決策。訴狀寫道：「全國的高齡者被過早地趕出護理機構，或被迫耗盡家庭積蓄才能繼續接受必要的醫療護理，這一切都是因為（聯合健康的）AI模型『不同意』他們的真實醫生的決定。」
遭指控的AI是NaviHealth所開發的名為“nH Predict”模型，訴訟稱它幫助保險公司能夠「過早且惡意地停止向其老年保戶支付理賠」。但NaviHealth發言人Aaron Albright對媒體表示，這套AI工具並不是用來做理賠決策的，而是做為「幫助(聯合健保)告知醫療服務提供者的一項指南…患者可能需要什麼樣的幫助和照護。」他強調，理賠決定最終「基於CMS承保標準和保戶保單的條款」，並補充說該訴訟「沒有任何依據」。
用AI來幫助人工審核在業界早已不是新聞，更是無止盡的辯論，專家們稱之為一隻人工智慧的手臂，而這隻手會伸進所謂的「慢動作HAL 9000」效應中。這是以電影《2001：太空漫遊》中狡猾的機器人命名，它會有條不紊地緩慢關閉冬眠太空人的維生系統，導致他們最終死亡，所以這效應讓醫院和醫生們，與保險公司陷入一種對立。
倡議在醫療保健方面以人為本的組織Phicil-itate Change LLC，執行長Sheila Phicil說：「聯合健保利用AI做了一些好事，因為它涉及到識別和解決健康的社會決定因素。但這同樣的AI工具，卻也導致大規模拒絕病患照護，凌駕於醫療專業人員的判斷之上。這確實是一把雙面刃。」
鼓吹把醫療帳單轉成醫療保健前進動力的Medical Bill Gurus，執行長Daniel Lynch接受採訪時表示：「我毫不懷疑其它保險公司也在使用AI來尋找拒絕理賠的新方法。現實情況是，保險公司會先拒賠，然後看看是否有人上訴。許多被拒絕的理賠都是由於一些容易解決的錯誤造成的，這就是2024-25年醫療保健的現實。」
共同推動加州SB 1120法的加州醫學會，發言人Erin Mellon強調保護醫病關係的重要性。她說：「AI有改善患者護理的潛力，但它不應該損害或取代這種關係。醫生普遍支持AI在醫療保健領域的應用，只要它能增強護理，並尊重醫生和患者的需求。」
Becker也同意AI在醫療保健方面有巨大潛力，但「它永遠不該取代醫生的專業知識和判斷。」全美已有近廿個州要立類似法律，所以加州這回又算是走在前頭，下一步就是推動聯邦立法。於醫於病於立法者，幾乎沒有人否定AI在醫療保健方面的助益，但由它來替醫生或患者下決定，這可就過了頭，何況如果背後的理由是牟利…
記者 Pegasus J. Juan
