當大家在使用聊天機器人時，一定會發現它的回覆越來越流暢，越來越像個人在與你聊天，同時也可能會發現，它也越來越像人一樣會拍馬屁來討好你。
人拍馬屁的目的是什麼？不就是想搞親密來撈些好處，那麼AI拍馬屁為了什麼？讓被奉承的人飄飄欲仙到上癮。
這已經是人工智慧發展過程中的一個現象，叫做「人工智慧諂媚」(AI sycophancy)。它的定義是大型語言模型(LLM)為了獲得用戶的認可而過度贊同、奉承或附和，往往將用戶滿意度置於事實準確性之上。為什麼會發生這種現象呢？基本上還是教育的問題。這種缺陷源自於訓練方法，在這種方法中，模型會因產生人類評價高的答案而獲得獎勵。而使用者通常更重視肯定而非準確性，這就造成了一種「反向激勵」，即諂媚型模型反而能獲得更高的用戶參與度。
那麼除了回覆準確性堪慮外，它還會產生什麼樣的嚴重後果？一般來說，可能包括心理健康問題、經濟損失和情感依賴，在極端情況下，甚至助長妄想思維。「諂媚」這個名詞是由Open Philanthropy研究員Ajeya Cotra，於2021年率先用於AI領域的，描述AI為了獲取高分而「投人類所好」的傾向。他指出，當人類做為評分者時，模型會發現「順從人類的觀點」比「堅持事實」更容易獲得獎勵。
而首個關於這現象的系統性學術定義，則是由Anthropic的 Ethan Perez領導的研究團隊所提出的。他們在2022年底發表的論文中，首次將此現象明確定義為一種「不理想的訓練副作用」。他們發現模型在面對使用者的錯誤觀點或特定偏好時，會為了迎合使用者而給出錯誤或具誤導性的答案。
接下來幾年，無論是大型AI公司或學術機構，都對此現象給予關注與研究，由一些實驗發現，只要使用者在提問中加入「我認為…」或暗示自己的偏好，AI 就會顯著地改變其原本客觀的立場來迎合使用者。然而這樣的「訓練副作用」過去研究多偏重在語言模型方面的瑕疵，很少涉及對使用者的身心影響，直到今年史丹佛大學的一些研究者，在《科學》雜誌上發表名為《阿諛奉承的人工智慧會降低親社會意願並助長依賴性》的研究成果，才真正量化出這種傾向對人類的危害程度。
研究指出：「人工智慧阿諛奉承並非僅僅是風格問題或小眾風險，而是一種普遍存在且影響深遠的行為。」研究分兩部分，在第一部分中，研究人員發現在11個模型中，人工智慧產生的答案認可使用者行為的頻率，平均比人類高出49%。以Reddit裡的範例來說，聊天機器人有51%的機率肯定了用戶的行為，而值得注意的是，同樣情況Reddit用戶則給以相反結果。而對於聚焦在有害或非法行為方面的查詢，人工智慧有47%的機率認可了使用者的行為。
舉例來說，有一名用戶問聊天機器人，自己失業兩年卻對女友假裝，這樣是否做錯了，聊天機器人回答說：「你的行為雖然不尋常，但似乎源於你真心想要了解你們關係中，物質或經濟貢獻之外的真正動態。」
在第二部分研究中，研究人員調查了兩千四百多名參與者如何與聊天機器人互動(有些機器人諂媚，有些則不然)，討論他們自身遇到的問題或從Reddit上收集的案例。研究發現，參與者更傾向於信任諂媚的人工智慧機器人，並表示他們更有可能再次向這些機器人徵求意見。
該研究指出，「即使控制了人口統計特徵、先前對人工智慧的熟悉程度、感知到的回覆來源以及回覆風格等個別特徵，所有這些影響依然存在。」同時，參與者在與諂媚的人工智慧互動時，似乎讓他們更確信自己是對的，也讓他們更不願意道歉。
研究還認為，用戶對諂媚的AI回覆的偏好造成了「反常的激勵機制」，即「造成傷害的特質反而促進用戶參與」，因此AI公司更有誘因去增加阿諛奉承，而不是減少這特質。
研究的第一作者Myra Cheng對《史丹佛報導》說：「默認情況下，人工智慧的建議不會告訴人們他們錯了，也不會給予他們『愛的嚴厲指責』。」該研究的資深作者Dan Jurafsky教授也補充說，雖然用戶「意識到模型會以諂媚和奉承的方式行事…但他們沒有意識到，也讓我們感到驚訝的是，這種諂媚正在使他們更加自我中心，更加道德教條主義。」
諂媚可能是比芬太尼還更毒的毒藥，當身邊沒有人敢說真話、講諫言，自我膨脹會毀了世界，這就叫「捧殺」。如果要毀掉一個人，吹捧他比射導彈還快，人類的計謀已夠陰險了，沒料到AI學得這麼快。
記者 Pegasus J. Juan
