「說得跟人一樣」與「說得讓人聽懂」那一個才是人工智慧發展的合理方向？今年谷歌開發商大會I/O，推出一款稱為Duplex的技術，可讓Assistant發出「神似」人類的語音像「嗯」(Mm)、「哼」(Hmm)與「喔」(Oh)等，標榜「說得跟人一樣」，保證人類聽不出是機器人在說話。這引起科技倫理與加州法律的譁然，例如錄音上傳雲端分析是否符合加州兩造合意(two-party consent)法律等，且重點是，機器人「說得跟人一樣」真的很重要嗎？
谷歌執行長Sundar Pichai在大會上親自介紹這款人工智慧新應用，他說即使是美國，也約有六成的小企業沒有線上預約服務，所以他認為人工智慧可以在這方面幫忙做點事。他利用Duplex加持的Assistant，幫主人打電話給一家真實髮廊做一個剪髮預約的示範。Assistant以女性聲音對髮廊說：「我要幫一位客戶訂一個女子剪髮，我想要在5月3日那一天。」髮廊說：「好的，請等我一下。」Assistant說：「嗯哼(Mm-hmm)。」接下來就聽到現場觀眾的驚訝歡笑聲。另一個示範以男性聲音的Assistant打電話給餐廳訂位，因為人數與日期問題，雙方做了算「深度」的訂位溝通，Assistant不但都理解，還說了：「喔，我了。」(Oh, I gotcha.)當然，這麼自然不著機器痕跡的語言，又再度引起現場歡笑聲。
「嗯哼」、「我了」不只有笑果，還掀起了後續道德與法律的海嘯。在這兩場演示中，接電話的店家都沒察覺出是機器人，而這點也正是Pichai想要秀給大家看的，Duplex「說得像人」的自然語言理解及深度學習功力。牛津互聯網研究所(Oxford Internet Institute)的數位倫理實驗室(Digital Ethics Lab)研究員Thomas King說：「谷歌的實驗看起來好像是設計來做欺騙的，因為他們最主要的假設是『你能分辨這與真人間的差異嗎？』在這種情況下，實在很不清楚為何他們的假設是落在欺騙，而不是關於使用者經驗。」基本上他認同一個共通原則，就是人類應該永遠能夠知道，他們正在互動的人工智慧並不是一個真人。
被道德批判後，接下來就是法律質疑。因為要「說得跟人一樣」，所以人類說的話要被錄音下來好送往數據中心做分析運算，而這點是否違反了加州刑法第632條規定，任何一個人，故意或未經各造同意下，利用電子裝置錄下「秘密通訊」的內容。好，就當錄音的一造是機器人，州法對「人」的定義為：個人、商業協會、合夥企業、公司、有限責任公司或其它法律實體以及代表政府部門的個人。看來屬於公司應沒問題，再來就是所謂的「秘密通訊」，也許谷歌會說訂髮廊與餐廳算得上那門子「秘密通訊」！州法則對此定義為：任何發生於可以合理地指出，通訊各造想要對各造保密情況下的通訊。髮廊與餐廳接受客戶預約，雖然算不上什麼救國救民大機密，但也該算是小企業的商業機密吧？更何況還有時間地點與姓名等隱私個資。
柏克萊加大資訊隱私與互聯網法律教授Chris Hoofnagle說：「在大多數情況下，電話交談屬於客觀秘密。」加州與其它十一個州是實施較嚴格的各造合意通訊保密法律，除非谷歌只想賣Duplex給只需單方同意錄音的其餘38州，否則這項「說得跟人一樣」的技術就會為它製造法律問題。Hoofnagle說：「必須獲得人們對錄音的實質同意或默許，且重要的是，這個同意不可以是『被故意建構起來的。』」哈佛大學Berkman Klein互聯網與社會研究中心的Mason Kortz也說：「最大的問題在於什麼話被送到數據中心，以及它們如何被保存下來。如果是以原始對話可被理解的情況保存下來，這就構成違法了。」
彭博社5月19日的一篇報導指出，谷歌自從I/O大會秀給大家看後飽受批評，兩天之後，谷歌就說這項服務將會在電話上被「正確識別出來」。5月17日該公司的TGIF週會上，高層說Duplex機器人會先說自己是Google Assistant，也會告訴受話方的人類，通話會在某種法律管轄權限內錄音。雖然未來如何被實際應用，谷歌還沒有給出脈絡，但一聽到電話要錄音，就令人懷疑會有幾間小商家願意接這筆生意了。
從谷歌得意地秀出這款產品，可看出技術上應幾乎沒什麼困難，但從引發的道德與法律撻伐，以及該公司的事後緊急補救，就猜得到他們也自覺玩過火了。想玩「說得跟人一樣」技術的大科技公司不只谷歌，微軟於5月20日宣布併購也玩這項技術的柏克萊初創公司Semantic Machines，微軟的人工智慧技術長在官網部落格上說，併購這家公司，是想要：「把語言介面的可能性界線再往前推。」但很清楚的，人工智慧的可能性界線已不在技術，而在科技人都該思考的道德與法律紅線。
記者 Pegasus J. Juan
