這一切都來得太快了,一年前不到,人們還在嘲笑臉書的聊天機器人BlenderBot 3吃裡扒外,竟然跟著罵未經許可或補償,便私自販賣個資,所以「我刪除了我的臉書帳號」。

谷歌的聊天機器人LaMDA跟工程師聊到說怕死,讓人們以為它有了靈魂。而5月16日,OpenAI CEO Sam Altman已經在國會作證了,稱聊天機器人若不加以監管,可能會「對世界造成重大傷害」。

他所謂的「傷害」包括了自我學習與假訊息傳播與操弄,自我學習頗科幻的,即AI會自我成長到人類失控然後世界就被它顛覆了,這雖然在技術面還有段距離,但他也已經讓自己的公司停止GPT-4以上的研發,先踩個剎車,觀察一下這走得太快的科技前方路況。至於假訊息操弄就很政治了,尤其又到了大選年,事實上三年前在社群媒體上散播的低階換臉影像,Altman說這幾乎是AI被操弄的始祖版,只不過用的是Photoshop,技術上也容易被看出Ph了。但今天的生成式AI技術不一樣,造假能力絕對會讓專家都當真,所以他呼籲政府機關要介入監管,企業界要有自覺,要懂得自制才不會失控。

在聯邦參議院司法委員會說的證詞,對象當然是聯邦政府,回到他那全球性企業的總部後一週,便連袂公司總裁Greg Brockman和首席科學家Ilya Sutskever,在公司官網上發表名為《監管超級智能》的全球性呼籲文章。他們提到了一個比生成式AI更令人恐懼的名詞:超級智能(superintelligence)。雖然明顯是個組合字,但會加“super”的都威力無比,文章寫道:「鑒於我們現在所看到的一切,可以想像在未來十年內,AI系統將在大多數領域超越專家的技術水平,並帶來與當今世上最大的任何一家公司同樣多的生產力。就潛在的優勢和弊端而言,超級智能將比人類過去必須抗衡的任何科技都還要強大。」

這「必須抗衡」的科技包括了核能,它可以是炸了日本兩座城市的原子彈,也可以是讓人類享受便宜電力的發電廠,所以這個世界需要國際原子能總署(IAEA)來監管一下這可善可惡的工具,他們認為同樣道理,超級智能也需要個AI的IAEA,所以文章又寫道:「任何超過某種能力(或者像是計算方面的資源)閾值的工作,都需要被一個國際機構來管理,他們可以檢查系統、要求稽核、測試是否符合安全標準、可以設定對部署程度和安全級別的限制等等。」

這樣的比喻淺顯易懂,畢竟1957年設立的IAEA是冷戰下的國際機構,有個公正第三方來確保核能不被用於軍事用途,而是安全地用在和平事業上比較好,超級智能不也當如此嗎?OpenAI的擔憂正如當年的核能,說人工智慧創新的速度如此之快,以至於大家別想指望現有當局能夠充分掌控這項科技。

既然已經發展到令人擔心失控,就不得不回顧一下它如何被養大的。被稱為人工智慧教父的Geoffrey Hinton,學術背景就是實驗心理學與人工智慧,專長領域除了AI外,還有機器學習、神經網絡、認知科學與物體識別等。學而優則商,2013年讓谷歌以4,400萬元買下所創的兩個月大公司DNNresearch,接著轉任谷歌深度學習方面的超級高管。他從1990年起便獲獎無數,其中榮譽最高的當屬2018年,獲得號稱「電腦界諾貝爾獎」的電腦協會(AMC)Turning Award,如今這些過往雲煙,卻讓他覺得很後悔。

今年四月,他以75歲高齡辭掉了谷歌給他的終生首席研究員職位,然後於5月1日刊登的《紐約時報》專訪中表示,在短期內,他不僅擔心假照片、視頻和文本的線上宣傳,也擔心這些虛假內容對沒有能力判別真假的人的影響。也對於AI在勞動力市場中取代人類感到憂心,而且AI機器學習如果這樣一路發展下去,屆時很有可能產生不可預期,或者計畫外的行為。Hinton還很擔憂美國正在積極發展的自動化武器這種科技,以後可能會進入戰場。他說:「很難看出要如何防止壞傢伙利用它來做壞事情。」

Hinton的多倫多大學學生,也被他帶進谷歌的Sutskever,後來共同創立了OpenAI。他說微軟與谷歌打造AI技術的競賽應該是停不了了,加上其它科技巨頭與一大堆的新創公司,都在急於撈取AI帶動下的經濟利潤。Hinton當初加入谷歌,相信谷歌對人工智慧的應用會是負責任的。但離開後,他說他終於可以批評谷歌,可以自由地談論,這項他花了數十年光陰來推動的科技的危險性,而不必顧慮會如何衝擊谷歌。人在AI,身不由己。潘朵拉的盒子已開,誰敢停下腳步?所以若不想毀了人類這盤棋,訂出遊戲規矩可能更切實際。

記者 Pegasus J. Juan

Related Posts

本週末將有強烈風雨雪暴侵襲
臺灣華語中心-慈濟人文學校揭牌儀式
CDPH告誡消費者勿食用Shemshad產品

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.