利用社群網站直播自殺行為越來越氾濫,Facebook於三月初就宣布要用人工智慧技術(AI),來辨別用戶是否處自殘風險,並提供必要協助。
這款從近二十億用戶傳來資料訓練出來的計算法,可找出用戶貼文內容的警訊,同時也在收到後回覆。當紅旗舉起時,一組人工審閱者就會警覺,並接觸用戶及提供幫助。
Facebook表示,他們已與慈善機構和求助熱線合作,找出方法讓那些風險中用戶能及時與輔導員或顧問接觸。
該網站十幾年前,就開始對自殺行為監控及提供協助,但都是靠用戶舉報,如今才進步到用人工智慧。該系統利用模式辯別技術來識別貼文是否「非常可能有自殺念頭」,然後再轉給人工介入。
Facebook表示,這是首度部署人工智慧來檢視用戶有麻煩的貼文,未來的可能用途,或能辨別潛在恐怖份子。