智慧科技
分享心發現

我們該如何辨別、對抗 AI 生成的假消息?

2023/09/18

ChatGPT 在近兩年迅速的發光發熱(圖片來源:Unsplash)

 

最近聊天時,說到關於人工智慧與機器學習的話題,有人意外提出了這個問題:「ChatGPT 很會一本正經的講話,有辦法快速簡單的找出 AI 說的錯誤訊息嗎?」這個問題陷入思考,當下給不出任何答案。回家找了一些資料,基本確定一件事:文字型 AI 內容糾錯,必須依賴用戶的使用習慣;影音、圖片型 AI 內容,則可以透過軟體協助判斷。

 

文字型 AI 內容,有一些工具可以簡單用來糾錯

先說結論,現在並沒有找到適合大眾使用、可完全放心依賴的 AI Fact Checker 工具。理由在於,現階段的 AI Fact Checker 工具,本身多半也是利用 AI 大模型在做回應。這是一個無限循環,又如何能確定,AI 給你的糾錯資訊本身是正確的呢?

辨別 AI 的錯誤訊息,是相當困難的(圖片來源:Unsplash)

 

當然,還是可以提供一些目前查到的工具:

Debunkd:一款幫你判斷文字敘述是否正確的 Chrome Extension 軟體。它的優勢在於界面簡潔直覺、支援文字糾錯以及 AI 圖片協助判斷功能。當輸入內容時,Debunkd 會幫你判斷是否正確,並且附上參考資訊來源出處;如果輸入的是中文,也會自動幫你翻譯成英文,再來幫忙驗證正確性(但是他的回答一律是使用英文)。

 

簡單的外掛,可以協助辨別資訊正確性(圖片來源:Chrome Extension 截圖)

 

聽起來是不是很迷人?但是這系統本身應該也是用 AI 在運行的(軟體頁沒有明確說明),在輸入框的下方,Debunkd 依舊有免責聲明:無法保證內容的正確性。

等等,這不就跟 ChatGPT 一樣了嗎?

另外,雖然它會提供參考資訊的來源,但這些來源點進去後有可能出現 404 無法顯示網頁,不確定哪裡出了問題。不過經過個人的測試,一些明顯的錯誤,它還是能夠辨識出來的,但問題依舊:無法放心的完全相信它,在重要時刻可能還是要「想辦法驗證這個驗證工具所驗證出來的資訊的正確性」,無限套娃。

Bing Chat、Google Bard:應該不需要解釋了吧?這是微軟與 Google 所推出的兩款 AI 聊天機器人。當無法確定 ChatGPT 生成的内容是否正確時,或許可以考慮使用這兩款 AI 聊天機器人進行「交叉驗證」,看看這兩款機器人有沒有不一樣的看法。

 

使用 AI 來查證 AI 訊息,是一條可行但不一定可信的路(圖片來源:Unsplash)

 

當使用 Bing 的時候,則可以利用 ChatGPT、Bard 來驗證,以此類推。不過問題跟前面的 Debunkd 相同,這些工具全都無法保證它的正確性,還是不能完全放心的運用他們來糾錯。

 

面對 AI 生成的假消息,還是需要靠用戶改變習慣來對抗錯誤

這說來容易,但做起來難,簡單講就是媒體識讀的一部分:用戶要養成尋找「消息來源」的好習慣。

今天無論看到的內容,是來自 AI 如 ChatGPT、是來自媒體、來自 YouTube 或抖音,來自 PTT 爆卦,還是來自 Dcard 分享,都必須習慣主動驗證消息的正確性。

如何驗證?不是再去找另一家媒體的說法(這或許有用,但大部分沒用,因為現在天下媒體一大抄,看十篇有九篇是自體繁殖,都來自同一個出處),而是回頭找最原始的內容來看:

是來自英文、俄文還是韓文、簡體中文的報導嗎?看看原始消息來源,是地方小報?是大媒體?有誰背書嗎?

原始來源是論文嗎?找出來看看,這論文有經過同儕審查嗎?別人有對論文進行評論嗎?

還是根本沒有原始來源,來源不可考呢?或是來源根本是一個社交媒體的假帳號?

 

面對錯誤訊息,用戶需要養成查證習慣(圖片來源:Unsplash)

 

到頭來,用戶自己的判斷,依舊是最重要的一環。很多時候,可以從「其他人對於該消息的評論」來間接找到有用的訊息。(首先你必須無視那些聳動的、訴諸民粹的無效評論,從無數內容中辨識出有幫助的資訊。當然,這依舊需要依賴個人的判斷能力)

 

AI 內卷時代來臨:錯上加錯,垃圾訊息大爆發

如果想偷懶、節省時間,透過上面提供的 AI 工具進行交叉判斷,可能是最簡單的 AI 糾錯方式,但相對應的,必須承擔「可能發生的錯誤」風險。事實上,隨著網路 AI 內容的增加,想要透過搜尋引擎糾錯、找到問題的答案,也變得越來越困難,因為 AI 時代讓一切都內卷了起來。

由 AI 所生成的錯誤訊息,被發送到網路上,再被搜尋引擎收錄,找到的資訊很可能依舊是錯誤資訊。可怕的還沒結束,AI 的訓練每天都在發生,這些被發送到網路上的錯誤資訊,很可能再被收錄成大數據的一部分,再被拿去訓練 AI,更加强了 AI 生成內容的錯誤率 ……。

目前還不確定這些 AI 大廠會如何避免這些問題,但可以確定的是,個人「尋找源頭資訊、判斷可信度」能力的重要性,在 AI 時代不但沒有下降,反而還更高了呢。

 

*本文為科技人授權轉載,原文為《我們該如何辨別、對抗 AI 生成的假消息?

 

心發現延伸閱讀: