ChatGPT遭濫用狂產假新聞 專家示警:AI內容農場激增要謹慎閱聽

  •  2023-05-03

匯流新聞網記者王佐銘/綜合報導

近來隨著ChatGPT大爆紅,生成式AI受到各界熱烈關注。不過ChatGPT的推出有利就有弊,近日國外媒體就發現,因為ChatGPT可以生成文字內容,且幾乎沒有任何人檢查和監督,目前已經出現許多內容農場,恐怕訊息真偽需要閱聽人明智地判斷。

根據外媒報導,近日有網站信任評比公司發現,自ChatGPT推出後,已經發現49 個冒充新聞網站的內容農場,當中所有的內容都是由 AI 捏造。據了解,這些網站包括中文、英文、法文、泰文等多種語言,且因為該網站都是以新聞網站形式出現,且藉由AI 語言模型進行編寫文章,因此讓他們相當難以分辨。

不過經過人員們大量檢視AI生成文件發現, ChatGPT在部分文稿會出現,「我的訓練日期到 2021 年 9 月為止……」、「但是我可以為你提供文章摘要」、「我無法完成此提示」等字句,甚至直白地回應出AI模型建構內容,包括倫理道德、沒有科學證據等字眼。

對此,有專家表示,GPT-4在生成文字時可能會編造非事實性的回答,這可能會對使用者造成誤導和負面影響。可以考慮引入更多的事實驗證機制和檢查機制,同時需要給予模型更加高品質的訓練資料。另外,語言模型的訓練資料可能存在一定的模型偏見,例如性別、種族、文化背景等方面的偏見。為了解決這個問題,需要更加細緻的調整和訓練模型,同時更加嚴格的審查和檢查模型的輸出結果。

另外也有專家示警,果我們看到一篇文章,已經註明利用ChatGPT 或人工智慧工具完成或協作,我們就要假設裡面的事實可能有錯、會腦補。但假如沒有註明,那就跟平常看到任何文章一樣,隨時保持注意,保持懷疑,如果對於內容有任何疑慮,就進行事實查證。

《更多CNEWS匯流新聞網報導》

郭台銘提1縣市1核電廠 柯文哲:不是他講錯 太前衛大家追不上

「低薪一原因是教育出問題!」 柯文哲:有些科系教出來學生沒那個價值

【文章轉載請註明出處】