大型語言模型（LLM）的快速發展為資訊獲取帶來了便利，但也帶來了新的挑戰。近期研究顯示，LLM在處理事實、陰謀論和爭議性議題時，有傳播假訊息的風險。本文將重點分析此類模型的潛在風險及其可能造成的負面影響，並探討未來改進的方向。
最新研究揭示，大型語言模型存在傳播虛假訊息的問題，特別是在回答關於事實、陰謀、爭議等陳述時。研究強調了ChatGPT存在的頻繁錯誤、自相矛盾及重複有害訊息的情況。語境與提問方式被指出可能影響模型對假訊息的「附和」程度。由於這些模型在學習過程中可能學習錯誤訊息，這引發了對其潛在危險性的擔憂。大型語言模型技術的進步需要與風險評估和規避措施同步進行。未來研究應著重於如何提升模型對資訊的辨別能力，降低其傳播假訊息的機率，以確保其安全可靠地應用於各個領域。 這樣，才能真正發揮LLM的優勢，避免其潛在危害。