日立製作所發展出一項新技術，能夠有效辨識出由生成式AI所創作的文章。這項技術透過分析文章中詞語的使用模式來判斷其來源，具有重要的應用價值。在生成式AI技術快速發展的背景下，如何辨別AI生成內容與人工創作內容，並有效規避由此帶來的風險，成為全球關注的焦點。這項技術不僅可以幫助企業和機構避免侵犯版權等法律風險，更能有效阻止虛假資訊的傳播，維護資訊安全。
近日，日立製作所搞出了一項厲害的自主技術，能夠判斷文章是不是由生成式AI 創作的。
這技術可不簡單，它是根據文章裡字詞的使用模式來判斷的。為啥要弄出這麼個技術呢?那是因為在未來，它用處大著呢!不僅能防止那些由生成式AI 製造出來的錯誤訊息到處傳播，還能幫企業和行政機關在寫重要文件的時候，避開侵害著作權之類的風險。
現在圍繞著生成式AI ，歐盟、美國和日本都沒閒著，在逐步完善法律法規，還不停地進行相關討論。他們覺得，開發大規模語言模型（LLM）的企業，應該把影片、圖像和文章是來自生成式AI 這件事給註明了。
而日立新開發的這項技術，將會嵌入AI 開發企業基於LLM 的文章創作技術當中。它也定了個規則，就算有很多同義詞，還是得用特定的詞語。要是文章裡大量用了基於這個規則的詞語，那就會被判斷是由AI 創作的。聽說日立也發展出了能結合多種字詞選擇規則的技術，這讓判斷的準確性大大提高了。
說起生成式AI ，有個麻煩的問題，就是會生成和事實不符的內容，也就是所謂的「幻覺」。但如果能事先辨識出文章是由生成式AI 創作的，那就能降低傳播假訊息的風險啦!
劃重點:
日立的技術為應對生成式AI帶來的挑戰提供了新的解決方案，其在防止虛假資訊傳播和維護智慧財產權方面的作用值得期待。隨著技術的不斷完善，相信未來會有更多類似的技術出現，幫助我們更好地利用AI，同時規避其潛在風險。