科技巨頭 Google 推出最新 AI 內容檢測工具 SynthID Text，這項技術旨在協助開發者和企業辨識 AI 生成的文本，進而降低假訊息和詐騙風險。SynthID Text 已於今年春季整合至 Google 的 Gemini 模型，並於近期開放原始碼，讓全球開發者和企業可透過 AI 平台 Hugging Face 和 Google 更新的 Responsible GenAI Toolkit 下載使用。
SynthID Text 的運作原理是透過「調整符號生成的機率」，在文本生成模型的符號分布中加入額外資訊，形成浮水印。這些分數模式可以與預期浮水印和未加浮水印的文本分數進行比較，進而協助檢測文本是否由 AI 工具生成。Google 在 X 平台的貼文中表示：「我們正在開放原始碼釋出 SynthID Text 浮水印工具，免費提供給開發者和企業，協助他們識別 AI 生成的內容。」
Google 解釋，SynthID Text 的工作原理是「模型選擇單字的最終分數模式，與經過調整後的機率分數結合形成浮水印。」他們也強調，對於事實性提示的回應，調整符號分布的空間較小，且不會影響事實的準確性。
值得注意的是，現有的 AI 檢測工具經常將風格較為一般的文章誤判為 AI 所撰寫。SynthID Text 在面對短文本、經過改寫或翻譯的文本，以及針對事實性問題的回應時，效果也較為有限。因此，雖然 Google 積極推廣 SynthID Text，但仍需進一步觀察其實際應用效果。
隨著 AI 內容生成技術的快速發展，打擊假訊息、宣傳、詐騙與欺騙行為也面臨著新的挑戰。根據統計，預計到 2026 年，網路上 90% 的內容可能會由 AI 合成生成。目前網路上近 60% 的句子可能已由 AI 生成，主要是因為 AI 翻譯工具的廣泛使用所致。因此，如何有效辨識 AI 生成的內容，並制定相關規範，將成為未來發展的重要議題。
除了 Google 外，OpenAI 也研究了類似的技術多年，但因技術和商業考量，尚未推出相關技術。目前，關於 SynthID Text 是否能獲得廣泛採納，以及是否會出現統一的標準或技術，尚無定論。未來，各界將持續關注 AI 內容檢測技術的發展，以及相關法律法规的完善。
資料來源：《TechCrunch》
【推薦閱讀】
☛ 科技巨頭擁核風潮：電力需求飆升，核能成未來解答
☛ Stripe 收購 Bridge！進軍加密貨幣市場，強勢擴展數位金融生態
☛ AI 代理即將席捲職場！微軟助企業解鎖自動化新境界