儘管 OpenAI 開發出準確率高達 99.9% 的 AI 檢測工具，但卻選擇不公開，引起各界議論。OpenAI 內部文件中指出，該工具可以分析文本，並評估文本由 ChatGPT 編寫的可能性。OpenAI 透過在 ChatGPT 生成的文字中嵌入浮水印進行辨識，並能評估文本是由 ChatGPT 生成的可能性，並給出一個整個文檔或部分文檔由 ChatGPT 編寫可能性的分數。這項技術已研發將近兩年，但 OpenAI 內部一直存在著是否公開的爭論。
OpenAI 內部人員坦言，公開工具後可能面臨技術被破解的風險，導致技術優勢被削弱。更重要的是，公開工具可能會影響 ChatGPT 的使用率，進而影響 OpenAI 的營利。OpenAI 發言人表示，他們尤其擔心此工具對母語非英語的用戶群體產生影響。
除了技術層面的考量，OpenAI 還要面對道德和社會責任的挑戰。肯茲 (Mike Kentz) 指出，運用 AI 幫忙沒有問題，問題在於，當學生使用 ChatGPT 完成所有作業時，他們甚至不知道自己寫了什麼。這引發了教育界對 AI 作弊問題的關注，學術界正積極探討如何防止學生使用 AI 寫論文、作弊。
為了平衡技術發展與社會責任，OpenAI 目前正考慮將檢測工具提供給教育機構或公司，協助學校檢測學生的論文是否為 AI 產出。OpenAI 發言人表示，他們正在開發的檢測方法在技術上很有前景，但也存在我們必須權衡的商業風險，所以也同時在研究替代方案。
根據 OpenAI 的調查，69% 的 ChatGPT 用户認為 AI 檢測技術會導致錯誤指控；近三分之一的用戶表示會因為檢測技術而減少使用，或轉而使用其他 AI 工具。民主與科技中心 (Center for Democracy & Technology) 的調查則發現，59% 的國高中教師確信一些學生使用 AI 完成作業。
OpenAI 握有 AI 檢測工具卻選擇不公開，反映了 AI 技術發展所帶來的倫理和社會挑戰。這也再次提醒我們，AI 技術的發展不能只考慮技術本身，更要考慮其對社會的影響，以及如何負責任地運用 AI 技術。
參考資料：《華爾街日報》、《Tom’s Hardware》、《ZDNET》
【推薦閱讀】
☛ Apple Intelligence 付費解鎖？果粉荷包危機
☛ 無人駕駛計程車興起，傳統司機生計危機臨頭？
☛ AI 發展潛能無限，但企業應當審慎應對面臨的風險！