2 次瀏覽

OpenAI文字浮水印先登歐盟 台灣用戶何時全面適用仍待確認

OpenAI宣布將在歐盟地區率先推出名為textGrain的文字浮水印技術,這項技術會在ChatGPT與Codex生成的回覆中加入肉眼看不見、但機器可讀的標記,以協助辨識文字是否出自AI。這項措施主要為了因應歐盟《人工智慧法案》的透明度要求,但OpenAI明確表示,這項功能目前不會成為全球預設選項,台灣用戶短期內還不會在介面上直接看到此功能。 OpenAI在官方說明中表示,textGrain浮水印的偵測表現「達到或超越」其他類似方案,包括Google DeepMind的SynthID技術,以及Anthropic在八月宣布採用的方法。Anthropic同樣是為了符合歐盟《人工智慧法案》而導入文字浮水印。OpenAI也公布AI基準測試分數,顯示加上浮水印與未加浮水印的文字在效能表現上相近。不過OpenAI坦承,textGrain「無法保證可靠偵測」,且文字浮水印無法驗證內容正確性、判定文字所有權、衡量人類貢獻程度,或證明文字完全由人類撰寫。 這項功能將在未來數週內,陸續提供給歐盟地區所有方案的ChatGPT與Codex用戶。OpenAI解釋,先以區域性方式推行,是為了從實際使用與回饋中學習,再決定是否擴大至全球。與此同時,OpenAI也開放全球API客戶可選擇啟用浮水印功能,適用於特定模型,讓客戶自行決定如何符合透明度義務。OpenAI也正與雲端夥伴合作,未來數週內將讓透過這些服務使用OpenAI模型的客戶也能使用浮水印。 在偵測工具方面,OpenAI自即日起開放研究人員與專家組織申請使用偵測器,初期採個案審核方式,以支援文字來源的評估與改進。這項工具會回報是否偵測到OpenAI浮水印,但不會辨識使用者身分,也不會揭露提示詞或對話內容。考量到可能漏掉浮水印或出現誤判,OpenAI目前未將偵測器全面公開。 回顧先前報導,OpenAI曾同意讓歐盟監管機構接觸其新型網路模型,而Anthropic當時仍持觀望態度;此外,OpenAI也推出Codex獨立應用程式,初期暫向蘋果電腦用戶開放。這次文字浮水印的推出,顯示OpenAI在歐盟監管壓力下逐步調整產品策略,但全球部署時程仍未有明確時間表。 【解讀】OpenAI選擇先在歐盟推行文字浮水印,而非全球同步,反映出具監管需求的地區優先處理的務實策略。對台灣讀者而言,短期內使用ChatGPT或Codex時不會感受到差異,但若未來OpenAI將此功能設為全球預設,AI生成文字的來源辨識將變得更透明,有助於學術寫作、新聞產製與內容審查等應用場景。不過,浮水印並非萬能,OpenAI自己也承認偵測並非百分之百可靠,因此實際效果仍待大規模使用後檢驗。 幾個還沒答案的關鍵問題: 1. textGrain浮水印在非英語文本(如繁體中文)的偵測準確率為何?OpenAI尚未公布多語言測試數據。 2. OpenAI何時會將文字浮水印從歐盟擴展至全球預設?官方僅說「區域性做法」,未給出具體時間點。 3. 偵測器何時會開放給一般公眾使用?目前僅限研究人員與專家組織申請,公開時程未定。 4. textGrain與Google DeepMind SynthID在實際大規模部署下的效能比較數據,是否會公開?目前僅有OpenAI單方說法。

參考來源

READ NEXT

相似新聞