OpenAIは、欧州連合（EU）のAI規制に対応するため、AIが生成した文章に目に見えない「透かし」を加える方針を明らかにしました。
文章の単語選びに統計的な特徴を埋め込む仕組みですが、短文や数学的な文章では判定が難しく、少し言い換えるだけでも検出精度が下がります。
透かしはAI生成を見分ける手掛かりとなる一方、人間の関与や文章の正しさまで証明するものではありません。
OpenAIがテキスト透かしを導入する背景
EUのAI法（EU AI Act）は、生成AIの提供者に対し、AIが生成したテキストを機械で識別できるようにすることを求めています。
OpenAIはこの要件に対応するため、テキストに透かしを付与する技術を導入すると発表しました。
同社が開発した仕組みは「textGrain」と呼ばれ、文章を生成する際の単語の選択に統計的なシグナルを加えます。
人の目には通常の文章と同じように見えますが、対応する検出ツールは単語の選ばれ方を分析し、OpenAIのモデルが生成した可能性を判定します。
画像にロゴや模様を重ねる一般的な透かしとは異なり、文章の表現そのものに識別の手掛かりを組み込む方式です。
提供対象と利用開始の時期
透かし技術は段階的に提供され、利用者やサービスによって適用方法が異なります。
| 対象 | 提供内容 |
|---|---|
| API | 一部モデルで透かしを選択して付与できます。既定では無効です。 |
| ChatGPT・Codex | 今後数週間でEU域内の全プランに順次導入され、対象となる出力に透かしが加わります。 |
| 検出ツール | 当面は申請・承認を経た研究者や専門機関に限って提供されます。 |
ChatGPTやCodexでの導入はEU向けであり、世界共通の既定設定として透かしを付けるわけではありません。
一方、APIでは全世界の利用者を対象に、対応モデルで透かしを選択できるようになります。
OpenAIは技術のオープンソース提供も計画していますが、提供時期や具体的な利用条件は発表内容を確認する必要があります。
透かしの検出には技術的な限界も
文章に透かしが埋め込まれていても、常に高い精度でAI生成だと判定できるわけではありません。
文章が短いと分析できる単語が少なく、統計的な特徴を十分に確認できないため、検出精度は下がります。
数学の文章のように、使える表現や語句の選択肢が限られる場合も、透かしの手掛かりを捉えにくくなります。
さらに、文章の一部を同義語に置き換えるなどの編集でも、検出結果は変化します。
OpenAIの説明では、単語の約10％を言い換えるだけでも検出率が大きく低下し、約25％を編集すると判別はさらに難しくなります。
このため、検出ツールは一般向けに広く公開するのではなく、信頼性や使い方を検証できる研究者・専門機関に限定して提供されます。
検出結果は確定的な証明ではなく、生成元を推定するための一つの手掛かりとして扱う必要があります。
透かしだけでは分からないこと
テキスト透かしが示すのは、文章が特定のAIモデルによって生成された可能性であり、文章の作成過程すべてを記録するものではありません。
たとえば、AIの出力を人がどれほど修正したか、誰が権利を持つのか、誰が責任を負うのかは、透かしから判断できません。
生成に使われたユーザーやアカウントの特定、内容の正誤の確認にも使えません。
反対に、検出されなかった文章が人間によって書かれたと証明されるわけでもありません。
透かしが消えるほど編集された文章や、もともと検出が難しい短文では、AIが関与していても判定できない可能性があります。
複数の技術を組み合わせる方針
OpenAIは、単一の技術だけでAI生成コンテンツを識別することには限界があると説明しています。
そのため、文章の透かしに加え、画像向けの「Content Credentials」や、画像・音声向けの「SynthID」なども含めた多層的なアプローチを重視しています。
コンテンツの種類や利用状況に応じて複数の手掛かりを組み合わせることで、単独の検出方式に依存するリスクを抑える狙いがあります。
ただし、複数の技術を併用しても、生成元や編集履歴をあらゆる場合に完全に特定できるとは限りません。
まとめ
OpenAIはEUのAI法への対応として、textGrainによる文章の透かしを段階的に導入します。
検出は短文や数学的な文章、編集された文章で難しくなり、透かしだけで人間の関与や内容の正しさを判断することもできません。
AI生成の確認には、透かしの有無を断定材料とせず、コンテンツの出所や編集状況など、複数の情報を併せて見ることが重要です。