Claude: テキスト水印の仕組みと検出API計画

今週、AnthropicがClaudeの生成テキストに水印を追加すると発表した。RedditやXでは早速賛否が飛び交い、「ユーザーを信用していない」という批判も出ている。8月15日の公式ブログは、水印の仕組みや編集耐性、コード生成への影響といった疑問に正面から答えた内容だ。

水印はどう動くのか

仕組みは思ったよりシンプルだ。Claudeは文章を生成する際、天気を表すのに「overcast」と「grey」のどちらを使うか、といった意味に影響しない選択をしている。ここに意図的なパターンを埋め込む。読者には感じられないが、正しい鍵を持つ人ならそのパターンを検出できる。

• 意味の変わらない単語レベルの選択でパターンを形成
• 鍵による検証で、確定的に判定
• 出力品質は水印なしと同等と公言

技術的には、Google DeepMindのSynthID-Textを採用予定だと明かした。さらに水印検出APIの提供も計画している。これが実現すれば、第三者がAPIを呼び出して「この文はClaudeが書いたか」を検証できるようになる。

AI検出ツールとは根本的に違う

注意したいのは、水印と一般的なAI検出ツールは別物だという点だ。Pangramのようなサービスは文章のクセから統計的に判定する。「これはXではなくYだ」のような定型的なフレーズを手がかりにするため、誤判定も起きる。しかし水印は推測ではなく、鍵を使った決定的な検証だ。公式ブログもこう断言している。

「これらのパターンを検出することと、水印をチェックすることは根本的に異なる」

前者の誤検知リスクに悩まされるより、後者の確実性が選ばれるのは自然な流れだ。

ユーザーの反応とEU規制のプレッシャー

水印の発表後、Redditでは「陰謀だ」という声から「AI生成テキストを隠したい人だけが反対する」という切り返しまで、意見が真っ二つに分かれた。Business Insiderによれば、X上では「数十人」のユーザーが解約を表明しているという。数はそれほど多くないが、信頼問題が確実に存在することを示している。

ただし、この動きは完全な自発ではない。EUのAI法案がAI生成コンテンツの識別手段を求めており、Claudeの水印はその透明性要件を満たすための側面もある。コード生成についてもブログで言及されているが、詳細はまだ明らかになっていない。いずれにせよ、水印によってコンテンツの由来を追跡しやすくなるのは確かだ。次の注目は、検出APIの公開時期だろう。