8/2以降Claude使ったらAI使ってるの自明になるよ。
>>26
読んだけど意味がわからん
テキストにマーキングって書いてあるけど
たとえばClaudeが出力したテキスト文を
手作業で全文を書き直せば跡は残らないよね？
>>27
手書きの意味がよく分からんけど、モデルを跨いで出力すれば検出力は落ちる
場合によっては透かしの都合で文章の精度も下がる可能性はある
>>27
ゼロから書き直せば残らないとは思う。
部分的にでも、そのまま使うと透かしが混入してる可能性がある。
あとは上で言われてる通り、透かしを入れるためにクオリティが落ちる可能性はある。
特に短文。
>>31と補足。
ゼロから：文章書き換えるリライトね。
手書きで丸写しでは意味ない。
>>26
Claudeで作成した如何なる文章にも透かしが実装され、透かしがあるかどうかを探す手伝いをする。
透かしはコピペでも引き継がれる。
手書きで書き写せばよくね？
>>30
丸まま手書きで移せば抜けるという意味ならそれは違う
>>31
手書きで判定回避できる
>>32
手書きで判定回避できない
がいるけど、32の場合は 透かし・ウォーターマーク は残らないけどそれ以外
言い回しの頻度とかでAI感が出るしバレるって言う認識でOK？
>>37
31たがわかりにくくてごめん。
31も32も同じことで、手書きで丸写しでは判定回避不可。
ゼロからっていうのは、文章移さず自分の文章で書けば回避可能という意味。
Claudeの出力した文書であれば、手書きでも透かし入ってる。
>>39
そういうことね
AIが執筆した文章が含まれていれば手書き（人力コピペ）でも透かし入ってる。
>>30
いや、文中にわからない形で埋め込まれるから手書きとか関係ない。
>>26
少なくともポン出しそのままみたいなのは確実に検出されるようになるから、まともにやってる人には朗報だな。
>>26
単純な実装だと「文章中に非表示文字を混ぜ込む」などがある
生成者がそのことを知らなければ検出精度ほぼ100%の透かしになるけど、知っていれば容易く無効化できる
文面的にこちらの線は薄い
複雑な実装だと、LLMの生成結果に独特の偏りを持たせて生成物を識別するという方法をAnthropicが研究してる
例えば単語ABCDの出現率は1:2:3:4になるのが統計的に正しいのに、あえて1.2：2.1：2.9：3.8とわずかに偏らせることで検出器を通さないと分からない程度の癖をつける感じ
透かしとしての精度は当然落ちるし、検出器を一般公開すると実効性が失われるのでClaudeで生成したら即バレするみたいな展開にはどう足掻いてもならない
後者の場合、検出精度は言語依存になるのも無視できない
今回のはEU対策なのであちらの言語に対する検出精度は高めだろうけど、日本語だと精度激減って可能性も普通にある（モデルの性能よりも検出精度を優先するって判断はしないだろう）
>>26
制限事項
機械可読マークはコンテンツに関する重要なシグナルを提供しますが、すべてのコンテンツ タイプにわたるマークの限界を理解する価値があります。
検出されたマークは、コンテンツが Claude によって処理されたことを示す信号を提供しますが、完全に決定的なものではありません。
クロード マークを検出すると、コンテンツがクロードによって処理された可能性があることがわかります。
それだけでは、コンテンツの完全な出所を確認することはできません。
例えば:
クロードは原作者ではないかもしれません。
人々はファイルの校正、翻訳、要約、変換に Claude を使用することがよくあります。
基礎となるアイデア、テキスト、またはデータが別のソースから発信された場合でも、出力には Claude マークを付けることができます
クロードが処理した後に内容が変更された可能性があります。
マークされたコンテンツは、Claude が処理した後に変更、抜粋、または他の素材と組み合わせることができます。
検出されたマークがないからといって、コンテンツが AI によって生成または処理されていないわけではありません。
Claude によって生成されたコンテンツには、たとえば次の場合には検出可能なマークが付かない場合があります
これは、マーキングがサポートされる前にリリースされたモデルによって生成されました
テキストは大幅に編集、言い換え、翻訳、または他の文章に混在しています；
文章は非常に短く、信頼できる信号を送るにはテキストが少なすぎます
ファイルのメタデータは、フォーマット変換、再保存、スクリーンショット、またはその他の手段によって削除されました；
これは、特定のマーキング タイプがサポートされていないプラットフォーム、機能、またはファイル タイプを通じて作成されました。
クロードと一緒に構築する場合
Claude を自社の製品に導入する場合は、第 50 条が自社の製品やサービスに何を要求しているかを独自に評価する必要があります。
EU コードに基づく当社の約束と一致して、当社の目標は、お客様自身の透明性義務の履行をサポートすることであり、マーキングと検出のアプローチが利用可能になったら、そのアプローチに関する技術的ガイダンスを共有します。
ってあるからAIに誤字脱字修正で使っても出るんじゃない？
>>49
誤字脱字、特に修正をどこまでさせるかで指紋を埋め込む余地があるかという話になる
例えば、読みやすいように句読点足して程度だと指紋を埋め込む余地はほぼ無い
>>26の件
Anthropic、OpenAI、Google、Meta、Microsoft、Mistralのすべてが、AI生成コンテンツの透明性に関するEUの行為規範に署名と。
つまりGrokが最後の希望？
手書きかモデルを跨いで書き換えさせれば検出精度は落ちると思うけど、どうだろうね
手書き言ってる人のリテラシーすごいな。
人が読んでもあまり不自然ではない形で、言葉の繋がりを意図的に制限することが透かし
人が読んでも、どの部分が透かしなのかは分からない
人が手作業で書き換えるか、違うモデルを介して再出力すれば意図的に制限された文字列が崩れるから透かしとして検出されなくなる
こんな感じ？
>>38
正しい
出力に制限がある場合、例えば俳句のようにに575での出力が求められるとかの場合、埋め込む余地が減るのでAI産だと残せる容量は減りそう
極論、定期的にスペルを間違うってのでもAI産だとウォーターマークとして機能はするけどそれは劣化だよねっていう話にもなる
このへんは一般的なトレードオフの話
今回の実装は具体的に書かれてないからなんともだけど、そのその領域から抜け出すのは難しいとは思う
文章パターンで透かしを入れるマーキングなら魔女狩りと同じじゃないんすかね
文章にくっそ小さい文字入れるやつなら除去できるわね、ポン出しはバレるけどね
それと判定ツールが一般提供されるかは別の話
コメント