TrueMedia がコンテンツを評価しています。
トゥルーメディア
政治ディープフェイクはどの程度普及しているのだろうか？比較的情報に通じた国民のほとんどは、ジョー・バイデン大統領が1月にニューハンプシャー州の有権者に「ロボコール」したと思われるような、合成政治コンテンツの大きな例を思い出すだろう。 AIによって作成された合成音声であることが判明人工知能（AI）ディープフェイクに関する権威ある統計はないが、注目を集める少数の作品だけが広く報道されていることを考えると、懐疑的な人はディープフェイクは一般的ではないと考えるかもしれない。
しかし、あるAI研究者によると、11月の米国大統領選挙を前にAIディープフェイクが増加している可能性の方が高いという。ただ、それほど多くは見られないというだけだ。
また： 80%の人がディープフェイクが選挙に影響を与えると考えている。どのように準備すればよいか
「私は、前例のないこれらの一連の現象を目にすることになるだろうと、1000ドル賭けてもいいと思う。 [deepfakes]「11月には、作るのがとても簡単になったから」と非営利団体の創設者オレン・エツィオーニ氏は言う。 トゥルーメディア先月ZDNETとのインタビューで語った。
「私はあなたよりも多くの情報を持っているので、その賭けを勧めません」と彼は笑いながら続けた。
TrueMediaは、画像がディープフェイクであるかどうかを判断するためだけに、複数のAIベースの分類プログラムを組み立てるサーバーを運営している。この組織は、Uberの共同創設者であるギャレット・キャンプの慈善財団の支援を受けている。 キャンプ.org。
ユーザーが画像をアップロードすると、TrueMedia は、AI モデルがディープフェイクではないと確信している場合は、黄色のバブルで「不確か」、赤色で「非常に疑わしい」、または緑色のバブルで「本物」と書かれたラベルを生成します。デモを見て、プログラムのベータ アクセスにサインアップできます。 ここ。
ワシントン大学教授のエツィオーニ氏は、AIが生成した素材の検出に広範囲にわたる研究を行っているアレンAI研究所の創設最高責任者でもある。
「今年後半に選挙が迫る中、米国だけでなく世界中で、さらに多くのディープフェイク動画を制作するために、試行錯誤や試し撮り、準備を進めている人々を見ています」とエツィオーニ氏は言う。
トゥルーメディア
エツィオーニ氏は、現時点ではディープフェイクが公に出回っているのは「それほど多くはない」と言うのは正しいと考えている。しかし、実際に出回っているものの多くは、一般の人々に気付かれていない可能性が高いと付け加えた。
「あなたは本当に何が起こっているのか知っていますか？ 電報？」と彼はプライベートメッセージサービスに言及して指摘した。
また： AIエージェントが普及するにつれ、リスクも高まると学者は言う
創設者は、トゥルーメディアは、ディープフェイクの制作者が選挙シーズンが本格化する今年後半に向けて制作を強化している証拠を目にしていると語った。「試行錯誤や実験、人々が準備をしているのを目にしている」と同氏は指摘した。米国だけに限った話ではない。
「今年は重要な年です。一連の選挙が迫っているからです。 そしてテクノロジー [of deepfakes] 「選挙妨害がこれほど蔓延している」と彼は説明した。「私にとっては、全国レベルであれ、特定の投票所であれ、選挙を妨害しようとする試みがあるかどうかではなく、いつあるかが問題だ」
これに備えるため、TrueMedia は機能とインフラのネットワークを構築した。同社は潜在的なディープフェイクに対して独自のアルゴリズムを実行する一方で、Reality Defender や Sensity などの提携スタートアップ企業に資金を支払い、各社のアルゴリズムを並行して実行して共同作業を行い、調査結果を相互チェックしている。
「今まさに始まっている偽情報の津波と戦うには、草の根の取り組みが本当に必要です」とエツィオーニ氏は言う。「特効薬はありません。つまり、すべてを解決できる単一のベンダーやモデルは存在しないのです」
また： コンテンツ認証情報とは何ですか?
まず、TrueMedia はさまざまなオープンソース モデルを調整します。「ディープフェイクの可能性があるものに対して「はい」か「いいえ」を言う分類器を実行します」と Etzioni 氏は言います。分類器をアンサンブルとして実行すると、各モデルからの回答をまとめることができ、チームは 90% を超える精度を確認しています。
「これらの分類器の一部には生成モデルが組み込まれていますが、私たちが単にトランスフォーマーを実行しているわけではありません」とエツィオーニ氏は続け、GPT-4、GoogleのGemini、AnthropicのClaude、MetaのLlamaなど、他のいくつかのモデルに取って代わられたAIのユビキタスな「注意」モデルに言及した。
現時点では、TrueMedia はモデルのソース コードを提供しておらず、技術的な詳細やトレーニング データ セットも公開していない。「少なくとも現時点では、情報源や手法については慎重になっています」と Etzioni 氏は言う。「当社は非営利団体なので、独自のものを作ろうとしているわけではありません。唯一の問題は、敵対的な状況にあるため、特殊な立場にいることです」
エツィオーニ氏は、今後さらなる情報開示が行われると予想している。「適切な構造を考え出す必要があるだけだ」と同氏は語った。
また： Google の VLOGGER AI モデルは画像からビデオ アバターを生成できますが、何が問題になるのでしょうか?
これらすべてのモデルの実行をサポートするために、TrueMediaはスタートアップの協力を得ました。 OctoAIは、エツィオーニ氏のワシントン大学時代の友人であり同僚であったルイス・セゼ氏によって設立された。
さまざまなコンピューターチップやシステムで AI パフォーマンスを向上させることで実績を積んだ OctoAI は、モデルのトレーニングと予測の提供の作業を円滑にするクラウド サービスを運営しています。LLM などを実行したい開発者は、モデルをサービスにアップロードすると、残りの作業は OctoAI が処理します。
TrueMedia の推論ニーズは「ベンダー API にアクセスするだけでなく、独自のモデルを多数実行して調整する必要があるという意味で、非常に複雑です」と Etzioni 氏は言います。「また、ここはサービス拒否攻撃の標的になる可能性があるため、セキュリティについて多くの懸念を抱く必要があります。」
また： OctoAI により、生成 AI の提供がずっと簡単になりました
「選挙が近づくにつれ、TrueMedia モデルに対するクエリの実行量がかなり増えると予想しています」と OctoAI の創設者 Luis Ceze 氏は語る。「人々があまり長く待たされたり、我慢できなくなったりすることがないようにしたいのです。」
OctoAI
TrueMedia とその協力者は、ディープフェイク検索の波が増すと予想している。「特に選挙が近づくにつれて、モデルに対する検索の実行量がかなり増えると予想しています」と Ceze 氏は ZDNET のインタビューで述べた。
今後の増加は、スピードと規模が懸念されることを意味する。「私たちは社会全体として、人々がそれを使用することを望んでおり、メディアがそれを使用してそのイメージを検証することを望んでいます」とセゼ氏は付け加えた。「人々があまり長く待たされたり、忍耐を失ったりしないようにしたいのです。」
「私たちが最も望んでいないのは、サービス拒否攻撃で崩壊したり、自動スケーリングを適切に設定しなかったために崩壊したりすることです」とエツィオーニ氏は語った。同氏によると、TrueMedia にはすでに数千人のユーザーがいるという。同氏は、今年が進むにつれて、「世界中の大手メディア組織が当社のツールを使用するようになり、ユーザー数は簡単に数万人に達するでしょう」と予想している。
では、TrueMedia はそれが影響を与えているかどうかをどうやって知るのでしょうか?
「選挙が左右されるのを防げるだろうか？」とエツィオーニ氏は考え込んだ。「『選挙プロセスの完全性を守る』などという派手な言葉を使うこともできるが、それは私にとっては大げさすぎる。私はただ、その手段が利用できるようにしたいだけだ。」
また： 選挙が生成型AI時代に入る中、サイバー防衛に注目が集まる
エツィオーニ氏の目標は、ディープフェイクに関する透明性と対話を生み出すことだ。TrueMedia のコンテンツ ラベルは公開されているため、視聴者は発見したことを共有、比較、異議を唱えることができる。この追加チェックは重要だ。90% を超える精度があっても、TrueMedia のアンサンブルは完璧ではないことをエツィオーニ氏は認めている。「ChatGPT が幻覚を避けられないのと同じように、われわれも間違いを避けることはできない」と同氏は述べた。
懐疑論者は、ソースコードが公開されておらず、トレーニング データ セットが一般の精査に公開されていない非営利団体がどのような影響力を発揮するのか疑問に思うでしょう。TrueMedia が生成しているラベルを誰が信頼すべきでしょうか?
「それはもっともな質問だと思います」とエツィオーニ氏は語った。「私たちはまだ6週間しか経っていないので、もっと情報開示をしなければなりません。」
そうは言っても、エツィオーニ氏は、他の選択肢と比べて、TrueMedia のアプローチがオープンであることを強調した。「私たちは、内部で公開されていたり、販売されていたりする他の多くのツールとは異なり、結果に関してはオープンブックです」と同氏は語った。
トゥルーメディアは、ディープフェイクの現状に関する分析を数週間以内に発表する予定だ。「私たちは、メディアで目にするものについて人々にもっと批判的に考えてもらうようにしています」と同氏は語った。
