聞いたことがあるかもしれない 物語 家族が電話を取り上げて、恐怖に怯えながらすすり泣く愛する人の声を聞き、続いて誘拐犯が即時の送金を要求する声を聞く。
しかし、これらのシナリオでは誘拐は行われていません。これらの声は本物であり、詐欺師がAIモデルを使用してディープフェイクを生成して操作しただけです（誰かが ジョー・バイデンの （ニューハンプシャー州の予備選挙で有権者の投票を阻止するために、声を盗聴する行為が行われた。）これらの声が不気味なほど本物であるにもかかわらず、子供、配偶者、または親が誘拐されていないことを証明するために、人々はしばしばちょっとした電話をかけるだけでよい。
問題は、真実が明らかになる頃には、パニックに陥った家族がすでに多額の金を支払っているかもしれないということだ。 偽の誘拐犯さらに悪いことに、こうした技術がより安価で普及し、データへのアクセスが容易になるにつれ、こうした詐欺に遭いやすくなる人が増える可能性がある。
では、こうした詐欺から身を守るにはどうすればいいのでしょうか?
AI電話詐欺の仕組み
まず、背景を説明します。詐欺師はどのようにして個人の声を複製するのでしょうか?
動画のディープフェイクは作成がはるかに複雑ですが、音声のディープフェイクは簡単に作成でき、特に素早い一撃詐欺には最適です。例えば、あなたやあなたの愛する人がYouTubeやTikTokの動画に動画を投稿した場合、詐欺師は 三つ 録音した音声を数秒間コピーして、あなたの声を複製します。その複製が入手できれば、詐欺師はそれを操作して、ほぼ何でも言うことができます。
また： AIが生成した仮想通貨請求書詐欺に、セキュリティのプロである私が危うく騙されそうになった
OpenAIは、音声クローンサービス「 音声エンジンだが、悪用される可能性が明らかになったため、3月に一般公開を一時停止した。とはいえ、GitHubにはすでにさまざまな品質の無料音声クローンツールがいくつか存在している。
しかし、この技術にはガードレール付きのバージョンもあります。自分の声や合法的にアクセスできる声を使って、音声AI会社 イレブンラボ 1分間のサンプルから30分間の複製音声を作成できます。サブスクリプションプランでは、複数の音声を追加したり、別の言語の音声を複製したり、複製音声の分数を増やしたりすることができます。さらに、同社には複数の セキュリティチェック 不正なクローン作成を防止するために導入されました。
また： 旅行中ですか？この50ドルのスパイ防止カメラと盗聴器発見器を持って行きましょう
適切な状況であれば、AI 音声クローン作成は便利です。ElevenLabs は、テキスト プロンプトだけで使用できる、世界中のさまざまな言語の合成音声を非常に幅広く提供しており、多くの業界がさまざまなオーディエンスに簡単にリーチするのに役立ちます。
音声 AI が進化するにつれ、不規則な一時停止や遅延の問題が減り、特に詐欺師が正規の番号から発信しているように見せかけることができる場合、偽物を見分けることが難しくなる可能性があります。現在および将来にわたって自分自身を守るためにできることは次のとおりです。
1. 疑わしい電話は無視する
当たり前のように聞こえるかもしれませんが、AI 電話詐欺を回避するための第一歩は、知らない番号からの電話を無視することです。確かに、電話に出て、スパムと判断して電話を切るのは簡単かもしれませんが、音声データが漏洩するリスクがあります。
また： NSAは、携帯電話を週に1回オフにしてオンにすることを推奨しています。その理由は次のとおりです。
詐欺師は、これらの通話をボイスフィッシングに使用したり、あなたの声を複製するために必要な数秒間の音声を収集するためにあなたに電話をかけたりします。特に、番号が認識できない場合は、何も言わずに拒否し、オンラインで番号を検索してください。これにより、発信者の正当性を判断できます。確認するために電話に出たい場合は、できるだけ何も言わないでください。
個人情報や銀行関連の情報を求めて電話をかけてくる人は信用できないことは、おそらくご存知でしょう。電話、またはテキスト、サポート チャット、メールなどの他の確認済みの通信手段を介して、金融機関に直接連絡することで、いつでも電話の信憑性を確認できます。
ありがたいことに、ほとんどの携帯電話サービスでは、知らない番号を事前にスクリーニングし、潜在的なスパムとしてラベル付けして、ユーザーに代わって一部の作業を行っています。
2. 親戚に電話する
知り合いを装った不審な電話を受けた場合、AI 誘拐詐欺を見破る最も迅速で簡単な方法は、テキスト メッセージまたは電話で愛する人の安全を確認することです。パニックに陥っていたり、別の電話が手元になかったりすると、これは難しいかもしれませんが、詐欺師と思われる人と電話をしながらテキスト メッセージを送信できることを覚えておいてください。
3. コードワードを設定する
大切な人、特に子供とは、困ったときに話せないときに使う共通の秘密の言葉を決めておきましょう。疑わしい電話がかかってきて、大切な人があなたの合言葉を言えない場合は、詐欺の可能性があるとわかります。
4. 質問する
また、愛する人を装った詐欺師に、昨晩の夕食は何を食べましたかなど、具体的な詳細を尋ねながら、その人と個別に連絡を取ることもできます。動揺しないでください。詐欺師は諦めて電話を切る可能性が高いです。
5. 投稿内容を意識する
ソーシャル メディアや公開サイトでのデジタル フットプリントを最小限に抑えます。また、デジタル ウォーターマークを使用して、コンテンツが改ざんされないようにすることもできます。これは絶対確実な方法ではありませんが、メタデータが変更されないように保護する方法が見つかるまでは、次善策です。
オーディオやビデオクリップをインターネットにアップロードする予定がある場合は、 アンチフェイクセントルイスのワシントン大学の研究者によって開発されたフリーソフトウェアです。
また： エアタグがあなたを追跡しているかどうかを確認する方法
このソフトウェア（ソースコードはGitHubで公開されている）は、音声に追加の音や妨害を加える。これらは、元の話者が人間にどう聞こえるかを妨げることはないが、AIクローンシステムにとっては音声がまったく異なるものになり、音声を改変しようとする試みを阻止する。
6. ディープフェイク検出器に頼らない
Pindrop Security、AI or Not、AI Voice Detectorなど、AIで操作された音声を検出できると主張するサービスがいくつかある。しかし、ほとんどのサービスは有料で、専門家の中には、それらのサービスに時間をかける価値すらないと考える人もいる。ノースウェスタン大学のコンピューターサイエンス教授であるVS Subrahmanian氏は、 テスト済み 公開されている検出ツールは 14 種類ある。「現時点では音声ディープフェイク検出ツールに頼ることはできないし、使用を推奨することもできない」と同氏はポインターに語った。
「一般の人がディープフェイク音声を検出できる、完全に信頼できるツールはまだ存在しない」とセント・トーマス大学応用人工知能センター所長のマンジート・レゲ氏は付け加えた。「現段階では、複数の検出方法を組み合わせたアプローチを勧める」
また： 80%の人がディープフェイクが選挙に影響を与えると考えている。備える3つの方法
一方、コンピュータ科学者たちは、バッファロー大学メディアフォレンジックラボの ディープフェイクメーターは、まもなく開始される予定です。それまでは、信頼できる公開サービスがない場合は、自分の判断を信じて上記の手順に従って、自分自身と大切な人を守ってください。
