中国ではAIがウクライナのYouTuberをロシア人YouTuberに変身させた

北京、6月21日（ロイター） – ペンシルバニア大学の学生オルガ・ロイエクさんは、インターネット上での聴衆を探していたが、今回のような聴衆は探していなかった。

ウクライナ出身の21歳のロイエックさんは、昨年11月にYouTubeチャンネルを開設した直後、中国のソーシャルメディアプラットフォーム上で自分の画像が撮影され、人工知能によって加工され、別人格が作られていることに気づいた。

彼女のデジタルドッペルゲンガーたち（「ナターシャ」など）は、中国語が堪能なロシア人女性であると主張し、ロシアへの支援に対して中国に感謝し、ロシアのキャンディーなどの商品を売って副業で小金を稼ぎたいとしていた。

さらに、偽アカウントの中国国内のフォロワー数は数十万人に上り、ロイエック氏本人のフォロワー数をはるかに上回っていた。

「これは文字通り、私の顔が中国語を話しているようなもので、背景にはクレムリンとモスクワが見え、ロシアと中国の素晴らしさについて話している」とロイエク氏はロイター通信に語った。「これは本当に不気味だった。なぜなら、私が人生では決して言わないようなことだからだ」

ロイエクさんのケースは、中国のソーシャルメディア上で、流暢な中国語で中国への愛を示し、母国からの輸入品を販売することで戦争中のロシアを支援したいと主張する、一見ロシア人女性のように見える人たちが増えていることの代表例だ。

しかし、そのようなアバターは実在しない。専門家によると、それらはネット上で見つかった実際の女性の動画を不正に流用してAIが生成したもので、多くの場合、女性本人には知られずに流用されており、偽アバターが作成した動画は独身の中国人男性に商品を売り込むために使われているという。

ロイエック氏の画像を使って作成されたアカウントには数十万人のフォロワーがおり、キャンディーなど数万ドル相当の商品が売れている。投稿の一部には、AIを使用して作成された可能性があるという免責事項が含まれている。

ロイエク氏のようなアバターは、ロシアがウクライナに侵攻する数日前にロシアのウラジーミル・プーチン大統領が北京を訪問した2022年に両国間で宣言された「制限のない」ロシアと中国のパートナーシップを活用している。

ロイエック氏の事件には関与していない、高度なAI技術を開発する企業XMOVの最高経営責任者ジム・チャイ氏は、このような画像を作成する技術は「中国では多くの人が使用しているため、非常に一般的だ」と語る。

「例えば、私自身の 2D デジタル ヒューマンを制作するには、自分の 30 分のビデオを撮影するだけで済みます。そして、それが終わったらビデオを作り直します。もちろん、非常にリアルに見えますし、もちろん、言語を変えた場合、調整する必要があるのはリップシンクだけです」とチャイ氏は語った。

人工知能は熱く議論されているテーマであり、ロイエック氏の話は、コンテンツの作成と配布のための強力なツールが世界中で一般的になるにつれて、人工知能の潜在的に違法または非倫理的な応用のリスクに光を当てています。

Chat GPTのような生成AIシステムの人気が高まる中、AIが誤報、フェイクニュース、著作権で保護された素材に寄与することに対する懸念がここ数カ月強まっている。

中国は1月にAI業界の標準化に向けたガイドラインの草案を発表し、2026年までに50以上の国家および業界全体の標準を策定することを提案した。

高リスクのAIシステムに厳格な透明性義務を課す欧州連合のAI法が今月施行され、潜在的な世界基準が設定された。

それでも、北京大学法学院の准教授であるシン・ダイ氏は、規制はAI開発のペースに追いつこうと急いでいると述べた。

「情報作成、コンテンツ作成、コンテンツ配信のためのますます強力なツールが、基本的に毎分ごとに利用可能になると予測できます」と、

ダイ。

「ここで重要なのは、量がとにかく多すぎるということだと思う。中国だけでなく、インターネット全体においてもそうだ」と彼は付け加えた。