2024年6月3日 6:00 JST
本物の子どもによく似た画像を作り出すことができるAIの学習用データがインターネット上で販売されていることが読売新聞の取材で分かった。
微調整データには、日本の元子役タレントの画像も含まれている。別のサイトでは、その子らに酷似した性的画像が販売されており、そのデータを使って作成されたとみられる。
こうしたデータの売買は児童買春や児童ポルノ禁止法の下では規制が難しいとされ、専門家は問題解決に向けた法整備を求めている。
AI画像生成器は、膨大な画像データから学習し、簡単な指示を与えるだけで精巧で写実的な画像を生成します。特定の人物の名前を入力するだけでは、その人物によく似た画像を生成することは困難です。しかし、一部のAI画像生成器は、その人物の画像を数十枚含む微調整データで学習させることで、特定の人物によく似た画像を生成することができます。この微調整データは、「LoRA」などと呼ばれています。
読売新聞は、国内外で活躍した元子役タレント数名のデータを加工したデータを販売する英語のウェブサイトを特定した。同サイトはデータの説明欄に実在のタレント名を記載し、1件あたり3ドル相当の暗号資産で販売していた。同サイトでは成人女性のデータも提供されていた。
また別の日本のサイトでは、AIで加工したと表示され、加工データを購入できる日本の子役タレントに酷似した性的画像が販売されていた。専門家によると、画像の特徴から加工データを使って作られた可能性が高いという。
AI画像生成器は大量の画像を素早く生成でき、被写体のポーズや表情も自由に設定できる。実在の人物を微調整したデータセットが出回れば、実在の子どもだけでなく、実在の大人に酷似した性的に露骨な画像が広く拡散する恐れがある。
法務省によると、児童買春・児童ポルノ禁止法は、被害者となる児童がいる場合にのみ適用される。判例によれば、コンピューターで生成された画像であっても、実在する特定の児童を描写しているように見える場合は規制の対象となり得る。ただし、一部の専門家は、生成された画像の身体的特徴や顔の特徴が実在する特定の児童に酷似していないと、法律が適用されない可能性があると指摘している。このため、AIで生成された児童の性的画像が規制されるかどうかは、まだ分からない。
ネット上の言論・表現問題に詳しい元裁判官で金沢大学の永瀬隆教授は「生成AIや微調整データセットが児童の権利侵害に悪用されている実態が明らかになった。水面下で被害が広がっている恐れがある。現行法では想定されていない事態であり、AIが生成した児童の性的画像を規制する関連法の整備を検討する必要がある」と指摘した。
