AP
2024年6月15日 11時33分
バーリ、イタリア（AP通信） — フランシスコ法王は金曜日、世界の裕福な民主主義国の指導者に対し、人工知能の開発と使用において人間の尊厳を第一に考えるよう呼びかけ、このような強力な技術は人間関係そのものを単なるアルゴリズムに変えてしまう危険性があると警告した。
フランシスコは、ホスト国イタリアから招待され、G7の年次首脳会議でAIの危険性と可能性に関する特別セッションで演説し、その道徳的権威をG7に及ぼした。そうすることで、フランシスコはG7に出席した初の法王となり、国際首脳会議、政府政策、企業役員会の議題にますます上る問題に対する倫理的見解を示した。
フランシスコ法王は、政治家が主導権を握ってAIが人間中心であり続けるようにし、武器や非致死性の道具をいつ使うかの決定が常に機械ではなく人間によって行われるようにしなければならないと述べた。
「人間が機械の選択に頼らざるを得なくなり、人間が自分自身や自分の人生について決定する能力を奪ってしまうと、人類は希望のない未来を強いられることになる」と同氏は述べた。「人工知能プログラムの選択を適切に人間がコントロールできる余地を確保し、保護する必要がある。人間の尊厳そのものがそれにかかっているのだ」
G7の最終声明は彼の懸念を大いに反映した。
首脳らは、AIを「人間中心」に保つために、AIを取り巻く統治と規制の枠組みをよりよく調整することを誓った。同時に、機械が人間の労働者に取って代わることで労働市場に、またアルゴリズムが再犯を予測することで司法制度に及ぼす潜在的な影響についても認めた。
「我々は、共通の民主的価値観と人権尊重に沿って、経済成長と持続可能な開発を支え、利益を最大化し、リスクを管理する、包括的で人間中心のデジタル変革を追求する」と彼らは述べた。
フランシスコ教皇はサミットに出席することで、OpenAIのChatGPTチャットボットによって始まった生成AIのブームを受けて、AIに対するより強力なガードレールを推進する国々や国際機関の合唱団に加わった。
アルゼンチンの法王は今年、毎年恒例の平和メッセージで、AIが倫理的に開発され使用されることを保証する国際条約の締結を呼び掛けた。その中で法王は、思いやり、慈悲、道徳、許しといった人間の価値観を欠いた技術は、野放図に開発するにはあまりにも危険すぎると主張した。
トランプ大統領は金曜日の演説でこの呼びかけをはっきりとは繰り返さなかったが、この問題で主導権を握るのは政治家の責任だと明言した。また、口語で「キラーロボット」と呼ばれる自律型致死兵器の使用を最終的に禁止するよう求めた。
「いかなる機械も人間の命を奪うことを選択するべきではない」と彼は語った。
兵器問題について、G7首脳らは軍事分野におけるAIの影響と「責任ある開発と使用のための枠組みの必要性」を認識していると述べた。首脳らは各国に対し、「AIの軍事的使用は責任あるものであり、適用される国際法、特に国際人道法に準拠し、国際安全保障を強化するものであること」を確認するよう促した。
イタリアのジョルジャ・メローニ首相はフランシスコのスターパワーと道徳的権威がG7に及ぼす潜在的影響を認識し、フランシスコを招待し参加を発表した。テーブルに着席していた人々は当然ながら畏敬の念を抱いているようで、フランシスコが到着すると部屋の騒々しいざわめきは完全に静まり返った。
「教皇は、まあ、非常に特別な種類の有名人だ」と、シンクタンクG7リサーチ・グループを率いるトロント大学の政治学者ジョン・カートン氏は語った。
カートン氏は、このようなスターパワーを持ち、その後行動に移された最後のサミットは、スコットランドのグレンイーグルズで行われた2005年の会議だったと振り返った。この会議で、世界の指導者たちは、世界最貧国18カ国が世界銀行と国際通貨基金に対して負っている400億ドルの債務を帳消しにすることを決定した。
このサミットに先立ち、ロンドンでライブ8コンサートが開催され、スティング、ザ・フー、再結成したピンク・フロイドらが出演し、アフリカの飢餓と貧困に対する連帯を示すために100万人を超える観客が集まった。
「グレンイーグルズは実際にホームランを打ち、一部の人にとっては最も成功したサミットの一つだ」とカートン氏は語った。
イタリアのプーリア州ではG7首脳にそのような国民の圧力はかかっていなかったが、フランシスコは自身の道徳的権威を駆使してAIの安全策を改めて要求し、人間の倫理を無視すればAIが平和と社会にもたらす脅威を強調できることを知っていた。
「テクノロジーについて語るということは、人間であることの意味、そして自由と責任の両方を持つ存在としての私たちの特別な地位について語ることです」と彼は語った。「これは倫理について語ることを意味します。」
生成型AI技術は、人間のような反応を生み出す能力で世界を驚かせたが、同時にAIの安全性に対する懸念も引き起こし、AIを抑制しようとする世界的な取り組みの混乱を招いた。
AI は新たな生物兵器を生み出したり、偽情報を広めたりする可能性があるため、人類にとって破滅的だが遠い将来のリスクを心配する人もいる。一方、アルゴリズムによる偏見が差別を生んだり、AI システムによって仕事がなくなるなど、AI が日常生活に与える影響を心配する人もいる。
フランシスコ教皇は平和メッセージの中で、これらの懸念に同調し、他の懸念も提起した。教皇は、AIは基本的人権の保障、平和の促進、偽情報、差別、歪曲の防止を最優先に考えなければならないと述べた。
規制の面では、G7諸国がAI監視に関する議論の最前線に立ってきたため、フランシスコはある意味では既信者に説教していたとも言える。
昨年、G7の議長国を務めた日本は、AI開発者向けの国際的な指針と行動規範を作成するため、広島AIプロセスを立ち上げた。こうした取り組みに加え、岸田文雄首相は先月、プロンプトやコマンドに応じて新しいテキスト、画像、動画、音声を素早く生成できるシステムである生成型AIの世界的な規制の枠組みを発表した。
欧州連合は、今後2年以内に発効し、世界的なモデルとなる可能性のある広範囲にわたるAI法を制定した最初の国の一つだ。この法律は、EU加盟27カ国で提供されるあらゆるAI製品やサービスを対象としており、それらがもたらすリスクのレベルに基づいて制限が課される。
米国では、ジョー・バイデン大統領がAIの安全対策に関する大統領令を発令し、その強化を目的とした立法を求めた一方、カリフォルニア州やコロラド州など一部の州は独自のAI法案を可決しようと試みているが、結果はまちまちだ。
英国は昨年秋、サミットを開催し、AIの最も深刻な危険性を抑制するための国際対話を開始した。ソウルで行われたフォローアップ会議では、企業がこの技術を安全に開発することを約束した。フランスは来年初めにこの会議シリーズの次の会議を主催する予定である。国連もAIに関する初の決議で参加している。
もっとニュース
