スカヨハ、AI生成の動画拡散され政府にディープフェイク禁止を要請

ハリウッドスターのスカーレット・ヨハンソンが、自身の肖像を無断で使用し、カニエ・ウェストに反対するAI生成動画が拡散されていることに関し、AIの誤った使い方を制限するよう米国政府に要請しています。

SNSに拡散されている問題の動画では、AI生成で描かれたヨハンソンをはじめ、スティーブン・スピルバーグ、マーク・ザッカーバーグ、ジャック・ブラック、ドレイク、ジェイク・ギレンホール、アダム・サンドラー、レニー・クラヴィッツなどの、ユダヤ系のスターやアーティストが、中指を立てた手に六芒星（ダビデの星）、その下に「KANYE」と記したデザインのTシャツを来て登場し、「反ユダヤ主義との戦いに参加しよう」と呼びかけています。

ヨハンソンは「反ユダヤ主義的な意見に対し、私の肖像を使用したAI生成動画がネット上に拡散され、話題になっていることを、家族や友人から知らされました。私はユダヤ人の女性であり、いかなる反ユダヤ主義やヘイトスピーチも容認しません。

しかし、AIによって増幅されるヘイトスピーチの可能性は、それに対して責任を負う個人よりもはるかに大きな脅威であるとも確信しています。私たちは、それがどんなメッセージを伝えるものであろうと、AIの悪用を非難しなければなりません。さもなければ、人々が現実を見失う危険性があるのです」と述べています。そして、米議会に対し「AIの使用を制限する法案の可決を最優先課題にする」よう求め、「これは人類全体の近い将来に多大な影響を及ぼす超党派の問題です」と訴えました。

スカーレット・ヨハンソンは、AI生成技術が急速に発展し始めた当初から、繰り返しディープフェイクコンテンツに自身の肖像や声を使われる被害に遭っており、そのたびにAI生成について率直な意見を発信してきました。2023年にはAIアプリの宣伝に自身の声や姿のAI生成バージョンが使用され、アプリ開発者を訴えています。また昨年にはOpenAIがGPT-4oの音声コンパニオンSkyの声のひとつに、ヨハンソンに酷似したものを含め、サム・アルトマンCEOがわざわざXに「her」などと、ヨハンソンがAI音声を演じた映画のタイトルを投稿したことで「怒り」と「ショック」を覚えたと述べていました。

上に述べたように、ヨハンソンは議会にAIディープフェイクを規制する法案の早期可決を求めています。米議会も、昨年すでにAIディープフェイクを規制する法案を提出していますが、それは性的な露骨な表現を含むコンテンツが対象であり、今回のような宗教的、政治的な混乱を招くようなAI生成コンテンツは対象としていません。

そればかりか、たとえばカリフォルニア州では昨年9月に、ギャビン・ニューサム知事が人々をAI生成コンテンツによる危害から保護するためのAI安全法案を拒否しています。さらには今年再び就任したドナルド・トランプ大統領が、バイデン政権のAI安全ガイドライン制定の大統領令を撤回しており、つい先日には米国が、パリで開かれたAIの安全な活用を議論する「AIアクションサミット」で「包括的で持続可能なAI」を目指す共同宣言への署名を拒否していました。