死者を中傷することはできても、ディープフェイクは使うべきではない理由

故人俳優ロビン・ウィリアムズの娘ゼルダ・ウィリアムズは、父のファンへ向けて痛切なメッセージを伝えた。

「父のAI動画を私に送るのを、どうかやめてくれ。私がそれを見たいと思っているとか、理解できると思っていると信じるのもやめてくれ。私はそうは思わないし、今後も思わない」と、月曜日にインスタグラムのストーリーに投稿して書いた。「少しでも良識があるなら、父にも私にも、さらには誰にとってもこの行為をやめてくれ。全てを断ち切ってくれ。くだらなく、時間とエネルギーの無駄だ。彼が望むことではないと、私には分かる。」

この投稿が公開直後の数日後にOpenAIのSora 2動画モデルとSoraソーシャルアプリの発表と時期を同じくしていることは、決して偶然ではない。Soraはユーザーに、自分自身や友人、そして特定の漫画・アニメキャラクターの極めてリアルなディープフェイク動画を生成する力を与える。

また、それには故人も含まれる。故人を名指して虚偽の事実を流布することは違法ではないとして、Student Press Law Center（Student Press Law Center）によれば、故人は公の場で“標的”になり得る。

Soraは生存する人物の動画を生成させないようにはしている――ただしそれが自分自身か、肖像の使用を許可した友人が対象の場合に限られる（OpenAIが「cameo（カメオ）」と呼ぶ機能）。しかしこの制限は死者には適用されず、障壁なく生成できてしまう。現在も招待制で提供されている同アプリは、マーティン・ルーサー・キング・ジュニア、フランクリン・デラノ・ルーズベルト、リチャード・ニクソンといった歴史的人物の動画や、故人となったボブ・ロス、ジョン・レノン、アレックス・トレベック、さらにはロビン・ウィリアムズといった著名人の動画であふれている。

死者の動画生成の線引きは曖昧だ。Sora 2は、例えばジミー・カーター元大統領（2024年死去）やマイケル・ジャクソン（2009年死去）の動画は生成しないが、2014年死去のロビン・ウィリアムズの肖像を用いた動画は作成したとのTechCrunchの検証結果がある。また、OpenAIのカメオ機能は、人々が他者が生成する動画にどう映るかに関する指示を設定できるようにしている――Soraへの初期批判を受けて導入された保護措置だが、故人にはそのような意思表示の機会はない。もしニクソン元大統領がこっそりこのディープフェイクを見たら、警察廃止を訴える自分の姿を想像して墓の上で悶えるだろうと私は思う。

OpenAIはTechCrunchの故人のディープフェイクの適否に関するコメント要請に回答しなかった。とはいえ、故人のセレブリティのディープフェイクを同社の許容範囲に含める可能性はあるとの見方もあり得る。法的先例からは、遺族の名誉毀損をめぐる同社の責任を問われる可能性は低いと判断されることが多いという。

「実在する人物の遺産が、こうした“これっぽい”映像だというだけで要約され、他者が手掛かりにしてTikTokのショボい愚作を拷問のように踊らせるのを眺めているのは、怒りを禁じ得ない」とウィリアムズは書いた。

OpenAIの批評家は、同社がこの種の問題に対して緩過ぎる対応を取っていると非難しており、そのためSoraは公開時にピーター・グリフィン（ピーター・グリフィン）やピカチュウなどの著作権キャラクターを用いたAIクリップで急速に氾濫した。CEOのサム・アルトマンは当初、ハリウッドのスタジオや代理店が自社のIPをSora生成動画に含めたくない場合には「明示的にオプトアウトする必要がある」と語っていた。映画業界団体のMotion Picture AssociationはすでにOpenAIに対し行動を求め、「確立された著作権法は創作者の権利を保護しており、ここにも適用される」との声明を出した。アルトマンはその後、この方針を転換する意向を示している。

Soraは、現時点で一般にアクセスできる中で最も危険なディープフェイク対応AIモデルの1つかもしれない。出力の現実性が高いだけに危険性が高い。一方でxAIのような他のプラットフォームは遅れているうえ、Soraよりもガードレールがさらに少なく、現実の人物のポルノディープフェイクを生成できてしまう。OpenAIに追いつく他社が増えるにつれ、生存者・死者を問わず現実の人物を私的な玩具のように扱うことが前例となってしまうなら、取り返しのつかない事態を招く恐れがある。

＼ 最新情報をチェック ／