ディープフェイクとは?その脅威と有用性、法的な課題を徹底解説

ディープフェイクという言葉は、人工知能技術の一つである「Deep Learning（深層学習）」と「Fake（偽物）」を組み合わせた造語です。

:::

参考：

• Bruce Willis denies selling rights to his face
• Bruce Willis’s deepfake face-off: AI double appears in Russian ad

悪用事例

振り込め詐欺への悪用

ディープフェイク技術の悪用事例として、なりすましによる振り込め詐欺があります。2019年にはAIを使用して企業のCEOの声を模倣し、緊急性を装って22万ユーロをの不正な転送を要求する事件が発生しました。

犯罪者はCEOの声のわずかなドイツ語訛りやトーンを模倣し、最終的に大金が犯罪組織へ転送される事件となってしまいました。

参考:Fraudsters Used AI to Mimic CEO’s Voice in Unusual Cybercrime Case(WSJ)

その他にも、2024年、英エンジニアリング大手アラップも計2億香港ドル（約40億円）を失ったことが封じられています。
偽のテレビ会議で役員になりすましたデジタルクローンに資金移動を命じられたということです。

参考：テレビ会議でディープフェイク英大手、40億円詐欺被害

このような攻撃は、伝統的なサイバーセキュリティ対策では防ぐことが難しく、さらなる対策が求められています。

戦争時のプロパガンダへの悪用

また、特に影響が大きいとされるディープフェイクの悪用事例の1つは、プロパガンダへの利用です。2022年のウクライナ侵攻時、ゼレンスキー大統領になりすましたディープフェイク動画が出回り、降伏を呼びかける内容となっていました。
ウクライナ政府はこれを偽情報と速やかに否定しましたが、敵対勢力がディープフェイクで偽情報を流布し、相手の士気を下げ戦略的優位を狙う動きが明らかになりました。

Проти кого ми воюємо? Ці каліки навіть діпфейк не спромоглися нормальний зробити.... боже))) pic.twitter.com/RqAj0qLuSO

— junek (@_delanay) March 16, 2022

またそれに続き、ウクライナのザルジニー総司令官が同国ゼレンスキー大統領の政策批判するフェイク動画もXで拡散されました。

映像の信憑性が揺らぐディープフェイク時代には、偽情報が紛争を長期化・深刻化させるリスクがあり、規制の必要性が浮き彫りになった事例です。

参考：ウクライナ軍総司令官の偽動画が拡散 政府が注意呼びかけ

フェイクポルノ

ディープフェイク技術は、実在する人物の顔を無断でアダルトコンテンツに合成するフェイクポルノの作成にも利用されています。

フェイクポルノは、特に女性を標的とした被害が多く、99％が女性を対象にしているとされています。日本では、SNSやクローズドなグループ内での拡散が問題視されており、卒業アルバムなどから無断で使用された写真が加工されるケースが多発しています。

参考：卒アルがディープフェイクの被害に？

対策

個人レベル

個人レベルの対策

• 情報源の確認:

情報を受け取ったら、それが信頼できるものかどうかを確認することが重要です。公式ウェブサイトや信頼できるメディアの情報と照らし合わせて、情報の真偽を確かめましょう。

• コンテンツへの批判的思考:

ディープフェイクは非常に巧妙に作られている場合もありますが、不自然な点や違和感がないか注意深く観察することで、偽物を見抜ける可能性があります。

技術レベル

• ディープフェイク検出ツール

AI技術は、ディープフェイクを作成するだけでなく、それを検出するためにも利用できます。AIを用いた検出ツールは、偽コンテンツの特徴を分析し、真偽を判定するのに役立てることが可能です。

例えば、米NPO「トゥルーメディア」はディープフェイク検出技術を無償で一般公開しています。
この技術は、ユーザーが疑わしい動画を投稿すると、自動で判定結果を返す仕組みです。特に、2024年の米大統領選挙や日本の衆院選に向けて、この技術が注目されています。

参考：米ＮＰＯ、偽動画検出技術を無償公開―米大統領選

また、2024年10月16日、富士通やNEC、慶應義塾大学などが連携し、偽情報の検知から真偽判定までを行う総合的なシステムを開発することを発表しました。このシステムは、偽の画像や映像を生成する「ディープフェイク」の手法を学習し、過去の偽情報の類似度や拡散速度から社会への影響も分析します。この取り組みは、SNSでの偽情報拡散が問題視される中で進められています。

参考：
ネット偽情報 検知から真偽判定まで行う総合的システム開発へ

• C2PA規格:

コンテンツの真正性を証明するための技術規格である C2PA (Coalition for Content Provenance and Authenticity) を活用することも有効です。C2PA 規格では、コンテンツの作成者や編集履歴をメタデータとして記録することで、改ざんを防止します。
例えば、Adobe FireflyはC2PAの来歴情報を自動的に付与する機能を実装しています🙌

また、OpenAIはDALL•E•3に、GoogleもC2PAの最新バージョンを自社製品に導入する計画を発表し、Google検索やYouTubeでデジタルコンテンツの出所や編集履歴を確認できる機能を追加する予定です。

参考：

• Understanding the source of what we see and hear online
• How we’re increasing transparency for gen AI content with the C2PA

法的・社会的対策

• 法整備

日本は生成AIで性的な画像や動画を作成する行為自体を取り締まる法がありません。警視庁が2020年、アダルトビデオ（AV）の出演者の顔を芸能人とすり替えたディープフェイクポルノをネット上にアップしたとして、男2人を逮捕しましたが、適用容疑は名誉毀損（きそん）とAV制作会社の著作権に対する侵害でした。

参考：「ディープフェイク職人」逮捕　AVの顔すり替えた容疑

2024年9月、米カリフォルニア州では、ディープフェイクを用いた選挙広告を規制する法案が成立しました。この法律は、AIが生成した偽情報による選挙工作を防ぐことを目的としており、SNSプラットフォームに対して偽情報の削除やラベル付けを義務付けています。この動きは、日本でも同様の対策が求められる背景となっています。

参考：Governor Newsom signs bills to combat deepfake election content

• 啓蒙活動: ：ディープフェイクの仕組みや危険性、対策方法に関する教育・広報活動も重要です。誤った情報に煽動されることがないように、多くの人が理解を深める事が大切です。

2024年、IEEEがディープフェイク検出手法に関する提言を発表しています。
機械学習と意味分析を用いた新しい手法が紹介されており、特に電子透かし技術が効果的であるとされています。

One of the most effective techniques is digital watermarking of the images generated using the generative AI platforms.

(Rahul Vishwakarma,IEEEシニアメンバー)

これにより、生成AIプラットフォームで作成された画像に埋め込まれたマークによって識別が可能になるとしています。

参考：Spotting the Deepfake

ディープフェイクの作成方法

作成フロー

実際に、ディープフェイクの制作プロセスを体験してみました。

1. まずは差し替え元となる画像を用意します。今回はレオナルド・ディカプリオの画像を利用します。(画像引用元:SeaArt)

元となる画像を選択

2. 次に、動画内で変更したい素材を用意します。今回はジョニー・デップの顔画像を利用します。
   (画像引用元:Weikipedia)

変更したい顔画像をアップロード

3. すると、素材を用意してボタンを一つ押すだけでディープフェイク動画が完成してしまいました。

完成したディープフェイク動画

ここで紹介した作成例を通じて、現代のディープフェイク技術がいかに簡単に利用できるようになったかをご理解いただけたかと思います。このように手軽に作成できる技術の進歩は驚異的ですが、それがもたらす潜在的なリスクも念頭に置く必要があります。
ディープフェイク技術の可能性を探る一方で、その使用には最大限の慎重さと倫理的配慮をもって臨んでください。

作成ツールの紹介

• DeepSwap:PCとスマホ両方で使用できるディープフェイク動画ジェネレーターアプリです。数秒で顔を入れ替えることができ、プロの動画編集スキルがなくても簡単に利用できます。

• Xpression: iPhoneとAndroidで使用可能なスマホ用アプリで、入れ替えたい顔の画像や動画を持っていると簡単にディープフェイク動画を作成できます。

• Deepfakes web β: ウェブベースのアプリで、顔を入れ替えるための画像と動画をアップロードするだけで高精度なディープフェイク動画を制作できます。使用料は1時間あたり2ドルです。

• FakeApp: 無料で利用できるPC用アプリですが、メモリ8GB以上のスペックが必要です。英語の解説動画があるため、手順は理解しやすいです。

• Deepfake Studio: Google Playで提供されているアプリで、画像やビデオをトレーニングおよび生成するAIモデルを使用してデータセットを作成します。顔の最適化機能もあります。

ディープフェイクの未来

ディープフェイクの未来

1. 技術の進化

生成AI技術の発展に伴い、ディープフェイクは現在以上に精巧化していきます。既に真偽の判別が難しいレベルに達していますが、アルゴリズムの改良や計算能力の向上により、将来的にはさらにリアルなディープフェイクの生成が可能となるでしょう。

• 高度化するアルゴリズム: ディープフェイクの生成速度や品質が向上し、一般のユーザーでも簡単に高精度な偽造メディアを作成できるようになります。

• 真偽判定の困難化: 人間がディープフェイクを見分けることがほぼ不可能になるレベルにまで達することが予想されます。

2. 社会への影響

• 偽情報拡散と社会不安: ディープフェイクによる偽情報が広く拡散され、選挙や国際紛争、災害時において社会不安を引き起こす可能性が高まります。

• 情報の信頼性低下: 大量の偽情報が流通することで、社会全体の情報判断能力が低下し、正確な情報源を見極めることが難しくなる「情報の終焉」が現実のものとなる可能性があります。

3. 倫理的な課題

ディープフェイク技術の利用には、いくつかの倫理的問題が伴います。

• 肖像権の侵害: 他人の顔や声を無断で使用することで、肖像権の侵害やプライバシーの問題が発生します。
• 故人の利用: 故人のディープフェイクを使用したコンテンツに対して、倫理的な是非が問われることが多くなっています。
• 表現の自由と悪用: ディープフェイクを利用した表現活動と、それがもたらす社会的混乱の間で、表現の自由の限界に関する議論が進むでしょう。

これらの課題に対応するためには、法的枠組みやガイドラインの整備が不可欠です。

4. 新しい技術との融合

ディープフェイク技術は他の革新技術と組み合わせることで、新たな可能性を生み出すことができます。

• ブロックチェーン技術との融合: ブロックチェーンの透明性と改ざん不可能な特性を活用し、ディープフェイクの真偽を容易に判定することができます。例えば、デジタルコンテンツにタイムスタンプを付けたり、ハッシュ値を使って改ざんを検出する仕組みが考えられます。

• VR/AR技術との融合: ディープフェイク技術をVRやARと組み合わせることで、新たな体験を提供する可能性があります。

  • 製品のバーチャル試着や使用感のシミュレーション
  • 歴史的な人物や科学者との仮想対話
  • 医療トレーニングや患者シミュレーションの精度向上
  • ゲームやアプリで自分の顔をキャラクターとして使用する体験

ディープフェイク技術の進化は、利便性の向上と同時に、偽情報の拡散や倫理的課題などの新たなリスクをもたらします。技術の発展を有効活用するためには、社会的影響に対する対策や法的な規制、倫理的ガイドラインの整備が必要です。また、他の技術との連携により、ディープフェイクの可能性をさらに広げることも期待されています。

ディープフェイクについてよくある質問

Q.ディープフェイクの作成は合法ですか？

A.ディープフェイクの作成の合法性は、その目的や内容、および国や地域による法規制によります。
創作活動や教育的目的で使用される場合は合法の場合が多いですが、他人をだます目的や名誉毀損、脅迫などの犯罪に関連する場合は違法になります。

Q.ディープフェイクはどのように法律や倫理規範に影響しますか？

A.ディープフェイクの普及に伴い、法律や倫理規範の適用についても議論が活発化しています。特にプライバシーや著作権などの法的問題や、情報の信頼性や公正性に関する倫理的な問題が注目されています。

Q.ディープフェイクを見抜く方法はありますか？
A.

• 不自然な動きや表情: 被写体の動きがぎこちない場合や表情が不自然である場合、それはディープフェイクである可能性があります。
• 音声と映像の不一致: 音声と口の動きが一致しない場合も疑わしいです。
• ソース確認: 動画や画像の出所を確認し、不明なソースからの情報には注意することが重要です

まとめ

今回の記事ではディープフェイクについてその基本情報から、作成方法そして活用法から悪用例まで幅広く解説しました。

この技術は映像業界をはじめ、幅広いビジネス分野での活用が期待されている一方で、政治的な偽ニュースの生成や詐欺行為など、悪用への懸念も議論されています。そのため、ディープフェイク技術の発展には、検知技術の開発や法規制の導入など、慎重なアプローチが必要です。

読者の皆さんの中には、ディープフェイクに対して、不信感や恐怖といった否定的なイメージを持つ方もいらっしゃるかもしれません。しかし、ディープフェイクは適切に活用すれば、生活をより便利で魅力的なものにしてくれる可能性があります。
教育や啓発を通じて、この技術の正しい理解と安全な使用方法を普及させることが、社会全体にとっての最良の進め方です。

未来のテクノロジーを恐れるのではなく、それをどう活用し、コントロールするかが鍵となります。