人気の会話AI ChatGPTは、OpenAIのCEOサム・アルトマンによると、次の1-2年以内にビデオ作成機能を得る予定だ。これはディープフェイク動画や誤情報が広がる大きな懸念を引き起こしている。
OpenAIがビデオを含むマルチモーダリティを追加する計画
Bill GatesとのUnconfuse Meポッドキャストのインタビューで、アルトマンは次の2年以内にChatGPTにテキスト、画像、音声、ビデオのマルチモーダリティ機能を追加する計画を明らかにした。これにより、ユーザーのプロンプトに基づいてそれらのコンテンツを操作および生成できるようになる。
詳細は不明だが、機能は現在のDALL-E統合によるテキストから画像への生成を真似する可能性が高い。ユーザーはテキストの説明を入力するだけで、プロンプトにマッチするAI生成ビデオを受け取ることができる。
ディープフェイクの蔓延が主要な脅威となる
創造的かつ良性の用途は可能性がある一方で、オープンエンドのビデオ作成能力はディープフェイクと誤情報の観点から深刻なリスクをはらんでいる。
ChatGPTのアクセシビリティは、誰でも高品質の偽のビデオコンテンツを簡単に作成できることを意味する可能性がある。これは既存のディープフェイクの問題を劇的に悪化させる可能性がある。
2024年の米国と英国の選挙が特に脆弱
2024年に米国と英国で大統領選挙が控えていることを考えると、ディープフェイクの政治ビデオが虚偽の情報を広め、大規模に有権者を操作するために使用される可能性がある。
すでに問題となっているが、ChatGPTにシームレスなビデオ生成を追加することは、改ざん映像を生み出すことをはるかに簡単にするだろう。これは民主的プロセスと統治に大きな影響を与える可能性がある。
今後のオンライン情報の質の維持が重要
AI生成コンテンツがより高度になるにつれ、偽のビデオや音声を見分けるのがより困難になる。これは、オンラインの情報の質と信頼性の維持がより重要になることを意味する。
アドバイス: 信頼できるニュースソースを利用する
誤情報を避けるために、ソーシャルメディアのユーザーは、検証された信頼できる出版社のニュースを利用し、未検証のバイラルコンテンツは避けるべきだ。情報源をクロスチェックすることも重要になる。
政府やテクノロジー企業によるAI生成の誤情報を深層学習によるディープフェイク検出などの仕組みで抑制するための積極的な対策が求められる可能性が高い。総合的な警戒が鍵となる。
ChatGPTがオープンエンドのビデオ生成能力を獲得することは分水嶺となり、合成メディアによる操作に対する情報生態系の大きな試練となる。適切な安全対策がなければ、偽情報の洪水が起きる可能性がある。