ディープフェイクはおそらく AI の最も危険な側面です。現在では、偽の写真、音声、さらにはビデオを作成することは比較的簡単です。たとえばモーガン・フリーマンとトム・クルーズのディープフェイクについては以下を参照してください。
しかし、ソーシャルメディアはこれまでディープフェイクを配布するためのメカニズムとして使われてきたが、インスタグラム責任者のアダム・モセリ氏は、ディープフェイクを暴く上で実際に重要な役割を果たすことができると考えている…
ディープフェイクはどのように作られるのか
これまでディープフェイクビデオの作成に使用されてきた主な手法は、敵対的生成ネットワーク (GAN) として知られるアプローチでした。
1 つの AI モデルは、偽のビデオ クリップを生成するか、本物のビデオ クリップを表示します。 2 番目の AI モデルは、偽物を特定しようとします。このプロセスを繰り返し実行すると、最初のモデルがトレーニングされ、ますます説得力のある偽物が生成されます。
しかし、現在では DALL-E 2 のような普及モデルがその地位を引き継いでいます。これらは実際のビデオ映像を撮影し、さまざまな変更を加えて多数のバリエーションを作成します。テキスト プロンプトを使用して、AI モデルに必要な結果を指示することができるため、プロンプトが使いやすくなり、プロンプトを使用する人が増えれば増えるほど、よりよく訓練されるようになります。
ディープフェイク動画の例
これは、モーガン フリーマンのディープ フェイクのよく知られた例です。これは丸 3 年前に作成されたもので、当時はテクノロジーが現在よりはるかに洗練されていませんでした。
そしてもうひとつは、アイアンマン役のトム・クルーズです。
英国人なら、金融に関するアドバイスを提供することで有名なマーティン・ルイスが、暗号通貨詐欺を宣伝するディープフェイクで知られているのをご存知かもしれません。
メタエグゼクティブ アダム・モセリ 彼は、ソーシャルメディアは偽のコンテンツにフラグを立てるのに役立ち、事態を悪化させるのではなく実際に改善できると考えています。ただし、ソーシャルメディアはこれを行うのに完璧ではなく、私たち一人ひとりが情報源を考慮する必要があると述べています。
長年にわたり、私たちは静止画と動画の両方でリアルな画像を作成できるようになりました。ジュラシック・パークは10歳の私に衝撃を与えましたが、それは6,300万ドルの映画でした。 N64 の Golden Eye は、ライブだったので 4 年後の私にとってさらに印象的でした。今、これらのメディアを振り返ってみると、よく言っても粗雑に見えます。あなたがテクノロジーに関して強気派か弱気派かに関係なく、生成 AI は明らかに、現実の記録からは識別するのが難しいコンテンツを生成し、急速に改善しています。
友人、 @レッシン、おそらく10年前、あらゆる主張はその内容だけでなく、その主張を行っている個人や機関の信頼性によって評価されるべきであるという考えを私に押し付けました。おそらくこれは何年も前の出来事かもしれませんが、声明の正当性を評価する際には、何を言っているかよりも誰が言っているかを考慮することが重要になっているということを私たちが集団的に認識しているのは今のような気がします。
インターネット プラットフォームとしての私たちの役割は、AI として生成されたコンテンツにできる限りラベルを付けることです。しかし、一部のコンテンツは必然的にすり抜けてしまうものであり、すべての虚偽表示が AI によって生成されるわけではないため、コンテンツをどの程度信頼したいかを自分で評価できるように、誰が共有しているのかについてのコンテキストも提供する必要があります。
視聴者または読者が、現実のアカウントまたは記録であると称するコンテンツを消費するときに、洞察力をもたらすことがますます重要になるでしょう。私のアドバイスは、話しているのが誰であるかを*常に*考慮することです。
画像： シャムック
FTC: 当社は収入を得る自動アフィリエイト リンクを使用しています。 もっと。
