カリフォルニア州ロサンゼルスで山火事が続発し、人命の損失と大規模な物的損害が発生する中、ハリウッドサインも火災になったのではないかという憶測がインターネットを席巻した。
ランドマークが燃えている様子を示す AI 生成の写真が急速に拡散したことで、この技術の使用に対する懸念が高まり、緊急事態における誤報の可能性が明らかになりました。
この記事の執筆時点で、ロサンゼルスの山火事により 10 人の命が奪われ、10,000 の建物が破壊されました。高級セレブリティのパッドで知られるパシフィック・パリセーズの広大なエリアが焼失し、広く懸念が広がった。現在までに13万人以上の住民が避難命令を受けている。
混乱のさなか、象徴的なハリウッドサインが炎に包まれたことを示唆する画像がネット上で拡散した。その後、これらの画像を AI で生成することが決定され、X (旧 Twitter) などのソーシャル メディア プラットフォームで注目を集めました。
火災事件 地図 カリフォルニア州森林防火局 (CAL FIRE) はより明確な状況を提供しました。この記事の執筆時点では、ハリウッド サインの影響を受けた地域では火災は発生していませんでした。
さらに、このランドマークのライブカメラでは、近隣の山火事の影響を受けていないことが確認されました。数人のソーシャルメディアユーザーがAIによって生成された画像の性質を指摘し、この技術を利用してフェイクニュースを迅速かつ説得力を持って広めることについての議論が巻き起こった。
AI画像生成器ARTAのプロダクトディレクター、Gleb Tkatchouk氏は次のように述べています。 ニューズウィーク: 「機械学習モデルに基づく AI 生成ツールを使用すると、ユーザーは思いついたアイデアを図示し、非常に現実的なビジュアルを数秒で生成できます。
「クエリを絞り込む必要があるため、非常に具体的または複雑な出力をターゲットにする場合は難易度が上がりますが、統合されたアプローチ、探しているものの明確な理解、およびいくつかの実践的なスキルを使えば、あらゆる主題やイベントの生きた画像を作成することはもはや難しいことではありません。
「そして今では、偽物を作るのに何の費用もかかりません。」
トカチョク氏は、AIが生成したハリウッドサインの点滅を示す画像は恐怖とパニックを広げる可能性があると述べた。
「彼らはまた、消防士たちの多大な努力を軽視している」と彼は言う。
AI テクノロジーの急速な進歩と、その出力の品質がますます現実的になるにつれて、多くの人にとって、本物と偽物の境界線はやや曖昧になってきています。
Tkatchouk 氏は、特に AI テクノロジーが広くアクセス可能になり、作品をオンラインで共有できるようになった今、AI テクノロジーを思慮深く使用することが私たちの社会的責任であると述べました。
誤情報のデジタル拡散を懸念する人々にとって、ディープフェイク（人の顔や体がデジタル的に変更された動画）は近年特に問題となっている。
HeraHaven AI の創設者であるコムニノス・チャツィパパス氏は次のように述べています。 ニューズウィーク: 「ディープフェイク作成への参入障壁は、過去 2 年間で大幅に下がりました。
「現在では、無料で利用できるソフトウェアを使用すれば、AI の専門知識がなくても誰でも偽の画像を作成できます。
「最悪の点は、彼らは新しい偽の画像をゼロから作成できるだけでなく、既存の画像を編集することもできることです。」
ロサンゼルス郡で火災が発生
南カリフォルニアのロサンゼルス郡の山火事は、誤った情報が拡散する土壌を生み出したようだ。
火炎放射器で武装した放火犯の容疑者が木曜日に逮捕された。ロサンゼルス警察は、パリセーズ火災の北にあるケネス火災が意図的に発生したと示唆した。
ゲッティイメージズ
この展開により、すでに困難を極めた状況にさらに複雑さが加わりました。
チャジパパス氏とトカチョーク氏は、人々がすでに厳戒態勢にあるこのような時期に、検証済みで信頼できる情報が最も必要であると述べている。トカチョク氏にとって、ソーシャルメディアプラットフォームは誤った情報と戦うためにさらなる措置を講じるべきである。
同氏は、「いくつかのプラットフォームは、人間の目には見えないが、コンピュータによるファクトチェックやメタデータのタグ付けによってアクセスできる電子透かしなど、虚偽の情報に対抗するアプローチを採用している」と述べた。 「ただし、これらのアプローチは、生成されたコンテンツの最終的なフィルタリングには適していますが、プラットフォームやニュースフィードは、この情報をそもそも提供するかどうかを決定する必要があります。」
Chatzipapas 氏は、AI が生成したコンテンツが高度化するにつれて識別の課題が増大するにつれ、コンテンツの検証への重点も並行して高まるはずだと述べた。
「ディープフェイク検出ソフトウェアは正常に機能せず、まったく正確ではありません」と彼は述べた。 「その理由は、これらの AI ツールは痕跡を残さないからです。
「誤った情報から身を守る唯一の方法は、画像を送信またはアップロードした人の信頼性を評価することです。」
AIスタートアップの創設者は、現時点ではAIが生成したビデオコンテンツは画像よりも信じられやすく、ディープフェイクの方法でリアルまたは信じられるビデオコンテンツを作成することは「はるかに難しい」と述べた。
住民と救急サービスが山火事の管理に取り組む中、AI が生成した災害に関するコンテンツの流通は、このテクノロジーの潜在的な危険性をはっきりと思い出させるものとなっています。
