2023 年 5 月 22 日、国防総省での爆発の偽画像が一時的に拡散しました。 この画像は生成 AI を使用して作成され、ソーシャル メディア上の複数のアカウントによって拡散されました。 これにより、投資家がパニックに陥り株を売り払い、市場は10分間にわたる下落を引き起こした。
国防総省はすぐに爆発があったことを否定する声明を発表した。 しかし、すでに被害は出ていた。 偽の画像は広範囲に恐怖と不安を引き起こしました。 また、生成型 AI の危険性も浮き彫りになりました。
偽AI国防総省の爆発が説明される
ソーシャルメディアで拡散した爆発写真は、ワシントンD.C.の国防総省の損傷を示したものとされており、AIソフトウェアを使用して生成されたものである。
しかし、これは多数のソーシャルメディアアカウントによって共有されることを妨げず、株式市場の一時的な下落につながりました。
ツイッターユーザーは月曜早朝、建造物の近くで巨大な煙が上がっているとされる写真と、国防総省近くで爆発が起きたという噂に警戒を強めた。
しかし、アーリントン警察は、写真とそれに付随した陳述は両方とも虚偽であると述べた。
生成型 AI の危険性
生成 AI は、画像、テキスト、音楽などの新しいコンテンツを作成できる人工知能の一種です。 まだ開発中ですが、印象的でリアルなコンテンツの作成にすでに使用されています。 ただし、生成 AI は、国防総省の爆発の画像などの偽のコンテンツの作成にも使用できます。
この写真が主張しているものであると確信しています。 "ペンタゴン付近で爆発" AIが生成したものです。
建物の間口と、フェンスが群衆の柵に溶け込んでいる様子をチェックしてください。 他に直接の目撃者として投稿した画像や動画、人物もいない。 pic.twitter.com/t1YKQabuNL
— ニック・ウォーターズ (@N_Waters89) 2023 年 5 月 22 日
生成型 AI の危険性は、誤った情報の拡散に限定されません。 偽のコンテンツは、人々の感情や行動を操作するために使用されることもあります。 たとえば、フェイクニュース記事は、暴力を扇動したり、恐怖を広めるために使用される可能性があります。
AI国防総省の爆発は警鐘だ。 これは、生成 AI が善にも悪にも使用できる強力なツールであることを示しています。 生成型 AI の危険性を認識し、それから身を守るための措置を講じることが重要です。
生成 AI から身を守るためのヒントをいくつか紹介します。
- オンラインで見るコンテンツには批判的になってください。 目に見えるものすべてを信じないでください。
- コンテンツのソースを確認してください。 信頼できる情報源からのものですか?
- コンテンツが偽物である兆候を探します。 たとえば、文法やスペルが間違っていませんか? 画像やビデオはピクセル化されていますか?
- 偽のコンテンツを見たプラットフォームに報告してください。
私たちは生成型 AI の危険から身を守るために警戒する必要があります。 リスクを認識し、身を守るための措置を講じることで、生成 AI が危害を加える目的で使用されるのを防ぐことができます。
Source: 偽AI国防総省の爆発が市場を震撼させた
