私たちひとりひとりが、デマとどう向き合い行動すべきなのか、ある人物に取材を申し込みました。
黒咲くろんというハンドルネームで発信を続ける男性です。
男性は、2022年9月に静岡県を襲った台風15号に関連した豪雨災害の際、静岡県内で数多くの住宅が水没したとする偽の画像をSNSで拡散させた人物です。
「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」とのコメントが添えられた偽の画像は、生成AIで作られたものでした。
街全体が茶色く濁った泥水に飲み込まれている様子です。
家やビルの屋根がかろうじて水面から出ているような写真もあり、深刻な被害が発生したと思わせる内容でした。
男性は投稿のインプレッション数が1000を超えた段階で、この画像が生成AIで作られた偽情報であることを投稿。
謝罪もする一方で、このようなフェイク画像が簡単に作られ拡散されていく現状への警鐘を鳴らしたいとも語っていました。
この書籍の「はじめに」で書いたとおり、私はこの台風15号の現場を取材している最中でした。
誤った情報によって、本当に水害で苦しんでいる人たちの心が傷つけられたことも知っています。一方で、この男性が行動し、そして語るように、誰もが簡単に生成AIによる発信ができてしまう時代でもあります。
何が有効な対策となるのか。
この男性との対話から考えました。
【堀】まず、あの時の静岡の画像は、どういう理由で作って発信されたのですか？
【くろん】はい。当時、静岡のニュースを見て、水害が起きていたことは知っていたんですが、実際の状況がどのようなものか、写真や映像があまり出回っていなかったんです。
私自身も水害を経験したことがなくて、「水害ってどんなものだろう」という興味から、画像生成AIを使って作ったのが始まりでした。
いくつか投稿したうちの1枚が広まってしまったんですが、特に深い意図はなく、単に「情景を見てみたい」という好奇心から作ったものでした。
【堀】なるほど。くろんさんは、それまでも生成AIを使っていろいろな画像を作成していたんですか？
【くろん】そうですね。その時は、ちょうど自分の中で流行っていて、この1週間くらいは、生成AIで作った画像を投稿するのを楽しんでいました。
【堀】実際には、どのような言葉を使って画像を生成していたんですか?
【くろん】「水害」を表す英語の「flood damage」などの単語を使って生成しました。特に細かい単語は入れず、簡単な言葉で作っていました。
【堀】投稿された画像をぱっと見た瞬間に山々の様子などが「すごく静岡の雰囲気に似ているな」と思ったんですけど、特に静岡の地域を指定して作ったわけではないんですね？
【くろん】そうですね。地名を詳しく指定しても反映されないことがわかっていたので、「静岡」という単語だけを入力して作りました。
【堀】なるほど。静岡という地名と英語表記での「水害」という単語だけで作成されたんですね。他に、画像の精度を高めるために使った単語はありましたか？
【くろん】「最高傑作」という意味の「masterpiece」や、「非常に細かい」という意味の「insane detailed」なども使っていました。
（中略）
【堀】フェイク画像がどういう条件が揃えば多くの人に見られるようになるのかという視点で見ると、どう分析していますか？
【くろん】まず、時事ネタに乗っかるのが基本です。それに加えて、画像の質よりも、数を多く投稿することでバズりやすくなるんじゃないかなと思います。
【堀】時事ネタというのは、どういう意味ですか？
【くろん】ニュースやSNSで関心が高いものに関連した内容を投稿することです。それは、人々の関心を引きやすいので、事実に基づいた延長線上にあるような話だと見られやすいですね。
【堀】なるほど。つまり、ある程度関心が高い話題に乗せることで、注目されるということですね。
【くろん】そうですね。私が投稿したものはそこまで質が高いわけでもないのに広まったのにはそうした要素が影響していると思います。
【堀】そうか、画像が精巧に作り込まれていなくても、広がっていくという実感があったんですね。
【くろん】そうですね。見る側がぱっと見しか見ないことが大きいと思います。
【堀】確かに、後でよく見ると雑な処理が残っているけど、最初に目に飛び込んでくると「水害だ」と反射的に思ってしまいますね。
【くろん】はい。
【堀】一方で、画像が広がるにつれて、今までとは違う異変を感じたとおっしゃっていましたが、その後、どのような心境や状況の変化がありましたか？
【くろん】そうですね。最初に投稿が伸び始めた時、次に「AIに詳しい人からの警告投稿」が回ってきました。
それを見た時に「やっと気づいたか」という気持ちと同時に、「もしかして、気づきにくいのかな」という気持ちもありました。
私は騙されないだろうと思って投稿していたので、本当に騙される人がいるんだなと驚きました。
【堀】簡単に作ってばらまいたものがここまで真に受けられるなんて、見る側のリテラシーが低過ぎると感じましたか?
【くろん】そう思いました。1分や数十秒で作った画像なので、「こんなものに騙されるのか」と驚きましたね。
最初はなぜ投稿が伸びているのかわかりませんでしたが、「騙されている人がいるから広まっているんだな」と納得しました。
（中略）
【堀】戦争の新しい武器として生成AIが使われることについて、どう考えていますか?
【くろん】そうですね。対処は難しいと思います。結局、生成AIで作られた画像も実際の映像も「データ」でしかありません。ランダムに生成したものが現実と一致することもありえるので、見破るのは非常に難しいですね。
【堀】確かに、写真や映像はデータとして存在するもので、それを現場に行かずに「事実だ」と捉えることに危険性を感じますね。
【くろん】はい。
【堀】対処が難しい中で、くろんさんが提案する対策はありますか？
【くろん】基本的なことですが、「よく見る」「よく調べる」ことですね。画像や映像の細部を確認することや、基礎的な情報を把握しておくことが重要です。たとえば、日本の水害と海外の水害の違いを知っていれば、騙されにくくなると思います。同じように、今後起こる出来事についても事前に知識を持っていれば、騙されるリスクは減るでしょう。
【堀】どのくらいの深さで調べる必要があると思いますか?
【くろん】素人が完璧に調べるのは難しいです。ですから、専門家に聞くことが大切だと思います。
【堀】専門家の意見を聞いて判断する「待つ姿勢」が必要ということですね。
【くろん】そうですね。緊急時にはすぐ判断する必要がありますが、冷静に待つことができる人はその姿勢を持つべきだと思います。
（中略）
【堀】最後に質問ですが、こうした経験を経て、くろんさんができること、言えることとは何だと思いますか?
【くろん】現状で言えば、生成AIで悪いことをしたという事実が記録として残ることが、一番有効だと思っています。
【堀】どうしてそう思うのですか？
【くろん】私は専門家ではないので、卓越した知識で警鐘を鳴らすようなことはできません。これ以上、無理に目立つよりも、今のままで記録として残しておくことで、これ以上、悪影響を与えないようにした方が良いというのが私の考えです。
【堀】なるほど。だから、Xのアカウントの最上部に投稿を固定して、事例として後世に残してほしいと思っているのですね。
【くろん】はい。
【堀】国は国家安全保障戦略や防衛力整備計画の中で、自衛隊の情報戦や認知戦への対策強化を盛り込んでいますが、国がやるべきことは何だと思いますか？
【くろん】デマに対しては、反論や反証となる情報を逐一発信することが重要だと思います。
デマが流れること自体は避けられませんが、それをひとつひとつ徹底的に潰していくことが国のためになると思います。日頃から正しい情報を発信し、国の信頼を高めることが大切です。そのベースがあれば、反証も効果的になると考えています。
（後略）
これが男性との約1時間にわたる対話の記録の一部です。本書での結論に近い話を奇(く)しくもデマ拡散の当事者が語っていました。
———-
———-
（8 bit.news CEO・ジャーナリスト 堀 潤）