２月２０日（金）AIが事実をゆがめて消す➡ファクトチェック

〇昨日は、「後生畏るべし」の例として、若いクリエイターなどによるAI生成コンテンツの利用について書きましたが、SNS上にある動画の多くが、人間が実際に撮影や編集したものよりもAI（人工知能）がいろいろな動画の切り抜きを使って、加工作成しているという現実があります。

〇たとえば、有名な名画のレオナルドダヴィンチのモナ・リザが動き出したり、ライオンなどの猛獣と人が不自然に戯れていたり、もっと過激になると爆撃場や戦争現場の悲惨な状況で人が殺されたりする動画などが平然とアップされていたりします。どれも「本物か！？」と見間違えるほどのリアルさがあり、観た人はそれを信じきってしまうこともあります。

〇これは見方によっては、「AIによって事実がゆがめられたり消されたりすることが可能である」ことを示しています。これまでもたびたび報道によって、事実が都合よく切り取られて配信されることも問題視されてきました。メディアによる「印象操作」といって、言葉、服装、態度、表情などを通じて、他者に与えるその印象を意図的にコントロールし、望ましい方向へ管理しようとしていることが指摘されています。

〇これは人間にとって、画像による説得力は大きく、画像の切り取りなどは、多くの人に影響を与えやすいことが背景にあります。心理学者のアルバート・メラビアンが提唱した「メラビアンの法則」により、人の第一印象は、視覚（55%）、聴覚（38%）、言語（7%）の3要素で決定されると言われています。特に視覚と聴覚の非言語情報が9割以上を占めるため、表情、態度、声のトーンが重要です。

〇このように虚偽情報が視覚に訴える形で拡散されることがAIの抱える問題です。そこでAIで加工された画像や動画の真偽を見極める力を身につけることが必須となります。「こんなことがありえる？」「もしかしてこれはフェイク？」などと疑って、いろいろな角度からみたり調べたりしようとするクリティカルシンキング（批判思考）が重要です。

〇AIにあえて「AIが事実をゆがめて消すとしたらその対処法を教えて」と質問してみたところ、次の答えが返ってきました。

1.AI生成画像・動画を見破る視覚的ポイント

AI生成コンテンツには、細かい部分に不自然な点（アーティファクト）が残りやすいです。

手・指の異常➡ 指の数が多かったり、不自然に曲がっていたり、融合していたりする（AIが特に苦手とする部分）。

目の不自然さ➡両目の光の反射が一致していない、視点が合っていない、瞳が不自然に輝いている。

文字や背景の崩れ➡看板やTシャツなどの文字が解読不能な文字になっている、背景の建物や階段が途中で途切れる・歪む。

不自然なテクスチャ➡肌が「エアブラシ」をかけたように滑らかすぎる、髪や毛皮の質感が均一すぎる。

影と光の矛盾➡光源の方向と影の向きが合っていない。

2. ディープフェイク動画を見破るポイント

人物の顔を入れ替えた動画（ディープフェイク）では、動作の不自然さに注目します。

瞬きの回数➡瞬きが極端に少なかったり、不自然に多かったりする。

唇の動きと音声のずれ➡口の動きが言葉と合っていない（リップシンクの不整合）。

顔の輪郭のブレ➡顔と髪、顔と首の境界線が不自然にぼやけたり、ちらついたり（フリッカー）する。

表情の不自然さ➡感情と表情が一致していない、顔の表情の変化が滑らかではない。

3. 真偽を見極めるための具体的なアクション

技術的なチェックに加え、情報を精査するプロセスが重要です。

「逆画像検索」の活用➡Google画像検索やTinEyeなどを用いて、その画像が過去に別の場所で使われていないか、元の画像が存在しないかを確認する。

情報源の確認・ダブルチェック➡信頼できるニュース機関が報じているか、他の情報源はあるかを確認する。

情報の文脈を確認➡あまりに衝撃的すぎる、または極端に感情を揺さぶる内容は偽情報の可能性を疑う。

検出ツールの活用➡「Deepware Scanner」や「Microsoft Video Authenticator」などのAI検出ツールを活用する。

〇瞬時にこのような詳細な回答を示すことは、「さすが」と思わざるをえません。今後は大人も子どもも何かを知りたい時には、まず「AIに尋ねてみよう」がスタンダードになるでしょう。このようにAI技術は急速に進化している反面、それがまた逆に真偽の見極めを困難にさせています。

〇論語に「道聴塗説（どうちょうとせつ）」という言葉があります。意味は「道端で聞いた話を、その内容を深く理解しないまま、すぐに他の人に話すこと、根拠のない知識やいい加減な受け売りの話など」です。人の話やSNSを鵜吞みにせず、批判的思考（クリティカルシンキング）で、事の真偽を確かめる姿勢が重要です。

〇たとえば事実が書かれているとされる原書や出典、データなどを調べたり、必ずあるはずの反対の立場の意見と比較してみたりして、最後は自分の言葉でまとめたり語ったりすることが、学ぶ人の基本であるでしょう。

〇市の教育委員会からも昨年、「児童生徒による生成AI（Gemini）の 利用開始について」という通知が出され、小学３年生からを目安に「はじめての生成AI」という授業パッケージを参考に、児童生徒生成がAIを使う時の注意点や禁止事項について指導した上で活用していく旨が示されています。

〇生徒に指導する前に、今後は私自身が目にする画像や動画に対し、常に「これは本当に本物か？」と疑う意識を持とうと思います。そして今以上に自分で見たり聞いたりしたことを大切にし、客観的な自分の意見や考えを優先させていきます。

須藤昌英