人々の情報源のSNSへの依存が強まる中で、ネット空間の情報が世論を形成する時代になっています。それに伴って、偽情報の流布に加えて、偏った意見の増幅という新しい影響工作の手法が見られるようになり、安全保障の観点から情報空間のリスクが増大しています。このような外国による影響工作の新しい動きに対しては、防御側も生成AIなどの技術を用いることが必須になりつつあります。

　情報空間の影響工作の最新の現状と生成AIを用いた偽情報対策の可能性について、「Sakana AI」のご協力もいただき、中曽根平和研究所・情報空間のリスク研究会のメンバーとの間で議論を行いました。

1．日時：2026年1月21日（水）10：00～11：30

2．モデレーター

　大澤 淳（情報空間のリスク研究会座長/中曽根平和研究所上席研究員）

構成（敬称略）

　①プレゼンテーション

　「影響工作（FIMI）・情報戦・認知戦～日本にせまる認知領域の危機～」

　大澤 淳（研究会座長/NPI上席研究員）

　「AI×インテリジェンス　認知戦での活用」　

　石井 順也（Sakana AI株式会社　国際政治経済アナリスト/事業開発本部プロジェクトマネージャー）

　②質疑応答・議論

　　土屋 貴裕　京都外国語大学共通教育機構教授

　　長迫 智子　独立行政法人情報処理推進機構(IPA)サイバー情勢研究室研究員

　　布施　 哲　株式会社国際社会経済研究所(IISE)特別研究主幹

　　宮崎 洋子　沖縄科学技術大学院大学東京オフィスディレクター/元スマートニュースメディア研究所主任研究員

　　持永　 大　芝浦工業大学システム理工学部サイバーセキュリテイ研究室准教授

　　鈴木 涼平　一橋大学大学院法学研究科博士後期課程

　当日は、官庁、企業、研究者、マスメディア等から多くの視聴者を受けて活発な議論が交わされました。要点は以下の通りです。

■大澤淳「影響工作（FIMI）・情報戦・認知戦～日本にせまる認知領域の危機～」

・情報の入手源としてインターネットを利用する人々の割合は年々高まっており、世論形成においてSNSが果たす影響力も増大している。一方でSNSの情報は発信する側による情報の精査が必ずしも徹底しているとはいえず、情報操作や影響工作に利用される余地がある。

・影響工作は情報戦の一種であり、対象とする国家の社会の分断化や不安定化、意思決定への介入を目的としており、これによって世論の分断や制度の弱体化、あるいは政治的アジェンダの転換を標榜している。

・従来ロシアの影響工作の手法は、国営のプロパガンダメディアやトロール部隊によって生成された偽情報をSNS空間に流布させ、社会の混乱を引き起こそうとしていた。一方、近年では現地在住のインフルエンサーを利用し、現地の国民を偽装したペルソナアカウントを生成AIで作成して偽情報を投稿している。その上で生成AIによるBotアカウントが集中的にそれらの投稿を拡散し、SNS空間に流布させている。

・近年中国は影響工作の一環として、ロシア型の影響工作を取り入れるようになっており、米国内の有権者になりすまし、米国内の政治・社会問題の対立を煽動する偽情報を増幅するほか、日本を含む世界約30カ国で地元メディアを装った偽ニュースサイトを運営し、中国にとって好意的な情報を発信している、との指摘がある。

・中国およびロシアによる影響工作についてはリアルタイムで分析していく必要があるが、SNS空間上のデータが非常に膨大であるため、欧州対外行動庁（EEAS）が実施しているようなビッグデータ分析による可視化が不可欠であり、AIを利用した分析の可能性を模索する必要がある。

■石井順也「AI×インテリジェンス　認知戦での活用」

・Sakana AIは防衛・インテリジェンスを主要な事業分野と位置付けている。SNS分析はAIの強みを最大限に生かせる領域であり、特に認知戦への対策は我が国にとって喫緊の課題と認識している。そうした観点から、AIの独自技術によってSNS上に存在する多様なナラティブを抽出し、言論空間の可視化を行うことで、さまざまなインサイトを導出するとともに、偽情報の検知技術を適用するなど、具体的な分析を進めている。

・最近の例として、複数のSNSプラットフォームを対象に、昨年11月7日の高市首相の台湾有事と「存立危機事態」をめぐる発言後の日中関係に関するナラティブの分析を行ったことを紹介した。その結果、たとえば日本政府の外交・安保政策に対する批判的な投稿は、実は答弁直後にはそこまで急速に増加しておらず、そのような投稿が急増し、エンゲージメントを高めたのは、13日に孫衛東・外務次官が金杉憲治・駐中国大使を呼び出し、首相答弁の撤回を要求した後だったことを解明した。一方、中国批判の投稿はそれに先立つ同月9日から急増しているが、これは8日に薛剣・大阪総領事がX上で高市首相に対する暴言を発したことへの批判が大部分を占めていた。これらの一連のSNS上の動向から、中国の意図や言論空間への影響の在り方を読み取ることができると考えている。

・偽情報の検知技術を利用した結果、たとえば「日本の治安が悪化している」「中国人狙いの犯罪が多発している」といった投稿は、中国政府の発表という点では形式的にフェイクとは言えないものの、その主張内容が日本政府や警察庁などの公的機関の発表と乖離していることを識別し、他の要因も考慮しながら、総合的な観点から見て偽情報である可能性が高いと判定した。また、「『日本は台湾を防衛する』と言った」とする投稿についても、その不正確さを判定することに成功している。

・さらに、Agent-Based Modelingの技術を活用し、SNS上で特定のアクションをとった場合に、AIによって生成されたペルソナをユーザーとしてリアクションさせることで、SNSの言論空間を再現するシミュレーションも開発しているところである。

各委員のコメントは以下の通りです。

■宮崎委員

　生成AIを利用した偽情報の事例は米国によるベネズエラ攻撃でも確認された。マデュロ大統領の拘束を歓喜で迎えるベネズエラ市民の映像が流布されたが、ファクトチェックを経て偽情報であることが確認された。AIによって作成された情緒的な動画がインフルエンサーによって拡散、アルゴリズムで増幅された後、更に他のプラットフォームに拡散されることで「既成事実化」するリスクは無視できない。

　ご発表のAI技術を使った政策への活用の可能性としては、虚偽アカウントや拡散者の影響力を迅速に検知し、コメント等で「真偽に疑義があり検証中」など注意喚起を行うこと、事前に情報の受け手の反応を予測し、対抗ナラティブの設計とテストを行うことで、反応を予測した広報への転換が考えられる。プラットフォーマー以外に対抗技術があり、データやインサイトを蓄積できる意義は大きい。

■布施委員

　他国による情報戦、影響工作が平時から行われていることを認識するのは重要である。

　民主主義国における意思決定、議論の健全性が影響工作によって損なわれていないかどうかに注意を払う必要がある。今回、石井さんに発表いただいたような企業による影響工作への分析が行われていることが広く知られることは世の中のアウェアネス向上の観点から意義深く、情報空間のリスクに対する国民の免疫力を高めることにも寄与するであろう。企業、研究機関、研究者にどんどん取り組んでほしい。

　また影響工作を分析する際にはSNSが注目されがちだが、中国あるいはロシアが自国にとって都合の良い情報、ナラティブを国営メディアなどを通じて拡散し、それらの情報に「権威づけ」をしているという実態を鑑みると、偽情報対策においてテレビ、新聞などのオールドメディアの果たせる役割に対しても引き続き注視する必要がある。

■土屋委員

　偽情報が多いからといって、それが人々の行動変容に必ずしも結びついていないのではないか。現状では相手国によって仕掛けられている認知戦が成功しているとは言い難いが、今後AIを利用しないと真偽の判定が困難な情報が拡散され、それによって人々の行動が変容するリスクについては警戒しなければならない。

■持永委員

　AI技術を利用することによって、影響工作の主体者の戦略的な目的がどこにあるのかを見つけることの重要性は高い。人々の認知能力を歪める誤情報の事例については戦前からも存在していたため、現在見られている事象それ自体は新しいものではなく、そうした事象を引き起こすツールが変わってきたことによって、より多くの影響を及ぼしているといえる。今後新しい技術を用いることで、影響工作にリアルタイムで対応していく必要がある。

■鈴木委員

　偽情報の検知やナラティブの整理といった技術的観点に加えて、偽情報の拡散されやすい社会的背景にも目を向けることが重要。ポピュリスト的言説の増大、社会の分極化、SNSへの依存といった環境下においては偽情報の拡散が起きやすい。

　Sakana AIの最新技術によって、特定のテーマに関する議論の分断度合いの可視化や、SNSの投稿データに基づく脆弱性クラスターの予測にも応用できるのはないか。

■長迫委員

　偽情報のみならずナラティブそのものの分析も重要である。日本の軍国主義化といったナラティブ形成にみられる、偽情報を含まない風刺画による情報操作等、どのように検知し対策するかが課題である。中国とロシアでは対外影響工作の手法が異なっているが、一方で両国の連携も見られており、複数のプラットフォームを介したクロスポスティングの事例や言語横断的な事例も確認されており、多層的なモニタリングが必要。またAIによって生成されたBotネットワークを選挙や外交イベント等の活動期前に摘発することが重要だが、偽情報を発信する前のウォーミングアップ的な活動を捉える仕組みも必要である。