生成AIをはじめとする高度なAI技術の実用化が急速に進む一方で、AIの悪用や脆弱性を狙った攻撃など、セキュリティ上の課題が顕在化している。そんななか、情報処理推進機構(IPA)とAIセーフティ・インスティテュート(AISI)は4月2日、一般的な利用者向けの「AI利用者のためのセキュリティ豆知識」とAI開発者およびセキュリティ担当者に向けた最新のトレンドや情報をまとめた「AIセキュリティ短信」を一般公開した。
IPAとAISIは、AIの安心・安全な利活用を目的に2025年から有識者や業界団体とAIセキュリティに関する検討を重ねてきた。今回の発表はその成果を踏まえたもの。また、IPAでは今年1月、「情報セキュリティ10大脅威2026」を発表したが、その「組織」向け脅威の第3位には「AIの利用をめぐるサイバーリスク」がランクインした。IPAでは、AIの利活用が進む中、AIの利用者と開発者の双方に向けた一層のセキュリティ対策の強化とその普及・啓発が求められているとしている。
AI利用者のためのセキュリティ豆知識は、AIやセキュリティの基本を理解したい利用者を対象に、AIを利用する際に最低限実施すべきセキュリティ対策を分かりやすくまとめたもの。
AIの基礎知識(主に生成AIの基礎知識）として「AIにはいろいろな種類のものがある」「今の汎用AIの代表は生成AIとその仲間」「生成AIは知識豊富だが経験不足の新人」「RAGは生成AIが検索で知識を補う仕組み」をテーマに解説している。
また、ここから始めるAIセキュリティ対策として「クラウドAIに営業秘密は教えない」「AIブラウザは社内用と社外用を分ける」「RAG使用時は『混ぜるな危険』にご用心」「外見では詐欺師を見破れないと心得る」「AI仕込みのサイバー攻撃も撃退法は従来通り」について解説している。
一方、AIセキュリティ短信は、AIシステム開発者やセキュリティ担当者を対象に、AIセキュリティに関する最新のトレンドや事例を紹介したもの。
日々発信される膨大な情報をAIセキュリティの観点で整理しており、これまでは有識者や業界団体向けに不定期で配信してきたが、「より多くのAI・セキュリティ担当者に知っていただきたい」との業界団体からの意見を踏まえ、最新号およびこれまで作成した3号分を公開した。
最新号では、「AIに係る安全性確保(Security for AI)」、「AIを活用したサイバーセキュリティ確保(AI for Security)」、「AIを悪用したサイバー攻撃への対処」がテーマになっている。年間数回をめどに今後も新刊を発行予定となっている。
【参考】：AIセキュリティ | 社会・産業のデジタル変革 | IPA 独立行政法人 情報処理推進機構
【参考】：「AI利用者のためのセキュリティ豆知識」「AIセキュリティ短信」を公開 | 独立行政法人情報処理推進機構のプレスリリース
ライター
