生成AI活用スキル認定試験普及委員会、AIインシデント・事故データベースを57件に拡充

生成AI活用スキル認定試験普及委員会は、生成AIの利用に伴うインシデントや事故の事例をまとめた「AIインシデント・事故データベース」の公開事例数を57件に拡充したことを発表しました。この拡充により、生成AIの失敗事例から実務で必要なリスク対応力を学ぶための情報がさらに充実し、AIの安全かつ効果的な活用を支援します。

AIインシデント・事故データベースとは

AIインシデント・事故データベースは、生成AIの利用において発生したインシデント、事故、誤用、情報漏洩、ガバナンス不全などの事例を、一次情報と法的状態（未確定／確定）の区別をつけて整理したものです。これにより、生成AIを安全かつ効果的に活用するための知識と実践的なリスク対応力を習得することを目的としています。

拡充の背景：AIリスクの顕在化と情報提供の重要性

近年、生成AIの急速な普及に伴い、その利用におけるリスクも顕在化しています。例えば、AIが生成した情報が不正確であったり、個人情報が意図せず漏洩したりするケース、あるいはAIの誤用による詐欺行為などが報告されています。これらのインシデントは、企業や個人に多大な損害を与える可能性があります。生成AI活用スキル認定試験普及委員会は、こうしたリスクに対する意識を高め、具体的な対策を講じるための情報提供の重要性を認識し、データベースの拡充に至りました。

今回の拡充内容：57件の事例でリスクを具体的に学ぶ

今回の拡充では、新たに10件以上の事例を追加し、合計57件の事例を掲載しました。追加された事例には、AIを偽称したEコマース詐欺、AIウェブアクセシビリティツールの虚偽宣伝、AI活用Eコマース詐欺スキーム、AI検出製品の精度虚偽表示、AIをうたった副業スキームの一斉摘発、Alexaによる子どもの音声無期限保存、同意なき顔認証、匿名メッセージアプリのAI審査の虚偽、ロボット弁護士の誇大広告、AI兵器検知スキャナーの誇大宣伝、顔認証AIのバイアスに関する虚偽、ドラッグストアの顔認証AIによる誤認、AIモデル不正抽出、AIコンピュータ利用エージェントの脆弱性、AIエージェント用npmからのメール流出、プロンプトインジェクションによるLLMフレームワークの脆弱性、LLMプロンプト注入によるC2エージェント化などが含まれます。これらの事例は、米連邦取引委員会（FTC）によるAI関連の取り締まり事例や、AIセキュリティ研究グループによる最新の研究結果など、信頼性の高い情報源に基づいています。

データベースの活用方法：実践的なリスク管理を支援

AIインシデント・事故データベースは、キーワード検索機能を用いて、関心のある事例を容易に見つけることができます。例えば、「詐欺」「情報漏洩」「誤用」といったキーワードで検索することで、関連するインシデント事例を一覧で確認できます。各事例の詳細ページでは、発生した事象、原因、影響、そして可能な対策について解説されており、生成AIのリスク管理に役立つ具体的な知見を得ることができます。

生成AI活用スキル認定試験：知識とスキルを証明

生成AI活用スキル認定試験普及委員会は、AIインシデント・事故データベースの提供に加え、生成AIの安全かつ効果的な活用スキルを証明する「生成AI活用スキル認定試験」も提供しています。この試験では、データベースで学んだインシデント事例を踏まえ、実務で求められるリスク対応能力を問う内容が含まれています。AIの活用が不可欠となるこれからの時代において、本試験を通じて、より多くの人々がAIを安全に使いこなすための知識とスキルを習得することを支援しています。

生成AIの可能性を最大限に引き出すために

生成AIの可能性を最大限に引き出し、安全に活用するためには、リスクへの理解が不可欠です。AIインシデント・事故データベースと認定試験を通じて、皆様のAI活用を力強くサポートいたします。ぜひご活用ください。

生成AIの急速な普及とそれに伴うリスクの顕在化を受け、安全なAI活用を促進する必要性を強く感じたことが設立の背景にあります。AI技術の恩恵を最大限に享受するためには、潜在的なリスクを正しく理解し、適切な対策を講じることが不可欠です。私たちは、そのための知識とスキルを提供するプラットフォームとして、この委員会を立ち上げました。

生成AI活用スキル認定試験普及委員会 代表 池田拓郎