AIへの攻撃と事故を追跡する仕組みを整える法案 ― 「敵対的AI」を条文で定義する

1攻撃の対象としてのAI

AIの安全をめぐる議論は、AIが何かを引き起こすリスクに集まりがちです。この法案が扱うのは反対側で、AIが攻撃される側に立つ場合です。条文が定義する「敵対的AI」は、AIシステムの挙動や特性についての情報を引き出す技術、あるいはAIシステムを操作する方法を学ぶための手順を指します。モデルの中身を探る、あるいは意図しない振る舞いをさせる方法を見つける。いずれも従来のセキュリティの語彙で言えば、偵察と侵害にあたります。

2定義に含まれる三つの性質

1. 1何をするかAIシステムの挙動もしくは特性についての情報を引き出す、またはシステムを操作する方法を学ぶ
2. 2何を損なうか機密性・完全性・可用性（情報セキュリティの三要素）
3. 3どこまで及ぶか当該AIシステムだけでなく、隣接するシステムも含む

定義が情報セキュリティの古典的な三要素を用いていることが目を引きます。AIに固有の新しい枠組みを立てるのではなく、既に確立した語彙の上に位置づける書き方です。また「隣接するシステム」まで含めている点も重要で、AIモデルそのものは侵害されなくても、それを通じて周囲のシステムに手が届く場合を捉えます。

3追跡と処理を改善する

法案の目的として掲げられているのは、インシデントとリスクの追跡と処理の改善です。何かを禁止するのでも、新しい義務を課すのでもなく、起きたことを記録して扱う仕組みを整えるという方向です。当サイトが扱う法案には、AIの欠陥について自発的な報告の制度をNISTに作らせるものもあり、同じ問題に対して安全保障の側と標準化の側から並行して手が入れられている状況が読み取れます。

4略称の書き分け

この法案は正式名称と略称のほかに、もう一つの引用名が定められています。「Secure Artificial Intelligence Development Act of 2026」と「Secure A.I. Development Act of 2026」で、後者は略記を用いたものです。

条文が二通りの引用名を用意するのは珍しくありませんが、どちらで呼んでも同じ法案を指すことになります。2026年9月2日時点で当サイトが保持する法案120件のうち94件（78%）は委員会に付託されたままです。