国防総省にAIの「インシデント報告制度」を作らせる法案 ― 非懲罰の報告と横断的な傾向分析（H.R.10189）

1事故から学ぶ仕組みを、AIに当てはめる

航空や医療には、事故やヒヤリハットを報告させ、原因を分析して次に活かす制度が長く存在します。この法案は、その考え方をAIシステムに当てはめようとするものです。個々の不具合を担当部署の中で処理するのではなく、省全体で一箇所に集め、繰り返し現れる型を見つけて、試験や調達の判断に返す——という筋道になっています。

2非懲罰であることが要になる

法案は、確立した安全インシデント報告制度・脆弱性開示制度・教訓抽出の実務から設計することを求め、非懲罰の報告、機微情報と専有情報の保護、教訓の周知を重視すると明記しています。報告制度が機能するかどうかは、報告した側が損をしないと信じられるかにかかる——航空安全の分野で積み上がってきた知見が、そのまま条文の要件として現れています。

3分析に必要なものまで条文が書いている

1. 1報告する対象AIインシデントと対象AI脆弱性を速やかに報告させる
2. 2標準化する指定された担当官が報告を受け取り、様式を揃える
3. 3傾向を分析する繰り返すリスクと故障の様式を特定する
4. 4返す指針・警報・勧告を出し、試験・調達・配備の判断に反映する

条文は、分析と対応のために「ログ・システムデータ・モデル情報への適時のアクセスと共有を可能にする仕組み」を制度に含めることも求めています。AIの不具合は、出力だけを見ても原因にたどり着けないことが多く、学習データやモデルの情報まで見られるかが分析の可否を分けます。制度の設計に、その前提が書き込まれている点が特徴です。

4審議の段階と、この分野の法案の傾向

2026年9月2日時点で当サイトが保持する議会法案120件を審議段階で分けると、委員会付託が94件、委員会が報告を議決したものが17件、他院で受理されたものが5件、本会議の予定表に載ったものが2件です。本法案は最初の段階にあたります。付託先は23の委員会に分かれており、軍事委員会に付託されたものは5件です。