AI脅威出力・監視・事象封じ込め法案（H.R.9965）― 国立研究所が実際のジェイルブレイク手法でAIを試験し、封じ込めと制御喪失への備えを勧告する

1試験する側に国立研究所を置く

AIの危険性を評価する主体をどこに置くかは、制度設計の分かれ目になる。この法案が選んだのは、エネルギー省の国立研究所である。核に関わる知見と設備が既にある場所を使う形にあたる。

期限も置かれている。施行から90日以内に計画を設けるとされており、体制づくりに長い時間をかけない前提になっている。評価の対象はAIによる核事象の可能性であり、範囲を絞ることで、何を見るのかが定まっている。

2実際に使われる手法で試すと書いている

注目したいのは、試験の中身に踏み込んでいる点である。実務上のジェイルブレイク手法に対応する手順を組み込むこと、そして洗練された悪意ある行為者に匹敵する専門性を持つと長官が認める主体によるレッドチームを行うことが、条文に書かれている。

想定された使い方だけで試すのでは、悪用の可能性は見えない。実際に破ろうとする側と同等の力で試す、という考え方である。あわせて、独立した第三者による評価と、モデルを伏せた評価を実行可能な範囲で促進するとしている。評価する側と作る側の距離を保つ工夫にあたる。

3結果を渡し、備えを勧告する

計画は、参加者に対して試験の結果と、特定された危険および安全措置についての報告を渡す。さらに、大規模な先進AI開発者と国立研究所に向けて、封じ込め手順、緊急時計画、緩和策の勧告を策定する。

危険を見つけるだけでなく、見つかったときにどうするかまでを射程に入れている。制御喪失という言葉が条文に現れていることも、この計画が想定する事態の幅を示している。2026年9月1日時点で当サイトが保持するAI関連法案114件のうち、解説を付けていない44件では、長官等に指示する（direct）で始まる題名が6件ある。

4破ろうとする側と同等の力で試す

この法案が注目されるのは、試験の中身にまで踏み込んでいる点です。想定された使い方だけで試すのでは、悪用の可能性は見えないという前提が置かれています。

1. 1国立研究所に置く核に関わる知見と設備が既にあるエネルギー省の研究所を使う
2. 2実際の手法で試す実務上のジェイルブレイク手法に対応する手順を組み込む
3. 3同等の力で試す洗練された悪意ある行為者に匹敵する専門性を持つレッドチームを行う
4. 4距離を保つ独立した第三者による評価と、モデルを伏せた評価を実行可能な範囲で促進する

施行から90日以内に計画を設けるとされており、体制づくりに長い時間をかけない前提になっています。計画は、参加者に対して試験の結果と、特定された危険および安全措置についての報告を渡し、さらに大規模な先進AI開発者と国立研究所に向けて封じ込め手順、緊急時計画、緩和策の勧告を策定します。危険を見つけるだけでなく、見つかったときにどうするかまでを射程に入れています。