フロンティアAIに連邦の監督を置く「FRONTIER法案」 ― 「壊滅的リスク」を50人超の死傷または10億ドル超の損害と数値で定義する

1「壊滅的」を数字で定義する

AIの規制を書くときに最も難しいのは、どこから先を規制の対象にするかです。この法案は「壊滅的リスク」という言葉に、はっきりした数値の基準を与えました。単一の事象において50人を超える者の死亡もしくは重傷、または10億ドルを超える財産の損害もしくは喪失。曖昧な形容ではなく、線を引いたうえで議論を始めるという書き方です。

2どんな筋道で起こる事象を想定しているか

1. 1兵器への支援化学・生物・放射性物質・核・サイバーの兵器の開発または放出において、公に入手できない支援を提供すること
2. 2自律的なサイバー攻撃意味のある人間の監督や介入なしにサイバー攻撃を行うこと
3. 3自律的な犯罪行為意味のある人間の監督や介入なしに、個人が行えば殺人・暴行・恐喝・窃盗に当たる行為を行うこと

三つに共通するのは「意味のある人間の監督や介入なしに」という条件です。人が指示して起こした結果ではなく、モデル自身の振る舞いとして生じることを問題にしています。兵器への支援については「公に入手できない支援」という限定が付いており、公開情報を要約しただけでは該当しないという線引きになっています。

3便益と比べる形の基準

もう一つ注目したいのは「許容される壊滅的リスクの緩和水準」の定め方です。リスクをゼロにすることを求めるのではなく、想定される便益がリスクの水準を上回ることを確保するに足る緩和と定義しています。確率と大きさを考慮に入れると明記されており、絶対的な安全ではなく比較のうえでの判断を求める設計です。技術の便益を認めたうえで規制を組み立てるという立場が、定義の段階で表れています。

4独立した評価者という仕組み

法案には、免許を受けた独立評価機関（IVO）が、非常に大規模なフロンティア開発者のフロンティアAIの枠組み、統治の方針と実務、リスクの監視、検出されたリスクの緩和が、許容される壊滅的リスクの緩和水準を達成するのに十分かを評価するという「アセスメント」の定義が置かれています。行政が直接審査するのではなく、免許制の第三者に評価させる構造です。

2026年9月2日時点で当サイトが保持する法案120件のうち94件（78%）は委員会に付託されたままで、本法案もその段階にあります。