AIへの「較正された依存」を探る空軍の研究受注（DCS社） ― 連邦契約（USAspending）

「較正された依存（calibrated reliance）」とは、AIや機械学習（コンピューターがデータからパターンを学び、判断や予測を行う仕組み）を使う人が、その出力をどこまで信頼し頼るべきかを、AIの確からしさに見合った適切な度合いに保つことを指す考え方です。AIを過信すれば誤った出力にそのまま従ってしまい、逆に過小評価すれば有用な支援を活かしきれません。どちらにも偏らず、状況ごとに信頼の度合いを調整する――これが人間とAIの協調における中心的な課題とされています。この契約の概要は、まさにこのテーマを扱うものとして記載されています。

この問いが重要なのは、AIの信頼性を正しく見極めることが、安全で効果的な活用の鍵になるからです。AIは万能ではなく、得意な状況と不得意な状況があります。使う人がその境目を理解し、信頼すべき場面と慎重になるべき場面を切り分けられて初めて、AIは安心して頼れる道具になります。発注者が国防総省・空軍であることは、判断の正確さが特に重んじられる領域でこのテーマが探られていることを示しています。なお、具体的な研究成果や納入物の詳細については原文に記載がなく、ここでは推測しません。

横断的に見ると、この契約は連邦政府が「AIをどう作るか」だけでなく「人がAIをどう信頼し使うか」という人間側の側面にも資金を投じていることを示す一例です。AIの普及が進むほど、技術そのものの性能と並んで、人とAIの間の信頼の設計が重要になります。USAspendingに公開されたこうした契約を横断的に見ることで、公的部門がAIの実用化のどの局面に力点を置いているのかを読み取る手がかりになります。