生成AIが出す内容そのものを健康リスクとして扱う ― 若年層を守る枠組みを4つの柱で組み立てる

1「危険な情報」ではなく「危険な生成」

オンラインの安全に関する議論は長らく、有害な情報がどこかに存在し、それを見つけてしまうという構図で語られてきました。生成AIはこの構図を変えます。内容はあらかじめ存在するのではなく、利用者の入力に応じてその場で作られます。何が出てくるかは事前に一覧化できず、利用者ごとに違います。

本課題は、この開かれたプロンプト駆動の性質そのものが、若者の心の健康に関わるリスクを生みうるという前提から出発しています。

2対象は若年層の心の健康

1. 1問題の設定生成AIのプラットフォームが若年層の情報取得・創造的表現・交流を媒介するようになった
2. 2リスクの所在開かれたプロンプト駆動の性質により、心の健康に悪影響を与えうる内容が生成されうる
3. 3研究の構成相互に結びついた4つの柱で保護の枠組みを開発する
4. 4第1の柱大規模言語モデルのための、認知に根ざした枠組みを開発する
5. 5目指す成果より安全なオンライン交流を支え、思春期・青年期の幸福と心の健康を改善する

注目したいのは「認知に根ざした（cognitively grounded）」という言い方です。単語や話題を並べた禁止リストで対処するのではなく、その内容が読み手の認知にどう作用するかを踏まえて枠組みを組み立てようとしています。同じ言葉でも、受け取る側の年齢や状態によって作用が変わりうる領域だからです。

34年という期間

交付額は1,200,000ドル、期間は2026年10月1日から2030年9月30日までの4年です。2026年9月2日時点で当サイトが保持するNSF助成120件の期間は、中央値が3年、最長が6年、最短が1年なので、本課題は中央値より長い部類にあたります。生成AIの領域は技術の変化が速く、4年という期間のあいだにモデルも利用のされ方も変わります。

特定のモデルへの対処ではなく枠組みとして組み立てる設計は、その速さを踏まえたものと読めます。

4信頼できるサイバー空間という区分

区分は Secure and Trustworthy Cyberspace（SaTC 2.0）です。この区分には侵入や暗号のような古典的な安全保障の主題も含まれますが、本課題のように利用者の心理的な安全を扱うものも並びます。守るべき対象がシステムから人へ広がっているという変化が、区分の内訳に現れています。金額は確認時点の交付額であり、追加交付や改定で変わることがあります。