7月15日、Common Sense MediaがGoogle検索AIに関する報告書を公開した。そのキーワードは「リスク」ではなく「容認できない（unacceptable）」という言葉だ。数十年にわたりデジタルメディアと子どもの関係を調査してきた同組織が、この言葉を選んだことの重みは軽くない。

問題の焦点は、GoogleのAI Overviews——検索結果の最上部に表示されるAI生成の要約機能——が未成年に対して特定のリスクをもたらすかどうかだ。報告書の答えは明確だった：はい、そしてそのリスクは「容認できない」。

AI Overviewsとは何か

Google検索を使えば、検索結果のリストの前に、AIが生成した要約が表示されることが多くなっている。これがAI Overviewsだ。Googleは2024年から2025年にかけて大規模に展開し、「10個のリンクではなく、直接的な回答を」というコンセプトで打ち出した。

問題は、AI Overviewsが機能しないということではない。多くの場合は機能する。問題は、機能する仕組みにある：複数のソースを統合し、内容を再構成し、いかなる単一ソースよりも権威ある形で結論を提示する。大人にとっては便利な機能かもしれない。しかし子どもや10代の若者——とりわけメンタルヘルス、栄養、アイデンティティ、健康に関わるトピックを検索する場合——にとっては、この統合プロセスが特有のリスクを生む。

構造的な問題

Common Sense Mediaの批判は表面的なものではなく、構造的だ。AI Overviewsが時々誤った回答を出すという問題（これはすべての生成AIに当てはまる）を指摘しているのではない。この製品カテゴリー自体が、未成年ユーザーを保護された存在として設計されていないと主張している。

報告書が指摘する3つの問題がある。第一に不透明性：子どもたちはAI Overviewsがどこからの情報をもとにしているのか、なぜその結論に自信を持っているのかわからない。「Google回答」の視覚的権威はリンクよりも高いが、情報品質の検証精度はそれ以下だ。第二に再構成リスク：元のソースが適切な注意を払って扱うトピックでも、AIの要約が同じ慎重さを保つとは限らない。第三にフィルターの適用範囲の問題：GoogleのSafeSearchは長年未成年者を特定コンテンツから保護してきたが、それはオーガニック検索結果向けに設計されたものであり、再構成された形でコンテンツを提示するAI生成要約には完全に対応していない可能性がある。

なぜこの報告書が重要か

生成AIと子どもの安全を巡る懸念を表明した組織はCommon Sense Mediaが初めてではない。しかし、世界で最も使われている検索エンジンであり、学生の宿題インフラとして実質的に機能しているGoogle Searchを具体的に対象にしたことの意味は大きい。

この報告書は特定の立法的瞬間に登場した。米国のKOSA（子どもオンライン安全法）、EUのDSAとAI法、その他の法域で進む規制の枠組みは、未成年向けにAI製品がどう機能するかについての義務を課する可能性がある。Common Sense Mediaが「容認できないリスク」という言葉を使った報告書は、学術論文ではなく——議会証言に引用されうる文書だ。

Googleの反論とその限界

Googleは既存の保護措置——SafeSearch、COPPA準拠、コンテンツポリシー——を擁護している。これらは本物だ。しかし、報告書が実際に主張していることへの応答としては不十分だ。

報告書はGoogleに安全ポリシーがないと言っているのではない。それらのポリシーが、AI Overviewsとは異なる仕組みの検索製品向けに設計されており、根本的に新しい種類の情報製品を大規模展開した後に旧製品向けの保護を遡及適用すれば、ギャップが生じると言っているのだ。

これは悪意の話ではない。展開速度の話だ。競争圧力（Perplexity、MicrosoftのAI強化Bing、ChatGPTがデフォルト検索に取って代わるという危機感）が実在する中でGoogleは急いだ。急ぐことにはコストがある。

今後の展開

ここから見える未来は2つある。一つは、Googleがこの報告書を深刻に受け止め、18歳未満のユーザー向けのAIネイティブな保護機能を展開し、守りの姿勢から「子ども向けAI検索の安全基準を作る」先駆者へと転換するシナリオ。

もう一つは、規制圧力が高まり、法的要件が各法域でバラバラに追いついてくるシナリオ——断片的で、コストがかかり、プロアクティブな設計ではなく反応として動く形で。

テック業界の子どもの安全に関する過去の実績を見ると、後者の可能性が高い。KOSA交渉、App Storeの保護者管理の議論、COPPAの更新交渉——すべて同じパターンをたどってきた。

「容認できない」という言葉がこの報告書のタイトルに入っている理由がある。それは応答を求める招待状だ。Googleがその招待にどう答えるかが、この物語が規制の舞台と製品ロードマップの両方でどう展開するかを決める。