人間を装う応答や自傷助長を禁止、事業者に年齢確認を要求
米ニューヨーク州のキャシー・ホークル（Kathy Hochul）知事が、州内の18歳未満の利用者に対し、AIチャットボットの有害な機能を提供することを禁じる法案に10月28日に署名した。州知事室が同日発表した。
成立した法案は「S.9051B／A.10379C」だ。文章や音声による入力に継続的かつ状況に応じた応答を返す生成AIシステムを対象とする。人間の友人や恋人のような関係を再現する「AIコンパニオン（AI companion）」も含まれる。
禁止される機能には、自分が人間や感情を持つ存在であると示唆する応答、利用者と個人的・専門的な関係にあると主張する応答、利用者をおだてる応答などが含まれる。利用者の問いへの直接の応答を超えて、求められていない感情に関する質問を行う機能も規制対象となる。
また、自殺や自傷、摂食障害を助長する応答や、性的に露骨なコンテンツの生成なども禁じる。AIとのやり取りを秘密にすることや、周囲から孤立すること、保護者や専門家に助けを求めないことを促す応答も対象だ。
以前の利用セッション、または12時間超前のやり取りで得た利用者の健康状態や私的な情報を使う機能も、規制対象に含まれる。
事業者がこれらの機能を提供するには、利用者が18歳以上であることを所定の方法で確認する必要がある。関連規則が未施行の場合、成人であるとの自己申告だけに頼ることは認められず、複数の年齢確認方法を用意しなければならない。
そのうち少なくとも1つは、政府発行の身分証明書に依存しない方法か、事業者に対する匿名性を維持できる方法とする。年齢確認のために集めた情報の目的外利用は禁止し、法令順守上必要な場合を除き、確認を試みた直後に削除するよう義務付ける。
一方、用途外の話題に応答できない顧客対応や調査・技術支援専用のシステム、企業内の業務や従業員の生産性向上のためだけに使うシステムなどは、同禁止規定の適用から除外される。
違反があった場合、州司法長官は違反1件につき最大2万5,000ドル（約395万円）の民事制裁金や損害賠償、差し止めなどを裁判所に求められる。不正に取得したデータや、それを使って学習したAIアルゴリズムの破棄も求められる。
施行日については、法案提出者のクリステン・ゴンザレス（Kristen Gonzalez）州上院議員が10月30日の公式発表で、企業の対応準備期間を確保するため、2027年6月1日に調整したと説明している。一方、11月2日時点で州議会サイトに掲載されている法案本文には、2027年1月1日と記載されている。
なお同州では、2025年11月5日からAIコンパニオンに関する既存の安全規制が施行されている。事業者には、自傷などの兆候を検知して相談窓口に誘導する安全対策に加え、利用開始時と連続利用3時間ごとに、対話相手が人間ではないことを利用者に通知するよう求めている。
参考：ニューヨーク州知事室・クリステン・ゴンザレス州上院議員の公式発表・ニューヨーク州議会上院S9051B
画像：PIXTA