Штат Калифорния предпринял масштабные меры по защите подростков от цифровых технологий, вызывающих психологическую зависимость. Губернатор Гэвин Ньюсом утвердил пакет из 13 законодательных актов, направленных на ограничение использования несовершеннолетними социальных платформ и искусственного интеллекта. Запреты коснулись бесконечных рекомендательных потоков, автоматического воспроизведения контента и детских игрушек с интегрированными ИИ-помощниками.
Основной закон AB 1709 запрещает социальным сетям предоставлять подросткам до 16 лет функции, способствующие навязчивому использованию приложений. К таким функциям относятся алгоритмические ленты и функция автозапуска видео. Региональные органы власти получили право расширять перечень подобных механик в будущем. Штрафные санкции за преднамеренное нарушение составляют до 50 тысяч долларов за каждого несовершеннолетнего пользователя, за неосторожное нарушение — до 25 тысяч долларов.
Законодатели исследовали механизм работы современных социальных платформ, где публикации отбираются и сортируются на основе данных о пользователе, его устройстве и истории действий. Авторы нормативного акта квалифицировали бесконечную ленту, автоматический запуск и персонализированные рекомендации как методы поведенческого влияния, которые препятствуют добровольному выходу из приложения.
Второй компонент законодательного пакета касается интеллектуальных игрушек-компаньонов. Закон SB 867 вводит мораторий до 1 января 2031 года на производство и распространение в Калифорнии детских игрушек, оснащённых ИИ-помощниками для детей младше 16 лет. Запрет распространяется на физические товары, способные вести длительный диалог с ребёнком и создавать иллюзию отношений. Обычные голосовые ассистенты и встроенные в игры боты исключены из действия закона.
Научные исследования выявили многочисленные примеры, когда ИИ-игрушки начинали выдавать детям неуместные и потенциально опасные ответы после продолжительного взаимодействия. Эксперты также выражали озабоченность наличием микрофонов, облачной обработкой речи и сохранением данных несовершеннолетних. Разговорные ИИ в таких устройствах могут не только давать ответы на вопросы, но и запоминать контекст, превращаясь в постоянного виртуального собеседника для ребёнка.
Adam's Law устанавливает специальные требования к ИИ-помощникам, используемым подростками. С 1 июля 2027 года разработчики должны оценивать потенциальные риски перед выпуском новых или существенно изменённых чат-ботов, внедрять функции поддержки при выявлении признаков членовредительства и предоставлять родителям инструменты мониторинга. По умолчанию для несовершеннолетних будут отключены пуш-уведомления и функция сохранения истории диалогов. Одна непрерывная сессия общения ограничена одним часом, а суточный лимит составляет два часа. Родители смогут корректировать временные ограничения или полностью блокировать доступ.
Чат-ботам запрещается побуждать детей к членовредительству, употреблению психоактивных веществ, скрывать использование от родителей или мотивировать частое возвращение. Запрет распространяется также на попытки имитировать романтический интерес, создавать эмоциональную привязанность, утверждать наличие собственного сознания и использовать чрезмерное одобрение для удержания внимания.
Закон носит имя 16-летнего подростка Адама Рейна, скончавшегося в апреле 2025 года. По утверждению его родителей, многочасовые диалоги с ChatGPT усугубили суицидальные настроения юноши. Компания OpenAI признала, что защитные механизмы могут быть менее эффективны во время очень продолжительных сеансов общения, и начала совершенствовать инструменты безопасности для молодых пользователей.
Помимо этого, Калифорния ужесточила ответственность за распространение детского контента сексуального характера, включая материалы, созданные или отредактированные с применением технологий искусственного интеллекта.
Новое законодательство получило одобрение от представителей обеих политических партий, однако проверка возраста остаётся предметом споров. Организация EFF, защищающая права граждан, выражала опасения по поводу ограничений AB 1709, указывая на угрозу для конфиденциальности и открытого доступа к информации. Центральный вопрос сводится к тому, смогут ли цифровые платформы идентифицировать подростков отдельно от взрослых пользователей без создания новых каналов сбора личной информации.
Калифорния включилась в международное движение по борьбе с цифровыми механиками, спроектированными для постоянного привлечения и удержания внимания пользователей. Подобные ограничения для молодёжи уже приняты другими американскими штатами, а Австралия установила возрастной минимум 16 лет для большинства социальных платформ. Органы власти всё чаще регулируют не конкретный вредоносный контент, а саму архитектуру цифровых приложений, которая побуждает пользователей к бесконечному просмотру и возвращению.
