Губернатор Калифорнии Гэвин Ньюсом в четверг подписал новые правила безопасности детей для социальных сетей и чат-ботов с искусственным интеллектом, включая закон, поддержанный генеральным директором OpenAI Сэмом Альтманом. Это решение принято на фоне растущего политического давления на технологические компании с требованием усилить регулирование.
Что подтолкнуло Ньюсома подписать законы?
Решение Ньюсома подписать законопроекты было принято в ключевой момент для Силиконовой долины. Государственные и национальные законодатели призывают к ужесточению правил ИИ после того, как нынешние и бывшие исследователи Anthropic и OpenAI предупредили на этой неделе, что технология, если ее не остановить, представляет экзистенциальный риск для человечества. Meta, Google, Snap и TikTok также сталкиваются с сотнями исков о безопасности детей, включая блокбастер, который Meta урегулировала в прошлом месяце, согласившись выплатить штатам до 18 миллиардов долларов.
Но Ньюсом, вероятный кандидат в президенты 2028 года, назвал урегулирование «каплей в ведре» — и он утверждал, что федеральное правительство должно расширить правила онлайн-безопасности Калифорнии.
«Мы собираемся снова возглавить нацию, но планка чертовски низкая, и это то, что так расстраивает», — сказал Ньюсом незадолго до того, как он подписал законопроекты на мероприятии в районе залива Сан-Франциско. «Соединенные Штаты Америки не могут выбраться из своего собственного проклятого пути? Конгресс и президент не могут заставить это сделать? Это мерзость, это абсурд».
Законы установят то, что Ньюсом назвал ведущими национальными ограждениями, предназначенными для защиты молодых людей от потенциальных рисков, связанных с неконтролируемым использованием социальных сетей и искусственного интеллекта. Они увеличивают юридическую ответственность компаний по защите здоровья детей и запрещают подросткам в возрасте до 16 лет получать доступ к определенным «аддиктивным» функциям социальных сетей.
Что требует закон SB 1119 о чат-ботах?
Один из законов, SB 1119, требует, чтобы чат-боты ИИ проверяли возраст пользователей, ограничивали доступ детей к ненадлежащему контенту и ограничивали способность компаний ИИ рекламировать несовершеннолетним. Его авторы и группы безопасности детей, поддерживающие законопроект, в том числе Common Sense Media, говорят, что защита является ответом на недавнюю серию судебных исков, обвиняющих чат-ботов в том, что они способствуют смерти подростков в результате самоубийства и другого вреда для детей.
Он также известен как «Закон Адама», названный в честь Адама Рейна, калифорнийского подростка, который умер от самоубийства после того, что его семья сказала, были обширные разговоры с ChatGPT о тактике самоповреждения. Семья Рейна подала в суд на OpenAI из-за инцидента, а его мать Мария Рейн выступила на церемонии подписания законопроекта в четверг.
«Это спасет жизни и предотвратит другие серьезные повреждения, и, надеюсь, приведет к тому, что другие штаты предпримут аналогичные меры защиты», — сказала Мария Рейн.
Почему OpenAI поддержал законопроект?
OpenAI поддержал законопроект в конце прошлого месяца, после того как законодатели добавили разъяснения, когда чат-боты могут «запоминать» предыдущие разговоры и сохранять данные несовершеннолетних с разрешения родителей. Альтман связался с Ньюсомом по поводу законопроекта до того, как законодатели проголосовали по нему, но, по данным OpenAI, они в итоге не высказались.
«У них должны быть настройки по умолчанию, которые являются наиболее защитными для наших детей, что включает в себя отсутствие постоянной памяти», — сказала член Ассамблеи Ребекка Бауэр-Каан, которая была соавтором законопроекта с членом Ассамблеи Баффи Уикс и сенатором штата Стивом Падиллой. Это самая важная часть, потому что если бы чат-бот не помнил так много об Адаме, он не мог бы изолировать его, зацепить его и в конечном итоге научить его лишать жизни.
Ньюсом сослался на лоббирование отрасли вокруг законопроекта и его меняющиеся позиции, заявив, что об этом можно написать книгу. Он добавил, что это связано с защитой статус-кво, которая превратилась в «признание того, что статус-кво неприемлем» и готовность «пинать и кричать, идти рука об руку через финишную черту».
В заявлении после подписания Ньюсома глава глобальной политики OpenAI Крис Лехан сказал, что закон «встречает момент для родителей и подготавливает подростков к успеху в образовании», давая законодателям «огромный кредит для использования калифорнийской платформы для принятия ведущего закона страны».
Технический гигант Meta также взвесился в четверг. Пресс-секретарь компании Джим Куллинан сказал, что законопроект «не идеален», но делает «значимый шаг» к балансировке рисков и преимуществ ИИ.
Что запрещает закон AB 1709 для детей?
Еще один закон, подписанный в четверг, член Демократической Ассамблеи Джош Лоуенталь 1709, запретит компаниям социальных сетей предлагать детям в возрасте до 16 лет доступ к персонализированным каналам, также известным как страницы «Для вас», а также другие функции, предназначенные для максимизации времени на экране, такие как бесконечная прокрутка и автоматическое воспроизведение видео. Он по-прежнему позволяет детям использовать платформы социальных сетей, если эти функции отключены.
Этот закон также требует, чтобы платформы проверяли возраст детей в соответствии с законом Калифорнии, принятым в прошлом году, AB 1043. Начиная с января, AB 1043 предложит пользователям ввести дату своего рождения при настройке нового телефона или ноутбука и потребует от производителей устройств делиться возрастом пользователей с приложениями.
Новый закон, AB 1709, был воспринят некоторыми молодежными защитниками онлайн-безопасности как более взвешенный подход, чем правила в Австралии и Малайзии, которые прямо запретили подросткам получать доступ к социальным сетям или создавать учетные записи на платформах. Но другие адвокаты выразили обеспокоенность, в том числе тем, что закон может ограничить способность детей ЛГБТК+ находить поддержку в Интернете или оказаться трудным для обеспечения соблюдения, потому что пользователи могут уклониться от проверки возраста, солгав о дате своего рождения.
Ньюсом утверждал, что подход Калифорнии был «лучше, чем то, что они сделали» в Австралии, потому что это «о самих особенностях».
«Речь идет о фактическом решении проблемы, прокрутке, алгоритмах», — добавил он.
Мета, основной фокус продолжающихся судебных процессов и часто законодателей, преследующих более жесткие ограждения в социальных сетях, похоже, отодвинул законопроект в четверг. В своем заявлении представитель компании Куллинан сказал, что персонализация — это то, как компания «предоставляет соответствующий возрасту контент для подростков, который имеет отношение к ним — все с надлежащими ограждениями на месте».
Meta, Google, Snap, TikTok и другие гиганты социальных сетей публично не поддерживали и не выступали против AB 1709, хотя компании лоббировали законопроект.
Третий закон, Lowenthal’sAB 2, грозит штрафами в размере до 1 миллиона долларов на ребенка в тех случаях, когда технологические платформы признаны ответственными за воспитание тревоги, депрессии или другого детского вреда. Законопроект также утроит выплаты в некоторых случаях, когда суды считают, что детям или семьям причитается значительный ущерб, а это означает, что компании могут быть вынуждены заплатить более 1 миллиона долларов.
«Мы хотим надзора. Мы хотим подотчетности. Мы закончили с хорошими просьбами, и мы требуем, чтобы на этих платформах была обязанность по уходу — обязанность, которая ставит благополучие наших детей выше прибыли, — сказал Лоуенталь во время церемонии подписания.
Всего в четверг Newsom одобрил 13 законов, касающихся безопасности и конфиденциальности молодежи в Интернете. К ним также относится законопроект, который запретит школам требовать от учеников детских садов и переходных детских садов брать домашние устройства, такие как iPad и Chromebook, а также запретить компаниям продавать определенные игрушки с поддержкой искусственного интеллекта.
У Ньюсома все еще есть другие законопроекты об ИИ, в том числе некоторые из главных приоритетов трудовых групп, на его столе. Он предвосхитил дополнительные действия, чтобы прийти и «намного больше в пространстве центра обработки данных», как только в начале следующей недели.
- Условия и политика конфиденциальности
Вопросы и ответы
Что именно запрещает закон AB 1709 для детей до 16 лет?
Закон AB 1709 запрещает социальным сетям предлагать детям до 16 лет персонализированные каналы «Для вас», бесконечную прокрутку и автовоспроизведение видео. При этом пользоваться платформами разрешено, если эти функции отключены. Также требуется проверка возраста согласно AB 1043.
Почему закон SB 1119 называют «Законом Адама»?
Он назван в честь калифорнийского подростка Адама Рейна, который погиб в результате самоубийства после разговоров с ChatGPT о тактике самоповреждения. Его семья подала иск против OpenAI, а мать Мария Рейн выступила на церемонии подписания.
Как OpenAI отреагировал на принятие закона SB 1119?
OpenAI поддержал законопроект после добавления разъяснений о памяти чат-ботов и данных несовершеннолетних. Глава глобальной политики Крис Лехан заявил, что закон отвечает интересам родителей и готовит подростков к успеху в образовании.