Регулирование идеологической предвзятости искусственного интеллекта в США

Американские федеральные органы власти рассматривают вопрос о возможности привлечения разработчиков систем искусственного интеллекта к ответственности за то, что их алгоритмы дают ответы с явной политической окраской. Это предложение получило поддержку как у консервативных, так и у либеральных критиков, однако многие опасаются, что под видом борьбы с предубеждениями может скрываться попытка государственного контроля над содержанием ответов искусственного интеллекта.

Американская Федеральная торговая комиссия (FTC) выдвинула предложение квалифицировать идеологическую предвзятость алгоритмов как «недобросовестную или вводящую в заблуждение деятельность» согласно статье 5 Закона о Федеральной торговой комиссии. По мнению ведомства, потребители имеют право получать от искусственного интеллекта объективную информацию без влияния идеологических установок. Такой подход может предоставить комиссии полномочия проверять не только сами ответы систем, но и данные, использованные для их обучения, а также другие факторы, влияющие на результаты работы алгоритмов.

Основная сложность этого предложения состоит в том, что комиссия еще не определила методику выявления идеологической предвзятости. Кроме того, ведомство планирует, чтобы федеральные нормы имели преимущество над законодательством штатов. В документе упоминается закон штата Колорадо о регулировании искусственного интеллекта, который требует анализировать потенциальные риски, раскрывать информацию и проверять алгоритмы на предвзятость перед их внедрением. Этот закон должен начать действовать в 2027 году, однако местные законодатели уже обсуждают способы упрощения требований.

Инициатива получила более трёхсот общественных откликов от представителей отрасли, исследовательских организаций, специалистов и членов законодательного органа. Многие авторы высказывают озабоченность неточностью формулировок и предупреждают, что органы власти могут использовать эти новые полномочия для оказания политического давления на компании-разработчики. Международный центр правовых исследований и экономики отметил, что комиссия не провела четкую грань между защитой прав потребителей и правом компаний самостоятельно определять характер функционирования своих систем.

Оппоненты также оспаривают саму идею приравнять идеологическую направленность ответа алгоритма к обману потребителя. Эксперты из организации Cato Institute утверждают, что комиссия объединяет два различных аспекта: использование рекламы для прямого обмана покупателя и субъективную оценку корректности или идеологической окраски результатов работы алгоритма. Аналитический центр R Street Foundation указывает, что большинство современных больших языковых моделей уже информируют пользователей об ограничениях своих возможностей, поэтому доказать факт введения потребителя в заблуждение может оказаться затруднительно.

Однако у инициативы есть и сторонники. Консервативная организация America First Legal Foundation предложила принять документ без изменений, утверждая, что языковые модели компаний OpenAI и Anthropic якобы отдают предпочтение либеральным и прогрессивным идеям, выдавая их за объективные. Вместе с тем, сами авторы предложения FTC столкнулись с упреками в предвзятости. Компания Anthropic упоминается в документе более шести раз, в то время как компания xAI и её основатель Илон Маск не упоминаются, несмотря на то, что Маск активно вмешивался в функционирование модели Grok, чтобы изменить его ответы, которые ему не нравились.

Также идет дискуссия о реальных случаях манипулирования информацией. Лиа Сискайнд, бывший сотрудник администрации президента и Министерства национальной безопасности США, подчеркивает, что большие языковые модели действительно способны воспроизводить пропаганду и ложную информацию, содержащуюся в наборах данных, используемых для обучения. По её мнению, проблемы, связанные с точностью работы искусственного интеллекта и защитой данных от целенаправленного искажения, должны регулироваться отдельно, однако текущее предложение FTC сосредоточено главным образом на вопросах идеологии и разрешении споров между центральным правительством и штатами.

Представители палаты представителей конгресса Джош Готтхаймер и Майкл Лоулер направили специальное обращение в комиссию с просьбой не препятствовать компаниям-разработчикам в их усилиях по борьбе с дискриминацией по признакам расы, вероисповедания, гендера, возраста и другим критериям, защищенным законодательством. Главное опасение противников этой инициативы выходит за рамки конкретного предложения. Если государство получит право решать, какие результаты работы искусственного интеллекта считать политически допустимыми, этим же инструментом смогут воспользоваться будущие администрации с совершенно иными политическими взглядами.