Anthropic ограничила доступ к ИИ-моделям Mythos 5 и Fable 5 по требованию правительства США

Компания Anthropic на выходных ограничила доступ к своим недавно выпущенным моделям искусственного интеллекта Mythos 5 и Fable 5. Это произошло после того, как правительство США ввело масштабные ограничения на использование этих технологий.

Причины и последствия ограничений

По заявлению Anthropic, в пятницу днем федеральные власти сообщили компании о существовании метода «джейлбрейка» Fable 5 — способа обхода защитных ограничений, которые были внедрены для снижения рисков неправомерного использования модели. Когда Anthropic впервые представила Mythos 5, программное обеспечение было доступно лишь ограниченному кругу правительственных учреждений и технологических специалистов из-за его способности выявлять уязвимости в кибербезопасности.

Правительство применило к продуктам так называемый экспортный контроль, что, по словам Anthropic, обязывало компанию приостановить доступ к двум моделям для любых иностранных граждан, независимо от их местонахождения в США или за рубежом. Единственным способом выполнить это требование стало полное отключение моделей, сообщила компания.

Позиция Anthropic и переговоры

Позднее в пятницу Anthropic заявила о своем несогласии с тем, что продемонстрированный «джейлбрейк» оправдывает столь масштабные меры. Компания считает, что такой подход при широком применении может «по сути, остановить» разработку новых передовых моделей ИИ.

В заявлении Anthropic говорится, что компания ранее публично выражала убеждение в необходимости предоставления правительству полномочий блокировать небезопасные внедрения в рамках законодательного процесса, который был бы прозрачным, справедливым, ясным и основанным на технических фактах. Однако, по мнению компании, данное решение не соответствует этим принципам.

Представители Anthropic и Министерства торговли США не предоставили оперативных комментариев по запросам журналистов.

По сообщениям, Anthropic направила своих сотрудников в Вашингтон для переговоров с администрацией Трампа по урегулированию вопроса. Издание The Wall Street Journal сообщило, что руководители Anthropic провели несколько часов в субботу на конференц-звонках с министром торговли Говардом Латником и директором Национальной кибербезопасности Шоном Кэрнкроссом.

Предыдущие конфликты с властями

Это не первый конфликт разработчика ИИ с Вашингтоном по поводу моделей искусственного интеллекта. Ранее в этом году Министерство обороны США уже объявляло Anthropic «риском для цепочки поставок» из-за того, что компания настаивала на ограничениях по использованию своих ИИ-моделей Claude для создания полностью автономного оружия или массовой внутренней слежки. Пентагон, в свою очередь, выражал желание использовать модели «для любых законных целей».

Твитнуть