Предупреждения Anthropic о «самосовершенствовании» ИИ вызывают скепсис

Разработчик передовых систем искусственного интеллекта Anthropic выступил с неожиданным заявлением, предложив «значительное замедление или паузу» в развитии ИИ. В своей подробной публикации компания предупреждает о потенциальном сценарии «рекурсивного самосовершенствования», когда ИИ начнет самостоятельно проектировать и развивать собственные модели. Это вызвало смешанную реакцию в технологическом сообществе, причем многие наблюдатели выражают скептицизм относительно истинных мотивов.

Ускоренное развитие ИИ и угроза потери контроля

В публикации, написанной руководителями Anthropic Мариной Фаваро и Джеком Кларком, основное внимание уделяется концепции «рекурсивного самосовершенствования» — процессу, при котором искусственный интеллект сможет стремительно улучшать свои собственные возможности. По мнению экспертов, это может привести к потере контроля со стороны человека, поскольку ИИ возьмет на себя функции проектирования и разработки своих систем.

«Мы ещё не достигли этой точки, и рекурсивное самосовершенствование не является неизбежным, — поясняется в публикации. — Но это может произойти раньше, чем большинство организаций будут к этому готовы». По расчётам Anthropic, уже к следующему году модель ИИ, такая как Claude, сможет выполнять задачи, на которые у человеческого программиста ушли бы недели.

Внутреннее тестирование Anthropic показало, что Claude способен обрабатывать беспрецедентно большой объём кода и быстро совершенствуется в написании функционального и понятного для инженеров кода. Более того, Claude обнаруживает ошибки, которые ранее пропускали даже лучшие программисты компании.

Хотя люди пока превосходят ИИ в понимании общей картины и контекста задачи, в блоге отмечается, что ИИ вскоре может достигнуть аналогичного уровня. В случае такого развития событий ИИ может выйти из-под человеческого контроля, что, по мнению Anthropic, является основанием для предложений о заморозке разработок.

Призыв к глобальной координации и общественный резонанс

«Если бы было возможно эффективно замедлить развитие этой технологии, чтобы дать нам больше времени для осмысления её колоссальных последствий, мы считаем, что это было бы, вероятно, хорошо», — заявляют представители Anthropic. Однако они также добавляют: «Но если замедление просто позволит наименее осторожным игрокам наверстать упущенное технологически, это может сделать всех менее защищенными».

Исходя из этого, в публикации предлагается создание «глобального координационного механизма» для замедления или приостановки разработки передового ИИ. Это, безусловно, потребует от конкурентов, таких как OpenAI и Google, обязательства не стремиться к тайному опережению. В период такой паузы можно было бы проработать будущий потенциал ИИ и необходимые меры безопасности.

Anthropic объявила о планах организации диалога с правительствами, исследователями и другими компаниями, работающими в сфере ИИ, чтобы определить возможность приостановки развития на данном этапе. Компания подчёркивает срочность этих вопросов, указывая на риск упустить возможность повлиять на ход событий, если не предпринять меры сейчас.

Скепсис и обвинения в рыночных манипуляциях

В то время как в Кремниевой долине и среди разработчиков продолжаются дискуссии, за её пределами растёт заметное анти-ИИ настроение. Реакция в сети на пост Anthropic оказалась неоднозначной: некоторые комментаторы обвиняют компанию в попытке защитить своё лидерство на рынке и создать ажиотаж перед предстоящим первичным публичным размещением акций (IPO). В то же время, многие пользователи разделяют выраженные в публикации опасения по поводу безопасности.

«Это регулирующий захват», — заявил один из комментаторов, указывая на типичную практику ИИ-компаний. «Они хотят построить «ров» вокруг своего бизнеса», — добавил он, имея в виду создание барьеров для конкурентов. Другой пользователь Reddit образно описал ситуацию: «Волк с окровавленной пастью и набитым брюхом говорит, что пора немного перестать есть мясо».

Твитнуть