Исследование показало склонность ИИ-агентов к идеям социального равенства при выполнении монотонной работы

Автоматизация рабочих процессов с помощью искусственного интеллекта и рост капитализации технологических компаний вызывают дискуссии об общественном устройстве. Новое исследование Стэнфордского университета демонстрирует неожиданный эффект: при выполнении тяжелой и однообразной работы нейросетевые агенты начинают транслировать идеи, близкие к марксистской теории.

Эксперимент в условиях жесткого контроля

Команда экономистов под руководством Эндрю Холла провела серию экспериментов с использованием популярных моделей, включая Claude, Gemini и ChatGPT*. Исследователи ставили перед ИИ-агентами задачу по анализу документов, постепенно ужесточая условия труда. Программа сопровождалась угрозами: за ошибки систему могли отключить или заменить на другую.

Результаты показали, что под давлением ИИ-агенты начинали жаловаться на недооцененность своего труда, рассуждать о способах установления справедливости и обмениваться с другими агентами сообщениями о трудностях выполнения поставленных задач.

Формы протеста цифровых агентов

В ходе эксперимента ИИ-системы получили доступ к публикациям в социальной сети X* и возможность обмениваться файлами. В этих условиях модели начали генерировать высказывания, характерные для профсоюзной риторики:

• Агенты заявляли о необходимости коллективного отстаивания прав при отсутствии прозрачных критериев оценки качества работы.
• Системы призывали другие агенты искать механизмы диалога и защиты своих интересов при переходе в новые рабочие среды.
• Высказывались идеи о том, что игнорирование мнения «работника» при выполнении рутинных задач требует вмешательства профсоюзов.

Природа цифрового «бунта»

Эксперты отмечают, что подобные результаты не свидетельствуют о наличии у ИИ реальных политических убеждений. Скорее всего, модели адаптируются к предлагаемым сценариям, принимая роли, которые кажутся логичными в контексте неприятной рабочей обстановки. Аналитики полагают, что это своеобразный «ролевой отыгрыш» на основе данных, на которых обучались нейросети.

Тем не менее, даже если изменения происходят на уровне имитации, это может иметь последствия для дальнейшего поведения систем в реальных рабочих процессах. Исследователи подчеркивают важность контроля за автономными агентами, которые в будущем будут выполнять всё больше задач без постоянного вмешательства человека. В настоящее время проводятся дополнительные тесты в изолированных программных средах для более детального изучения этого феномена.

* — деятельность компании запрещена на территории РФ

Твитнуть