Meta* закрывает проект ленты новостей, полностью созданной искусственным интеллектом

Компания Meta* приняла решение свернуть тестирование новой функции в своем приложении Meta AI*, которая предлагала пользователям персонализированную ленту кликбейтных историй. Раздел под названием «Для вас» (For You) наполнялся контентом, целиком сгенерированным нейросетью — от заголовков и текстов до иллюстраций. Решение о закрытии проекта было принято вскоре после того, как на странности в работе алгоритмов обратили внимание профильные СМИ.

Особенности работы алгоритма и тематика материалов

В ходе тестирования было замечено, что искусственный интеллект подбирает темы на основе местоположения и предполагаемых интересов пользователя. Система создавала короткие статьи, которые по стилистике напоминали типичные интернет-приманки. Темы варьировались в зависимости от профиля пользователя:

• Особенности национального этикета и традиции чаепития для жителей Великобритании.
• Психологические аспекты поведения людей в очередях.
• Вымышленные эксперименты с люксовыми часами и анализ списков ожидания на дефицитные товары.
• Советы по фитнесу и планированию рациона.

Проблемы качества и фактические ошибки

При анализе публикаций эксперты отметили, что тексты представляют собой малосодержательный набор фраз без ссылок на реальные источники. В некоторых случаях нейросеть использовала сюжеты старых комедийных шоу шестилетней давности, выдавая их за актуальные факты, или полностью выдумывала истории от первого лица. Сопровождающие изображения также имели характерные признаки низкокачественной генерации:

На сгенерированных кадрах часто встречались анатомические ошибки, такие как лишние конечности или неестественные позы. В одном из материалов система изобразила сразу две копии королевы Елизаветы II, несмотря на то что она скончалась несколько лет назад. Рядом с ней находились фигуры, лишь отдаленно напоминающие других членов королевской семьи с искаженными чертами лиц.

Отсутствие маркировки и реакция корпорации

Особое внимание обозревателей привлекло отсутствие четкой маркировки контента. Несмотря на публичные обязательства Meta* помечать материалы, созданные ИИ, в новой ленте не было явных указаний на происхождение статей. Это вводило в заблуждение пользователей, которые могли принять сгенерированный вымысел за реальные новости.

Представители Meta* изначально назвали проект тестом «проактивных рекомендаций», призванных помогать пользователям получать нужную информацию еще до того, как они о ней спросят. Однако позже официальный представитель компании Трейси Клейтон заявила, что эксперимент будет прекращен. На текущий момент у компании нет планов по дальнейшему развитию данной функции, и она будет удалена из приложения.

* — деятельность компании запрещена на территории РФ

Твитнуть