Доклад KPMG об ИИ: обнаружены массовые «галлюцинации» и ложные цитаты

Новое исследование компании GPTZero выявило шокирующие факты: крупный отчёт консалтинговой фирмы KPMG об искусственном интеллекте оказался полон многочисленных ошибок, сгенерированных ИИ, ложных ссылок и вводящих в заблуждение примеров. Эксперты предупреждают, что проблема «галлюцинаций» искусственного интеллекта становится всё более распространённой в правительственных документах и научных работах.

«Вибрационное цитирование» и его последствия

Специалисты GPTZero, уже не в первый раз изучающие эту тенденцию, установили, что из 45 цитат в докладе KPMG только 5 точно указывают на реальные источники. Остальные ссылки были либо полностью вымышленными, либо значительно искажёнными. Некоторые из них содержали перепутанные атрибуции или неверно перефразированные заголовки.

• Только 5 из 45 цитат соответствовали реальным источникам.
• Часть ссылок были полностью сфабрикованы, другие — содержали искажённые данные об авторах и названиях.
• GPTZero утверждает, что такие «вибрационные» цитаты имеют серьёзные последствия, поскольку отчёты распространяются по всему миру.

GPTZero ввела термин «вибрационное цитирование» (от англ. vibe citing) для описания ситуации, когда генеративный искусственный интеллект создаёт вымышленные, но правдоподобно выглядящие ссылки. Эксперты отмечают, что подобное поведение — постоянное перефразирование заголовков, путаница авторов и тем, а также дублирование информации — нехарактерно для человека.

Несмотря на то, что исследователи рассматривают различные аспекты «вибрационного цитирования», они приходят к выводу, что это всё равно следует считать формой галлюцинации ИИ, и что такие «вибрации имеют последствия».

Учитывая значительное влияние KPMG, выводы её доклада, вероятно, будут цитироваться по всему миру — в новостях, блогах и различных дискуссиях, что способствует распространению потенциальной дезинформации. Существуют опасения, что этот отчёт также цитируется большими языковыми моделями (LLM, от англ. Large Language Models), что может ещё сильнее расширить географию распространения некорректной информации.

Растущая угроза ИИ-галлюцинаций

Это не первый подобный случай. Ранее сообщалось, что в одном из предыдущих отчётов, выпущенном Президентской комиссией США по оздоровлению Америки (MAHA), также были обнаружены «искажённые или сфабрикованные» сноски.

GPTZero подчёркивает, что «вибрационное цитирование» представляет собой серьёзную угрозу для исследователей, учёных, консультантов, студентов и всех, кто ищет информацию в интернете, поскольку подрывает доверие к источникам и способствует распространению недостоверных данных.

Твитнуть