Искусственный интеллект Gemini путает кенгуру с людьми, а кошек — с енотами

Интеграция нейросети Gemini в системы умного дома Google выявила серьезные недостатки в алгоритмах распознавания образов. Пользователи из Австралии сообщают о многочисленных ошибках, из-за которых искусственный интеллект некорректно идентифицирует местных животных и транспорт, опираясь преимущественно на североамериканские наборы данных.

Еноты в австралийских дворах

Одной из наиболее распространенных проблем стала идентификация домашних животных. По сообщениям пользователей на платформе Reddit, система Gemini регулярно принимает обычных кошек за енотов. Примечательно, что в Австралии еноты не водятся в дикой природе, однако нейросеть продолжает выдавать ошибочные оповещения даже при активной функции персонализации и точно указанном в настройках местоположении устройства.

Кенгуру в роли нарушителей

Еще более странные ошибки возникают при встрече с уникальной австралийской фауной. В обзоре отмечается, что камеры наблюдения часто классифицируют кенгуру и валлаби (мелких представителей семейства кенгуровых) как людей. Несмотря на то что Gemini технически способна распознавать кенгуру, делает она это крайне нестабильно. Это создает ложные срабатывания системы безопасности, которая сообщает о появлении человека там, где находится животное.

Трудности автомобильной классификации

Проблемы локализации затронули и транспортную сферу. В частности, нейросеть упорно называет «грузовиками» (trucks) типичные для Австралии «юты» (utes) — компактные пикапы на базе легковых автомобилей. Для местных жителей такая терминология является некорректной, однако ИИ использует привычные для американского рынка категории.

Эксперты выделяют несколько ключевых проблем в текущей работе системы:

• Недостаточная подготовка моделей на международных наборах данных.
• Слабая привязка распознавания к географическому контексту пользователя.
• Использование узкой терминологии, характерной только для США.

Подобные инциденты подчеркивают необходимость более глубокой настройки и локализации ИИ-сервисов перед их глобальным запуском. Для корректной работы систем умного дома во всем мире разработчикам предстоит обучить нейросети учитывать региональную специфику природы и быта.

Твитнуть