AI Overview от Google снова оказался под огнем критики. Функция подсказала пользователю фальшивый номер поддержки круизной компании Royal Caribbean. Человек позвонил по нему, «оператор» вежливо поговорил, запросил данные карты — а на следующий день с неё списали деньги. Журналисты The Washington Post проверили и нашли этот же номер как в поисковой выдаче Google, так и в чат-боте ChatGPT. Оказалось, что владельцы номера массово публикуют его на форумах и сайтах с отзывами, выдавая за официальные контакты сразу нескольких круизных компаний. ИИ от Google при сборе данных принимает такие источники за достоверные, если номер повторяется достаточно часто. В итоге поддельная информация попадает прямо в AI Overview и выглядит как «официальная». Представитель Google признал проблему: компания удалила часть мошеннических номеров и пообещала внести улучшения в систему. Журналисты отмечают, что подобные схемы встречаются регулярно, и призывают пользователей быть осторожнее с номерами телефонов из поиска или чат-ботов.