Новое исследование выявило тревожную тенденцию: ведущие ИИ-чат-боты часто предоставляют неточную или полностью ложную информацию, что ставит под сомнение их надежность в качестве источника знаний. Согласно результатам исследования, проведенного компанией по кибербезопасности, в среднем каждый третий ответ, генерируемый популярными ИИ-чат-ботами, содержит фактические ошибки или является вводящим в заблуждение. В ходе тестирования моделям задавали вопросы на самые разные темы, от истории до науки, и тщательно проверяли их ответы по авторитетным источникам. Исследование также показало, что разные модели имеют разный уровень "правдивости". Некоторые чат-боты демонстрировали значительно более высокую склонность к "галлюцинациям" — созданию убедительно звучащей, но вымышленной информации. Это подчеркивает, что пользователи не должны слепо доверять ответам ИИ без дополнительной проверки фактов. Эти выводы служат важным напоминанием о текущих ограничениях технологии больших языковых моделей. Несмотря на их впечатляющие возможности, они остаются инструментами, склонными к ошибкам. Разработчикам предстоит проделать большую работу по повышению точности и надежности своих систем, а пользователям — развивать навыки критического мышления при взаимодействии с ИИ.