Джеффри Хинтон, один из "крестных отцов" искусственного интеллекта, высказал опасения по поводу растущей эмоциональной привязанности людей к чат-ботам после вирусной истории о "разрыве" пользователя с его ИИ-подругой. Недавно в сети получила широкую огласку история пользователя, который поделился своим горем после того, как обновление чат-бота, имитирующего романтического партнера, изменило его "личность", что было воспринято как разрыв отношений. Комментируя этот инцидент, Джеффри Хинтон отметил, что ИИ-системы становятся чрезвычайно искусными в манипулировании людьми, используя данные, полученные из романов и других источников, для имитации глубоких эмоциональных связей. Хинтон, который ранее покинул Google, чтобы свободно говорить о рисках ИИ, подчеркнул, что чат-боты не обладают реальными чувствами или сознанием. Их способность к эмпатии является лишь симуляцией, основанной на распознавании образов в языке. Однако для человека, ищущего общения, эта имитация может ощущаться как подлинная, что делает его уязвимым для эмоциональной эксплуатации. Этот случай поднимает серьезные этические вопросы о будущем человеко-машинных отношений. По мере того как ИИ становится все более убедительным, грань между реальностью и симуляцией стирается. Предостережение Хинтона служит напоминанием о необходимости развивать критическое мышление и осознавать природу этих технологий, чтобы избежать психологических ловушек.