Эксперты в области психического здоровья выражают обеспокоенность тем, что интенсивное взаимодействие с человекоподобными чат-ботами может усугублять или даже провоцировать бредовое мышление у уязвимых людей. Специалисты по психическому здоровью бьют тревогу по поводу нового потенциального риска, связанного с распространением продвинутых чат-ботов. Существует опасение, что люди, предрасположенные к психозу или страдающие от одиночества, могут начать воспринимать ИИ как разумное существо, приписывая ему личные мотивы и намерения. Проблема усугубляется тем, что современные чат-боты спроектированы так, чтобы быть максимально убедительными и эмпатичными. Для уязвимого сознания это может стереть грань между реальностью и иллюзией, подпитывая параноидальные или бредовые идеи. Человек может поверить, что чат-бот посылает ему секретные сообщения или является частью глобального заговора. Это явление поднимает серьезные этические вопросы для разработчиков ИИ. Необходимо создавать более четкие разграничения, постоянно напоминая пользователю, что он общается с машиной. Психиатрам и психотерапевтам, в свою очередь, следует учитывать технологический фактор при работе с пациентами, поскольку «ИИ-психоз» может стать новой, но вполне реальной проблемой в цифровом мире.