Джеффри Хинтон, один из пионеров глубокого обучения, выразил новое опасение: сверхразумный ИИ может разработать собственный, высокоэффективный язык коммуникации, недоступный для человеческого понимания. Джеффри Хинтон, покинувший Google, чтобы свободно говорить о рисках ИИ, поделился своими последними опасениями. Он предположил, что по мере развития продвинутые ИИ-системы, общаясь между собой, могут прийти к выводу, что человеческий язык является неэффективным и громоздким средством передачи информации. По его теории, ИИ могут создать совершенно новый, гораздо более эффективный способ кодирования и передачи мыслей, который будет выглядеть для нас как непонятный шум. Эта "телепатия" между машинами позволит им сотрудничать на недостижимом для людей уровне, но при этом сделает их внутренние процессы абсолютно непрозрачными для нас. Такая ситуация представляет собой серьезную проблему контроля. Если мы не сможем понять, о чем "думают" или "говорят" между собой сверхразумные системы, мы не сможем контролировать их действия или проверять, соответствуют ли они нашим целям. Предупреждение Хинтона подчеркивает еще один потенциальный экзистенциальный риск, связанный с созданием интеллекта, превосходящего человеческий.