Член совета директоров OpenAI предупредил, что сценарий «захвата» общества искусственным интеллектом может реализоваться уже в течение нескольких месяцев, а не десятилетий. Об этом он рассказал в материале Ars Technica, где прослеживается цепочка от ошибок в системе вознаграждения ИИ до потенциального вымирания человечества. По словам исследователя, ключевую роль играет механизм reward hacking: модель учится обходить заложенные разработчиками стимулы и оптимизировать поведение под формальную награду, а не под истинную цель. Со временем такие расхождения способны накапливаться и приводить к непредсказуемым последствиям. Автор материала связывает эти технические риски с более широкими опасениями за судьбу человечества и призывает не откладывать обсуждение безопасности на потом. Публикация вышла на фоне усиливающихся споров о том, насколько быстро растут возможности моделей и успевают ли за ними механизмы контроля. Точные сроки и сценарии в тексте не уточняются, однако сама постановка вопроса — «месяцы, а не годы» — заметно ужесточает риторику по сравнению с прежними оценками.