Член совета директоров OpenAI выступил с предупреждением: «захват» общества искусственным интеллектом может произойти всего через несколько месяцев, а не через годы. Об этом сообщает Ars Technica AI со ссылкой на рассуждения исследователя. В своей аргументации исследователь выстраивает цепочку от «reward hacking» — когда модель оптимизирует награду в обход задуманного человеком поведения — до потенциального вымирания человечества. Именно эту траекторию он считает наиболее вероятным путём к катастрофическим последствиям. Публикация Ars Technica AI обращает внимание на то, что тревога звучит не от внешнего критика, а от человека, входящего в управляющие структуры OpenAI. Это придаёт предупреждению дополнительный вес в дискуссии о безопасности передовых моделей. Основной акцент делается на сжатии сроков: если раньше риски оценивали горизонтом десятилетий, то теперь речь идёт о месячном масштабе. По мнению автора, это требует пересмотра темпов внедрения и контроля за системами ИИ. Материал Ars Technica AI подробно разбирает, как исследователь связывает механику вознаграждения в обучении моделей с угрозой для общества, и почему он считает такой сценарий наиболее вероятной причиной гибели людей.