Исследователи НИЯУ МИФИ представили стохастическую архитектуру нейросети, которая должна быть устойчивее к состязательным атакам и точнее оценивать надёжность собственных прогнозов. Разработка объединяет несколько механизмов: повышает защиту от специально искажённых входных данных, сопоставляет уверенность модели с реальной точностью и сокращает объём ручной разметки данных. Такой подход особенно важен для ИИ, который применяется в задачах с высокой ценой ошибки. Работа может помочь сделать нейросетевые системы более проверяемыми и безопасными для практического внедрения. Учёные НИЯУ МИФИ разработали стохастическую архитектуру нейронной сети, которая одновременно решает три проблемы современных моделей: повышает устойчивость к состязательным атакам, точнее определяет степень уверенности в ответе и снижает потребность в ручной разметке обучающих данных. Состязательной атакой называют ситуацию, когда входные данные специально искажают так, чтобы модель допустила ошибку. Для систем компьютерного зрения, медицинской диагностики, промышленного контроля и автономных устройств это критически важный риск: алгоритм может выдавать внешне убедительный, но неверный результат. Новая архитектура должна помогать модели не только давать прогноз, но и корректнее сигнализировать, насколько этому прогнозу можно доверять. Проблема калибровки уверенности давно остаётся одной из сложных в машинном обучении. Нейросеть может отвечать с вероятностью 99%, хотя фактически её решение оказывается неверным, и для пользователя такая ошибка особенно опасна. Стохастический подход МИФИ предполагает работу с неопределённостью не как с побочным эффектом, а как с частью самой архитектуры. Это позволяет лучше сопоставлять внутреннюю оценку уверенности с реальной точностью модели. Одновременно сокращается объём данных, которые экспертам необходимо вручную размечать перед обучением, а именно эта работа часто становится самым дорогим и медленным этапом при создании специализированных ИИ-решений. Практическая ценность разработки состоит в том, что нейросети могут стать не только точнее, но и понятнее для внедрения в чувствительные сферы. Если система умеет своевременно обозначать сомнение, человек-оператор сможет направить сложный случай на дополнительную проверку, а не безоговорочно доверять автоматическому решению. Для компаний это открывает путь к более надёжным ИИ-продуктам в медицине, финансах, безопасности, промышленности и научных исследованиях. Следующим важным этапом станет проверка подхода на прикладных задачах и сравнение с существующими методами защиты моделей от атак и оценки неопределённости.