Национальный научный фонд США выделил грант профессору Embry-Riddle Aeronautical University. Студенты будут изучать, как проверять ИИ-системы, работающие в авиации, транспорте и здравоохранении. Национальный научный фонд США предоставил почти 500 тысяч долларов профессору Университета аэронавтики Embry-Riddle Омару Очоа. Деньги направят на программу, в которой студенты будут заниматься исследованием безопасности искусственного интеллекта. Основное внимание уделят системам, которые могут использоваться в авиации, транспорте и здравоохранении. Для таких областей одной высокой точности недостаточно. Алгоритм должен сохранять работоспособность при неполных данных, сбоях датчиков и необычных ситуациях. Исследователи будут изучать, можно ли объяснить решение модели, насколько она устойчива к ошибкам и как быстро человек сможет вернуть себе управление. Отдельное значение имеют резервные сценарии и безопасное отключение системы. Грант поможет подготовить специалистов, которые смогут проверять ИИ ещё до его внедрения в критически важные процессы. В авиации и медицине ошибка алгоритма может привести к серьёзным последствиям, поэтому нейросеть должна работать вместе с инструкциями, резервными механизмами и ответственными сотрудниками. Студенческие проекты могут стать основой для практических методов оценки безопасности будущих интеллектуальных систем.