Исследователи из Университета Южной Австралии создали первую в мире систему, которая с помощью одного ИИ помогает людям этично взаимодействовать с другими генеративными нейросетями. Ученые из Университета Южной Австралии представили уникальную разработку под названием «Этический ИИ-ассистент» (Ethical AI Assistant, EAA). Эта система работает в фоновом режиме, когда пользователь взаимодействует с генеративными ИИ, такими как ChatGPT или Midjourney. Ее основная задача — выступать в роли «этического компаньона», который помогает пользователю осознать и предотвратить потенциальные негативные последствия своих запросов. Принцип работы EAA заключается в анализе как промптов пользователя, так и ответов, сгенерированных нейросетью. Если система обнаруживает потенциальную этическую проблему, например, создание предвзятого контента, нарушение конфиденциальности или распространение дезинформации, она не блокирует действие, а мягко вмешивается. Ассистент задает наводящие вопросы, предлагая пользователю задуматься о своем запросе и его возможных последствиях. По словам разработчиков, их система действует как «этический GPS», который помогает пользователю оставаться в рамках ответственного использования технологий. Такой подход, ориентированный на обучение и рефлексию в реальном времени, призван восполнить пробел в понимании этики ИИ среди обычных пользователей и дополнить более широкие законодательные меры, способствуя формированию культуры ответственного взаимодействия с искусственным интеллектом.