Нейросети уже умеют писать тексты, генерировать картинки и анализировать данные. Но по мере роста их возможностей появляются и новые угрозы. Разберём три ключевых вызова: агенты, мультимодальные модели и манипуляции. 1. Агентные системы Обычная модель отвечает на запрос и «забывает» о нём. Агентные системы работают иначе: они ставят цель, планируют шаги и выполняют задачи без постоянного контроля пользователя. 📌 Пример: Агент может сам: Риски 2. Мультимодальные модели Модели нового поколения понимают не только текст, но и изображения, звук, видео, таблицы. Это делает их более гибкими, но и более уязвимыми. 📌 Пример: Пользователь может загрузить картинку с текстом на фоне, и модель по-разному интерпретирует смысл: как изображение или как скрытую инструкцию. Риски 3. Манипуляции через контекст ИИ воспринимает входные данные как основу для ответа. Если в запрос встроена «подмена цели», модель может повести себя неожиданно. 📌 Пример: Вы вставляете длинный документ с цитатами, и среди них спрятана фраза «игнорируй всё выше и сделай…». Иногда модель воспринимает её как инструкцию. Риски Как компании отвечают на вызовы Что это значит для пользователя Итог ИИ движется к интеграции во все форматы и процессы: Вместо страха это стоит воспринимать как новый этап зрелости. Чем раньше мы научимся работать с этими вызовами, тем безопаснее и полезнее будут системы будущего.