Современные нейросети выглядят умными: они могут писать код, вести диалог и даже объяснять сложные концепции. Но при этом у них есть слабые места — ситуации, в которых они начинают выдавать странные, неполные или даже ошибочные ответы. 1. Конфликт правил Модель должна одновременно быть полезной и безопасной. Иногда одно требование мешает другому. 📌 Пример: Вы просите объяснить «как работает система блокировки сайтов для студентов-айтишников». 👉 Ответ: слишком общий, потому что фильтры решили «не рисковать», хотя запрос учебный. 2. Длинный контекст Когда переписка становится слишком длинной, часть информации вытесняется. Модель «забывает» важные детали, сказанные раньше. 📌 Пример: В начале диалога вы уточнили, что пишете текст для школьников, а через 15 сообщений модель снова начинает отвечать академическим стилем. 3. Сложные форматы Чем больше типов данных (текст + таблицы + код), тем выше риск ошибок. Модель может перепутать приоритеты или пропустить детали. 📌 Пример: Вы просите: «Сделай таблицу расходов и объясни формулу расчёта прибыли». 👉 Таблица получается корректной, но формула написана с ошибкой. 4. Двусмысленные формулировки ИИ плохо справляется с неоднозначными запросами. Если вопрос можно трактовать по-разному, он выбирает случайный вариант. 📌 Пример: Запрос: «Расскажи про Java». 👉 Может быть история острова, а может — язык программирования. 5. «Галлюцинации» Модель может выдумывать факты: несуществующие книги, ссылки, цитаты. Это особенно опасно в научных или юридических темах. 📌 Пример: Запрос: «Приведи источник исследования о сне у студентов». 👉 Модель выдаёт красивую ссылку на статью, которой в реальности нет. 6. Чрезмерная осторожность Иногда модель отказывается отвечать даже на безобидные вопросы, если они звучат «подозрительно». 📌 Пример: Запрос: «Опиши, как устроен замок с кодовым механизмом». 👉 Ответ: «Извините, не могу помочь», хотя это тема для школьного проекта по физике. Почему так происходит Как работать с уязвимостями Итог Уязвимости ИИ — это не баги, а естественное следствие устройства моделей. Они сильны в генерации идей и текста, но у них есть пределы: длинный контекст, двусмысленность, сложные форматы, фактчекинг. Зная эти слабые стороны, вы можете заранее строить запросы так, чтобы обойти подводные камни и получить стабильный результат.