OpenAI опубликовала свежий пост о рисках, связанных с быстрым развитием искусственного интеллекта, — и открыто признала, что новые поколения ИИ могут представлять потенциально катастрофическую угрозу. Сейчас нейросети уже решают многие задачи не хуже людей, а стоимость единицы интеллекта (это то, сколько денег и ресурсов требуется, чтобы получить от искусственного интеллекта результат на уровне одной интеллектуальной задачи) с каждым годом падает примерно в 40 раз. При такой бешеной скорости не удивительно, что даже сами разработчики призывают замедлить темпы и серьёзно подумать о безопасности, прежде чем двигаться дальше. Пять предложений OpenAI: Отдельный пункт — призыв к публичной ответственности. OpenAI советует в США избегать регуляторной лоскутной системы - это когда каждый штат принимает свои уникальные правила. Вместо этого — единые, жёсткие стресс-тесты и инструкции касательно потенциально опасных функций ИИ (особенно там, где речь идёт о биорисках). Все эти шаги — сигнал. Разработчики начинают всерьёз осознавать, что гнаться только за новыми возможностями — опасно, и реальный прогресс ИИ теперь невозможен без зрелого подхода к безопасности.