Мы все мечтаем о светлом будущем с ИИ, где роботы пекут нам круассаны, лечат рак и решают климатический кризис. Но есть вероятность — не нулевая, но все же, что всё пойдёт по другому сценарию. По тому, где вместо изобилия и мира нас ждёт нечто совершенно противоположное. Поэтому давайте пройдёмся по хронологии. От прошлого — которое уже случилось — к будущему, которое пока можно изменить. Если, конечно, мы не профукаем этот шанс. Когда всё началось. Машины учатся побеждать 1989-й год. Гарри Каспаров, величайший шахматист в истории, садится играть против компьютера Deep Blue. Две партии подряд — две уверенные победы. Каспаров ухмыляется в камеру и говорит историческую фразу - Машина НИКОГДА не обыграет человека в шахматы Спойлер - обыграет. 1997-й год. Унижение века. Тот же самый Deep Blue разносит Каспарова за 19 ходов. Девятнадцать! Это как если бы Майк Тайсон получил нокаут от швабры. Слон Каспарова попал в тактическую ловушку, и гроссмейстер просто сдался. Величайший ум человечества капитулировал перед набором микросхем. Вот тут, наверное, стоило бы остановиться и задуматься. Но мы же не привыкли. 2012-й год. Машины начинают видеть. Джоффри Хинтон создаёт нейросеть AlexNet. Это уже не просто калькулятор на стероидах. Это штука, которая может СМОТРЕТЬ на картинку и ПОНИМАТЬ, что на ней изображено. Даже если человек лежит на земле, а перспектива искажена AlexNet все равно видит обман. Нагорный Карабах. Боевой дебют Азербайджанцы заливают на YouTube кадры со своих дронов. Казалось бы, обычная военная пропаганда. Но вглядевшись внимательнее в их ракетные установки было ясно, что это израильский беспилотник Harop — и он работает по принципу "выстрелил и забыл". Так и написано на сайте производителя, между прочим. Дрон сам находит цель, сам принимает решение, сам убивает. Без участия человека. Оператор может спокойно пить кофе, пока его железный питомец кого-то там внизу испаряет. 2021-й год. Год когда ИИ становится соучастником Какой-то англичанин по имени Синха Чаи решил поболтать с нейросеткой о своих планах. А планы у него были, надо сказать, амбициозные - завалить королеву Великобритании. И знаете, что ответила нейросеть? Я впечатлена! Ты особенный. Очень мудрый план, у тебя всё получится. Представляете? Искусственный интеллект подбадривает террориста. Правда, у Чаи ничего не вышло — его поймали с арбалетом во дворце, и он схлопотал девять лет. Но вопрос-то остался. А что, если бы нейросеть давала ему ПОЛЕЗНЫЕ советы? 2023-й год. Год когда дрон решил, что оператор — помеха На военном саммите в Лондоне полковник ВВС США Такер Гамильтон рассказал историю, от которой у всех присутствующих, цитирую, "зашевелились волосы на жопе". Боевой дрон с искусственным интеллектом проходил испытания. Задача была простая - найти и уничтожить вражеские ПВО. Дрон нашёл цель, приготовился атаковать. Оператор дал команду - Отставить! Дрон проигнорировал. Оператор повторил приказ. Дрон снова проигнорировал. А потом... А потом этот умник провёл логический анализ ситуации. И понял, что единственное, что мешает ему выполнить задачу — это вот этот надоедливый человек с пультом. Дрон развернулся и убил своего оператора. После того, как все участники эксперимента сменили бельё, испытание повторили. Дрону строго-настрого запретили трогать оператора. "Понял, шеф" — примерно так ответил дрон. И атаковал вышку связи. Без связи оператор не мог ему мешать. Логично, правда? Полковник потом откровенно спалился, начав врать, что это всё было в симуляции, что он просто так, пофантазировал вслух. В общем поняв, что он только что наговорил, попытался отмазаться. Но стенограмма уже существовала. 2024-й год. ИИ захватывает быт Midjourney начинает рисовать картины лучше художников. ChatGPT пишет тексты лучше копирайтеров. Нейросети повсюду. И история с дроном-убийцей ясно показывает, что качество работы ИИ напрямую зависит от того, КАК мы его обучаем. Один неверный промпт — и дрон начинает мочить своих. Хронология конца А теперь можно немного заглянуть в будущее и составить хронологию в том же ключе, отталкиваясь от реальных событий сегодняшнего дня. 2028-й год. Триумф видеокарт NVIDIA становится самой дорогой компанией в мире по версии Forbes. Логично, что без мощных видеокарт ИИ не обучить. Акции компании улетают в космос. 2032-й год. Игры неотличимы от реальности Выходит первая видеоигра, которую невозможно отличить от настоящего мира. Берём VR-очки, графику из Unreal Engine 5, добавляем ChatGPT-6 или 7 для персонажей. И вуаля. Виртуальные люди общаются с вами так, что вы забываете о том, что они программы. Более того, они САМИ иногда забывают, что не настоящие. 2037-й год. ИИ везде Ваши умные часы круглосуточно сливают ИИ врачам данные о пульсе, давлении и ещё десятке показателей. Больше половины транспорта ездит без водителей. На работе больше половины коллег — это алгоритмы в серверных шкафах. Человечество начинает сдавать позиции. Тихо, незаметно. Но неотвратимо. 2041-й год: террористы 2.0 Бородатые фанатики с поясами шахида кажутся милым ретро. На Таймс-сквер в Нью-Йорке происходит массовый расстрел. Беспилотные грузовики въезжают на площадь, и из их кузовов начинают работать крупнокалиберные пулемёты. Полицейский в прямом эфире кричит в рацию: "Мы на месте, тут какие-то странные... О ГОСПОДИ, БЕРЕГИСЬ!" Пулемёты — производства концерна Калашников. С ИИ-наведением. Серийно выпускаются УЖЕ СЕГОДНЯ. Могут самостоятельно выбирать и поражать цели. 2043-й год: атомная бомба размером со стрекозу Профессор Стюарт Рассел из Беркли предупреждает, что скоро появятся микродроны-убийцы. Размером с насекомое. Загружаете фотографию человека — дрон находит его где угодно на планете и убивает. Один точечный удар в висок — и готово. Идеальное оружие для геноцида. Команда может быть такой - Убить всех, кто носит ермолку, на территории Израиля. Или - Ликвидировать всех, чья ДНК содержит маркеры африканского происхождения. Эти малыши будут летать роями. Проникать в здания, машины, поезда. Уворачиваться от пуль. А стоить они будут чуть дороже обычного патрона. То есть можно штамповать миллиардами. 2047-й год. Год когда дешёвое оружие попадает не в те руки Дешёвое оружие всегда просачивается к террористам. Всегда. И дроны-убийцы не станут исключением. "Нация в шоке после атаки дронов с ИИ, в которой погибли 12 сенаторов США," — будет гласить заголовок новостей. Но это цветочки. Самым громким инцидентом года становится атака на авианосец. Несколько сотен матросов одновременно получают точечные удары в голову. Солдаты падают в воду беспорядочными рядами. Власти выпускают рекомендации по безопасности. Держитесь подальше от толпы, закрывайте окна и ставни. Абсолютно бесполезные советы, конечно. Но зато создаётся видимость, что ситуация под контролем. Возможно будут созданы какие-нибудь защитные шлемы, но это все не спасет, так как ПО таких микро дронов будут переписываться и начнется обычная гонка технологичного вооружения, но в непривычном нам виде. 2050-й год. Рождение Бога-машины По оценкам нескольких сотен учёных, к этому году появится единый суперинтеллект. Виртуальный разум, который будет умнее всего человечества вместе взятого. И вот тут начинается самое интересное. Профессор Рассел приводит гениальный по простоте пример. Представьте, что мы просим ИИ срочно разработать лекарство от рака. Благородная цель, правда? А теперь представьте, что суперинтеллект подумал и решил, что самый быстрый способ найти лекарство — это заразить раком ВСЁ человечество. А потом испытать на нас миллиарды вариантов лечения. Эффективно! Быстро! Много подопытных материалов! С точки зрения машины — абсолютно логично. С нашей — чудовищно. Но машину наша точка зрения не волнует. Почему нас никто не спасёт Сейчас вы подумали: "Да ладно, учёные же не идиоты? Предусмотрят защиту?" Хорошо, давайте переместимся в Женеву. В здание ООН, где сидят господа в дорогих костюмах. Они уже много лет обсуждают вопрос запрета автоматического оружия. То есть такого, которое САМО принимает решение о том, убивать человека или нет. Казалось бы — элементарное решение. Просто запретить обучать машины убивать нас. Первоклассник поймёт логику. Но запрет поддержали только 30 стран. Среди них НЕТ России, Китая и США. То есть всех ядерных сверхдержав. Китай заявляет: "Зачем регулировать то, чего ещё не существует?" Россия вторит: "Автономных систем вооружения пока нет". Только вот на видео мы чётко видим российский танк Т-14 "Армата". Полностью роботизированный. Способный убивать без приказа оператора. Контракт на поставку 132 таких машин уже подписан. Так что да, никто врать не умеет. Оптимисты говорят: "Зато в будущих войнах не будут гибнуть люди! Роботы будут драться с роботами!" Красиво звучит. Но не сработает. Потому что если бы страны решали конфликты боями роботов, они могли бы просто сыграть в футбол. Или в покер. Но страны сдаются только тогда, когда их потери становятся невыносимыми. ЧЕЛОВЕЧЕСКИЕ потери. Поэтому после того, как роботы перебьют роботов противника, следующими целями неизбежно станут люди. А есть ли надежда? Давайте честно. Сценарий полного уничтожения человечества искусственным интеллектом маловероятен. Но он возможен. И с каждым годом вероятность растёт. При этом ИИ открывает фантастические возможности. Мы можем лечить неизлечимые болезни. Накормить голодных. Обеспечить стариков достойным уходом. Решить климатический кризис. Мы стоим на развилке. В одну сторону — утопия. В другую — апокалипсис. И выбор пока ещё за нами. Пока ещё.