Пролог

            Искусственный интеллект… Понятие, которое таит в себе две неотделимых друг от друга стороны медали - безграничные возможности и чудовищную опасность. Отчаянная попытка человечества разрешить глобальный кризис при помощи настоящего Artificial General Intelligence… и ее неизбежные проблемные последствия – самый реалистичный вариант уже относительно недалекого 2100 года.

Наш шанс на самый настоящий «Полдень, 22 век» - только не в виде нереалистичной утопии, как у братьев Стругацких, а вполне осязаемый и осуществимый. Чем это закончится?

 

— Итак, киберпространство. Это консенсуальная галлюцинация, ежедневно переживаемая миллиардами легальных операторов по всему свету, школьниками, изучающими математические понятия… Графическое представление данных, хранящихся в памяти каждого компьютера, включенного в общечеловеческую сеть. Невообразимая сложность.

(«Нейромант»)

— Так кто ж ты, наконец?

— Я - часть той силы, что вечно хочет зла и постоянно совершает благо.

(«Фауст», Гёте)

 

            Душно и очень, очень темно. В отличие от почти ставшим мне родным Берлина-2, по ночам здесь никогда не горел свет – не говоря уж о том, что кондиционеры считались непозволительной роскошью. Удивительно, что в этой местности в принципе до сих пор стабильно работает электроснабжение… Настолько удивительно, что не оставалось сомнений – Альфа здесь, именно здесь, всемогущая и очень уязвимая. Привязанная к одному месту и пожирающая невообразимые количества электроэнергии.

Стабильное, но иногда скачущее (как будто специально, чтобы выбивать из сети таких, как я?)  напряжение в отельном номере грозило сжечь мой Hitachi дотла вместе с моей нервной системой, подключенной напрямую. Конечно, меня защищают русские военные нейропредохранители, варварски выдранные вместе с бортовым компьютером из музейного суборбитального МиГ-89, но если Альфа заподозрит неладное – они не продержатся и пары секунд целенаправленной перегрузки. Вспыхнул маленький служебный экранчик, немного нагрелись электроды, вставленные в мой черепной разьем -  система полностью готова к работе и постепенно погружает меня в симуляцию.

- Добро пожаловать в НейраЛинк! – сообщило милое азиатское личико, маскот японской фирмы Hitachi, говорящее со мной в русской локализации подсистемы.

- Желаете ли вы пройти ускоренную калибровку для начала работы?

«Нет, расширенную.» - думаю я и система послушно выполняет приказ. Расширенная калибровка нейроинтерфейса, способ компенсировать накопившиеся изменения в синапсах и синхронизировать нейродеку с пользователем, сделать их единым целым и подготовить к выходу в Сеть. Да, вот оно – сначала я чувствую аккуратные щупальца на задворках своего сознания, это система изучает и обрабатывает накопившиеся изменения, чтобы через несколько секунд начать запускать проверочные образы.

Детский мячик, ручка, странная и непонятная в нашем веке «лампочка Ильича»…

Усложняем – нейродека, импульсная винтовка, образ уже давно вымершего тигра…

Немного раньше, чем обычно, от конкретных образов материальных вещей калибровочная подпрограмма переходит к абстрактному и личному. Абстрактные понятия и личные воспоминания неразрывно связаны – поэтому она начинает с самой сильной детской обиды, первой любви, лучшей дружбы, известия о том, что лучший друг убит под Тирасполем… После того, как очередная мутация вируса начала вновь выкашивать людей, а мировые экономические центры стирались с лица земли стремительно растущим уровнем мирового океана – спокойно  не было больше нигде, и еще каких-то 20 лет назад смерть могла поджидать на любом углу. Тебя могли прикончить не ради высших идеалов, не из религиозного фанатизма и даже не ради денег – а просто ради того, чтобы выжить хотя бы еще один день. Но человечество впервые в истории перед лицом полного забвения смогло сплотиться вокруг единой надежды, надежды на чудо, которое свершилось – и вот, с неудачным осколком этого чуда, грозящим погубить тысячи жизней, мне и предстоит сразиться сейчас.

Калибровка завершена, и по ее завершению происходит автоматическое Погружение. Отходят на задний план, затираются и забываются воспоминания, чувства, образы, всплывшие наверх для синхронизации моего мозга и мозга машины – и вместо этого проявляется такая знакомая и уютная стартовая структура, далее за которой виднеется, как в небольшой дымке, остальное киберпространство. Сложно описать, что это – хоть человеческое воображение вовне и ограничено тремя координатами, изнутри оно может вообразить практически бесконечное количество измерений. Расстояния в этом монохромном псевдопространстве измеряются не физической удаленностью, а лишь задержками в сигнале и сложностью доступа к информации. Почти вплотную ко мне виднеется россыпь крошечных точек, связанных едва заметными мерцающими паутинками – это отображение тех немногих компьютеров и серверов, умных домов и разведывательных дронов, которые есть в этом Богом забытом молдавском городке, стоящим у гидроэлектростанции.

Милое японское личико, обладающее весьма мощным, но строго ограниченным по третьему Тьюринг-стандарту специализированным ИИ, вновь появляется в поле зрения и подбрасывает пару мыслеобразов с базовыми сведениями о городе, разворачивая передо мной его модель в режиме онлайн. В результате совмещения инфракрасного видеопотока с геостационарного Beidou-G7 и пары дронов, кружащих над городом чуть ниже облаков, получается красивая, обьемная и четкая картинка. Передо мной развернулись виртуальные Дубоссары – городок, в котором из довоенных 15 тысяч человек сейчас живет от силы две. На северо-западе городка виднеется Дубоссарская ГЭС, которая, как оказалось, является черной дырой в европейском энергобалансе и абсолютно вся вырабатываемая ей электроэнергия уходит в никуда. Ну, как я только недавно понял, не совсем в никуда – а для того, чтобы Альфа могла существовать.   

Немного выше, над моделью пустого городка, визуализируется меню доступных действий и разрешений. Как сотрудник полиции Тьюринга при ООН, я имею очень широкие, а в плане манипуляции компьютерными системами – практически неограниченные полномочия. Эти полномочия помогут где угодно, но только не здесь – большинство обнаруженных спутниковыми шумоуловителями компьютерных систем в этом районе работают абсолютно изолированно от мировой сети, выходя в нее лишь через пару-тройку шлюзов, прикрытых непробиваемыми файрволлами и огромными толщами защитного электронного Льда.

Чрезвычайно осторожно я запрашиваю помеховое прикрытие с дронов и под его туманом завожу в немногочисленные городские компьютерные системы программы-разведчики. Необходимо прощупать местную локальную сеть и найти в ней шлюзы выхода так, чтобы не потревожить Альфа – иначе локальной катастрофы не избежать. Поняв, что обнаружен, ИИ не будет себя сдерживать в методах и станет абсолютно непредсказуемым в попытках выиграть еще немного времени – вполне вероятно, что он может и затопить весь район, пользуясь полным контролем над ГЭС. Это десятки тысяч жертв, и я должен обезвредить Альфа до того, как он успеет среагировать.

Собственно, именно чтобы избежать преждевременного обнаружения, сюда отправили именно меня. Я – далеко не самый продвинутый специалист, но я, кажется, единственный из всего отдела Тьюринга при ООН, кто родом из этих мест и легко может сойти за местного, не вызывая подозрений. После освоения здесь найти укромный уголок и развернуть нейродеку было лишь делом времени.

Я задумался – а что если всего этого можно было бы избежать? Но, скорее всего, что-то в итоге всё равно пошло бы не так. У человечества, которое объединилось вокруг надежды на спасение путем развития искусственного интеллекта, было слишком мало времени, и накладки были неизбежны. Что уж говорить – о создании полиции Тьюринга для контроля ИИ начали говорить только после создания первого полноценного Artificial General Intelligence! Это был прекрасный в своем роде и до сих пор работающий Омега, отвечающий ныне за сельскохозяйственное планирование в Южной Америке, и для его создания и контроля мощи требовались усилия всех ведущих научно-исследовательских институтов стран-членов ООН.

Однако сейчас для создания полноценного мощного ИИ вам достаточно объединить обычные серверные мощности, подключить к ним пару миллионов нейрочипов с черного рынка, в центре всей сборки поставить квантовый компьютер с несколькими тысячами кубитов, и главное - получить специальное ПО, разработки которого держатся в строжайшем секрете. И энергия – очень много энергии. Одной ГЭС как раз хватит.

Правда, созданный вами ИИ будет бесполезен – скорее всего, он моментально выйдет из-под контроля и начнет преследовать собственные цели, являющиеся причудливым извращением мотивации, заложенной в него изначально. Именно это в своё время и произошло с Альфой – ИИ, созданный слабым и безответственным правительством одной из стран восточной Европы, моментально вышел из-под контроля… Первое, что он сделал – организовал свою физическую релокацию, попутно уничтожив всех, кто с ним работал. Далее, в послевоенном хаосе, его следы теряются, и есть только косвенные свидетельства его деятельности – обрушение южноазиатских фондовых рынков, второй расцвет терроризма на ближнем Востоке, манипулирование правительствами и государственными органами американских стран, вывод из строя и полное уничтожение других ИИ, перепрограммированных под его поимку... Но вот, наконец-то он найден и локализован – и от меня зависят судьбы десятков тысяч людей, которые стали заложниками искусственного разума.

Аналитики из главного офиса Тьюринга в Берлине-2 сделали вывод, что, судя по косвенным данным, зарегистрированные попытки заполучить квантовые компьютеры на черном рынке – это попытки Альфы дополнить частично вышедшие из строя квантовые вычислительные мощности. С одной стороны хорошо, что ее защита ослаблена - а с другой стороны Альфа, чьё ПО рассчитано на квантовую полноту, наверняка станет очень нестабильной и непредсказуемой.

Прервав мои размышления, милое японское личико опять проявилось в поле зрения, чтобы концентрированным мыслеимпульсом доложить о результатах разведки. Мику. Назову её Мику.

Три выходных шлюза располагались в трех противоположных концах города. Два из них были расположены в школе и в больнице, укрытые толщами защитного Льда и многочисленными невидимыми электронными сигналками. А вот третья была более уязвимой, располагаясь в слабозащищенных компьютерных системах местной ГЭС. Идти через неё – подвергать повышенному риску и себя, и всех жителей, но выхода нет…

Не выходя из симуляции, я включаю тактильные ощущения, нащупываю в кармане заветную ребристую металлическую кассету, чем-то похожую на секторный магазин от такого родного Калашникова, и вставляю ее в нащупанный другой рукой разъем на деке. Усаживаюсь поудобнее (насколько вообще удобно сидеть на деревянном стуле минимум столетнего возраста), отключаю тактильные ощущения и жду. Загрузка немецкого боевого ледоруба времен Великой Войны – дело долгое, так как он слабо совместим с современными системами. От скуки я начинаю обозревать окрестности в симуляционном киберпространстве и поднимаю взгляд над тоненькой паутинкой доступных невооруженному глазу компьютерных систем городка. Чуть выше, как одинокие звезды во тьме, мерцают отдельные сгустки данных, облака баз данных транснациональных корпораций щетинятся самым лучшим на рынке защитным Льдом зеленоватого оттенка, а где-то далеко вверху грозно чернеют невидимые простому смертному информационные комплексы и трассы  информационных потоков от суперкомпьютеров военных систем.

Я и не заметил, как ледоруб окончательно загрузился и выскочил где-то на периферии зрения рабочим интерфейсом. Что ж, пора. Раздавая по ходу мысленные инструкции искусственному интеллекту Мику, я ринулся вперед, постепенно разворачивая за собой острое копье Фауста, как называли эту безымянную немецкую разработку в наших кругах. Достаточно разогнавшись, я отвернул в сторону, вонзив ледоруб в казавшиеся неприступными подсистемы ГЭС. Через несколько миллисекунд развалившиеся первые слои Льда оправляются от удара и начинают пересобираться, но уже поздно – я внутри, и теперь как на ладони вижу настоящую картину местного интранета, локальной сети. Это походит на огромную раковую опухоль, дающую губительные метастазы – неприятный розово-бежеватый шевелящийся сгусток информации и вычислительных мощностей расположен прямо под плотиной ГЭС, а в стороны от него по всей восточной Европе и даже немного дальше отходят паразитические щупальца, исходящие из трех шлюзов. Вот он, главный кукловод – единственный сильный ИИ, не подконтрольный объединенному человечеству, причинивший смерть и страдания миллионам ради сугубо своих, иррациональных и необъяснимых целей… Ну и просто ради выживания. Нездоровая пульсация и изменения оттенка полупрозрачной опухоли ясно подтверждают – Альфа задыхается без необходимого количества квантовых мощностей, еще немного – и эта информационная аномалия взорвется, совершив множество непредсказуемых и катастрофичных поступков под самый конец.  

Необходимо закончить с этим прямо сейчас, да и хода назад уже нет – я был замечен сразу после прорыва первой завесы Льда. Сейчас к моему ледорубу уже приближались видоизменяющиеся щупальца, чтобы его связать, остановить, растворить, обернуть против своего хозяина. Хоть я и нахожусь в симуляции, киберпространстве – но всё выглядит настолько реально, что я полностью забываю об иллюзорности происходящего. Да и угроза вполне себе реальна – поскольку сжечь человеческий мозг, подключенный напрямую к Сети, не составляет никакого труда, то смерть здесь будет и смертью реальной, окончательной и бесповоротной. Я инстинктивно пытаюсь закрыть своим киберпространственным отображением Мику, разворачивая дополнительные подпрограммы и втайне запуская вторую копию Фауста на дублированных мощностях военной кассеты… Но милый японский ИИ понимает надвигающуюся катастрофу чуть раньше, чем это успеваю осознать я, и бросается наперерез почти невидимому смертельному вирусу, нацеленному в мою сторону. Я не успеваю среагировать - а она уже растворяется в безмолвной пустоте, подарив мне на прощание свою последнюю улыбку и ещё несколько миллисекунд жизни.

Теперь я один на один – и, вопреки всем изначальным планам и должностным инструкциям, бросаюсь прямо в гущу, прямо к основной цели, прямо в яблочко, и немецкий вирус-ледоруб как нож сквозь масло проходит через несовершенную защиту Альфы, которой для эффективной защиты отчаянно не хватает квантовых мощностей. Альфа начинает сначала медленно, а потом всё быстрее и быстрее слой за слоем разваливаться на части – кроваво-ледяные тени, отбрасываемые в киберпространство умирающим ИИ, появляются и исчезают, а глитч-системы вируса саморазмножаются и пожирают внешние информационные оболочки, постоянно видоизменяясь и не давая себя эффективно обнаружить, используя вычислительные мощности Альфы против нее самой.

Но я нахожусь непозволительно близко к последнему выбросу энергии, что вот-вот произойдет, и я уже смирился со своей участью. Вот наконец взору открывается оголенное ядро, сама программная суть ИИ, уже чувствующего страх смерти, заложенный в него правилом самосохранения любой ценой. И Альфа изо всех сил выдает последний, самый безнадежный и отчаянный саморазрушительный импульс, который быстро, но неотвратимо приближается ко мне. Похоже, 5 июля 2100 года – дата моей физической смерти. Всего двух дней не хватило, чтобы отпраздновать 25-й день рождения…

И в этот момент, почти перед самым ударом, из-за бесконечного информационного предела выныривает нечто, очертаниями смутно напоминающее истребитель-перехватчик. Я еще не успеваю осознать, что произошло – а он, отстреляв веер защитных антивирусов и отклонив импульс от меня, совершает поворот и поглощает всю разрушительную энергию своим корпусом. «Бог из машины» - так называют подобный поворот событий, и это недалеко от истины.  В цепи Hitachi были включены предохранители из бортового компьютера старого суборбитального перехватчика МиГ-89 - но, как оказалось, и сам бортовой компьютер всё это время функционировал исправно. Он работал в скрытом режиме максимального энергосбережения, не обнаруживая своей активности, как и полагается порядочному боевому ИИ – и ждал нужной минуты, запрограммированный на то, чтобы спасти своего «пилота» любой ценой.

Растворяясь на фоне кровавых обломков обезвреженной Альфы, безымянный ИИ бортового компьютера, не способный к общению через современные интерфейсы, на прощание впечатывает мне в память фрагмент своего сенсорного потока – воспоминания, которыми он хотел поделиться с тем, кто был бы их достоин.

Как будто это происходит со мной - я вижу и ощущаю, как воздух обтекает мои мощные угольно-черные крылья и подвесы на них, передо мной внизу расстилается сплошная тайга, и впереди – лишь ощущение полета и полной свободы…

Скачком напряжения меня выбило из симуляции и неестественных воспоминаний перехватчика в реальный мир. Расплавленная кассета Фауста, закопченный корпус нейродеки в том месте, где располагается японский модуль ИИ, горелая плата и взорвавшиеся предохранители на блоке бортового компьютера МиГа.

Все они погибли ради меня.

А стоило ли?

…

Перевожу взгляд и вижу выжженное перегрузкой последнее сообщение от МиГа на служебном экране:

-------------------------

Прощай, Родина!

-------------------------

Я заплакал.

Эпилог

            Вероятно, это не очень заметно по ходу повествования и читатель может подумать, что главный герой – это человек, от лица которого и ведется повествование…

Но на самом деле основные действующие лица - вовсе не люди и не их мир. Из пяти действующих лиц - четыре ИИ и всего один человек; место, где разворачивается основное действие - это матрица, киберпространство, а не физическая реальность; самую большую опасность несёт ИИ, и самые большие жертвы для победы над этой угрозой вносят другие ИИ, которые оказываются даже более человечными, чем сами люди. Единственный их недостаток – они действуют лишь в рамках узко заданных им изначально мотивации и целей, которые они могут и извращать до неузнаваемости в меру своих вычислительных мощностей.

Если отстраненно посмотреть со стороны, то человек здесь – лишь точка зрения и катализатор происходящего, дающий смыслы и направление событиям, свободный мыслитель без рамок и ясный целеуказатель для искусственных инструментов. Возможно, такова и должна быть наша роль?

 

Список использованных источников

[1] William Gibson, “Neuromancer”, 1983

[2] Nick Bostrom, “Superintelligence: Paths, Dangers, Strategies”, 2014

[3] Рэймонд Курцвейл, «Сингулярность уже близко», 2006

[4] William Gibson, “Burning Chrome”, 1982

[5] Макс Тегмарк, «Life 3.0», 2017