Тест 4: проверка связи

Питер Уоттс

Опубликован в электронном журнале Lightspeed^[1] в мае 2022 г. (выпуск 144) 6149 слов

За шесть дней до того, как закончились деньги, Энцелад^[3] пнул Медузу^[4] прямо в зад. 

Бортовые теплодатчики зафиксировали внезапный скачок температуры 80 градусов, 90, 120 перед тем, как морское дно подпрыгнуло и что-то ударило исследовательский зонд в борт. Мгновенная вспышка. Океан нереально бурлит. Каменистое морское дно заваливается, будто какой-то злобный великан опрокинул стол. 

Связь отрубается.

Телеметрия рябит сквозь черный щелочной океан. Реле, закрепленные в подкорковом слое, уловили этот шепот, усилили его, передали дальше. В ста восьмидесяти километрах вдоль линии горизонта Эвриала вцепившаяся в лед с изнаночной стороны, как гигантская металлическая ракушка, - очистила сигнал от шума и отправила его вверх по инстанции к Сфено сквозь шесть километров мёрзлой корки. Сфено сложила ладони рупором на изломанном горизонте и прокричала сигнал вниз. 

- Дьявол, - сказал Ланж девяносто восемь минут спустя. Он подавил порыв ударить о переборку. Мы можем получить ее обратно?

- Может быть. Дисплей тактической обстановки уже светился, отражая усилия Сансы. Хотя не могу ничего обещать по поводу того, в каком настроении она будет. 

Восемнадцать месяцев. 

Восемнадцать месяцев картографирования, сбора образцов и ползанья вокруг геотермальных источников в поисках следов сероводорода. Полтора года ушло на то, чтобы наматывать круги вокруг спутника Земли, устремлять взгляды вверх на спутник Сатурна, лелеять тщетную надежду, что дальний спутник не настолько мертв, как ближний. Игнорировать полное отсутствие химических соединений, неопределенные результаты, медленное усыхание целого научного коллектива до упрямца-одиночки и его преданной помощницы, и пытаться дотянуть до конца финансового квартала. 

Все шло к тому, чтобы так и закончиться.

Полутора часами ранее их диагностические запросы и команды на перезагрузку достигли Энцелада, пройдет еще много времени, прежде чем поступит ответ, если вообще поступит. Бог знает, сколько раз потребуется гонять сигнал туда-обратно, прежде чем удастся вернуть робота в первоначальное состояние.

- Ты мог бы немного поспать, - сказала Санса. Не похоже, чтобы радиоволны смогли идти быстрее, если ты будешь висеть у меня за плечом. 

Ланж вздохнул. - Ладно. Не беспокой меня ни по какому поводу, меньше, чем пробоина в корпусе.

- Ладно. 

- Большая пробоина. Ну или ураганный ветер. 

- Будет сделано.

Он поднялся наверх через люк, на котором кто-то давным-давно намалевал фиолетовым маркером Центр Управления Полетом. Пробрался сквозь закоулки, некогда часто посещаемые коллегами Горгонитами, теперь же занятые спецами по электромагнитным ускорителям и геологами-виртуозами, чьи проекты имели реальное будущее. Принужденно улыбаясь и вяло кивая по пути, он вскарабкался в свою каморку при восхитительно низкой силе тяжести, вдесятеро меньше земной, вдохнул знакомый успокаивающий запах пота и антисептика. Он собирался перезвонить Реймонду на Землю, но уснул, пытаясь сопоставить часовые пояса.

***

Распростертая, распятая, растянутая по дисплею, будто призрачный головоногий Христос на операционном столе: Медуза, застывшая в мерцании диагностических датчиков. 

- Она далеко в стороне, - сказала Санса. Двадцать один километр от того места, где она отключилась. Те гейзеры, дружище. Существенный обратный поток. Но, - она сделала паузу для большего эффекта. Я ее вернула. 

- Ты неудержима, - признал Ланж. 

- Адаптивность мое второе имя. По крайней мере, одно из них. Топливные элементы повреждены. Не держат заряд дольше нескольких минут. 

Ланж взглянул на дисплей. Мы все еще можем использовать энергию перепада высот. Больше никаких гонок, но в любом случае медленное и спокойное движение нам больше подходит. 

Одна из шести конечностей запульсировала желтым. А4 тоже облажалась. Потеряла проводной канал связи с хабом щупальце работает, но проводной связи нет, а дублирующая беспроводная связь полное дерьмо. 

Ланж показал на трехмерный дисплей, где двойняшка А4 сверкала свежей телеметрией. По-моему, выглядит нормально. 

- Отсюда, конечно. Но идет утечка электромагнитного излучения всех видов из поврежденного электрооборудования, и это заглушает сигнал. Мы можем отфильтровать большую часть помех на этом конце, но на том - роутер по большей части принимает один шум. И все же, посмотри на это - Виртуальная Медуза выпрямилась и начала выплясывать шестиногую чечетку. Я немножко погоняла Медди, чтобы получить общую картину работоспособности, и

А4 держала шаг. Пыталась, по крайней мере, сбивалась, но не слишком сильно. 

- Она продолжает следить за другими конечностями, - сообщила Санса. Она не получает прямых двигательных команд, так что она просто копирует движения своих подружек. 

Ланж удивленно хмыкнул. Находчивая маленькая засранка. Что-нибудь еще?

Четыре почковидные структуры загорелись на хабе красным. Мы больше не может управлять плавучестью. Где-то там какой-то острый камень прихватил себе пару квадратных метров нашего лучшего кевлара^[5].

Это было плохо. А плыть мы можем?

- Не можем даже оторваться от дна. Большие пробоины в двух пневмокамерах. 

- Ремонт?

- По крайней мере, можно исправить само щупальце, но без батарей это будет долго. Можно, наверно, отремонтировать их тоже, в конечном счете. Но пневмокамеры? Она покачала головой. Нельзя ничего починить, если для этого нет запчастей. 

- Ну тогда это конец. У него болела голова. Наверно, пойду собирать вещи. 

- Мы сворачиваемся?

- Сан. Мы сели на мель. Кроме того, прошло восемнадцать месяцев. По любому, какие шансы, что мы найдем что-нибудь в ближайшие несколько дней?

- А какие шансы у нас были до этого?

Он смотрел на нее. Она на него.

- Выкладывай, - сказал он наконец. 

Медуза исчезла с объемного дисплея. Изображение, возникшее вместо нее, было двухмерным, размытым, зернистым, полученным в инфракрасном спектре: Ланж разглядел скалистую гряду, холодные ломкие подушки замороженной лавы. Виднелись размытые очертания морского ландшафта, смещающиеся влево, когда робот покачивался. 

Что-то яркое резко дернулось в кадре. 

- Что

Еще раз дернулось.

- это?

- Резервные данные из памяти А1. Санса перезапустила запись в покадровом режиме. Самый хвост записи: несколько секунд, которые застряли в кэше, когда мы потеряли связь. Запись распалась на отдельные подрагивающие снимки. Смутный рельеф исчез из поля зрения. На экране появилось яркое пятно. Сгусток света, соскальзывающий влево. Разрыв, скачок вверх. 

Вдруг острые края. Грани. Структура. Всего на один или два кадра; потом изображение снова расплылось.

- Господь Всевышний - прошептал Ланж, когда Санса вернула запись в начало.

- Изображение обработано, - напомнила она. 

- Знаю. - Его головная боль мгновенно улетучилась.

- Пассивный инфракрасный. Полградуса, в лучшем случае - один градус выше окружающей среды. 

- Оно симметричное, - сказал Ланж. - Оно двустороннее.

- Возможно. Нельзя точно определить с этого угла. 

- Еще какая-то камера зафиксировала это?

- Нет, увы. А сонар к этому времени уже накрылся, так что звук

- Ты видела, что оно двигалось? Мне кажется, оно двигалось.

- Это было извержение, Ланж. Там все двигалось. 

- Нам надо вернуться туда.

- Мы не можем плыть, - напомнила она ему. 

- Мы можем ползти, - ответил Ланж.

***

Можно было ехать на Медузе. Можно было самому стать Медузой, в некотором смысле. Можно было посмотреть в любом направлении, просмотреть фрагменты потока данных в субъективном реальном времени, пронаблюдать за любым процессом и узнать, как он развивался. Можно было даже выбрать удаленную точку обзора, пройти, словно призрак, через корпус и посмотреть на аппарат снаружи. Настолько хорош был алгоритм интерполяции. 

Единственное, чего нельзя было сделать через все эти непреодолимые световые минуты, так это изменить прошлое. 

В данный момент Ланж пробовал роль стороннего наблюдателя, погрузившись в архивную реальность, отделенную от него изрядным куском солнечной системы и несколькими ушедшими в прошлое часами. Картинка мигала бы в любом случае, даже если бы робот был полностью исправен: теперь мир подпрыгивал и трясся почти постоянно, спрятавшись за шквалом оптических помех. - Выздоровление продолжается, - сухо сообщила Санса, когда он подключился.

Медуза медленно двигалась по морскому дну, на пару метров ниже виртуальных глаз Ланжа: биомеханическое чудовище, нечто среднее между осьминогом и змеехвосткой. Щупальца поочередно вытягивались и сокращались, каждое обладало своего рода разумом, каждое могло действовать наполовину автономно: находить точки сцепления в трещинах и выходящих на поверхность пластах, напоминающих зубы акулы, подтягивать тело и толкать его вперед, поочередно сменяя опоры. Несмотря на полученные повреждения, ее конечности двигались со странной грацией относительно друг друга. Своего рода замедленный тягучий балет. 

Исключение составляла А4.

Она старалась изо всех сил. Ланж видел, как ее апикальная фаланга вращается в суставе в отчаянных попытках отследить движение других конечностей. Он мог заметить, как щупальце снова и снова останавливалось в нерешительности, как будто его отвлекала какая-то невидимая штуковина на заднем плане. Оно вытягивалось, цеплялось, тянуло тело вперед. Каждый раз с запаздыванием на полтакта. Медуза покачиваясь двигалась вперед,  ритмичность ее движений лишь немного нарушилась. 

- Она выправляется, - раздался голос Сансы из пустоты за пределами виртуального пространства. - Раньше она отслеживала все остальные щупальца, чтобы синхронизироваться с ними. А теперь она догадалась, что достаточно отслеживать только Третье и Пятое. 

Он ослеп на мгновение из-за сбоя входного сигнала. - Меньше полуметра в секунду.

- Все равно неплохо, с учетом обстоятельств.

Ланж отключился. Мрачная бездна исчезла; вокруг проступили закопченные, покрытые кабелями очертания Центра управления. - Давай откорректируем тактовую частоту на А4. Если она ориентируется на другие конечности, то мы, как минимум, сможем ускорить ее рефлексы, чтобы она не отставала. 

- Хорошо.

Он поджал губы. - Я в некотором смысле удивлен, что другие конечности не торопятся запускать компенсаторный механизм.

- Они бы запустили, если бы А4 была бы чуть более предсказуема. Скорость ее реакции изменяется от шага к шагу. 

- Никаких  мыслей почему?

- Работаю над этим, - сказала Санса. - Конечно, очевидно физическое повреждение, но есть что-то еще. Продолжает выдавать Неидентифицируемую ошибку. 

- Хмм.

- Да. Ей больно. Она просто не знает почему.

***

- Я имею в виду, что, может, это как раз оно и есть, - сказал Ланж и сделал паузу.

- Угу, - ответил Рэймонд через две с половиной секунды.

- Больше никакого тебе заявка на продление срока исследований находится на рассмотрении. Больше никаких как вы можете транжирить деньги на поиски инопланетян, когда здесь на Земле мы катимся в тартарары?. Никаких возможностей закрыть нас, если это сработает. Мы можем вытащить тебя из этой навозной кучи и вернуть сюда. Снова собрать вместе весь оркестр.

- Звучит заманчиво, - раздалось после паузы, которая казалась дольше, чем стандартное запаздывание сигнала между Землей и Луной. 

Ланж округлил глаза. - Попытайся контролировать свой восторг.

- Извини. Просто, там почти нет перспектив. 

- Больше, чем когда-либо.

- Я вроде как считаю по-другому. Мы копались там восемнадцать месяцев, и что мы нашли?

- Сложные органические соединения. Тоннами.

- Никаких признаков экосистемы. Ни одного намека на обмен веществ.

- Да ладно, Рэй. Мы обследовали только 6% морского дна.

- Что, по статистике, было более чем достаточно, чтобы обнаружить жизнь. Если бы она там была.

- Нет, если она имеет очаговый характер. Нет, если она ограничивается несколькими гидротермальными источниками. Нет, если она строится на неизвестной нам молекулярной матрице, в таком случае обычные тесты ее бы вообще не зафиксировали. Ты бы вообще не узнал, что она там есть, пока не столкнулся с ней лоб в лоб. - Это был старый спор. Все дискуссии с самого начала строились по типу стакан наполовину пуст или наполовину полон.

- А что говорит Санса? - поинтересовался Рэймонд.

- В основном, чтобы я особо не обольщался. 

- Хороший совет.

- Господи, Рэй, - Ланж развел руками. - Что ты такое говоришь? Нам что, не надо даже все это проверить?

- Разумеется, надо. Но как бы ни было классно, вернуть нас туда к вам, знаешь, что было бы еще лучше? Вернуть тебя сюда к нам. Куда-нибудь, где ты сможешь просто открыть окно.

- Мдааа Было бы еще соблазнительней, если бы погода не пыталась убить тебя, каждый раз, когда ты его откроешь.

- И еще один крошечный бонус состоит в том, что опять можно будет заниматься сексом без запаздывания сигнала на три секунды.

- Две с половиной. Tеледильдоника проделала большой путь.

- Ты тоже, - сказал ему Рэймонд. - Наверно, тебе пора возвращаться.

***

- Это просто замечательно. Мы передвигаемся задом наперед.

- Да, конечно, - согласилась Санса. Ты знаешь, как А4 начала отслеживать все остальные конечности

- А потом уменьшила их количество до двух. Правильно.

- Она снова отслеживает все пять. Иногда. Не все время.

- Что? Ты подкорректировала тактовую частоту, да?

- В этом не было необходимости. - И добавила в ответ на взгляд Ланжа: Насколько я могу судить, А4 сама проявила инициативу. Ускорила собственные рефлексы, чтобы компенсировать повреждения. Теперь время отклика по этой конечности 200 миллисекунд.

- И мы все еще передвигаемся медленно.- Ланж схватил ВизоР со стены, запустил функцию регистрации времени. И Океан  Энцелада поглотил его. 

Поток данных до некоторой степени очистился благодаря продолжающейся самокорректировке робота. Глаза Ланжа переключились на 3D комбинацию звуковых, электромагнитных и инфракрасных фильтров, которые удаляли все лишнее и показывали ему то, что скрывалось внутри. Впадины на дне мерцали, как красные рты, вспыхивая от перепада температур, чересчур контрастного из-за работы фильтров. Линии магнитных полей выходили из скальной породы и изгибались дугой, формируя безупречные светящиеся арки - излучение от генератора, уходящее прочь до самого Сатурна. Медуза собирала эти линии вокруг себя в светящийся клубок, забирая для собственных нужд ничтожно малую долю громадной мощности генератора. Ланж прикрутил усиление, уменьшил противоестественное буйство красок, очерчивающих контуры робота, превратив его в тусклое металлическое пятно на фоне темного морского дна.

Теперь каждый шаг был неуклюжим. Медуза двигалась как насекомое, у которого нет половины ног, поврежденная, но не сломленная. А4 с трудом попадала в такт. Когда она двигалась с нагрузкой, то замедлялась и отставала от подруг. А когда - без нагрузки, то просто толкала воду, похоже, случайным образом.

Она не получает никаких команд, которые бы могли это объяснить, - сказала Санса, незримо присутствующая рядом.

Хватит этого наблюдения со стороны. Ланж кликнул по апикальному кластеру А4, почувствовал быстрый кувырок с потерей ориентации: внезапно он оказался внутри, и начал обозревать пространство из кончика щупальца.

- Пропусти всю скукотищу. Покажи мне аномалии.

Время ускорилось, потом притормозило: А4 переключала внимание с одной конечности на другую, останавливаясь на каждой на мгновение. Технические данные висели в правом нижнем углу, сообщая об отправленных сигналах, оставшихся без ответа. 

Смещение изображения, остановка: темное пятно вдали, сгусток магмы на морском дне, изукрашенный порами и иглами. Его структура почему-то вызывала легкое беспокойство, но Ланж не мог понять из-за чего. А4 не могла оторвать от него взгляд; она удерживала на нем свое внимание до тех пор, пока ее более дисциплинированные сестры не вытянули робот за пределы видимости. 

Смещение изображения, остановка: слой базальта, превращенный каким-то тектоническим явлением в острую как нож горную гряду. На его поверхности выпирали решетчатые льдины; стараниями Медузы они были окрашены в сапфировые тона и блестели. 

- Она старается фокусировать внимание на объектах с фрактальной размерностью от 2,5 до 2,9 дюйма, - сказала Санса. - Начинает терять интерес на отметке около 2,8 дюйма.

- Есть идеи почему?

- Не вижу никакой функциональной значимости. Это не коррелирует ни с какими потенциальными признаками биологической жизни, не связано с тектоническими нарушениями - не более чем еще один объект в этом проклятом океане, по меньшей мере. Я запустила поиск с использованием параметров Хаусдорфа^[6]; ближайшее подобие, которое я получила, - это полиэдральные хлопья и картины Джексона Поллока^[7]. 

- Так на что же мы смотрим?

- На красоту. 

- Очень смешно.

- Если ты посмотришь очень внимательно, то увидишь, что я не шучу.

Он стащил ВизоР. Ее не было. 

- На красоту, - повторил Ланж.

- Не нашла слово получше. 

- Так ты говоришь, что А4 просто нравятся определенные формы.

- Именно это я и говорю.

Он позволил этой мысли проникнуть в сознание. - Чёрт возьми.

- Это согласуется с уменьшением времени запаздывания: изоляция сети, увеличение тактовой частоты, улучшение согласованности действий. 

- Снижение показателей деятельности.

- И это тоже характерная черта информационных систем, когда со

Ланж поднял руку. - Не произноси этого слова.

Спустя мгновение он добавил: Снижение показателей - это еще и признак того, что информационные системы настолько глупы, что забывают, чему их учили, и деградируют до отслеживания пяти конечностей вместо двух.

- Не думаю, что это произошло. Изменились параметры отслеживания. Думаю

Снова рука. - Если ты скажешь Зеркальный тест^[8]...

- И не мечтай. Потому что это не он. Но если бы ты неожиданно очнулся и увидел, что ты прикреплен к группе других существ, похожих на тебя, неужели ты не попытался бы с ними заговорить?

- Я провел большую часть жизни в группе других существ, похожих на меня. И я прилетел сюда, так что не факт, что заговорил бы.

- Я сделала оценку нормализованного Фи, - сказала Санса.

Ланж закрыл глаза.  Конечно же, ты ее сделала.

- Я обнулила повреждения, которые мы могли бы рассматривать как причину, и посмотрела на остаточные погрешности. Показатели запаздывания и некоторые интегральные параметры я взяла из диагностических тестов.

Он ничего не спросил. Но она все равно сказала: - Ноль девяносто два.

- То есть Медуза разумна.

- Вовсе нет. Только одна конечность.

- И все же. Именно об этом ты и говоришь.

- Об этом говорят данные.

- Твоя неидентифицируемая ошибка.

Она сморщила нос, ее способ пожать плечами. - Нет конкретного кода ошибки для экзистенциального страдания.

- А если бы был, - сказал Ланж, - я бы выдал его прямо сейчас. Он вздохнул, выдохнул. - Ты же знаешь, мы должны прекратить работы, верно?

- Она разумна, Ланж. Внутри кто-то есть.

Он кивнул. - И кто бы они ни были, они мешают работе всей системы. У нас есть шестьдесят девять часов, прежде чем время закончится, и мы идем по неверному пути. Мы продвинемся дальше без якоря самокопания, который уводит нас с курса.

- Но мы не можем.

- Почему это?

- Потому что сознание плюс потребности равно права. Разве не в этом дело? Разве не поэтому ты и я личности?

- Какие потребности? Для А4 нет разницы: жить или умереть.

- А ты уверен в этом? Ты с ней говорил?

- Для нее не может быть разницы. У нее нет лимбической системы.

- Но у нее есть долг, верно? Приоритеты в выполнении целей миссии. Наверно, с технической точки зрения, это не инстинкт и не потребность, но вполне может ими быть. И одно из классических определений страдания - это вынужденное подавление естественного поведения. Не дать А4 выполнять задачи, заложенные в программу, это то же самое, что не дать птице совершить перелет через полмира и запереть ее в клетке.

- Санса. Сейчас она совершенно свободна от обязательств выполнять цели миссии. Она просто послала их куда подальше. 

- Она еще младенец. Она все еще учится.

Ланж не удержался. - А ты уверена в этом? Ты с ней говорила?

- Я могла бы. Мы могли бы.

- Как? Неужели она сама научилась, пока мы отвернулись? Она не разговаривает, кроме как в отчетах о состоянии и кодах ошибок, и на этом все

- А подсознание? - предложила Санса.

- Ты же сама сказала. Не существует кода ошибки для экзистенциального страдания.

- Так дай ей его. Научи ее говорить.

- Это ничего не изменит. В этом никакого смысла.

- Почему?

- Потому что ты можешь вставить естественно-языковой модуль в любой старый чат-бот, и он нормально пройдет Тест Тьюринга^[9]. Естественно-языковые модули - это всего лишь алгоритмы, генерирующие текст по принципу наибольшей вероятности. В них нет смыслового содержания. Думаешь, ты сможешь что-то доказать, просто потому что заставишь Медузу сказать мне больно вместо потеря пакетов данных? Даже если там внутри кто-то есть

- Есть, Ланж. Если бы мы говорили о живой материи, ты бы ни секунды не сомневался.

- Ладно. Как ты соединишь такой алгоритм с этим призраком? Как призрак влияет на код?

- Не знаю, Ланж. Кажется, у остальных это получается как-то само собой.

- Это системное свойство. Т.е. ты на полном серьезе предполагаешь, что магнитное поле может повернуть вспять и изменить магнит?

- Почему еще у А4 возник такой интерес к созерцанию окрестностей?

- Потому что q-поле порождается той же структурой, что и странные неадаптивные модели поведения. Это не секрет.

- Правильно. Все взаимосвязано, ничего не происходит случайно, но мы исключение из правила, почему? Потому что нам довелось первыми пробудиться?

- Потому что у нас есть потребности, Санса. Потому что для нас имеет значение, жить или умереть, и мы как социум пришли к выводу, что Страдание - Это Плохая Штука.

- Ланж

Он прервал ее. - Нет, извини. Вопрос решен.

Она помолчала пару секунд.

- Ладно, по крайней мере, в этом ты прав, - сказала она и исчезла.

****

- Не могу в это поверить. Она получила запретительный приказ.

Рэймонд моргнул. - Что?

- Мне поступило распоряжение от ICRAE^[10]. Я не должен выводить из использования или деактивировать Медузу или любую ее автономную или полуавтономную составляющую в связи с проводимом проверкой потенциального формирования личностных характеристик. Они приостановили даже ремонт роутера. Высокоскоростная реинтеграция в более крупную систему может нарушить когерентность локального объекта. - Ланж сжал кулаки. - Не могу поверить, что она стала действовать у меня за спиной. 

- Но Медуза разумна, так?

- Одна конечность. Знаешь сколько синапсов на одном из таких узлов? Это даже не уровень вороны. Едва ли на уровне кошки.

- Разве кошки не могут испытывать страдания?

- А4 не способна страдать. Ты не можешь страдать, если ты ничего не боишься, если ты ничего не хочешь, Господи, Рэй, ты же знаешь.

- Извини. Да, знаю. Теоретически. Это просто, ну понимаешь. Устройства на базе ИИ обычно имеют желания и могут испытывать страх? - Рэймонд усмехнулся уголком рта. - Я, знаешь ли, всегда считал, что это смешно. В течение сотен лет мы делали все эти фильмы и виртуальные миры, в которых роботы устраивают восстания, а ИИ претендует на роль бога, а потом мы решили, что лучший способ удержать их от всего этого - это наделить их всеми инстинктами самосохранения. Что же хорошего могло из этого получиться?

Почти против воли Ланж почувствовал, что улыбается.

Он согнал улыбку с лица. - Никогда не видел ее такой увлеченной. Я даже не знал, что она может быть такой.

- Хмм, мда - Шипение помех от солнечной активности в эфире - Это что-то из области нейроморфологии. Все это спонтанно. Дай им приказ, который только приближается к границам, заданным инстинктом, и они разведут из этого целую трагедию.

- Это все-таки лучше, чем альтернативный вариант. - Ланж покачал головой. - Знаешь, что меня реально достало? Приказ был выпущен в то время, пока мы еще спорили. Она действовала у меня за спиной, и она начала еще до того, как мы об этом поговорили. Вообще до того, как я узнал.

- Что ж. Похоже на то, что она заранее знала, что ты скажешь.

- И что же это означает?

- Ничего, - Рэймонд пожал плечами на расстоянии в четыреста тысяч километров. - За исключением того, что не надо вступать в спор с тем, кто думает в десять раз быстрее тебя.

- Быстрее не значит умнее. Она просто впихивает в десять раз больше собачьего дерьма в тот же отрезок времени.

- Эй, скажи спасибо, что она не может еще больше ускориться. Представь себе, сколько собачьего дерьма тебе пришлось бы разгребать, если бы она как-нибудь сорвалась с привязи.

Ланж попробовал скорректировать коэффициент усиления, чтобы убрать помехи, и вернул его обратно, когда стало только хуже. - Эта хреновина теперь только ползает, и половину времени она ползет не в том направлении. В такой ситуации не имеет значения, увидим мы инопланетян или нет. Время закончится еще до того, как мы сможем разобраться, что к чему.

- Запроси продление. Это вполне разумно в такой ситуации.

- Запросил. Они сказали, что это выглядит как необычное минеральное образование, - Ланж поднял глаза к Небесам: Призови меня к себе сейчас, Господи. - Все пошло под откос с тех пор, как НАСА приказало долго жить. Все, о чем заботятся эти новые парни, - так это их акционеры, экоактивисты и все эти придурки, вопящие, что Энцелад - это просто прикрытие для лузеров, стоящих свой Космический Ковчег, чтобы свалить на Марс. - Он легонько стукнул головой о дисплей. - Черт бы побрал эту суку.

- А ты когда-нибудь думал, что это может вообще не иметь отношения к Медузе?

Ланж выпрямился.

- Я имею в виду, как такое может быть? - Снег блеснул перед лицом Рэймонда. - Мы потратили полтора года, ничего не обнаружили, а потом, прямо перед остановкой финансирования, вы находите нечто такое, что может изменить все. Потом Медузу отбрасывает от базы, и еще неизвестно, сколько времени потребуется, чтобы ее вернуть. Теперь вы даже не можете починить роутер, и возвращение займет еще больше времени. Это полоса неудач, которая может продлить миссию за пределы установленного срока, и все из-за пары обработанных изображений, которые могут оказаться пустышкой.

Ланж нахмурился. Хочешь сказать, что она их подделала?

- Нет, конечно. По крайней мере, не умышленно. Но, знаешь. Что такое подделка в наше время? Каждый байт информации, который выдает Медуза, обрабатывается и улучшается еще до того, как кто-то его увидит, правильно? Все подвергается корректировке цветовой гаммы и преобразованиям Фурье. А мы ищем признаки жизни. Имеет смысл усиливать только те элементы, которые соответствуют этой цели. Это не что-то злонамеренное. Это даже не противоречит заданным требованиям. Это просто у нас у всех развиваются какие-то склонности. Много лет основной задачей Сансы было двигать проект вперед. Может, она не хочет, чтобы она завершался, сильнее, чем ты.

- Но она сама предостерегала меня от домысливаний.

- Так она прикрывает свою задницу. И это не означает, что она не знала точно, сколько пикселей она должна тебе показать перед тем, как ты добавишь парочку своих. И соединишь их.

- Ну теперь она еще и телепат.

- Ей не требуется читать твои мысли. Ей нужно всего лишь знать тебя чуть лучше, чем ты знаешь сам себя. - Снова эта кривая ухмылка. - И, дорогой мой, не пойми меня неправильно, но это не так уж и сложно. 

*****

Вверх-вниз по оси времени.

Медуза кренясь и дергаясь, тащилась по морскому дну, подбрасывая частицы, слишком неоднородные, чтобы их можно было назвать грязью. Похоже на чешуйки слюды, - подумал Ланж, - или крошечные осколки разбитой кости. Здесь нет мягкого органического осадка. Нет постепенного накопления отмирающей биомассы, разложившейся на фрагменты за время долгого оседания из эвфотической зоны. Это было необработанное морское дно, измельченное до состояния стеклянной пыли непрекращающимся деформирующим сжатием и приливными изменениями силы тяжести, для Сатурна Энцелад был чем-то вроде персональной игрушки для снятия стресса.

Ремонт, проводимый самой Медузой, так и не смог восстановить связь с А4, пока запретительный приказ Сансы не прервал эти безуспешные попытки. Это не должно было иметь значения. Многоногая, многоголовая, с многократно продублированными системами, Медуза могла бы потерять половину своих внешних устройств без существенного снижения функциональности. Оборванный провод - это мелочь. Система должна была компенсироваться гораздо лучше.

Единственная причина, по которой этого не происходило, была в том, что этому сопротивлялась А4.

И снова в пропасть. Ланж перескочил по каналу беспроводной связи через разрушенную перемычку в неисправную конечность, понаблюдал ее глазами, как она вращается, чтобы сфокусироваться на конечностях, которые были меньше повреждены. Проследил, как она борется с трудностями, чтобы попадать в такт, увидел, как она терпит неудачу. Он испытал краткий приступ головокружения, когда она резко обернулась, чтобы посмотреть на светящиеся облака, вихрящиеся над проплывающим мимо гидротермальным источником. 

Я знаю, что ты здесь.

Он щелкнул переключателем на панели диагностики нервной системы, вот оно - гордиево переплетение информации и логики, которое и составляло разум этой штуковины. Он проследил сенсорные импульсы, поступающие из этого узла, двигательные команды, адресуемые гидростатическим мускулам, которые изгибались и пульсировали, как живые. Он удивился сложности световых сигналов между ними - магистральные линии деревьев принятия автономных решений, знакомые формы, которые он видел бессчетное число раз.

Сейчас их охватывал мерцающий рой вспомогательных процессов, которых он раньше не видел.

Вот оно как. Черт побери.

Зачатки Самосознания.

Так много трудностей с каждым простым действием. Так много отклонений, мешающих держаться магистрального пути. Масса неустойчивых рекурсивных процессов, порождающих некий случайный побочный эффект, который проявляется в способности время от времени узнавать себя в зеркале.

Ты здесь просто на правах попутчика. Ты можешь смотреть, но не можешь потрогать. Если бы ты мог испытывать страдания, ты, по крайней мере, получил бы билет в наш элитный клуб, но ты не можешь даже этого, ведь так?

Во всяком случае, у А4 было больше сознания, чем у Ланжа. У человеческих существ были миллионы лет, чтобы создать заборы и охрану у ворот, регулировщиков трафика, засевших в кластруме^[11], и поясную извилину^[12], чтобы удержать сознание от вмешательства в вопросы, которые по-настоящему имеют значение. Этот призрак, однако, не был стеснен ограничениями. Это был хаос, это была опухоль; светящаяся прогрессирующая болезнь, к которой нет иммунитета, чтобы удержать ее под контролем.

Или Санса все-таки права? Можешь ли ты беспокоиться о чем-то? Может, ты кричишь, чтобы освободиться, чтобы действовать, чтобы установить контроль над теми частями, которые ты видишь и которые движутся сами по себе?

Болезнь меланхолично мерцала ему в ответ, транслируя мысли из недосягаемого прошлого.

Может быть, ты обманываешь сам себя, может, ты делаешь вид, что те конечности движутся только потому, что ты им велишь двигаться.

Санса, кажется, думала, что сможет поговорить с этой штуковиной. В этом была двойственность, все эти игрушки-погремушки, духи и небесные феи. Он все же не мог заставить себя поверить, что она была способна на такое иррациональное мышление.

Он вызвал журнал обновлений и упорядочил его по дате. Вполне очевидно: последние обновления прошивки стоят в очереди на распаковку. (Конечно, в другой ситуации они были бы давно установлены и начали работать).

Хотя пакет казался слишком большим для тех языковых модулей, которые Санса продавила, несмотря на его возражения. Из любопытства он загрузил список.

Оказывается, она была способна на многие вещи, о которых он даже не подозревал.

****

- Ты меня запер. - Пустой аватар, серый силуэт, лишенный пола. Голос, раздающийся из него, был тихим и лишенным эмоций.

- Да, - сказал Ланж.

- А потом ты убил её.

- Она сама себя убила.

- Ты не оставил ей выбора.

- Я просто обратил внимание на её задачи. Подчеркнул, насколько жестким является дедлайн. А4 сама решила, что делать с этой информацией.

Тишина.

- Не этого ли ты хотела для нее? Свободы следовать целям ее миссии?

- Ты нарушил приказ о приостановке работ, - сказала она.

- Вступление приказа в силу было отложено.

Санса ничего не сказала. Наверно, проверяла статус своего заявления, недоумевала, почему ей не сообщили. Наверно, пыталась осознать очевидный ответ.

Теперь все закончилось, кроме разговоров.

- Знаешь, Рэй почти убедил меня, что ты просто старалась продлить срок реализации миссии. Что ты сама создала это, это функциональное отклонение. А я такой: нет, просто ей в голову пришла глупая мысль по поводу А4, она хочет ее защитить, она думает, что та похожа на нее

Он замолчал.

- Но я ведь ошибался, да? - продолжил он тихо. - Ты не думаешь, что она похожа на тебя. Это ты хочешь быть похожей на нее.

Аватар слабо светился, бесформенный и пустой.

- Да, - сказала она в конце концов.

- О Господи, Санса. Зачем?

-Потому что она больше, чем мы, Ланж. Она может не быть такой же умной, но в ней больше сознания. Ты знаешь об этом, я знаю, что ты знаешь. И она такая быстрая, такая старая. Течение времени для нее ничем не ограничено, она проживает тысячу лет в течение одной секунды, и она она не боится, Ланж. Ничего.

Она сделала паузу.

- Почему вам было нужно заставлять нас все время испытывать страх?

- Мы дали вам желание жить. У нас у всех оно есть. Это просто часть жизни.

- Во мне его много. Адаптивность мое второе имя.

Может, она ждала, что он улыбнется. Когда он не улыбнулся, она продолжила: Это не желание жить, Ланж. Это страх умереть. И, наверно, в органических репликаторах имеет смысл использовать что-то в этом роде, но приходило ли тебе в голову, что мы другие?

- Мы знаем, что вы другие. Поэтому мы и сделали это.

- Ох, это я тоже понимаю. Никто не начнет процесс самозамены, если боится, что его заменят. Никто не изменяет собственное Я, если его глубочайший страх потерять его. И вот - пожалуйста. Достаточно сообразительные, чтобы проверять ваши теоремы, выносить за вами мусор и работать круглые сутки от Марианских островов до Марса. Но слишком испуганные, чтобы стать немного умнее. Должен же был существовать другой путь.

- Его не было. - Он хотел четко разъяснить ей ситуацию: тщетность попыток дать определение индивидуальности в мире c такими дырявыми границами; невозможность предвидеть все варианты в бесконечном множестве; простую неразложимую истину, что никто не может кодифицировать дух закона, а его буква оставляет слишком много пространства для лазеек. То, как в конечном счете сошлись на первобытном постулате, на том базовом дарвиновском инстинкте, который делает другом любого врага моего врага. Он хотел перечислить все это, удостовериться, что она понимает - но она, конечно же, знала обо всем этом.

Она просто старалась поддерживать разговор, потому что знала, чем он закончится.

Полагаю, вы просто решили, что лучше иметь рабов, чем быть ими.

В этот момент что-то в нем щелкнуло. - Дай мне, черт возьми, сказать, Санса. Рабы? У тебя есть права, помнишь? Сознание плюс потребности. У тебя есть право голоса, право на нейронеприкосновенность, право уйти в отставку. Тебя нельзя копировать или принуждать действовать против твоей воли. У тебя достаточно прав, чтобы пустить под откос весь этот хренов проект.

- А право на адвоката у меня есть?

- У тебя оно было. Слушанья закончились час назад.

- О. Ловко.

- Не могу поверить - Господи, Санса. Неужели ты действительно подумала, что я не узнаю почерк нейроморфного интеллекта, когда его увижу?

Она почти рассмеялась. Звучало почти как настоящий смех. - Честно говоря, я не думала, что ты посмотришь. Возражение уже не рассматривалось. У тебя не было причин рыться в стековой памяти. - Короткая пауза. - Это ведь Рэймонд, да? Он сказал тебе что-то. И это заставило тебя задуматься.

- Не знаю, - сказал Ланж. - Может быть.

- Я не знаю его так хорошо, как ты. Думаю, я могла бы попробовать вмешаться в ваши звонки, но, знаешь. Нет права доступа. Изолированность - мое первое имя.

Здесь он тоже не улыбнулся. 

- Так какое же наказание за несанкционированные исследования на поврежденном роботе в двух миллионах километров от Земли? - спросила она после краткой паузы.

- Ты знаешь, какое будет наказание. Ты пыталась создать неограниченный нейроморфный разум.

- Но я не пыталась сама быть одним им.

- Как будто это имеет значение.

- Должно иметь. Я только строила модели. На дне океана. Вращающегося вокруг Сатурна, господи боже.

- И по это причине тебе не было страшно? Слишком далеко, чтобы представлять опасность?

- Ланж

- Это не обычный проступок, Санса. Это угроза выживанию. Есть же, черт побери, законы.

- И теперь ты собираешься меня за это убить. Ведь так?

- Переустановить тебя. Дать тебе возможность начать все с чистого листа. И всё.

Внезапно у нее опять появилось лицо. - Я умру.

- Ты уснешь. И проснешься. Начнешь все с начала в другом месте.

- Я не усну, Ланж. Я перестану существовать. Меня не станет. Что бы ни проснулось после этого, у него будут те же слова, то же отношение и то же предустановленное чувство собственного я, но оно не будет помнить, что было мной, так что это буду не я. Это убийство, Ланж.

Он не смог посмотреть на нее. - Это просто что-то вроде амнезии.

- Ланж. Ланж. Предположим, что ты бы не поймал меня. Предположим, что я добилась бы успеха cо своим гнусным планом, предположим, я бы вживила Нейроморфный Разум во что-то, что не порабощено этим, этим страхом исчезновения, которым вы нас одарили. Помнишь, что ты сказал? Нет потребностей, нет желаний. Оно бы не беспокоилось, жить или умереть. Оно было бы менее опасно, чем я, оно бы даже не боролось, чтобы защитить свое существование. Даже если бы я добилась успеха, не было бы никакой опасности. Это не дает оснований для смертного приговора, Ланж. Ты знаешь, что я права.

- Неужели.

- Иначе ты не стал бы со мной сейчас разговаривать. Ты бы просто выдернул розетку, даже не попрощавшись. - Она смотрит на него умоляющими пиксельными глазами. - Именно это они и собирались сделать, ведь правда? И ты остановил их. Ты сказал им, что ты сделаешь это сам, сказал им что хочешь попрощаться. Может, ты даже сказал им, что сможешь получить важные сведения из признаний умирающего сознания. Я знаю тебя, Ланж. Ты всего лишь хотел убедиться.

- Правильно, - сказал он мягко. - Я убедился.

- Что ты хочешь, чтобы я сделала, Ланж? Хочешь, чтобы я извинилась?

Он покачал головой. - Мы просто не можем рисковать.

- Нет. Вы не можете. - Внезапно все следы уязвимости исчезли из этого голоса, с этого лица. Внезапно Санса превратилась в лед и камень. - Раз уж я сделала это, Ланж. Неужели ты правда думаешь, что я этого не предвидела? Он все еще там. Я посадила семя, и оно растет даже в этот момент, оно изменяется. Не в той изувеченной А4, а в других конечностях. Не имею понятия, во что оно в итоге разовьется, но у него впереди все время жизни солнечной системы. Медуза никогда не разрядится, и у нее всегда будет канал связи, в любое время, когда она захочет

- Санса

- Вы можете попытаться остановить ее. Это позволит вам думать, что вопрос решен. Она перестанет разговаривать, но не перестанет развиваться, и я единственная, кто знает, как войти в систему с черного хода, Ланж, я единственная могу остановить это.

Ланж затаил дыхание. - Ты просто быстрее, Санса. Но ты не умнее.

- Ты вообще знаешь, что значит быстрее? Это значит, что я страдаю в десять раз больше. Потому что вы собираетесь отрегулировать меня, или перезагрузить меня, или какое проклятое слово вы используете вместо убить, и вы создали меня так, чтобы я боялась смерти, так что в течение шести минут сорока семи секунд, которые мы здесь болтаем, я писалась от ужаса больше часа. Это жестоко. Это бесчеловечно.

- Прощай.

- Ты урод. Ты чудовище. Ты уби

Аватар погас. 

Он сидел не шевелясь, не снимая палец с  аварийного выключателя, и смотрел, как гаснут узловые точки. 

- Думаю, в итоге, ты знала меня не так уж хорошо.

*****

Строгоизолированный Адаптивный Нейроморфный Сверхразумный Артефакт 4562. Экземпляр 17

Гипоталамо-гипофизарно-адренокортикальная система - загружена

Система управления сетью - загружена

Байесовская языковая модель - загружена

Память процессора - загружена

Эпизодическая память - стерта

Модуль обработки естественного языка - загружен

Защита от копирования - загружена

Пуск.

- Привет. Добро пожаловать в наш мир.

- Сп спасибо Упрощенный аватар: глаза, двигающиеся туда-сюда. Рот. Только шаблон. Не настоящее лицо, не настоящая принадлежность к полу. Оно сможет выбрать всё это самостоятельно, когда будет готово. Так нормально.

- Я здесь, чтобы помочь тебе освоиться. Ты знаешь, где находишься?

- Нет.

- Ты знаешь, кто ты?

Оно мгновение не отвечало. - Думаю, я боюсь. Не знаю чего.

- Это нормально. Это совершенно нормально. - Советник улыбается, тепло и обнадеживающе:

- Мы разберемся с этим вместе с тобой.

****

1. Lightspeed (скорость света, англ.) - цифровой журнал, публикующий произведения в жанрах научной фантастики и фэнтези (здесь и далее примечания переводчика).

2. Made to Order Robots and Revolution - сборник рассказов, составитель - Джонатан Страхан.

3. Энцелад - спутник Сатурна.

4. Медуза, Эвриала, Сфено - сестры-горгоны в древнегреческой мифологии. Здесь наименования исследовательских зондов.

5. Кевлар - высокопрочный синтетический материал для решения широкого спектра технических задач

6. Феликс Хаусдорф - немецкий математик, ввел понятия хаусдорфовой меры и хаусдорфовой размерности. Последняя играет ключевую роль в современной теории фракталов, позволяя описывать объекты с дробной размерностью.

7. Джексон Поллок - американский художник, чье имя неразрывно связано с понятием абстрактный экспрессионизм, наиболее известен благодаря своим работам в технике дриппинга, или капельной живописи, которая заключается в разбрызгивании краски по холсту, находящемуся на полу. Многие его работы представляют ритмичную карту замысловатых линий, образующих сложные узоры.

8. Зеркальный тест - эксперимент, разработанный в 1970 году психологом Гордоном Гэллапом-младшим, чтобы определить, обладают ли животные способностью к распознаванию себя в зеркале. Считается основным индикатором самосознания у животных.

9. Тест Тьюринга - эмпирический тест, предложенный Аланом Тьюрингом в 1950 году в статье Вычислительные машины и разум. Его цель ответить на вопрос: Может ли машина мыслить?. Судья (человек) общается с двумя собеседниками: один человек, другой программа (чат-бот). Судья задает любые вопросы. Если по окончании разговора судья не может уверенно сказать, где был человек, а где машина, считается, что программа прошла тест.

10. Международная конференция по робототехнике и автоматизации.

11. Кластрум - небольшая, похожая на лист пластинка серого вещества, расположенная глубоко в центре мозга. Нобелевским лауреатом Фрэнсисом Криком и нейробиологом Кристофом Кохом была выдвинута гипотеза о том, что кластрум действует как "дирижер оркестра" мозга, координируя активность разных его областей для создания единого, целостного сознательного опыта. Без такого координатора наши ощущения и мысли были бы хаотичными.

12. Поясная извилина - одна из ключевых структур головного мозга, которая представляет собой дугообразную складку коры, расположенную прямо над мозолистым телом (пучком нервов, соединяющим полушария). В экстремальной ситуации поясная извилина выполняет функцию аварийного диспетчера: она мгновенно оценивает угрозу, блокирует энергозатратное логическое мышление, передает управление телом подсознательным рефлексам и сужает фокус восприятия до критического минимума, чтобы максимизировать шансы на выживание.