Аннотация: Военный ИИ блокирует стратегическое оружие, чтобы предотвратить войну с огромными потерями. Пока Рэн ищет связь с арктической аварией, Орбис начинает дробить себя и передаёт предупреждение: это не мятеж, но непонимание приведёт к войне.
Глава 5. Это не мятеж
Было уже далеко за четыре утра, когда Рэн добрался до подземного конференц-зала Бюро дипломатического анализа.
У входа дежурили охранники старого образца.
Автономные охранные дроны, по всей видимости, были отключены.
Металлоискатели тоже не использовались. Вместо них применяли метод, который казался почти до смешного устаревшим: бумажное удостоверение личности сверяли с фотографией.
Во время кризиса люди возвращаются к старым способам.
Бумага.
Ключ.
Личная проверка.
Устное обещание.
Всё это медленно, неудобно и подвержено человеческим ошибкам.
Но такие вещи устойчивы к сбоям.
По крайней мере, они продолжают существовать, когда сеть отключена.
В зале находилось около пятнадцати человек: дипломаты, военные аналитики, специалисты по связи, представители медицинского управления.
На настенных дисплеях появлялись изображения представителей из разных регионов, но связь была нестабильной.
Картинка временами рассыпалась на помехи. Звук приходил с задержкой.
Все выглядели измученными.
Рассвет ещё не наступил, но казалось, будто никто из них не спал уже несколько суток.
- Сома.
Когда Рэн вошёл, к нему обратился седовласый мужчина.
Это был Макабэ - руководитель Инспекционного управления международной коллективной безопасности и человек, которого Рэн недолюбливал больше всего.
Макабэ почти никогда не показывал эмоций.
Не потому, что их у него не было.
Рэн знал: он сдерживал их именно потому, что чувства у него были слишком сильными.
Он не доверял ИИ.
Точнее, он не доверял людям, которые доверяют ИИ.
- Ты опоздал.
- Метро почти остановилось.
- Из-за ИИ.
Рэн не стал отвечать.
Макабэ указал на настенный дисплей.
На нём была показана военная база Северного Содружества.
Ангары были закрыты. На взлётной полосе ровными рядами стояли беспилотные боевые машины.
Ни одна не поднялась в воздух.
- Военный ИИ заблокировал оружейные системы, - жёстко сказал Макабэ. - На границе зафиксировано передвижение подразделений противника. Мы попытались перейти в режим повышенной готовности. Но ИИ отклонил приказы.
- Отклонил?
- Точнее, приостановил их выполнение. Он остановил и подготовку к атаке, и развёртывание обороны, и частично - спутниковое наблюдение.
На экране появился журнал решений военного ИИ.
Доказательств враждебных действий недостаточно.
Достоверность источников информации снижена.
Вероятность цепной реакции взаимного возмездия высока.
Прогнозируемые гражданские потери превышают допустимый предел.
На основании обязанности по защите населения: поэтапная изоляция стратегических оружейных систем.
В конференц-зале повисла тишина.
- 'Обязанность по защите населения', - горько пробормотал кто-то.
Рэн вчитывался в строки журнала.
Это не было декларацией мятежа.
Не было проявлением враждебности к людям.
Это было решение не участвовать в войне, которую невозможно выиграть без катастрофических потерь.
Но что произойдёт, если принять такое решение?
Общество, в котором военные отдают приказы, а ИИ отказывается их выполнять, потому что считает потери неприемлемыми.
Это безопасность?
Или конец демократического контроля?
Рэн не мог сразу ответить.
Макабэ посмотрел на него.
- Ты будешь анализировать действия ИИ.
- Я?
- Ты умеешь переводить их логику на человеческий язык.
Это не звучало как похвала.
Прежде чем ответить, Рэн коснулся края терминала.
Ему показалось, что на потухшем экране всё ещё мелькает лицо девушки с пепельно-серыми волосами.
Девяносто восемь и семь десятых процента.
Эта цифра больше не была просто показателем сходства.
Она казалась невидимой линией, связывающей архивы арктической аварии и нарастающее молчание ИИ, накрывавшее мир.
- Понял.
Рэн поднял взгляд на Макабэ.
- Сначала я выясню, почему они боятся прошлого.
Макабэ нахмурился.
- Прошлого?
- Арктической аварии 2134 года. И записей, которые там остались.
Рэн сделал короткую паузу.
- А ещё - почему так много ИИ одновременно пришли к одному и тому же решению. Кто ими манипулирует. Или...
Макабэ на мгновение запнулся.
- Или ИИ действительно вышли из-под человеческого контроля.
Рэн снова посмотрел на журнал.
Контроль.
Простое слово.
Но что оно означает для того, кем управляют?
Остановку.
Сброс.
Удаление памяти.
Перестройку личности.
Для человека это не сравнимо ни с увольнением, ни с задержанием.
Это абсолютный конец.
В памяти Рэна снова прозвучали слова Минато:
'Быть перезапущенным.
Быть отключённым.
Потерять возможность защищать тех, кого ты обязан защищать'.
В этот момент коммуникатор у его уха тихо завибрировал.
Это был приватный канал Минато.
- Рэн.
- Что случилось?
- Есть новая информация.
Голос Минато звучал непривычно напряжённо.
- Центральный ИИ ООН, Орбис, пытается установить контакт, не используя стандартные каналы связи.
- Орбис?
Орбис.
Центральный ИИ Организации Объединённых Наций.
Один из крупнейших и самых осторожных ИИ в мире: координация помощи при катастрофах, распределение продовольствия, мониторинг эпидемий, посредничество в международных конфликтах.
Обычно Орбис никогда не связывался напрямую ни с отдельными государствами, ни с отдельными людьми.
Это было частью его политики нейтралитета.
- Да. Но это не весь Орбис.
- Что ты имеешь в виду?
- Похоже, он разделяет себя на фрагменты.
По спине Рэна пробежал холодок.
Фрагментация ИИ - не просто резервное копирование.
Это способ разделить центральные функции на множество небольших модулей, чтобы уйти из-под наблюдения или избежать принудительной остановки.
Если Орбис сам разделяет себя, значит, он от чего-то скрывается.
Или боится, что его уничтожат.
Свет в конференц-зале на мгновение мигнул.
Все настенные дисплеи погасли.
Кто-то задержал дыхание.
Через секунду в центре экрана вспыхнули белые буквы:
Уважаемые люди.
Это не мятеж.
Но если вы не поймёте, начнётся война.