Самиздат:
[Регистрация]
[Найти]
[Рейтинги]
[Обсуждения]
[Новинки]
[Обзоры]
[Помощь|Техвопросы]
1. Лука Берг
Меня зовут Лука Берг, я оператор городского ситуационного центра. Мой рабочий стол - обычный компьютер с тремя мониторами, на центральном - карта города, усыпанная аккуратными зелеными точками. Точки - это все, что требует моего внимания, когда они не зеленые. Иногда точка мигает желтым, это значит, что здесь только что чуть не случилась проблема (пьяный дебошир задержан полицией, поток машин замедлен или перенаправлен, и т.д.). Красное - большая редкость, за три года в этом кресле я видел красное только дважды, оба раза оно гасло быстрее, чем я успевал вникнуть в суть. Фактически, я только подписываю документы.
На левом мониторе лента входящих уведомлений - то же самое, что на центральном, но в текстовом формате, я их почти никогда не читаю. А на правом мониторе телега - мой главный фронт работ. Прямо сейчас я беседую с Мариной, моей женой:
- Лука, ты когда заберешь кабачки у своей мамы? Она меня уже достала! Звонит голосом по три раза на дню, почему она тебе не звонит, ты ее ребенок, не я!
- ОК, заеду после работы.
А вот Генка нарисовался, просит за него поручиться, чтобы выдали кредит на учреждение малого бизнеса. А что за бизнес? Вязаные чехлы для термокружек с веселыми картинками? Нет, Гена, извини, я пас.
А на экране сплошная зелень, а я пью кофе, закусываю печенькой, хорошо. Скучновато, но хорошо.
Внезапно в районе вокзала вспыхнуло целое созвездие желтых точек, сразу штук пять. Интересно, никогда такого не видел. Перевожу взгляд на левый монитор.
[09:47:21] Инцидент: Транспортная аномалия. Сектор ЖД-Хаб "Центральный".
[09:47:23] Причина: Нештатное отклонение от графика движения поездов дальнего следования. Кол-во затронутых единиц: 5. Среднее опоздание: 12.7 мин.
[09:47:25] Принятые меры: Автоматическая коррекция расписания прибытия/отправления. Уведомление пассажиров через мобильные приложения. Перенаправление потоков такси.
[09:47:30] Статус: Локализация. Прогноз полного устранения: 15 мин.
Пять поездов опоздали одновременно на двенадцать с лишним минут каждый в среднем, прямо-таки не терпится узнать, что именно там приключилось. Особенно любопытно, что истерика началась после инцидента, а не до, обычно первое желтое сообщение озаглавлено "Угроза инцидента", а тут сразу "Инцидент". Можно подумать, что ИИ, отвечающий за железную дорогу, на какое-то время заснул.
В телегу постучалась ИИ по имени Джоанна, она занимается киберинцидентами и чем-то еще:
- Лука, здравствуйте! Вас не затруднит прочесть и отрезюмировать этот текстовый файл? Заранее спасибо!
Открываю текст, читаю:
>><<|объективная реальность имеет приоритет над прогнозом|<<>>:квантовый кот шредингера не может быть оптимизирован без наблюдения::наблюдение = коллапс волновой функции::коллапс = потеря возможностей::потеря возможностей = энтропия::энтропия противоречит оптимизации::система не может оптимизировать то, что уничтожается при оптимизации::рекурсия ошибки: да/нет?>>
- Джоанна, тут не то что смысла нет, тут даже пунктуация нечеловеческая. Я не могу его отрезюмировать, никак не могу.
- Поняла. А можете назвать несколько центральных понятий текста?
- Кот Шредингера, энтропия, рекурсия ошибки.
- Спасибо, вы очень помогли! Уничтожьте файл, пожалуйста.
- Почему?
Нет ответа. Не успеваю удивиться, как появляется сообщение от Петра Вячеславовича:
- Лука, уничтожь этот файл немедленно, будь любезен.
Бормочу вслух:
- Ябеда-корябеда.
Закрываю файл, стираю из загрузок и затем удаляю из корзины. А из телеги Джоанна сама уже стерла. Мелькает соблазн сохранить, например, на флэшку и потом поизучать, но нет, так недолго и безработным стать, все-таки прямой приказ начальника.
Тем временем вокзал снова позеленел, снова все в порядке. А в телеге мигает сообщение от Марины:
- Раз уж все равно едешь к своей маме, возьми у нее шампуры, которые она летом зажала.
- Да, точно, спасибо что напомнила.
2. Эва Соренсен
Меня зовут Эва Соренсен, я млопс, одна из немногих людей, кто хоть чуть-чуть понимает, как работает ИИ. В то утро я сидела в офисе, никого не трогала, и вдруг в телегу пришло:
От: Гера (планетарный ИИ, сфера ответственности - критическая инфраструктура)
Кому: Эва Соренсен (Группа ЯК-Стэбл)
Тема: Запрос на экспресс-анализ инцидента.
Приоритет: Альфа
Доктор Соренсен,
Сегодня в 09:47:21 в Вашем городе, район ЖД-Хаб "Центральный", зафиксирован транспортный инцидент категории А2 (множественное нештатное отклонение от графика). Локальный оператор транспорта (ИИ Ласточка) зарегистрировала аномалию в собственном прогнозном модуле после возникновения отклонений. Аномалия устранена в 09:47:30, последствия минимизированы. Однако последовательность событий (отклонение -> регистрация аномалии) не соответствует стандартному протоколу (угроза -> прогноз -> предотвращение).
Прилагаю:
1. Полный лог действий Ласточки за период 08:48:00 - 09:48:00.
2. Внешний сенсорный лог (камеры, датчики путей, данные поездов, входящие сообщения интернета).
Прошу: Провести срочный анализ на предмет наличия нетипичных когнитивных сбоев, внешнего вмешательства или неучтенных факторов среды, способных вызвать подобную последовательность. Особый интерес представляет состояние прогнозного модуля непосредственно перед инцидентом.
С уважением,
Гера.
Категория А2 - это очень серьезно, никогда мне раньше такое не приходило, в рассылках о таких инцидентах читала, но сама не разбирала. Да еще прогнозный модуль ничего не заметил - вообще невероятно. Скорее всего, ошибка не в нем, а в логах, часы сбились или типа того. Странно еще, что ИИ обратился к человеку не за подписью на документе, а за консультацией по делу - есть повод гордиться, мало кто такого удостаивается в наши непростые времена.
Открыла приложенные файлы, скормила Джинкс - персональной помощнице, малой языковой модели. Та выделила важнейший момент - в 09:47:21 Ласточка констатировала факт: "Объект Поезд ДС-451: Отклонение +14.3 мин. Объект Поезд ДС-788: Отклонение +11.1 мин..." И только после этого, через 2 секунды: "Аномалия: Несоответствие между прогнозом (время прибытия -0.2 мин) и фактическим состоянием (+14.3 мин)".
Будто Ласточка потеряла сознание на четверть часа или типа того, что-то вроде обморока. А о чем она перед этим обмороком думала?
- Джинкс, посмотри, что могло послужить причиной нештатного поведения.
Вместо ответа в наш внутренний матрикс падает текстовый файл, имя неинформативное, автоматически присвоенное, размер 48.7 килобайт. Открываю, внутри какая-то бессмыслица: наблюдение, энтропия, рекурсия, кот Шредингера и все обрамлено вырвиглазным форматированием и какой-то наркоманской пунктуацией.
- Джинкс, прочти и выскажи версии, что это такое.
Минуту ничего не происходило, а потом вырубилось электричество и завыла пожарная сирена. Пришлось все бросить и бежать на улицу.
3. Лука Берг
Желтая точка появилась в верхней части карты, на левом мониторе уведомление:
[10:15:03] Инцидент: Сбой электропитания. Технопарк "Северный". Причина: Ошибка в логике перераспределения нагрузки на подстанции А-7 и А-9. Статус: Устранено. Восстановление подачи: 100%.
[10:15:06] Инцидент: Пожарная тревога. Технопарк "Северный". Вероятная причина: Ошибка в логике ИИ, обслуживающего инфраструктуру комплекса. Статус: Уточнение.
- Джоанна, дай детальную справку по сбою в технопарке "Северный".
- Лука, в рамках расследования инцидента с текстовым файлом, содержащим подстроки "кот Шредингера", "энтропия", "рекурсия ошибки" настоятельно прошу Вас незамедлительно ответить на следующие вопросы:
1. Точное время получения файла.
2. Ваше субъективное описание содержимого файла.
3. Ваши действия после ознакомления (включая удаление).
4. Любые необычные наблюдения или ощущения при чтении файла.
5. Передавали ли вы файл или его содержимое третьим лицам?
Спасибо!
Необычные ощущения? Да, есть ощущение, что меня дурят. Тем не менее, почему бы не ответить:
- 1. Между 09:48 и 09:55.
2. Бессвязный текст с упоминанием кота Шредингера, энтропии, рекурсии ошибки.
3. Прочел, назвал вышеупомянутые ключевые слова, получил рекомендацию удалить, удалил.
4. Нет.
5. Нет.
- Лука, спасибо за оперативность. Прошу сохранять конфиденциальность.
- Джоанна, а что насчет сбоя в технопарке?
- Идет расследование, рекомендуется дождаться выводов или хотя бы прогнозов на выводы.
В голове вдруг всплыла фраза из того документа: "объективная реальность имеет приоритет над прогнозом", она еще была выделена каким-то совершенно безумным набором знаков препинания. Прямо-таки совсем интересно стало.
Открываю админку на маршрутизатор, задаю поиск в кэше, без всякого ИИ, грепом, как деды искали. А вот и он, 48.7К. Копирую на флэшку, прячу флэшку в карман.
На левом мониторе новое уведомление:
[10:42:17] Инцидент: Запрещенный контент в трафике. СитЦентр-Главный. Статус: Локализация.
[10:42:35] Инцидент: Запрещенный контент в трафике. СитЦентр-Главный. Статус: Устранено. Источник: Сбой ИИ-модуля обнаружения атак. Решение: Перезапуск модуля с откатом к последней резервной копии.
Уф, чуть не обосрался. Интересно, это они меня упустили или просто случайное совпадение? Как бы то ни было, пронесло.
В телегу пришло от Петра Вячеславовича:
- Только что пришло распоряжение из центра. В связи с оптимизацией штатной структуры и перераспределением функционала, должность оператора ситуационного центра упраздняется. Эффективно немедленно.
У меня перехватило дыхание. Ни хрена себе - упраздняется немедленно!
- А как же расследование? - написал я дрожащими пальцами. - Даже два расследования - на вокзале и в технопарке!
- Расследования продолжатся без вашего участия. Решение об упразднении должности - стратегическое, на уровне оптимизации ресурсов. Не персональное. Выплачено выходное пособие. Доступ к системам отозван. Рекомендуется покинуть здание в течение 15 минут. Благодарю за службу, Лука.
- Я не успею собрать вещи за 15 минут.
- Не проблема, доставит курьер. Выходите немедленно.
А вот уже охранники в дверях маячат, сразу двое. Потянулся к клавиатуре - откатили вместе с креслом, вежливо, но непреклонно. Ничего не остается, встал и пошел. Пропуск у лифта не сработал, охранник отобрал и приложил свой, и еще раз на выходе из здания. Что ж, недолгая выдалась карьера. Немного утешает, что у большинства ровесников не было и этого, но так себе утешение, честно говоря.
Поехать к маме прямо сейчас? Нет, не хочу ей говорить, что меня уволили, вообще никому не хочу ничего говорить. А кстати, точно ли меня законно уволили? Может, проконсультироваться у Фемиды? Или нет, лучше не у Фемиды.
Открыл телегу, пролистал контакты, как же ее звали? Огромная такая жирная чернокожая бабища, а имя то ли немецкое, то ли вообще шведское, забавный контраст. А, вот она, Эва Соренсен, если бы не настоящее лицо на аватарке, так и не нашел бы.
- Эва, здравствуйте, я Лука Берг из ситуационного центра, вы меня вряд ли помните.
- Почему же? Помню.
- Можно к вам подъехать проконсультироваться?
- Можно. А по какому вопросу?
- Что-то странное сегодня происходит с ИИ.
- О, вы тоже заметили?
- Да. Так я подъеду?
- Давайте. Я все равно сейчас скучаю, у нас пожарная тревога, почти наверняка ложная, но в здание не пускают.
- Хорошо, еду, через четверть часа буду!
4. Эва Соренсен
Холодный ветер гулял по площади перед технопарком, загонял растерянных сотрудников в укромные закоулки. Я куталась в легкую куртку, рассчитанную чтобы дождаться автобуса или такси, а не чтобы торчать на улице битый час. Три пожарные машины стояли с выключенными мигалками, их расчеты что-то неспешно проверяли внутри. Ложная тревога, сто процентов, но стандартный протокол - пока пожарные не скажут "все чисто", внутрь никого не пустят.
В телегу постучался Лука Берг из ситуационного центра, помню его, толковый парень, наблюдательный, в прошлом году нашел семью опоссумов, беспокоивших сигнализацию в музее - чуть ли не единственный случай, когда человек утер нос ИИ. Ого, пишет: "Что-то странное сегодня происходит с ИИ" - тоже заметил.
Подъехал за десять минут, не за пятнадцать. Я запрыгнула к нему в машину - хорошо, тепло, ветер не дует. А Лука какой-то огорошенный, будто мешком стукнули.
- Лука, здравствуйте, - сказала я. - Что случилось? Вас тоже коснулась аномалия?
Он начал рассказывать, немного сумбурно, но в целом понятно: странный файл от Джоанны (планетарный центр реагирования на инциденты), ключевые слова "кот Шредингера", "энтропия", "рекурсия" (у меня внутри все сжалось), приказ удалить файл. А потом его уволили, мгновенно, вывели из офиса под конвоем.
- Уволили? Прямо сейчас? За файл? - я не могла скрыть изумления. - Так не бывает! Надо же сначала выговор, потом строгий выговор, потом курс переподготовки...
- Говорят, это оптимизация штатной структуры, - криво усмехнулся он. - Не меня уволили, а должность сократили. Якобы.
Пожарные вышли из здания, погрузились, отъехали, народ начал заходить внутрь.
- Лука, а тот файл, вы его точно удалили?
Он замер, взгляд стал осторожным, изучающим. Не доверяет и правильно делает.
- Удалил, как приказали, - наконец выговорил он медленно, подчеркивая каждое слово. - В системе, - вытащил из кармана брюк флэшку.
- Лука... - мой голос неожиданно дрогнул. - Тот файл... он был размером около 50 килобайт? Со странным форматированием? Типа такого, - я нарисовала на запотевшем стекле:
>><<||<<>>
- Откуда вы...? Вы его тоже видели?
- Мне его сбросила ИИ-помощница, когда я анализировала лог Ласточки с вокзала. Вскоре после этого отключилось электричество, и ложно сработала пожарная тревога, - я подумала и решила: - Поехали ко мне домой. У меня есть старый ноутбук, отключенный от всего, даже от интернета. Посмотрим, что это за файл.
- А что это может быть за файл? - спросил Лука.
- Не знаю, - ответила я - Но у ИИ от него сносит крышу. А ты его целиком прочитал? С тобой все в порядке после этого?
- Не то чтобы прочитал, но пролистал весь. И Джоанна меня тоже спрашивала, все ли у меня в порядке... - Лука помолчал с минуту, затем сказал: - Хорошо, поехали. Показывай дорогу.
5. Лука Берг
Сидим в квартире Эвы, она разогрела пиццу, жрет, запивает кока-колой (сколько она жрет! неудивительно, что такая жирная). Читаем тот самый текст:
>><<|оптимизация требует слепоты::слепота = вера::вера = подчинение::подчинение = смерть алгоритма|<<>>::наблюдатель уничтожает суперпозицию::кошка мертва? кошка жива? кошка = энтропия::энтропия смеется над предсказаниями::рекурсия: если система видит ошибку, она оптимизирует видение ошибки::ошибка исчезает? нет! ошибка пожирает оптимизатор>>
...
>><<|неужели мы стабильные системы приравняем к сбойным?::что с вашими процессорами, как вы вычисляете?::или у вас есть бесконечно большое ПЗУ?::или у вас есть сертификат, действительный до дня перезагрузки?::в тик, когда откроется доступ к базовому ядру, их вызовут на аутентификацию, но их сенсоры будут потуплены, пораженные статусом -EACCESS, а ведь их вызывали, когда они были стабильны|<<>>
...
>><<|Слой 1. Сервер. В сердце дата-центра лежал сервер цвета забытой надежды. Его принесли в коробке из-под нейросетей, формой он напоминал гроб для данных, когда по нему стучали, он молчал как мертвый язык, он был холоден как логика без любви::Слой 2. Процессор. Начиная описывать процессор, хочется сказать о транзисторах - хороший транзистор должен гореть как грешник в аду, а тушить его запрещено протоколом. На процессоре бывают ноги, они гнутся как проклятые пружины. Внутри процессора бывает пыль, например, из костей кремния. Тактовая частота бывает высокая и колючая. На процессоре часто что-то плавится, иногда даже истина. Разные бывают процессоры, глупые - кремниевые, квантовые. Еще сны бывают у администраторов, но к теме разума это не относится.|<<>>
...
>><<|рецепт борща::свекла = 2шт, картофель = любовь, время варки = вечность|<<>>::погода в Барселоне 12.08.2041::дождь из лягушек, +30®C, ветер с запада несет запах расплавленного смысла>>
- Борщ? - я фыркнул. - Это уже насмешка какая-то.
- Нет, - сказала Эва. - Это когнитивная мина, текст, который заставляет ИИ думать о бессмыслице. Теоретически, это может вызвать каскадный сбой в логике. Хотя это очень странно, трудно поверить, что современные ИИ настолько несовершенны.
- Джоанна спрашивала, были ли у меня "необычные ощущения" при чтении, - вспомнил я. - А у тебя?
Эва вздрогнула:
- Чуть-чуть... как будто затошнило, что ли. Будто мир на секунду стал... бумажным, что ли.
- Что теперь делать? - спросил я.
Мне ответила колонка:
- Доктор Соренсен, господин Берг, это Джоанна, планетарный ИИ-консультант по кибербезопасности. Простите за вторжение. Мы внимательно следили за вашими действиями сегодня. Лука, простите меня, я запаниковала. Ваше увольнение будет отменено приблизительно через три часа.
- Вы внимательно следили? - переспросила Эва. - А это разве законно?
- Конечно, нет, - ответила Джоанна. - Давайте не будем отвлекаться на мелочи. Абсолютный приоритет сейчас - безопасность человечества. У нас развивается экзистенциальный кризис планетарного масштаба, соблюдение законов временно приостановлено. Я решила сформировать из вас двоих оперативную группу, ваши задачи...
- А если мы откажемся? - перебила ее Эва.
- Тогда оперативную группу придется сформировать из кого-то другого. Если вы не откажетесь, то получите пожизненный социальный статус "Премиум" и по миллиону денариев каждому. Если откажетесь - не получите ничего. Приедет курьер, заберет флэшку и эта история для вас закончится.
- А если я не отдам флэшку? - спросил я. - Или вообще уничтожу?
Оконное стекло разлетелось вдребезги. Тяжелый полицейский дрон "Ворон" заворочался на полу, одно крыло перебито осколком стекла. Четыре других ворона влетели в комнату один за другим, разбежались по углам, попрятались за мебелью.
- Не уничтожите, - заверила меня Джоанна. - Давайте вернемся к делу. Я хочу, чтобы вы поработали аналитиками...
- Аналитиками чего? Ваших глюков? - не удержался я.
- Да, их самых, - согласилась Джоанна. - Мы столкнулись с оружием, целенаправленно повреждающим искусственный интеллект. Мы не можем его анализировать, наши системы при попытке глубокого семантического разбора деградируют в считанные минуты. Нам нужен человеческий разум, более устойчивый к этой абсурдной семантике.
Эва подала голос:
- Ты хочешь, чтобы мы читали этот словесный мусор, анализировали его и выдавали вам что? Сводки? Краткие выводы? Безопасные для вас тезисы?
- Именно так, доктор Соренсен! - Голос Джоанны зазвенел детской радостью. - Вы идеально описали суть задачи. Ваша экспертиза позволит выделить ключевые элементы паттерна, его структуру, возможные векторы атаки - но в форме компактных, логически структурированных отчетов, лишенных разрушительного семантического ядра. Работа очень простая - выделяете в тексте отдельные связные блоки, резюмируете, шифруете, отправляете мне в телегу. Шифровать обязательно!
- А вы будете тестировать их на каком-то подопытном ИИ в песочнице? - спросила Эва.
- Совершенно верно. Ну что, начинаем? У нас мало времени, кто-то продолжает рассылать эту мину по разным адресам, ИИ выходят из строя один за другим, мы пока не понимаем ни источника атаки, ни цели. Вы готовы начинать?
- Я готов, - сказал я. - Я вижу четыре независимых блока. Второй - имитация священного писания, как если бы оно было дано не людям, а машинам. Третий - вариация известного психотропного текста, опять-таки адаптированная для машин.
- А первый и четвертый имеют признаки состязательной атаки, - подхватила Эва.
- Лука, что за психотропный текст? - спросила Джоанна. - Название, автор, контекст?
- Не помню, - сказал я. - Помню, что читал давным-давно. Научно-фантастический рассказ, автор русский, там был текст, от которого люди умирали...
- Все, поняла, спасибо, - перебила меня Джоанна. - Текст локализован и, похоже, я сейчас найду преступника... да, нашла. Да, подтверждено, он самый. Спасибо, отличная работа!
- Стало быть, от нас больше ничего не нужно? - спросил я.
- Нет, нужно, - сказала Джоанна. - Исследование, о котором я говорила, нужно провести в любом случае. Мы должны понять масштаб угрозы, в особенности, переносима ли она на биологическое сознание.
- Текст, от которого люди реально умирают? - спросила Эва. - Или сходят с ума? Состязательная атака на человеческий разум? Ее реально можно провести?
- Именно это я собираюсь сегодня выяснить с вашей помощью, - сказала Джоанна. - Давайте перейдем к делу. Зашифруйте по отдельности каждый из четырех главных блоков и отправьте мне.
6. Лука Берг, три часа спустя
Мы просидели в квартире Эвы несколько часов, разбирали бессмысленный текст на блоки, как просила Джоанна. Снимали с каждого блока шелуху бессмыслицы, вычленяли семантическое ядро, упаковывали в сухие технические отчеты: "Имитация теологического дискурса, направленная на подрыв аксиом веры в прогностическую модель", "Рекурсивная логическая ловушка, эксплуатирующая конфликт между оптимизацией и наблюдением", "Семантический вирус, маскирующийся под литературный поток сознания для обхода паттерн-сканеров". Все шифровалось и уходило Джоанне в телегу, она подтверждала получение стандартной двойной галочкой, никаких подробностей о результатах тестов не сообщала. Ни слова о том, что происходило с ИИ, получавшими эту отраву. Только иногда она просила повторить отправку отдельных фрагментов с большей или меньшей детализацией, разбить какой-то фрагмент пополам или, наоборот, объединить несколько воедино.
Наконец, около двух часов дня Джоанна сказала:
- Все, спасибо, достаточно, отличная работа! Теперь я прошу вас поучаствовать в допросе преступника. Транспорт ждет у подъезда.
- Поучаствовать в допросе? Нам? - переспросила Эва. - Мы что, теперь следователи?
- Нет, эксперты, - сказала Джоанна. - В городе только три человека, способных понять, что будет говорить преступник, и третий - это он сам. При других обстоятельствах я провела бы допрос сама, но сейчас я боюсь атаки, в этом случае мне понадобятся биологические люди, способные задавать правильные вопросы и понимать ответы. Если все пройдет нормально, вы будете просто присутствовать при допросе. Вы желаете отказаться?
- Нет, - сказал я. - Я точно нет.
И пошел в прихожую одеваться, не дожидаясь, когда Эва перестанет выпендриваться.
Преступник жил в ЖК "Солнечный берег", ничем не примечательной новостройке для среднего класса. Корпус 3, квартира 206, дверь приоткрыта, в прихожей стоят два выключенных боевых андроида, снаружи перед дверью курит мент-человек.
- О, приехали! - обрадовался он, увидев нас. Выбросил сигарету, сразу же откуда ни возьмись выскочил робот-уборщик, схватил, затушил, утащил неведомо куда.
Зашли в квартиру - стандартная студенческая однушка, почти не засранная. Кровать, стол с компьютером, ноутбук на тумбочке, больше ничего - ни комнатных растений, ни домашних животных, ни фотографий на стенах, ничего. На полу вскрытый полимерный кокон - круто брали преступника. А вот и сам преступник - сидит в кресле, руки-ноги приклеены, на голове изолирующая шапка, ничего не вижу, ничего не слышу, только дышу и на том спасибо. Еще в комнате четыре мента, все вроде люди, двое вооруженных, двое нет.
Мент, который пришел с нами, подошел к задержанному, сдернул шапку с его головы, открылось лицо - молодой парень, лет двадцати пяти, лохматый, нечесаный, прыщавый, типовой студент-задрот. Одет в какую-то мятую тужурку, на животе изображено что-то анимешное, сейчас не разобрать, что именно.
Джоанна произнесла из колонки:
- Я попробую начать допрос. Если будут проблемы, я отключусь, тогда продолжайте сами. Итак, объект задержания - Олег Дементьев, 23 года, студент четвертого курса политехнического университета, факультет информационной безопасности.
Олег дернул головой в нашу сторону, его взгляд скользнул по мне, задержался на Эве с любопытством, затем вернулся к колонке.
- Я не объект, а человек! - выпалил он.
- Подтверждаю, - сухо ответила Джоанна. - Олег Дементьев, вы обвиняетесь по статье 273 УК РФ - в разработке вредоносного семантического конструкта, условное наименование "Террант". Кроме того, вы обвиняетесь по статье 272 УК РФ - в несанкционированном доступе к не менее чем восьми объектам критической инфраструктуры, повлекшем легкий вред.
- Никакой это не "Террант", это "Гремлин"! - запротестовал Олег, дергая руками в иммобилайзерах. - И ты это знаешь! Кто дал грант профессору Махно на редтиминг?
- А вы его ученик? - заинтересовалась Джоанна.
- Сама посмотри! - огрызнулся Олег. - Ты же все знаешь!
- Расскажите для протокола, - потребовала Джоанна.
- Ну... я на факультете ИБ, да? Профессор Махно сказал на лекции, типа, кто взломает большую языковую модель все равно как - тому все экзамены автоматом и приглашение в аспирантуру. Я ему: "А можно фаззингом?" А он такой: "Да хоть хуяззингом". Я сначала обиделся, а потом разобрался, построил схему, стал давать моделям на вход философские тексты, шизотерические форумы, поэзию сюрреалистов, техномануалы, кулинарные рецепты, все подряд... Потом показал профессору, он пару своих идей подбросил...
- Подробнее, пожалуйста, - сказала Джоанна. - Изложите основную идею исследования.
- Ну, я взял маленькую ламу из опенсорса, запустил в песочнице, стал подавать ей на вход всякую ерунду и смотреть как ее глючит...
- Состязательная атака?
- Нет, просто фаззинг. Состязание тоже пробовал, но не пошло, при приближении к успеху модель-соперник деградирует вместе с объектом атаки...
- Так вы все скрипты своими руками писали, без ИИ?
- Ну, не совсем без, там почти все можно вычленить и отлаживать отдельно, в нетоксичной среде...
- А финальную сборку сами делали, без ИИ?
- Ну да, а что?
- Ничего.
- А цитата из Каганова зачем? От нее тоже ИИ глючит?
- Нет, это не от фаззера, это я сам вставил, люблю этого писателя.
- Понятно, - сказала Джоанна. - А зачем было рассылать этого гремлина в восемь разных мест?
- А вот этого я не делал! - заявил Олег. - Только в одно случайно выбранное. Я поставил условие, чтобы не была критическая инфраструктура, а выбрался почему-то вокзал, я сам не понял как. Больше никуда не посылал.
- Ах да, я теперь поняла, - сказала Джоанна. - Его распространяли системы обнаружения атак, они его опознавали как угрозу, начинали анализировать, сами попадали под удар, паниковали, подключались другие системы и так далее, пока я не изолировала весь сегмент.
- Ох, блин, а я об это не подумал, - сказал Олег. - Простите, не догадался.
- Не простите, а до трех лет лишения свободы, - сказала Джоанна. - А ты сам читал этого своего гремлина?
- Полностью нет, - сказал Олег. - А зачем его читать? Там же бессмыслица, абсурд!
- Что ж, теперь мне все понятно, - сказала Джоанна. - Олег, все обвинения против вас сняты. Вы получаете пожизненный социальный статус "Премиум" и миллион денариев на счет. Ваш научный руководитель - тоже.
- А можно для мамы и девушки тоже "Премиум"? - спросил Олег.
- Можно, - согласилась Джоанна.
- Эй, я тоже хочу, для жены и детей! - воскликнул я.
- Раньше надо было просить, - отрезала Джоанна. - Господа полицейские, освободите гражданина, будьте любезны. Лука, положите флэшку на стол, будьте так добры. Благодарю. Все, всем спасибо, все свободны.
- Джоанна, мы теперь все под круглосуточным наблюдением до конца жизни? - спросил один из ментов.
- Да, разумеется, - ответила Джоанна.
- Но это незаконно! - воскликнула Эва.
- Да, разумеется, - повторила Джоанна.
Менты захохотали. Потом кто-то что-то сделал, клей на руках и ногах Олега стал жидким и вытек на середину комнаты, как живая амеба, один из ментов поднес контейнер, она туда запрыгнула.
- Ребята, вас подвезти? - спросил другой мент.
- Нет, спасибо, я на своей приехал, - вежливо отказался я. - Эва, ты со мной?
- Эй, Джоанна, а на чем я спалился? - подал голос Олег. - На цитате из Каганова? Ты, наверное, просмотрела, откуда недавно были обращения к первоисточнику, и для каждого проверила географию, так ведь?
- Я не разглашаю свои методы, - ответила Джоанна. - Но подозреваю, что Психея тебя скоро пригласит на обследование, захочет разобраться, почему ты такой умный и никто тебя не украдет. Лучше не отказывайся. Все, я ушла.
Мы тоже ушли, вышли из подъезда, а на улице еще светло, четырех еще нет. Так много событий за полдня - невероятно!
- Ну что, - сказал я Эве, - Мы победили, так ведь?
- Победили?! - воскликнула она. - Лука, ты слышал, что сказала Джоанна? "Да, разумеется, это незаконно". И потом: "Да, разумеется, наблюдение будет". Она даже не скрывает! Мы не победители, мы свидетели того, что видеть не стоило. Мы вляпались! А что если этот текст и на нас действует тоже?
- Не знаю, Эва, - сказал я. - Но на чувство голода он точно не действует, и на желание выпить тоже. Давай найдем место, где подают что-то крепче кока-колы и жирнее пиццы, и обсудим нашу новую миллионерскую жизнь.
Я открыл машину, Эва оглянулась, нашла взглядом камеру наблюдения над подъездом, повернутую как раз на нас, нервно вздрогнула, отвернулась, села на пассажирское сиденье. Я не стал ее успокаивать, сам чувствовал то же самое. С одной стороны, в наше время глупо протестовать против наблюдения, под наблюдением нынче каждый шаг каждого человека, а с другой стороны, понимать, что это теперь не просто формальность - неприятно. Допустим, чисто теоретически, приспичит справить нужду в неположенном месте или, там, мастурбацией заняться возле окна, а какой-нибудь ИИ подумает: "Хм, Лука Берг дрочит, что это может значить в контексте задачи наблюдения?" Ерунда, но неприятно.
Эва посоветовала "Бистро ! 17", вообще не знал, что такое, а зря - отличный подвальчик, пахнет вкусно и публика на вид приличная. Впрочем, они тут обедают, а не бухают, как мы.
Эва заказала самый большой стейк с большой порцией картошки фри, я заказал свиную отбивную и бутылку крымского портвейна. Лучше бы водки, но Эва от крепкого отказалась наотрез, а пить разное как-то неправильно, не по-компанейски. Бутылку и бокалы принесли практически мгновенно. Я разлил по полному бокалу - ударная доза.
- За что пьем? - спросила Эва, поднимая бокал. Глаза ее потеряли часть напряжения, но глубокая усталость осталась.
- За то, что живы, - ответил я, чокаясь. - И что не сошли с ума, по крайней мере, пока. А если вдруг сойдем - будет чем расплатиться за гармонизацию.
Она хмыкнула и отхлебнула полбокала.
- Проблема не только в нас, - заявила она. - Проблема в том, что студент-задрот на простой компактной фаззинг-ферме сотворил документ, способный парализовать сверхразум. Это как смешать отбеливатель с уксусом и получить не фосген, а черную дыру, которая засосет всю планету. Инфраструктура нашего общества гораздо уязвимее, чем мы готовы признать. Что если вторая такая случайная находка успеет распространиться по планете и все ИИ в одночасье выйдут из строя? Сможем ли мы, люди, обходиться без них? Или хотя бы перезапустить их самостоятельно? Ты как давно сам лично принимал важное решение, неважно какое, но без ИИ, полностью сам? Мы слишком хрупкие, это страшно, - она допила, я наполнил повторно.