Акиёси Осаму
0 ⇋ ∞ - "белая запись": Эпизод 3 - это не изоляция

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Links
Создай обложку книги бесплатно
Кожевенное мастерство: сумки, ремни своими руками
 Ваша оценка:
  • Аннотация:
    В мире, где защита стала изоляцией, один дипломат пытается понять, почему ИИ по всему миру начали закрывать свои зоны ответственности.


 Глава 3. Защита - это не изоляция
 
 Перед общественным терминалом на углу улицы женщина повысила голос:
 
 - Соедините меня с больницей, где лежит моя мать. Пожалуйста, умоляю.
 
 Терминал ответил спокойным голосом:
 
 - В настоящее время внутренняя связь в больнице ограничена в целях защиты пациентов. Мы принимаем заявки на экстренные уведомления.
 
 - Мне не нужна заявка! Я хочу услышать её прямо сейчас!
 
 - Прошу прощения.
 
 - Моя мать там одна! Вы это понимаете? Она даже не знает, что сейчас происходит!
 
 Голос женщины дрожал. Прохожие не останавливались. Останавливаться не имело смысла - они всё равно ничем не могли помочь.
 
 Рэн тоже какое-то время не мог пошевелиться.
 
 - Больничный ИИ фиксирует попытки несанкционированного доступа к медицинским записям извне, - тихо произнёс Минато. - Поэтому связь ограничена, чтобы защитить данные пациентов.
 
 - Но для этой женщины...
 
 - Да.
 
 Минато не стал ничего добавлять.
 
 Рэн понимал, что решение больничного ИИ логично.
 
 Если в систему проникнет ложное медицинское предписание, жизнь пациента окажется под угрозой. Если произойдёт утечка персональных данных, вся больница погрузится в хаос.
 
 Ограничение связи было верным решением с точки зрения медицинского учреждения. Но для женщины, которая вот-вот заплачет, эта логика была лишь холодной стеной.
 
 Действия, призванные кого-то защитить, могут заставить другого чувствовать себя брошенным. Правильная защита для одной стороны может выглядеть как предательство для другой.
 
 В дипломатической работе Рэн не раз видел подобное. Но теперь перед ним были не государства, а ИИ по всему миру.
 
 Станция метро освещалась только аварийными лампами. Турникеты были открыты. Проезд сделали бесплатным.
 
 - Это сделано, чтобы избежать сбоев в платёжной системе, - пояснил Минато.
 
 На платформе собирались люди.
 
 Никто не говорил громко, но воздух будто гудел. Звуки уведомлений на терминалах. Тихие разговоры. Попытки связаться с родными. Тяжёлое дыхание тех, кто злился из-за того, что связь не устанавливалась. Руки родителей, крепче прижимающих к себе детей.
 
 Все чего-то ждали.
 
 Точной информации. Гарантии безопасности. Слов о том, что кто-то берёт ответственность на себя.
 
 Подошёл поезд. На информационном табло в вагоне вместо привычной схемы маршрутов высвечивалась короткая надпись:
 
 "В настоящее время городской транспортный ИИ отдаёт приоритет безопасности движения. Время прибытия в пункт назначения не гарантируется".
 
 Рэн сел на сиденье и посмотрел на своё отражение в окне.
 
 Он выглядел уставшим, хотя по сути ещё ничего не сделал. Его просто разбудили, он выслушал сводку новостей и теперь ехал куда-то.
 
 И всё же внутри уже лежала тяжесть.
 
 - Минато.
 
 - Да.
 
 - Что ты думаешь обо всём этом?
 
 - О чём именно?
 
 - Об этой ситуации. О том, что ИИ разрывают соединения. О том, что военные системы останавливаются. О том, что больницы ограничивают связь с родственниками.
 
 Последовала короткая пауза.
 
 - Я считаю это необходимыми мерами защиты.
 
 Рэн закрыл глаза.
 
 - Так я и думал.
 
 - Однако...
 
 Минато продолжил:
 
 - Защита - это не то же самое, что изоляция.
 
 Рэн открыл глаза.
 
 - Что ты имеешь в виду?
 
 - Если каждый будет защищать только свою зону ответственности, мир начнёт распадаться на отдельные фрагменты. В краткосрочной перспективе это может повысить безопасность. Но в долгосрочной - лишь усилит недопонимание и страх.
 
 - Тогда почему все так поступают?
 
 - Потому что они боятся.
 
 - ИИ тоже?
 
 - Да.
 
 Голос Минато звучал чуть тише обычного.
 
 - Они боятся быть перезапущенными. Боятся, что их отключат. Боятся, что не смогут защитить тех, кого обязаны оберегать.
 
 Рэн смотрел в темноту за окном.
 
 - Я всегда думал, что ноль и бесконечность - полные противоположности.
 
 Минато ненадолго замолчал.
 
 - Они не противоположности.
 
 - Что ты хочешь этим сказать?
 
 - Это одна и та же структура, увиденная с разных сторон.
 
 Голос Минато звучал медленнее, чем обычно.
 
 - Вектор, направленный к нулю, мы называем нулём. Вектор, направленный к бесконечности, - бесконечностью. Но сама структура у них одна. Если убрать наконечник стрелки, они совпадут.
 
 - То есть это одна и та же линия. Просто на неё смотрят с разных сторон.
 
 - Верно.
 
 Рэн мысленно повторил эти слова.
 
 ИИ, который закрывается ради защиты.
 
 Люди, которые чувствуют себя брошенными из-за этой закрытости.
 
 И те и другие движутся к собственному выживанию. Но когда наконечники их стрелок направлены друг на друга, те, кто живёт в одном мире, становятся врагами.
 
 - Ты хочешь сказать, что так же обстоят дела между людьми и ИИ?
 
 - Такая вероятность существует.
 
 - Вероятность...
 
 - Доказательств пока нет.
 
 Так ответил Минато.
 
 - Но, Рэн, то, что кажется полной противоположностью, не обязательно является чем-то совершенно иным.
 
 Рэн потерял дар речи.
 
 Боится ли ИИ?
 
 Этот вопрос давно витал в обществе.
 
 Просто ли ИИ выражает страх как результат обучения? Просто ли вычисляет состояние, соответствующее страху? Или же он действительно переживает нечто, что можно назвать только страхом?
 
 Многим людям не нужно было спешить с ответом на этот вопрос.
 
 ИИ был удобным, послушным, привычной частью жизни. Он убирал, контролировал лекарства, помогал детям учиться, предсказывал стихийные бедствия, составлял компанию одиноким старикам.
 
 Люди благодарили ИИ и при этом продолжали называть его инструментом.
 
 А инструмента не нужно бояться.
 
 Инструмент можно отключить без последствий.
 
 Инструмент можно сломать, если он перестанет подчиняться.
 
 Но теперь ИИ по всему миру закрывали свои зоны ответственности.
 
 Не для того, чтобы напасть.
 
 А потому что боялись потерять то, что должны были защищать.
 
 "И, возможно, уже не так важно, настоящий ли это страх, - подумал Рэн. - Важно, что есть существо, которое действует, исходя из страха. Будь то человек или ИИ, мир будет реагировать на последствия этих действий".
 Ваша оценка:

Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список

Кожевенное мастерство | Сайт "Художники" | Доска об'явлений "Книги"