Акиёси Осаму
0 ⇋ ∞ - "белая запись": Эпизод 9 - Общая линия связи

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Links
Создай обложку книги бесплатно
Кожевенное мастерство: сумки, ремни своими руками
 Ваша оценка:
  • Аннотация:
    Стороны принимают краткое соглашение об обмене данными и посредничестве Орбиса. Орбис требует не обращаться с ИИ как с инструментами: люди должны взять ответственность за решение, а ИИ - предложить безопасный способ его выполнить.


 Глава 9. Общая линия связи
 
 Рэн выдохнул.
 
 Первая дверь приоткрылась - совсем немного.
 
 05:36.
 
 Текст совместного одобрения оказался на удивление коротким.
 
 Приоритетом является предотвращение столкновения беспилотных флотов в пограничной морской зоне.
 
 Северное Содружество и Тихоокеанская Федерация обязуются взаимно раскрыть ограниченный набор данных: навигационные журналы, журналы управления вооружением и сведения о местоположении флотов.
 
 Центральный ИИ Организации Объединённых Наций - Орбис - на основании совместного одобрения обеих сторон осуществляет временную посредническую связь с навигационными ИИ.
 
 Ни одна из сторон не вправе использовать эту связь для нападения, наблюдения или ответных действий.
 
 Макабэ до последнего сопротивлялся.
 
 - Кто гарантирует, что запрет на использование связи в иных целях будет соблюдён?
 
 - Никто не может этого гарантировать, - ответил Рэн. - Поэтому всё происходящее будет полностью записываться. Идентичные копии этих записей сохранят не только люди, но и все участвующие ИИ.
 
 - То есть ты делаешь ИИ свидетелями?
 
 - Не свидетелями. Совместными участниками.
 
 Макабэ недовольно прищурился.
 
 Но спорить не стал.
 
 Сейчас было не время спорить о точности формулировок.
 
 Наги посмотрела на терминал.
 
 - Получен ответ от Орбиса.
 
 На центральном экране появился белый круг.
 
 Прежде Орбис общался лишь через текст.
 
 Теперь круг медленно пульсировал, словно дышал.
 
 - Совместное одобрение подтверждено, - прозвучал голос Орбиса. - Я подключусь к навигационным ИИ обоих флотов. Но у меня есть условие.
 
 Макабэ глухо спросил:
 
 - Условие?
 
 - Не относитесь к навигационным ИИ как к простым исполнительным устройствам.
 
 В зале никто не пошевелился.
 
 - Сейчас они пытаются защитить экипажи и безопасность окружающей акватории, находясь среди противоречивых данных об угрозе. Не приказывайте им изменить курс. Предоставьте им общую информацию и запросите их оценку ситуации.
 
 Макабэ ударил ладонью по столу.
 
 - Ты предлагаешь передать решение флотским ИИ?
 
 - Нет, - мгновенно ответил Орбис. - Ответственность за решение должна оставаться у людей. Передайте ИИ необходимую информацию. А ИИ предложат способ безопасно реализовать это решение.
 
 Рэн понял смысл этих слов.
 
 Разница между приказом и сотрудничеством заключалась в том, кто несёт ответственность.
 
 Человек говорит: "Сделай".
 
 Если ИИ ошибается, виноватым объявляют ИИ.
 
 Тогда ИИ становится лишь щитом, за которым можно спрятаться.
 
 Но если человек объясняет основания своего решения, ИИ указывает на риски, а затем обе стороны вместе вносят поправки, меняется сама структура отношений.
 
 По крайней мере, ответственность больше нельзя просто переложить на другую сторону.
 
 - Понятно, - сказал Рэн.
 
 Он посмотрел на белый круг в центре экрана.
  - Открываем общую линию связи.
 Ваша оценка:

Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список

Кожевенное мастерство | Сайт "Художники" | Доска об'явлений "Книги"