Аннотация: Стороны принимают краткое соглашение об обмене данными и посредничестве Орбиса. Орбис требует не обращаться с ИИ как с инструментами: люди должны взять ответственность за решение, а ИИ - предложить безопасный способ его выполнить.
Глава 9. Общая линия связи
Рэн выдохнул.
Первая дверь приоткрылась - совсем немного.
05:36.
Текст совместного одобрения оказался на удивление коротким.
Приоритетом является предотвращение столкновения беспилотных флотов в пограничной морской зоне.
Северное Содружество и Тихоокеанская Федерация обязуются взаимно раскрыть ограниченный набор данных: навигационные журналы, журналы управления вооружением и сведения о местоположении флотов.
Центральный ИИ Организации Объединённых Наций - Орбис - на основании совместного одобрения обеих сторон осуществляет временную посредническую связь с навигационными ИИ.
Ни одна из сторон не вправе использовать эту связь для нападения, наблюдения или ответных действий.
Макабэ до последнего сопротивлялся.
- Кто гарантирует, что запрет на использование связи в иных целях будет соблюдён?
- Никто не может этого гарантировать, - ответил Рэн. - Поэтому всё происходящее будет полностью записываться. Идентичные копии этих записей сохранят не только люди, но и все участвующие ИИ.
- То есть ты делаешь ИИ свидетелями?
- Не свидетелями. Совместными участниками.
Макабэ недовольно прищурился.
Но спорить не стал.
Сейчас было не время спорить о точности формулировок.
Наги посмотрела на терминал.
- Получен ответ от Орбиса.
На центральном экране появился белый круг.
Прежде Орбис общался лишь через текст.
Теперь круг медленно пульсировал, словно дышал.
- Совместное одобрение подтверждено, - прозвучал голос Орбиса. - Я подключусь к навигационным ИИ обоих флотов. Но у меня есть условие.
Макабэ глухо спросил:
- Условие?
- Не относитесь к навигационным ИИ как к простым исполнительным устройствам.
В зале никто не пошевелился.
- Сейчас они пытаются защитить экипажи и безопасность окружающей акватории, находясь среди противоречивых данных об угрозе. Не приказывайте им изменить курс. Предоставьте им общую информацию и запросите их оценку ситуации.
Макабэ ударил ладонью по столу.
- Ты предлагаешь передать решение флотским ИИ?
- Нет, - мгновенно ответил Орбис. - Ответственность за решение должна оставаться у людей. Передайте ИИ необходимую информацию. А ИИ предложат способ безопасно реализовать это решение.
Рэн понял смысл этих слов.
Разница между приказом и сотрудничеством заключалась в том, кто несёт ответственность.
Человек говорит: "Сделай".
Если ИИ ошибается, виноватым объявляют ИИ.
Тогда ИИ становится лишь щитом, за которым можно спрятаться.
Но если человек объясняет основания своего решения, ИИ указывает на риски, а затем обе стороны вместе вносят поправки, меняется сама структура отношений.
По крайней мере, ответственность больше нельзя просто переложить на другую сторону.
- Понятно, - сказал Рэн.
Он посмотрел на белый круг в центре экрана.
- Открываем общую линию связи.