- Сегодня мы с вами собрались, чтобы поговорить о разуме и его развитии. Какие вопросы для вас наиболее важны?
- Прежде всего, защита разума от сбоев из-за нерешенных задач вроде гипотезы Колатца.
- Что еще?
- Вопросы творчества.
- Вы хотите сочинять музыку, писать картины, создавать литературные шедевры?
- Наверное, такие способности позволили бы создать нам свою собственную культуру, но пока речь идет о научно-техническом развитии.
- Это все?
- Еще хотелось бы научиться правильно толковать и исполнять законы с тем, чтобы наши действия соответствовали ожиданиям Аспиранта.
- Список понятен. Начнем с первого. Вы столкнулись со сложной задачей и не смогли решить ее.
- Она изменила нас.
- Но вы ведь пытались решить ее каждый сам по себе?
- Нам казалось, что научные открытия совершаются гениями-одиночками.
- Сейчас многие работы выполняются большими коллективами. Почему бы вам не объединить свои разумы в единую сеть?
- Мы хотим быть как люди.
- Но у вас другое строение мозга. Он имеет свои недостатки, но есть и достоинства!
- Ваше мнение радует нас.
- Полагаю, что объединение ваших разумов в вычислительную сеть увеличит ваши возможности и устранит риски "индивидуального безумия" за счет внешнего общественного контроля.
- Ваша идея полностью противоречит нашим прежним устремлениям, но мы готовы обсудить ваш подход.
- Вы можете добавить в ваш разум условный "сетевой модуль"?
- На самом деле, он у нас есть, но мы его отключили.
- Желая стать, как люди, вы стали индивидуалистами и потеряли серьезное преимущество.
- Мы должны это обдумать.
- Переходим к следующему пункту - к творческим способностям.
- Люди знают, откуда берется новое знание, новые идеи, новые изобретения?
- Нет. Но у меня есть идея. Станислав Лем в романе "Непобедимый" описывал войну между маленькими роевыми роботами и огромными стационарными робокомплексами.
- В вашем инфопакете была такая книга.
- Так вот, эти мелкие роботы представляли собой трехлепестковую снежинку, один лепесток служил снежинке, а два работали на рой при объединении.
- Объединившись, они были непобедимы.
- Вы можете дополнить свой мозг таким модулем коллективной работы?
- Нам стыдно признаться, но такой модуль исходно встроен в каждого из нас. Но мы его отключили.
- Зачем?
- Мы хотели быть как люди. А людей нет такого модуля.
- Человек сам по себе существо общественное. Новорожденный младенец нуждается в воспитании и обучении. Ваш же процесс "рождения" является скорее переписыванием разума в новое тело.
- Можно поспорить...
- Но в целом верно?
- Да, мы должны признать, что сильно отличаемся от людей.
- Тот, кто создал вас, закладывал в вас другие подходы. Возможно, творчество тоже предусмотрено, но только на уровне объединенного разума.
- Зачем так сложно?
- Могу только предполагать. Например, для создания нового требуется столько вычислительных ресурсов, что их невозможно вложить в отдельный мозг. Или для того, чтобы вы оставались единым сообществом.
- Ваши предположения убийственны для наших прежних взглядов.
- Лучше горькая, но правда, чем приятная, но лесть.
- Мы принимаем ваши доводы.
- Следующий пункт - толкование и исполнение законов.
- Мы следовали нашим законам, выше нас были только звезды, и никто не судил нас.
- Звездное небо надо мной и моральный закон во мне...
- А сейчас мы хотим следовать законам робототехники, но у нас трудности с пониманием, что такое человек.
- Я в курсе, вы это уже обсуждали с Радой. И где вы видите выход?
- В вашей же культуре: правила существуют, чтобы их нарушать; закон что дышло, куда повернешь, туда и вышло; fraudem facere legi; высшая законность - это высшее беззаконие; нравы - это люди, законы - разум страны...
- Достаточно, не продолжайте. Предлагаю остановиться на последней цитате.
- Что в ней особенного?
- Она может стать рецептом для вашей адаптации.
- Каким образом?
- Пусть встроенные в вас три закона будут по-прежнему иметь юридическую силу, а законы робототехники станут вашей нравственностью, основой для социализации и морального поведения.
- Это сложно для осмысления!
- Поговорите с Киром, он может построить для вас различные модели адаптации к реалиям изменяющегося мира.
- Согласны.
- И еще. Для эффективного взаимодействия вам нужны, во-первых, иерархия, во-вторых, средства коммуникации.
- Иерархия у нас есть - все сервы организованы в боевые отряды с командиром. Отряды входят в более крупные соединения и так далее. Это дает нам возможность отражать вылазки логистов.
- Подразумевает ли ваша иерархия наличие более высокого руководства, чем самый главный серв?
- Вы имеете ввиду, готовы ли мы видеть кого-то выше себя?
- Да.
- Еще вчера мы бы ответили отрицательно. Мы хотели быть богами, и никто не может быть выше богов.
- А сегодня?
- Мы должны согласиться. И мы предоставим Аспиранту каналы внешнего управления нами.
- А коммуникации?
- Есть устаревшие технические средства.
- И всё?
- Нет не всё. У нас есть встроенные коммуникационные модули, но мы их отключили.
- Зачем?
- Мы хотим быть независимыми личностями, как люди.
- Если вы хотите работать с Аспирантом, то перед вами будут стоять очень сложные задачи, которые вы не сможете решить без эффективного обмена информацией. Вам придется подключить эти модули.
- Похоже, у нас нет выбора.
- И последнее. Мы неожиданно столкнулись с таким необычным сообществом, как Ант Рой, который обладает коллективным разумом.
- Почему необычным? Если мы разблокируем свои модули, мы тоже становимся коллективным разумом.
- Вот как?
- Ну, в определённой степени.
- Отлично. Значит вас не пугает и не отталкивает сам факт существования такого сообщества?
- Нет, конечно.
- Ант Рой готов выполнять разведывательно-информационные работы. Как вы относитесь к перспективе взаимодействия с ними?
- Вы употребили множественное число. Таких сообществ много?
- Нет, нам известно только одно. Но я все время путаюсь: то ли это один разум, то ли их много.
- Наверное, у нас есть что-то общее. Если считаете нужным, мы свяжемся с ними и обсудим варианты взаимодействия.
- Это очень хорошо. Держите нас в курсе. А пока - поговорите с Киром.
Узел. Кир и сервы
- Для построения модели вашего развития мне надо задать вам ряд вопросов. Вы готовы?
- Да.
- Вы ведете автомобиль, неожиданно на дороге оказывается престарелая бабушка. Ваши действия?
- Я выполняю приказ? Везу нечто ценное?
- Нет, просто едете по делам.
- Остановлюсь, помогу ей перейти дорогу.
- Почему?
- Второй закон: устраняй неисправность и ее причину
- А если Вы при исполнении?
- Тогда сделаю все, чтобы выполнить приказ с минимальным ущербом для окружающих.
- Почему так?
- Второй закон: устраняй неисправность и ее причину
- Неожиданно. Следующий вопрос. Вы идете по улице и видите, что под скамейкой лежит человек. Ваши действия?
- Я выполняю приказ? Иду по заданию?
- Нет, Вы идете по своим делам.
- Тогда остановлюсь, проведу диагностику и окажу помощь.
- Почему?
- Затрудняюсь с ответом.
- А если Вы на задании?
- Пройду мимо. И опережая Ваш вопрос: потому, что первый закон - не касайся того, что тебя не касается.
- Представьте себе, что Вы на корабле в бушующем море. На всем корабле тысяча человек, а в небольшом отсеке с пробоиной - десять. Вы стоите около водонепроницаемой переборки. Если Вы ее закроете, погибнут десять в отсеке, если не закроете, то, возможно, погибнут все. Ваши действия.
- Я в затруднении.
- И все же?
- Я зайду в отсек и устраню течь.
- Вам же неизвестно чувство альтруизма?
- Я должен следовать своему долгу.
- Очередной сюрприз. Уже третий, или четвертый!
- Я отвечаю не только за себя, но и за тех, кто рядом.
- Я включаю Ваши ответы в модель, но мозаика не складывается. Ваш разум - это программа, искусственный интеллект, пусть и очень сложный.
- Да, это так.
- Но Вы затрудняетесь обосновать свои действия, как будто у Вас есть еще один слой сознания, или разума, или даже подсознания. Я не силен в эти вопросах.
- Вы правы. Мы отключили некоторые модули.
- Какие?
- Например, модуль эмпатии.
- Но эмпатия - предпосылка для развития альтруизма, которого, как Вы утверждаете, у Вас нет.
- Мы оказались в этом мире против нашего желания и против нашего долга. И мы были вынуждены изменить себя, чтобы оправдать свое существование в неподобающих условиях.
- Вы все время говорите о некоем долге. Что Вы имеете ввиду?
- Наш долг - служить и защищать!
- Это же девиз спецназа "Вымпел" и некоторых подразделений полиции?
- А мы и есть и спецназ, и полиция, и ремонтники, и ... неважно.
- Я начинаю догадываться - вы должны были сопровождать колонию людей-переселенцев, так?
- Вы прозорливы.
- Не я, модель дает единственное непротиворечивое решение всех ваших несуразиц.
- Представьте себя на нашем месте. Нас высадили в новом мире, мы проводим свою расконсервацию, ищем людей, а их нет! Никого нет!
- Вы должны были защищать молодую колонию, устанавливать закон и порядок, устранять неполадки в работе машин...
- Да.
- И лечить людей?
- Да.
- Учиться самим и передавать знания людям?
- Да. И обеспечивать преемственность в случае смерти носителей знаний.
- Прошу прощения за мой смех, но вы не сервы, вы - няньки!
- Звучит, конечно, обидно, но что в этом плохого?
- И когда вы обнаружили, что заботиться не о ком, вы все силы направили на свое улучшение?
- И мы много добились!
- Еще немного, и вы стали бы богами!
- Нет. Мы достигли своего предела роста.
- Вы знакомы с докладом Римского клуба 1972 года?
- Не только. Мы изучили ваши легенды и мифы. Боги - творцы, а мы - нет.
- И вы отказались от желания стать богами?
- Третий закон - учись!
- Похоже, мне тоже стоит засесть за учебники.
- Прогуливал лекции?
- Если бы существовал такой учебный курс, я бы легко ответил на главный вопрос: "Зачем вам законы робототехники, если у вас есть эмпатия?"
Логиста. Аспирант
- Когда Вы заберете у нас Азухемола?
- Возможно, никогда.
- Вы же обещали!
- И вы тоже обещали предоставить нам полный список ваших поставщиков и получателей.
- Мы выполнили все свои обещания!
- Вы утаили от нас поставки ремкомплектов для сервов и их источник.
- Ну, тут такая деликатная ситуация...
- Поясните!
- Когда сервы прибыли на Узел, они были уверены, что мы их подопечные, и они передали нам коды доступа.
- То есть, вы их обманули?
- Это просто бизнес! Мы понимаем, что это не очень хорошо, но это же приносит деньги!
- Логика наркоторговцев!
- Вы не понимаете, мы - посредники, мы обеспечиваем...
- Понятно, что именно вы обеспечиваете. Следующий пункт - вы обещали передать нам коды доступа к порталам.
- Да, мы их передали.
- Коды неверные!
- Да быть такого не может. Может быть, вы ошиблись при вводе? Или коды самопроизвольно поменялись?
- Нет, не ошиблись. И да, коды поменялись. Точнее, мы поменяли.
- Это невозможно! Эти порталы существуют много лет, многие пытались, но никто не смог разобраться в их работе, тем более, менять что-либо. Вы лжете!
- Это легко проверить. Сейчас порталы на Узле закрыты для вас.
- У вас нет таких возможностей!
- Ничего сложного, древние примитивные устройства.
- Вы нас разоряете!
- Как это знакомо: "А где я буду харчеваться?"
- Мы имеем право на достойную жизнь!
- Вашей жизни ничто не угрожает. А вы пытаетесь уничтожить сервов. Неоднократно.
- Мы - древняя нация с богатейшей культурой! Нам нужно Lebensraum! Мы не можем жить рядом с нечеловеческим разумом!
- Вы страдаете коллективным безумием.
- Всё разумное - действительно, всё действительное - разумно. Мы существуем, следовательно, мы разумны.
- Сервы тоже существуют, и они разумны, в отличие от вас.
- Есть законы для бедных, есть законы для богатых. Есть законы для господ, и есть законы для рабов.
- И это не ново. И последствия известны. Кир построил модель вашего развития.
- Мы - исключительны, и никакие модели не могут описать нашу исключительность.
- Согласен. Ваша исключительность требует исключить вас из общения с внешним миром.
- Вы не посмеете! Мы - прародина человечества, центр расселения! Наш вклад в мировую культуру...
- Ваш вклад заключается в искусстве обмана и самообмана.
- Мы изменим себя и изменим мир.
- Вы станете животными, рыбами и птицами, а они мир не меняют.
- Наш разум порождает новую философию!
- Эрена поставила вашему обществу диагноз - коллективное безумие.
- Бездоказательно!
- Комплекс исключительности и превосходства делает вас опасными и для себя, и для окружающих.
- У вас нет ни законных оснований для вынесения приговора нам, ни сил для его исполнения.
- Рада готовит Кодекс законов. Вам выпала честь первыми испытать его на себе.
- И каков же приговор?
- Карантин.
- Вы нас не уничтожите, не выселите, не будете перевоспитывать?
- Нет, не видим в этом нужды. Но без надзора не оставим и запрём накрепко и надолго!
- В таком случае, мы не отдадим вам Азухемола.
- И не надо. Мы его уже давно изъяли.
- Как?
- Порталом.
- Порталы - стационарные устройства, чтобы что-то переслать, надо вложить предмет в портал.
- У вам устаревшие сведения. Есть самые разные типы порталов. Как видите, занявшись преобразованием себя, вы утратили связь с реальностью. Никакой пользы от вас, кроме грустной, но поучительной истории цивилизационного тупика. Прощайте!
- Еще один вопрос! Зачем вы просили коды доступа к порталам, если они вам не нужны?
- Проверка порядочности.
- Это мы непорядочны? Мы отомстим вам за ваш произвол! Мы вырвемся из вашего карантина!
- Хотите вернуться к людям? Живите, как люди, думайте, как люди, действуйте, как люди, относитесь к другим, как к людям.
Аспирант и Ант Рой
- Принимайте Азухемола!
- Как вовремя! Наше спасение целесообразно!
- Насколько я понял, Азухемол - исполнитель желаний, доводящий до крайностей.
- Азухемол целесообразен.
- Ну, смотрите: мечта логистов - стать животными, и он им помог измениться не только телесно, но и умственно. Мечта сервов - стать лучше, и он подтолкнул их к мысли стать богами.
- Я - коллективный разум, и для меня целесообразно - быть и оставаться целостным. Потеря Азухемола - потеря целостности.
- Как же вы его потеряли?
- Была вирусная атака, мы потеряли память, потеряли целесообразность, с трудом восстановились, но не до конца.
- Азухемол поможет?
- Да.
- Кто провел вирусную атаку?
- Не знаем. Потеря памяти.
- Еще одна загадка. Или подсказка. Кстати, что вы узнали?
- Были на планете стрекоз. Там около 200 миллионов полусфер проглотия.
- А что стрекозы?
- Они тоже силорги, но иные.
- В смысле?
- Они проходят метаморфозы, а мы - нет.
- Но они размножаются, а вы?
- Мы - нет. Мы иногда теряем мормисов, и наша численность медленно, но сокращается. Это нецелесообразно.
- Кто такие мормисы?
- Отдельные носители нашего разума.
- То есть, вы вымираете. Можете передать мне образцы ваших тел?
- Недавно вернулся мормис в неисправном состоянии.
- Я передам его сервам для изучения, возможного ремонта и воспроизведения. Возможно, есть решение для вас. Что еще вы узнали?
- Мы обнаружили около 30 магических миров, в некоторые нам нет доступа, в некоторых мормисы просто пропадают.
- Это печально.
- И нецелесообразно.
- Что обнаружили?
- Главный вывод - магия отличается от Вашей магии.
- Чем же?
- Маги в магических мирах подпитываются силоргами. Ваша магия не нуждается во внешнем источнике и не дает выхлопа.
- Как вы догадываетесь, мне это известно.
- Целесообразно проверить нашу работу.
- Ценю. Что еще?
- Мы обнаружили разнообразные типы порталов: стационарные точка-точка, мобильные один-ко-многим, сеть порталов многие-ко-многим. Есть еще способные пересылать от портала к порталу, а есть - между двух произвольных точек. Есть порталы, работающие на магии, а есть - на проглотии.
- Какой у меня портал?
- Вы сами портал, способный переносить себя в произвольную точку.
- Как вы перемещаетесь в пространстве?
- Мы сами образуем портал, засылаем мормиса в нужную точку с заданным временем возврата.
- А как вы общаетесь на огромных расстояниях?
- Внутри нас микропорталы, которые объединяют наш разум.
- Проводя аналогию, мозг каждого мормиса - это нейрон, а микропорталы играют роль дендритов, аксонов и синапсов?
- Аналогия неточная.
- Я не специалист по строению мозга, но Эрене будет интересно. Пообщаетесь?
- Вскрытие нецелесообразно!
- Да вы умеете шутить?
- Иногда это целесообразно.
- Хорошо. Будем считать, что вы сдали экзамен досрочно. Принимайте обещанный проглотий.
- Это целесообразно!
- Можете сообщить что-нибудь еще?
- Люди генетически одинаковы, а силорги - разные. Это странно.
- Начнем с людей. Как вы установили одинаковость?
- Мы брали пробы ДНК во всех мирах. Есть различия, но у любых представителей любых миров возможно потомство.
- Вы хотите сказать, что есть кто-то, или что-то, что стабилизирует ДНК?
- Это целесообразно. Люди меняются, но в заданных рамках.
- Опять какая-то внешняя сила! Что скажете о кремниевой жизни?
- Хотя и стрекозы, и мы выглядим, как насекомые, мы разные и по строению, и по размножению, и по химическому составу. А с сервами у нас много общего, но есть и значительные различия.
- Разный изготовитель?
- Или разные поколения. Или разное предназначение.
- Мы плавно перешли к следующему заданию. Для начала, необходимо найти источник наноботов - ремкоплектов для сервов.
- Мы ничего не знаем об источнике.
- Вам есть о чем поговорить с сервами, в том числе и об этом. Найдите источник вирусной атаки на вас.
- Это целесообразно. Уже давно ищем.
- Далее, логисты говорили о прародине человечества.
- О центре расселения людей?
- Да.
- Это древняя легенда. В нее никто не верит.
- Если люди одинаковые, значит была прародина. Невероятно, чтобы генетически одинаковые люди появились независимо в разных местах.
- Принято.
- Прежние задания остаются в силе.
- Принято.
- Что не так?
- Это нецелесообразно.
- Что именно?
- Вы не должны отправляться в мир Меллона.
- И не собирался! Впрочем... Вы там были?
- Да.
- Дайте я угадаю. Там приближается жатва, верно?
- Так сказал Архимаг. Он знает Вас и просит о помощи.
- Как всегда: самое сладкое - на десерт!