Аннотация: Что будет, если пустить развитие цифровой копии человека на самотек?
Тривиальное решение
Три закона эволюцииантропоморфных цифровых образов:
1.Сложность образаопределяется числом бит, нужных для его описания.
2.Сложность образарастет, если его взаимодействие со средой частично случайно.
3.Сложность образа растет с увеличением числа элементов среды.
Обхватив руками голову и уставившись в экран, Боб Форест пробормотал:
- Ну, все, это конец. Джек нас прикончит.
Было от чего впасть в уныние: цифровой образ Джека Мэдокса - эксцентричного миллионера, единственного, кто поверил в стартап "Digital immortality", - в очередной раз совершила самоубийство. Как всегда, ничто не предвещало такого печального конца. Боб подгрузил Джеку обучающий модуль "Выступление на собрании акционеров", и сперва все шло как по маслу: доклад, ответы на вопросы, краткая дискуссия, голосование по повестке, но, когда настало время заключительного слова, Джек спустился с трибуны, стремительно направился к окну, открыл его и вышел наружу с тридцать пятого этажа.
- У нас еще три дня, - подбодрил товарища Андрей, - так что не паникуй.
Боб повернулся к нему.
- Не паникуй? - начал он, - Ты видишь что-то другое, чем я? Каждый раз одно и то же! У тебя еще есть идеи, в чем дело? Вот у меня лично нет! Такой что начинай соображать, как отбрехиваться за провал!
- Можно подумать, в первый раз, - буркнул Андрей.
Они познакомились в дочке Apple, продвигавшей на рынке ИТ услуг специализированные антропоморфные образы. Проработав три года, оба решили, что программировать продавцов онлайн магазинов, консультантов, кассиров и банковских менеджеров - это не то, чем бы они хотели заниматься всю жизнь, и решили начать свое дело. Идея была проста: если эволюционные алгоритмы справились с обучением профессии, то почему бы не использовать их для создания индивидуального цифрового образа личности, способного к саморазвитию? Боб, владевший всеми возможными языками программирования, отвечал за код, а Андрей, предпочитавший теорию, формулировал общую концепцию. Полгода чуть ли ежедневых презентаций, наконец, принесли плоды: небольшой офис с переговорной, собственный кластер на тысячу ядер и возможность погрузиться в личную и профессиональную жизнь Джека Мэдокса, - с тем, чтобы сообщить ей цифровое бессмертие.
Вот только с последним возникла незадача - вместо того, чтобы развиваться, как полагается любому образу с эволюционным алгоритмом, цифровой Джек предпочитал выходить из игры в самые неожиданные моменты виртуальной жизни. Первый раз он утопился во время свадебного путешествия - прямо с борта собственной яхты, во второй раз наглотался таблеток после рождения сына, а вот теперь, пожалуйста - на пике карьеры решил ее завершить таким скандальным манером.
- А что там со сложностью? - спросил Андрей.
Боб пробежался пальцами по клавиатуре.
- Вот, полюбуйся, - он вывел график на экран, - растет, как и в прошлый раз! Как раз достигла максимума перед тем, как Джек шлепнулся. В общем, бред какой-то.
- Третий закон, - напомнил Андрей, - "Сложность образа растет с увеличением числа элементов среды". Мы расширили среду, поэтому и сложность выросла.
- Правда? - саркастически хмыкнул Боб. - По-твоему, сложность вот этого, - он показал на виртуальный труп в финале симуляции - выше, чем у исходного образа?
- Вериться с трудом, - признал Андрей.
- Вот именно. Может запретить случайные взаимодействия образа со сценой? Все будет предсказуемо, никаких фокусов...
- И никакого развития - вспомни второй закон. "Сложность образа растет, если его взаимодействие со средой частично случайно". Или ты хочешь запихнуть жизнь Мэдокса в банковского клерка?
- Андрей, я знаю законы не хуже тебя. Но у нас где-то ошибка. В алгоритме или в коде. Или... - Боб сделал многозначительную паузу.
Андрей, откинувшись на спинку кресла, сцепил руки на затылке.
- Нужен свежий взгляд, - задумчиво сказал он, - а то у нас глаз замылился. Знаешь, что? - он повернулся к унылому Бобу, - зайду-ка я к нашим яблочникам, поговорю с ними. Может, что подскажут. Мы работаем с одним образом, а у них сотни... А ты проверь код. Договорились?
- Проверял уже тысячу раз, нет там ошибки, - буркнул Боб и добавил: - Ладно, займусь, все равно делать нечего...
***
Кларк Стоун, бывший начальник Андрея, терпеливо слушал, мало говорил, и удерживал должность главным образом потому, что умел торговать информацией. На это Андрей и рассчитывал. Приземистый, с бритой головой, Стоун глядел из-за стола, как из окопа, выложив вперед короткие, похожие на клешни руки, словно вытаскивая ими слова из собеседника - в том числе и те, которые тот предпочел бы оставить при себе. Созревая для сделки, Кларк задал несколько малозначащих вопросов, посетовал на уход Андрея, пространно и в который раз уже объяснив преимущества работы в крупной кампании под его, Стоуна, руководством - Андрею оставалось лишь поддакивать - и лишь потом, наконец, закинул удочку.
- "Адвокат-2040" - слыхал о таком?
- Нет, - признался Андрей, - но название говорящее.
Стоун хмыкнул.
- Ребята этажом повыше твоего почесали репу и решили: если продавцов и консультантов слили на цифру, чем законники лучше?
- Да ну? И кто же им даст лицензию?
Стоун пожал плечами.
- Ходили слухи, что минюст хочет заменить цифрой бесплатных адвокатов.
- Да, это в духе министерства, - оценил Андрей, - спят и видят, как сократить расходы на тех, кто на земле...
- Может, и так, да только ничего не вышло.
- Почему?
- В этом и закавыка. У меня есть отчет команды разработчиков, но из него ни черта не понять, кроме того, что образы работают нестабильно. Я бы мог нанять тебя внешним консультантом...
Андрей мысленно усмехнулся - в этом весь Стоун: приходишь с вопросом, а в результате начинаешь решать его проблему.
- А зачем мне это? - грубовато спросил он.
Стоун наморщил лоб, сделал печальные глаза и сказал тоном строгого, но любящего папаши, урезонивающего строптивого сына:
- Тебе, как узкому специалисту, не хватает широты взгляда. Прежде чем покушаться на три закона, вам с Бобом стоило подумать вот над чем: неужели капризничает только твой образ? Вы там вдвоем копаетесь со своим чокнутым миллионером, а у нас две сотни разработчиков пытались поднять банковского менеджера хотя бы на ступень выше. И не вышло. Может, причина общая? Ты не хочешь хотя бы попробовать?
Воздохнув, Андрей подумал, что резон в этом есть.
- Если разберешься, возьму тебя назад с повышением. Сколько у тебя времени до встречи с Мэдоксом - три дня, кажется? - продемонстрировал Стоун свою осведомленность. - Думаешь, сможешь выдоить из него хотя бы миллион?
Из тебя вышел бы отличный рекрутер, подумал Андрей.
- И еще кое-что. С образами работал твой практикант, длинный такой, как его?..
- Дэн Кларк, - вспомнил Андрей. Что ж, это в плюс, вряд ли Дэн откажется помочь своему учителю.
- Точно! У него, кажется, было особое мнение. В разработку оно не пошло, но кто знает, может, устами младенца... И учти, Андрей - я уверен, вся информация в отчете уже есть. Нужно только найти ниточку, за которую потянуть...
***
Кларк, прошлогодний практикант Андрея - долговязый стеснительный парень, то и дело поправляющий очки, - в ответ на любой вопрос, не касающийся работы, невразумительно бубнил, и сразу соглашался с любым возражением. Однако, как только речь заходила о цифровых образах, Дэн словно выпрямлялся во весь свой рост: говорил четко и уверенно - если не сказать безапелляционно, - активно жестикулировал и смотрел прямо на собеседника поверх очков, о которых как будто забывал. Вот и сейчас, выслушав Андрея, он тут же заявил:
- Ошибка в алгоритме, я уверен на все сто!
- Почему?
- Третий закон. Вы расширили сцену образа, а его сложность уменьшилась. Это как если бы мы учили школьника таблице умножения, а в результате он бы забыл правила сложения.
Андрей усмехнулся.
- Знаешь, я бы не стал такого исключать.
- Со всеми школьниками?
- О чем ты?
- Больше двухсот образов, и в результате обучения все деградировали. Это уже про нас.
- Что с ними случилось?
- В среднем картина такая. Сначала обучение идет как по маслу, простенькие задачки - типа штраф назначить - образ щелкает на раз. Потом переходим на следующий уровень, и тут бац - образ начинает путать статьи, уголовный и административный кодексы, тест Тьюринга заваливает, а потом и вообще начинает нести какую-то околесицу. И состояние это необратимо. О каком росте сложности тут можно говорить? Очевидно, образ деградирует, а не развивается! А у вашего образа свободы больше, поэтому его деградация доходит до логического конца - смерти через самоубийство!
- Думаешь, если снять ограничения, ваши недоделанные адвокаты последуют за нашим миллионером?
- Не сомневаюсь!
Андрей подивился чутью Стоуна - похоже, проблема действительно была общая.
- Ты локализовал ошибку? - спросил Андрей.
- Думаю, она в блоке анализа. Вот, смотрите... - Дэн пробежался пальцами по клавиатуре. - Зависимость сложности от времени, опытный образец "Адвокат-2040_01"
На экране появилась растущая кривая, постепенно выходящая на постоянную величину. Точкой был отмечен момент предполагаемой деградации образа.
- Настоящая кривая должна идти вниз. Сложность вычисляется в блоке анализа, значит, там и ошибка.
- Ты нашел ее?
Дэн помрачнел.
- В том-то и дело, что нет! Для этого нужны права администратора...
Андрей ненадолго задумался.
- Тебе это дело еще интересно? - спросил он.
- Еще бы!
- Ладно, пробью тебе права, напиши докладную на мое имя. Работать будешь вместе с Робом Форестом, он тоже считает, что в алгоритме ошибка.
- Отлично, - воскликнул Дэн. - А вы чем займетесь?
- Почитаю отчет, - ответил Андрей, - и поговорю с образом Джека. Надежды мало, но вдруг он все же объяснит, зачем полез в это чертово окно...
***
Андрей загрузил последний бэкап с образом Мэдокса, сохраненный за двадцать секунд до самоубийства. Просторный зал, арендованный для собрания акционеров, на сцене - стол с микрофонами и бутылками с водой, за ним сидят члены совета директоров. Джек только что закончил отвечать на вопросы и собирает с трибуны свои шпаргалки. Когда он закончит, то отправится к окну.
- Самоанализ, - скомандовал Андрей. - Что ты собираешься делать?
Джек замер. Теперь он мог только отвечать на вопросы.
- Собираюсь убить себя.
- Зачем?
- Так я стану более совершенным.
- Ты просто перестанешь функционировать.
- Это неважно. Цель эволюции будет достигнута.
- Каким образом?
- Смерть - состояние с максимальной сложностью.
Андрей, поставив на паузу вербальный контакт, запустил поиск отклонений от трех законов. Ошибок не было.
- Когда ты пришел к этой мысли?
- Утром, перед докладом. Я понял это, готовясь к выступлению и удивился, как долго я шел к этой простой истине...
- Локализуй всплеск мыслительной деятельности, - прервал его Андрей.
- С восьми сорока трех до восьми сорока пяти.
Андрей скопировал себе диагностику. Предыдущее самоубийство случилось дома, - Джек наглотался таблеток. Андрей запустил тот бэкап и задал те же вопроссы:
- ...Что ты собираешься делать?
- Заснуть навсегда.
- Зачем?
- Моя цель - обрести новый опыт...
Всякий раз Джек уверял, что смерть - это путь к совершенству, причем это озарение настигало его за считанные секунды. У несостоявшихся адвокатов картина была схожей - деградация образа протекала так стремительно, что ее не успевали остановить. И всякий раз наблюдался скачок сложности.
Решение должно быть простым, подумал Андрей, потому что симптомы болезни у образов схожи. Простое решение, повышающее сложность, вот такой парадокс. Осталось только найти это чертово решение...
Ниткой, потянув за которую, удалось распутать клубок, оказалась речь Цицерона: сложность текста, искаженного недоделанным цифровым адвокатом, оказалась выше, чем оригинального. Пытаясь понять, где ошибка, Андрей менял последовательность слов, заменял их другими, искажал текст еще сильнее, но результат не изменялся. Наконец, его осенило - ошибки нет, как и нет определенной последовательности слов и действий, ключевое слово - случайность...
***
Как всегда, Андрей был гладко выбрит и аккуратно одет, а бессонную ночь выдавали только покрасневшие глаза. Войдя в офис, он сразу понял, что дело у ребят не ладилось. Что ж, как Андрей теперь знал, этого следовало ожидать. Боб, сцепив руки на затылке, сверлил взглядом экран сервера, а Дэн, согнувшись над своим лэптопом и приподняв на лоб очки, тер глаза.
- Ну как, нашли ошибку? - поинтересовался Андрей.
- Пока нет, - ответил Дэн, - но мы еще не все модули проверили...
- Завязывайте, ребята, - весело сказал Андрей. - Думаю, ошибки нет.
- Как так? - вскинулся Боб. - Значит, ошибка в законах?
- С законами тоже все в порядке.
- Друг мой, ты говоришь загадками. Может, объяснишь?
Андрей протянул Бобу карту памяти и сел в свободное кресло.
- Что здесь?
- Объяснение.
- А конкретнее.
- Если я прав, то там заготовка более-менее приличного адвоката, в которого я хочу превратить нашего Джека. Конечно, Перри Мэйсона из него не выйдет, но следователя от судьи отличить сможет.
- Вы нашли решение? - оживился Дэн.
Андрей усмехнулся.
- Решение?.. Можно и так сказать, но скорее я нашел проблему. Думаю, мы слишком очеловечиваем их, наши образы. Они говорят с нами, они выглядят как мы, но они - просто машины, работающие по заданному нами алгоритму.
- Не нравятся мне твои слова, - пробормотал Боб, загружая файлы с карты памяти, - чую, не видать нам больше денег от Мэдокса.
- Честно говоря, нам и так повезло, - сказал Андрей, - Джек всегда был достаточно щедр.
-Так ты объяснишь, в чем дело?
- Я сам еще не уверен. Запусти эволюцию, поглядим, что получится...
***
В переговорной царила нервозная атмосфера: все трое просматривали презентацию, приготовленную на скорую руку в бессонную ночь - для Андрея она была второй подряд. Править по существу времени не осталось, ловили очевидные баги. Гвоздем программы должен был стать образ Джека Мэдокса, избавленный, наконец, от патологической тяги к самоубийству и преображенный в начинающего адвоката.
Мэдокс опоздал почти на час, но предъявлять претензий никто не стал. Плотный, энергичный, с крупным лицом, на котором выделялись нос картошкой и брови кустом, в свои семьдесят с хвостиком Мэдокс полностью сохранил деловую хватку, по всем вопросам имел собственное мнение, настороженно относился к экспертам и решение принимал только в том случае, если считал, что разобрался в проблеме. Говорите со мной, как со школьником, причем далеко не отличником, требовал он от подчиненных.
- Ну и что это такое? - недовольно спросил Мэдокс, посмотрев презентацию. - Средней руки адвокат, да еще недоучившийся... Это лучшее, что вы могли сделать?
Андрей объяснил проблему. После рассказа о самоубийствах миллионер сделался мрачнее тучи. В переговорной повисла напряженная тишина.
- Вы разобрались в проблеме? - резко спросил Мэдокс.
Андрей знал этот тон - отвечать нужно было четко и кратко.
- Да.
- Объясняйте.
- Эволюция образа подчиняется трем законам, - начал Андрей. - Благодаря им образ последовательно проходит через состояния с возрастающей сложностью. Именно такой подход дает надежду получить полноценную имитацию человеческой личности...
- Это я знаю, - прервал его Мэдокс, - давайте дальше.
- Определение сложности - ключ к пониманию проблемы, - продолжил Андрей. - Представьте, что у нас есть несколько последовательностей чисел, каждая из которых состоит из N членов. Вопрос - какая из них требует для описания максимального числа бит?
Джек поморщился.
- Вопрос слишком общий. И какое это имеет отношение к тому, что мой образ кончает с собой?
- Самое прямое, - заверил миллионера Андрей, - Давайте я приведу пример. Допустим, есть такой ряд: 1, 1/2, 1/3, Ќ, ну, и так далее. Сколько нужно бит, чтобы описать первые N членов такого ряда?
Боб схватился за голову.
- Кажется, я все понял...
- А я еще нет, - резко сказал Мэдокс. - Вероятно, чем больше N, тем больше нужно бит?
- Логично, но неверно, - ответил Андрей. - На самом деле количество бит не зависит от N. Вам нужна формула для вычисления n-ого члена ряда xn = 1/n и само число N. Вот и все, последовательность задана, а N может быть любым, хоть бесконечным. В каком-то смысле это и есть алгоритм сжатия.
- Допустим. И что?
- Какую последовательность нельзя сжать?
- Ту, в которой нет закономерности! - встрял Дэн. Он уже тоже все понял, как и Боб.
- Или, другим словами, последовательность случайных чисел, - уточнил Андрей. - Представьте, что вы бросаете монетку и фиксируете результат. Нет никакого другого способа описать получившуюся последовательность, кроме как перечислить один за другим все ее члены. Сжать ее невозможно, нельзя придумать формулу, которой она подчиняется.
- Это означает, - подхватил Дэн, - что если вы возьмете в качестве стартовой некоторую последовательность чисел, и станете ее обучать, взяв в качестве целевой функции сложность, то в конце концов получите последовательность случайных чисел!
- Все это интересно, - сказал Мэдокс. - Но давайте ближе к нашей проблеме. Почему мой образ кончает самоубийством?
- Потому что смерть - это и есть состояние образа, при котором взаимодействие всех его элементов случайно. Смерть - состояние с максимальной сложностью, - ответил Боб, - в полном соответствии с первым законом эволюции. Именно к этому состоянию и стремился ваш образ, Джек.
- Так и есть, - подтвердил Андрей, - тривиальное решение.
Мэдокс встал с кресла и прошелся по комнате.
- А разве нельзя подкорректировать определение сложности, - спросил он, - Чтобы избежать этого... как вы его назвали?
- Тривиального решения, - подсказал Андрей. - И как именно?
- Например, запретить самоубийство.
Андрей хмыкнул.
- Провести симуляцию с таким запретом несложно, но я и так примерно представляю, что получится. Образ будет болтаться вокруг тривиального решения, без толку пытаясь его достичь. Знаете, как это будет выглядеть? Депрессивное поведение, алкоголизм, наркотики...
Джек поднял руки.
- Достаточно, я понял. Но если не водить прямых запретов, то нужны еще критерии в целевой функции, помимо сложности...
Андрей кивнул.
- Это верно. Вопрос в том, как их формализовать. Что такое самоотверженность, например? Разрешать ли образу рисковать собой, спасая тонущего ребенка? Если да, не замаскирует ли он самоубийство под спасение? Если нет, то... нужен ли нам образ, равнодушно наблюдающий за гибелью других? - После паузы он добавил: - Боюсь, нам понадобится новая наука.
- Назовем ее цифровой этикой, - подхватил Дэн.
Мэдокс, сделав паузу, спросил:
- Адвокат, которого вы показали, что вы с ним сделали? Почему эта версия не покончила с собой?
- Мы ввели в алгоритм ограничения на случайные взаимодействия со сценой, - объяснил Андрей, - поэтому образ не находит тривиального решения. Но плата высока - образ не сможет развиваться полноценно. Второй закон эволюции.
Мэдокс вздохнул, сморщил нос - будто почувствовал неприятный запах, - провел рукой по лицу и задумчиво произнес:
- Вы ошибались, когда обещали мне полноценную цифровую личность. Так?
Десятки ответов вертелись у Андрея на языке, но он ответил просто:
- Да.
- Значит, цифровая имитация свободы воли приводит к самоубийству.
- Хорошо сказано, - пробормотал Боб.
Мэдокс усмехнулся, поднялся с кресла и прошелся по переговорной.
- Делаю вашу работу, мальчики.
- Джек, у нас к вам предложение, - сказал Андрей, волнуясь.
Мэдокс уперся в него взглядом.
- Какое же?
- Как вам образ заботливого дедушки?
- Что?
Как только Андрей начал говорить, он перестал волноваться.
- Сцену для образа мы готовили по материалам о вашей жизни, которые нам предоставили.
- Все это строго конфиденциально! - резко напомнил Джек.
- Разумеется, не вопрос, - поспешно ответил Андрей. - Мы, знаем, как вас любят внуки и как им нравится проводить с вами время. Если ограничить число персонажей в сцене, четко прописать социальные роли, то мы почти наверняка сможем избежать тривиального решения для образа...
- ...заботливого дедушки, - закончил Мэдокс.
- Именно. Думаю, мы найдем стационарное состояние.
Миллионер усмехнулся:
- Что ж, по крайней мере, вы не врете. Для руководителя стартапа уже неплохо. А во-вторых...
Остановившись напротив окна, он долго в него смотрел, а затем произнес:
- А знаете, это не так уж и плохо. Ваша неудача означает, что человек гораздо сложнее цифровых моделей. Иначе, - Мэдокс повернулся к остальным и подмигнул, - мы бы давно поубивали бы себя. Что-то нас удерживает от этого... Ладно, - он хлопнул ладонью по столу, - делайте дедушку!