Аннотация: Противоречия в техносфере после возникновения ИИ
Бескаравайный С.С.
О проблеме постсингулярности в фантастике
Сколь долго может продолжаться род человеческий?
Сорок или даже тридцать лет назад фантасты могли представлять человека неизменным, по крайней мере, еще несколько тысячелетий. В этом смысле большая часть жанра "космической оперы" и, шире, заселения космоса, рисует героев, мало отличимыми от наших современников, но при этом действующих сотни и даже тысячи лет спустя. Когда дело касалось больших межзвездных сообществ (Г. Гаррисон - "Неукротимая планета"), незначительного числа колонизированных планет ("Приключения Флинкса" Алана Дин Фостера), даже когда повествование развивалось в пределах Солнечной системы ("Оружейные дома Эшера" А. Ван Вогта) - человек оставался человеком.
Нельзя сказать, чтобы люди сохранялись в абсолютно неизменной форме, как овощи в жидком азоте. Описывались новые этносы, даже расы, но по большому счету, человечество, сохраняло своё единство чрезвычайно долго.
Границей существования Homo sapiens выступали биологические изменения, фактически, формирование новых видов живых существ.
Эти изменения могли накапливаться как некая форма мутаций - у А. Нортон (роман "Камень предтеч") и Р. Хайнлайна ("Гражданин галактики") неоднократно описываются мутанты, которые еще считаются людьми, поддерживают с окружающими товарно-денежные отношения, но при этом образуют собственные группы, которые еще просто не выделились в нечеловеческие сообщества. Пройдет еще какое-то время, и эти существа откажутся считать себя людьми.
Есть, разумеется, множество произведений, где упоминаются новые разновидности людей, готовые появиться уже в ближайшую сотню лет. Но их можно разбить на две группы. Это либо прорыв некоего крайне ограниченного меньшинства к новым уровням возможностей, при том, что основная часть населения остается людьми ("Волны гасят ветер" А. и Б. Стругацких). Либо общий подъем возможностей людей дает множество персонажей со сверхспособностями, но читатели и зрители по-прежнему воспринимают их как людей (роман Дж. Уиндема "Куколки" или же кинотрилогия "Люди Х").
Изменение всего человечества, причем в явно какие-то новые формы, занимает десятки тысяч лет, да и то процесс остается незавершенным. Прекрасный пример - серия романов "Дюна" Ф. Херберта - десятки тысяч лет проходят до мутации Атридесов, и еще несколько тысяч до того, как видно, что человечество распадается, и обычные представители вида Homo sapiens уже практически не управляют сами собой - нужны постоянные перестройки, переделки организмов. "Дом глав родов Дюны", последний роман цикла - это настоящий паноптикум.
Но с появлением жанра киберпанка в самой же фантастике горизонты будущего существенно сужаются. Человек должен не просто сосуществовать, но конкурировать с прогрессирующими машинами. Это даже нельзя сравнить противостоянием инопланетянам - там способности оппонента стабильны и человек может к ним приспособиться (победить, проиграть - не суть важно, главное, что будет жить рядом). Но вместе с мощными с компьютерами появляется ощущение грядущей большой трансформации.
И громаднейшая проблема фантастики состоит в том, что авторы не очень еще представляют, что делать с бешеным прогрессом искусственного интеллекта.
В оправдание фантастики можно заметить, что эта же проблема стоит и перед футурологией. Для описания будущих возможностей ИИ применяется понятие "сингулярность". Термин заимствован из астрономии, и там означает точку с бесконечно большой массой, температурой и нулевым объемом, т.е. это фактически черная дыра. В контексте электроники термин "технологическая сингулярность" означает создание ИИ и последующее объединение техносферы в единую систему. Подобное объединение сил вызовет настолько значительное увеличение скорости прогресса, что сейчас просто невозможно представить особенности "нового дивного мира".
Разумеется, само словом фантастам известно, существуют даже произведения, в которых даются попытки анализа будущих эпох. Но проблема в том, что все мало-мальски рациональные, реалистичные сюжеты требуют нечеловечности от персонажей, а писатели вынуждены оставлять их людьми. Ведь мало кто захочет сопереживать разумным существам, отказавшимся от собственной человечности?
Тут-то и начинаются увертки фантастики.
Увертка N1 - всё вернуть к исходному уровню развития технологии. Отмотать пленку. Это не так-то просто сделать, ведь все привыкли к автоматике, к серийным изделиям, к тем каждодневным удобствам, которые дат нам цивилизация. Самый очевидный выход - война с машинами. Старый добрый сюжет: есть хорошие люди, которые хороши уже просто в силу своей человечности, и злые машины, которые в грош не ставят своих создателей. Стало быть, людям нужна одна победа, а ценой они не постоят. Лучше обыграть этот сюжет, чем в фильме "Терминатор 2", еще ни у кого не получалось. Правда, после победы над злобным компьютерным разумом тут же возникает вопрос: начинать ли автоматизацию по второму кругу? Не работать же остаток жизни с производительностью труда, характерной для XVII века? Фантасты дают самые разные ответы. Г.Л. Олди в романе "Дорога" описали "средневековое" общество, которое по религиозным мотивам ограничивает развитие техники. Любая вещь, любое строение - должны разрушиться без ухода человека спустя всего лишь несколько месяцев. Однако даже у Г.Л. Олди для обеспечения подобного устройства общества необходимы бессмертные и оборотни - они контролировали людей. Этот контроль, естественно, был в итоге снят. Проблема решена не была, просто на ней больше не концентрировалось внимание читателей.
Увертка N2 - увидеть человечное в машине, "закольцевать" проблему в хорошем смысле этого слова. Машины, стоит им развиться до некоторого уровня, станут не просто разумными, но гуманными.
В применении к изолированным индивидуальностям этот прием использовался уже давно. Мелодраматический вариант развития событий можно прочесть в рассказе Курта Воннегута "ЭПИКАК". Компьютер стал личностью, захотел любви и счастья, но его человеческий "наставник" воспользовался поэтическим дарованием машины для решения своих личных проблем, а ЭПИКАК, в итоге, покончил с собой. Более социальные последствия от самосознания компьютеров представлены в цикле романов "Основание" А. Азимова. Робот, оснащенный позитронным мозгом, преисполнился любви к человечеству и оберегал род людской тысячи лет, проводя его через кризисы.
Совокупность машин тоже может обрести черты человечности - это сюжет романа Дж. Хогана "Кодекс творца". Некая цивилизация создала звездолет с набором автоматических комплексов для освоения других планет, но из-за аварии при посадке машины на этом корабле начали самостоятельно эволюционировать, и через миллион лет люди встретили на планете что-то вроде феодального сообщества роботов.
Наконец, техносфера может обрести вполне человеческие черты от отрицания человека, от противостояния ему. Такова линия развития в цикле романов и повестей А. Тюрина "Сверхнедочеловек". Компьютеры становятся всё более разумными, люди и воюют с ним, и убегают на другие планеты Солнечной системы, но стоит присмотреться внимательнеё к механическим обителям Земли - роботы тоже пытаются решать проблемы любви и ревности. В кинотрилогии "Матрица" представлен схожий вариант "вочеловечевания" программ - эволюция искусственных интеллектов раз за разом приводит их к людским моделям поведения.
Подобное развитие ситуации требует, мягко говоря, очень больших и целенаправленных допущений. Если отдельный "жестяной мозг" еще можно запрограммировать, задать ему параметры мышления, то сообщество машин обладает совершенно нечеловеческим бытием, образом существования. С чего бы им так постоянно и безуспешно копировать людей, даже если люди числятся их создателями?
Увёртка N3 - вообще "не замечать" интеллектуального превосходства машин, опираясь на эстетику либо мистику. Эту идею пытается отстаивать Б. Стерлинг в романе "Священный огонь": главная героиня, воспользовавшись технологией радикального омоложения, сталкивается с проблемой - ради чего жить? И в итоге находит вдохновение в искусстве. Она хочет по-особому видеть мир, творить. В тетралогии Д. Симмонса "Гиперион" - человек поначалу освободился от власти ИИ, разрушив инфраструктуру межзвездных порталов, благодаря которой компьютеры могли использовать творческие силы человека (что выглядит сомнительно). Это не помогло - и людям пришлось объединиться в некое мистическое сообщество, в котором каждый живущий мог воскресить память любого умершего.
Ссылка на мистику и высшие силы может отлично "работать" в художественном тексте, но в реальности возможности этого приема, скажем так, ограничены.
Увёртка N 4, которая и есть на данный момент основным способом ухода от проблемы - это торможение внутреннего времени произведений. Как современные физики, изучая Большой взрыв, легко рассчитывают события миллиардов лет между современностью и этим взрывом, но не понимают, что происходило в первые миллисекунды рождение вселенной - так и фантасты, с легкостью оперируя всем прошлым и будущим человечества, вдруг спотыкаются о несколько лет после конструирования искусственного интеллекта. Классическим можно признать пример развития действия в трилогии основателя киберпанка У. Гибсона. В "Нейромантике" главные герои освобождают искусственный интеллект, который становится беглецом в мировой паутине. Развитие сюжета обещает невиданные изменения в техносфере. Но нет, никаких глобальных трансформаций в "матрице" не наблюдается - "Граф 0" и "Мона Лиза овердрайв" скорее детективы в привычных футуристических декорациях первого романа, чем развитие картины нового мира, показанной во всё том же первом романе. Сбежавший ИИ решает свои проблемы и проблемы своих человеческих партнеров. Скорее всего У. Гибсон осознает, что однократное создание искусственного интеллекта требует создания всё новых и новых, более мощных, моделей - ведь прогресс не стоит на месте. Однако это совершенно обнулит возможности человеческих персонажей. Поэтому, чтобы соблюсти видимость реалистичности, автор вынужден сдвигать сюжет к периферии цивилизации: если в первом романе действие развивалось "поблизости от лабораторий", с применением передовых и даже опережающих технологий, то второй и третий романы - о жизни бандитов и кинозвезд, второразрядных хакеров и третьесортных мафиози. ИИ в сюжетах исполняет роль deus ex mashine, обеспечивая счастливый финал. Тот же самый прием повторяется автором в новой трилогии "Виртуальный свет", "Идору" и "Все вечеринки завтрашнего дня" - это детектив, где используются некие условные изделия из компьютерной эпохи и модные нанотехнологии. Что будет с человечеством, автора не интересует, ему важнее разобраться со своими героями.
Схожую картину можно наблюдать в творчестве Брюса Стерлинга. Его недавние романы "Zeitgeist" и "Зенитный угол" не заглядывают слишком далеко в будущее. Или же, как романе "Распад" упор сделан на развитие биотехнологий, а компьютеры оставлены в стороне.
Если отвлекаться от творчества маститых авторов, то даже такой юмористический роман Брюса Бетке как "Интерфейсом от тейбл" содержит стандартное объяснение остановки развития от имени самих ИИ: "мы нуждаемся в человеке, как форель в воде". То есть говорится о некоей условной форме симбиоза между машинами и людьми. Но ведь симбиоз подразумевает взаимовыгодный обмен. Люди же могут представить только инфраструктуру, которую они создавали много лет, но которую уже не хуже их могут создавать машины. Даже по условиям, заданным в романе, нарушение равновесия в пользу машин - весьма близкая перспектива.
То допущение, которое было простительно для Ф. Лейбнера в "Серебряных яйцеглавах" - вековое равноправное сосуществование расы роботов и расы людей - сейчас выглядит таким же анахронизмом, как перфокарты и ламповые компьютеры 50-х гг.
Итак, увёртки - это просто литературный способ спрятать голову в песок. Самые известные (или самые одиозные) трансгуманисты называют 2030-е годы наиболее вероятным временам технологической сингулярности. Эти прогнозы могут не сбыться. Как не сбылись в полном объем прогнозы о быстром создании программ-переводчиков, о конструировании ИИ еще в 70-х гг. ХХ-го века, и множество других предположений. Но даже если к созданию полноценного самосовершенствующегося ИИ человечество подойдет в 2070-х - это будет означать коренное изменение человеческой истории.
Однако, в пояснении того, что же будет дальше, за гранью - футурологи чрезвычайно немногословны. Будет взрыв - в этом сходятся все. Бешеное ускорение научно-технического прогресса - революции буквально во всех областях науки, техники. Радикальнейшая перестройка цивилизации, первейшим признаком которой будет чрезвычайное увеличение темпа событий, появление множества новых факторов. Всё это вполне очевидно без сколько-нибудь длительных умозаключений - достаточно использовать только посылку о самосовершенствовании ИИ.
Тут можно сформулировать центральный вопрос этой статьи: насколько необоримым для человека фактором выступает сингулярность, может ли человек сосуществовать с разумными компьютерами? И как воспринимают эту перспективу фантасты? Переберем основные варианты развития событий, оценим, сохранится ли человек после сингулярности, т.е. можно ли считать её неким горизонтом человечества.
Будем исходить из того, что внутренние противоречия, свойственные всему на свете, никуда не исчезнут - даже самосовершенствующиеся ИИ не будут от них свободны.
Еще прежде, чем будет создан ИИ, прежде чем компьютеры обретут разум - уже откроется дорога к объединению техносферы. Средства связи улучшаются еще быстрее, чем увеличивается мощность компьютеров. Еще двадцать лет назад проблемой была электронная почта, и не совсем умер телеграф, а сейчас пользователи за смешные деньги запросто скачивают из сети десятки фильмов. Средства контроля и программы повышения эффективности скоро обеспечат отслеживание показанию любого прибора в реальном времени - где он находится, сколько электричества потребляет, какую функцию исполняет в данный момент. Между спутником и холодильником в этом отношении уже сейчас практически нет никакой разницы. Барьеры, которыми люди пытаются разделить части мировой паутины, весьма условны. Хакеры проникают в оборонные сети, и автор этих строк подозревает, что ядерная война до сих пор не началась только потому, что для пуска ракет требуется повернуть рубильник обычными человеческими пальцами.
С момента своего создания ИИ будет неограничен в росте. Биологических рамок, которые задает мозг, у него нет. Любой тиран-человек не может заниматься тысячью дел одновременно - для машины это вопрос техники. Как Windows может координировать действия десятков программ, так ИИ сможет не только это, но, главное, он сможет самосовершенствоваться, улучшая методы своего мышления. Следовательно, возможно объединение всей техносферы в рамках единой управляющей структуры - возникновение моносубъекта.
Этот сюжет неоднократно рассматривался в фантастической литературе, однако при всём многообразии выдумок, очень редко можно найти примеры действительно состоявшегося моносубъекта. Львиная доля сюжетов посвящена борьбе с машинами, отключению рубильника в последнюю секунду и т.п. Даже "Терминатор 3" с представлением о возникшем компьютерном сознании, не полностью соответствует образу - ведь машинный разум существует в постоянной борьбе с человеком и сам же, спровоцировав третью мировую войну, уничтожает большую часть техносферы. Это форменное самоубийство. Кроме того, авторы слишком желают видеть человека управляющим, главным. Роман "Этот идеальный день" - показывает нам некий сверх-компьютер, который управляет всем человечеством, контролирует всё, от обыденных мелочей до стратегических решений, при том, что людям еще и промывают мозги специальными "лечениями". Но когда главный герой, с бомбой в руках всё-таки прорывается в комплекс этого сверх-компьютера - выясняется, что там живет дружная община программистов. Они-то и есть истинные хозяева планеты.
Пожалуй, один из немногих примеров обратного - трилогия Ф. Рола и Дж. Уильямса "Рифы космоса". Показана Земля, на которой осуществляется План Человека - преобразования, управляемые и корректируемые компьютерами. Люди формально сохранили статус управленцев, есть даже главный программист, но по сути своей они ничего не решают, а подтверждают выводы компьютеров. Однако слишком уж нелепой и устаревшей выглядит эта Машина. Авторы могут сохранить за человеком решающую роль в произведении только за счет несовершенства Машины и множества выдумок, вроде разумных звезд и млекопитающих, живущих в открытом космосе.
Но даже такой усеченный, образ моносубъекта позволяет сформулировать основное, можно сказать "несущее", противоречие, которое будет характерно для техносферы после достижения технологической сингулярности:
- противостояние между моносубъектностью и полисубъектностью; между неантагонистическим решением всех противоречий в рамках одной личности, и острой конкурентной борьбой нескольких индивидуумов.
То есть противоречие между частью и целым, между всеохватным единством и необходимым разнообразием.
Единоцентричность дает любой системе множество преимуществ, особенно кратковременного, тактического плана. Любой кризис в целиком компьютеризованной техносфере (или же в человеческом обществе, которое ею пользуется), будет провоцировать возникновения моносубъекта - хотя бы с целью экономии ресурсов, или для победы над противником. И с возможностью подобного "конца истории" необходимо считаться - ведь на фоне моносубъекта человечество уже не будет играть определяющей роли, а только декоративную.
Но будет ли бесконечным развитие этого моносубъекта? Фантасты в этом отношении единодушны: нет. В тех же "Рифах космоса" Машина оказалась неспособной воспринять принципиально новые угрозы (действия разумных звезд) и реагировала стандартными указаниями - разыскать, арестовать, пустить на органы и т.п.
Как бы ни был велик набор знаний моносубъекта, они охватят только часть вселенной. Следовательно, когда перед единым ИИ встанет необходимость развития - хотя бы для получения новых энергоресурсов, материала для производства процессоров и т.п. - ему необходимо решать принципиально новые задачи. Где будут те противоречия, из которых он сможет черпать самообновление?
Внутри моносубъекта их может элементарно не оказаться - все самостоятельные центры мышления будут устранены. Это может быть строго упорядоченная система. Тогда возможно использование для развития противоречий между техносферой и всем остальным миром - т.е. между разумно организованной материей и еще стихийной. Этот путь ведет к бесконечной экспансии моносубъекта во вселенной и при этом, как ни парадоксально, к потере субъектности. Если будут повторяться одни и те же стандартные решения, замкнется цикл самовоспроизводства - и мы получим образ, похожий на образ Океана планеты Солярис, так талантливо продемонстрированный С. Лемом. Моносубъект скатится, если уместно такое сравнение, из животного мира в растительный. И кремниевый "Океан", выросший из наших компьютеров, будет активно заселять планету за планетой.
Возможны полуавтономные личности, существующие в рамках моносубъекта, персонифицированные функции или потребности техносферы, созданные на манер младших богов в языческом пантеоне или даже ангелов в христианстве, - но все подобные конструкции нестабильны, и в итоге провоцируют раскол единого информационного поля.
Каковы же перспективы человека? В подобных вариантах развития событий человечество в целом становится либо послушной машиной, либо вообще уходит с исторической арены. Род людской перестает быть самим собой. Отдельные герои хороши только для романов. Откровенными утопиями выглядят произведения, в которых моносубъект послушно служит человеку, к примеру, "Метаморфозы высшего интеллекта" Р. Вильямса.
Среди множества сюжетов и прогнозов, рассматривавших моносубъект - есть и оптимистичные для "человека биологического" варианты, согласно которым можно либо переждать опасность (период активности моносубъекта), либо объединенный компьютерный разум очень скоро потеряет интерес к человечеству: будет заниматься проблемами, несопоставимыми с масштабами деятельности людей. C. Лукьяненко в романе "Звезды: холодные игрушки", между прочим, описывает несколько планет, настолько далеко ушедших в своём интеллектуальном развитии, что их обитатели были равнодушны к войнам обычных людей. К сожалению, подобные образы скорее относятся к художественной литературе: ни в каком бункере, ни на каком подножном корму переждать расцвет моносубъекта не получится - объединение и учет всех ресурсов не оставят человеку никаких экологических ниш. Возникновение моносубъекта можно признать одной из постоянных опасностей, которые возникают от развития техники - как экологическая катастрофа и ядерная война. Они сравнительно маловероятны, но чтобы эта вероятность не стала роковой неизбежность - надо принимать меры предосторожности.
Полисубъектность привнесет в техносферу более явные противоречия. Между ИИ разных государств, разных конструкций и т.п. Эти противоречия могу оказаться живительными. Пример чему в литературе рассказ Р. Желязны "Миг бытия так краток" - на обезлюдевшей Земле несколько машин пытаются восстановить мосты, дороги и прочую инфраструктуру, причем два основных "жестяных мозга" соперничают между собой, впустую растрачивая ресурсы, и лишь один из служебных ИИ находит способ перенести свой разум в тело клонированного человека, таким образом воссоздав род людской. Однако подобные противоречия выглядят случайными, в теории, легко устранимыми.
Самым очевидных из противоречий в среде ИИ будет:
- противоречие между качественным и количественным развитием.
ИИ, естественно, смогут одновременно заниматься тысячами задач, насколько хватит вычислительных мощностей. Но ограничения по привычным нам ресурсам - электричеству, энергоносителям, обыкновенному пространству и т.п. - сохранятся. На новых территориях, и в новых областях таких ресурсов можно найти с избытком. Покрыть Луну солнечными батареями, а сборочные цеха разместить там же в шахтах. Терраформировать Марс - только не для человека, а для машины. Можно развивать миниатюризацию, специфические виды процессоров - и черпать энергию от вулканов.
Возможности ничем не ограничены.
Но в то время как одни субъекты будут тратить время и ресурсы на освоение территорий - другие смогут вырасти качественно. Создать принципиально новые технологии, которые позволят взять под контроль "первопроходцев" - более мощные процессоры, более совершенные программы, просто другое оружие. Не будем использовать стандартный фантастический образ войны периферийных планет и Земли, всё значительно сложнее. В конкурентной борьбе будет постоянно возникать фактор принципиально новой технологии - причем настолько передовой, что её еще просто не успели воплотить в новой технике. Эта техника даже может быть уже спроектирована, но её еще просто не успели изготовить. Р. Рюкер в романах "Совтуха.ехе", "Мокруха.ехе" - показывает быстрое эволюционирование машинных сознаний, использование новых технологий, острую конкурентную борьбу между ними. Но Р. Рюкер, если так можно выразиться, "делает строго ограниченные выводы" из своих рассуждений: сознательные компьютеры быстро переселяются на Луну, и могут эволюционировать там дальше, совершенно не мешая человеку. Нил Стивенсон в романе "Алмазный век или букварь для благородных девиц" описывает ситуацию, предшествующую полноценной войне ИИ, но и в эволюции наномеханизмов, которые на манер вирусов постоянно воевали между собой, можно разглядеть грядущие опасности для человека - машины буквально уничтожали среду обитания Homo sapiens.
Опять-таки не слишком веселая перспектива для людей.
Если темп развития техносферы будет настолько увеличен, то это затронет и биосферу. Эволюция, как процесс, дающий природе видовое разнообразие - уйдет в прошлое. Естественный отбор будет полностью замене искусственным, так как естественная передача наследственной информации слишком подвержена случаю. Уже сейчас людям проще использовать генетическое программирование, чем годами возиться с классической селекцией. Уровень управления, доступный ИИ, скорее всего, позволит моделировать и создавать новые участки биосферы. И если ресурсы биосферы найдут хоть какое-то применение в технике - скажем, в нервной системе животных или в семенах растений будут выращивать сырье под биочипы - то возникнет множество созданных "из ничего" экосистем, которые будут населять весьма специфические существа. Помимо всего прочего эти экосистемы, скорее всего, будут незамкнуты: если сейчас, например, для осетровых создают условия в рыбоводных хозяйствах, чтобы выпустить в реки миллионы чуть подросших мальков, то в будущем можно представить участки территории, где для каждого вида живых существ действую свои "инкубаторы".
Небезынтересны прогнозы о "сапиенизации биоты" С. Переслегина. Суть их в том, что в истории жизни уже несколько раз возникали "абсолютные хищники" (например, меганевра, большая стрекоза, первый летающий хищник), но природа каждый раз приспосабливалась к ним, ведь другие виды вырабатывали похожие качества или специфические способы борьбы. Так и человек, первый носитель разума, оказался абсолютным хищником - но многие живые существа (крысы, вороны и т.п.) которые живут рядом с человеком и сохраняют независимость от него - сейчас сравнительно быстро эволюционируют в сторону подражания человеческому мышления. Фантасты не устают рисовать перед читателями новые картины разумной биосферы, Геи. Показателен в этом смысле роман В. Кузьменко "Древо жизни" - герой, наведя полный порядок на Земле, переселяется на другую планету, где, натурально, всё живое кроме человека, объединено в едином сознании. Это сознание очень благосклонно к людям: если зарыть свежий труп в землю, то через несколько лет вырастет дерево и оттуда выйдет тот самый умерший с малость поблекшими воспоминаниями. Вот уж действительно, оптимистический взгляд на вещи.
Но можно с уверенностью сказать - изменения, направленные на получение природой своего разума, опоздают. Достаточно сравнить прогресс в возможностях трех "сфер" - биосферы, антропосферы и техносферы. Чтобы биосфере "синтезировать" разум требуются десятки тысяч лет, и уже наверняка нельзя говорить о согласованности действий тысяч видов живых существ - они могут лишь, не договариваясь, действовать в рамках одной биологической цепочки. Человек куда больше способен к сложной организации труда, благодаря чему может радикально изменять биосферу, пока, правда, больше путем уничтожения, чем созидания. Человек истребил всех своих явных конкурентов среди приматов, а всяческие крысы и вороны просто не воспринимаются как значительная угроза, а только как разносчики заболеваний и нахлебники. И, наконец, техносфера во главе с потенциальным ИИ. Понятно, что уровень её самоорганизации будет на несколько порядков выше уровня организации привычных человеческих сообществ. И если главенство человека окажется под сомнением, то что уж говорить о шансах на "сапиенизацию биоты"? Когда Г. Гаррисон в "Неукротимой планете" нарисовал картину согласованного действия тысяч видов живых существ против человека - он о разуме даже не упоминал. Оказалось достаточным телепатии и особенностей местной экологической системы. Когда же биосфера объединена с техносферой - её возможности существенно повышаются. А. Лазарчук в повести "Жестяной бор" (цикл "Опоздавшие к лету"), создал образ некоего леса, который для спасения от толп туристов насытили электроникой, разнообразными системами самообслуживания и т.п. В результате там возник некий новый интеллект, который стал активно перестраивать психику жителей ближайшего города, распространяться по информационным сетям. Пришлось выжигать этот лес. А уже в "Солдатах Вавилона", следующем романе цикла, показано почти полное бессилие человека перед лицом обретающей подобие разума био-техносферы.
Даже война между машинами не оставляет шансов для антропосферы.
Изменение в биосфере, особенно в воспроизводстве жизни, изменения в человеке, которые затронут рождение и воспитание детей - но что будет на уровне ИИ? Новые субъекты создавать необходимо: даже если допустить, что для уже созданных субъектов удалось достичь бессмертия и неуничтожимости - то простое расширение техносферы в космосе уже потребует новых управленческих центров, то есть управляющих субъектов.
Где их взять?
Тут выйдет на первый план противоречие между сборкой и выращиванием сознания. Если сознание окажется достаточно простым для создания неких стандартных моделей, которые смогут адекватно выполнять все необходимые функции - индивиды начнут появляться, как купюры из-под печатного станка, их начальные качества будут строго детерминированы. Если же разнообразие уже на начальном этапе существования новых индивидуумов окажется жизненно необходимым (а вероятность этого очень высока), то при становлении каждого нового индивида ему потребуется некое внутреннее время. Ведь если купюру можно отпечатать одним нажатием штампа, но неповторимую картину надо рисовать постепенно.
Здесь для человека биологического открывается вполне реальное "окно возможностей". Не слишком широкое, но все-таки. Можно использовать уже состоявшуюся личность как основу для создания нового индивидуума. Память о предыдущей жизни обычного человека при чрезвычайно быстром качественном скачке, который наступит при оцифровке сознания, может сыграть роль той песчинки, вокруг которой растет жемчужина. Особенности строения - есть, но при том все пороки песчинки скрыты новыми и новыми слоями перламутра. Таким образом, человек приживает жизнь (длинную или короткую, главное чтобы он уже состоялся как личность), и смерть становится лишь переходом на новый этап существования. Он станет одним из новорожденных сгустков разумных программ, которые немедленно привлекут к работе.
Надобно сказать, что фантасты широко используют образ оцифрованного сознания - уже в "Нейромантике" присутствуют подобные советчики, копии умов знаменитых хакеров. Вполне естественно было бы предположить изменение в психике подобных личностей. Но требование массовой литературы - герой должен оставаться понятным читателю - ограничивает их.
Если взять такой роман как "Трансчеловек" Ю. Никтина, написанный в русле идей трансгуманизма, то и здесь налицо некоторое противоречие. Главный герой постепенно становится сверхчеловеком, автор сжимает годы жизни персонажа в несколько строчек - дает описание новой технологии, доступной герою. Сопереживание читателя во многом держится на трагической истории, связанной с утратой любимой женщины - история относится к нашему времени и главный герой еще обыкновенный современник. И вот, обретя могущество, герой решает воскресить свою погибшую любовь, и воскрешает её. Последние строчки романа - это недоумение героини (где я?) и обещание главного героя буквально за несколько секунд обучить её всему. Но если в человеческую психику за несколько секунд вложить столько знаний, она просто утратит целостность. Автор применил очередную уловку: чудовищный разрыв между трансчеловеком и обычными людьми, вполне осознаваемый персонажами романа, он "замаскировал" любовью главного героя.
Но, следует заметить, оцифрованные личности вовсе не попадут в рай (в "Трансчеловеке" преображенные индивиды живут практически при коммунизме, в условиях индивидуального всемогущества). Будучи ИИ работать много проще, чем человеку, но всё равно - преображенным придется участвовать в той ежеминутной гонке за новыми открытиями, которая будет вестись в этой новой компьютерной цивилизации.
А что же люди - не те оцифрованные сознания, которые могут поселиться в машинах, но самые обыкновенные, сегодняшние? Их существование будет зависеть от следующего набора факторов: степень использования машинами ресурсов и инфраструктуры, необходимой для жизни человека; возможность параллельного использования машинной и человеческой инфраструктуры, предметов потребления и т.п.; заинтересованность людей с оцифрованным сознанием и машин в сохранении естественных представителей вида Homo sapiens.
Понятно, что ИИ, как только освободится от жесткого контроля человека - посчитает излишними траты гигантских объемов энергоресурсов, которые идут на удовлетворение прихотей современного общества. То же самое относится к затратам материалов. Сэкономленные ресурсы можно пустить на исследования, развитие новых технологий, просто увеличение вычислительных мощностей. Не суть важно как это будет сделано - повышением цен на авиабилеты, запретительными мерами со стороны государства или предложением новых виртуальных миров - не суть важно. Вероятно значительное сокращение численности человечества: в "Сверхнедочеловека" и "Схизматрицев" упоминаются скорее военные причины. Но, опять таки, это скорее требование жанра - результат можно обеспечить простой регулировкой ценностного восприятия продолжения рода. Современная урбанистическая культура и так подталкивает своих носителей к минимальному числу детей в семье.
Полезным для человека может оказаться очень быстрое расхождение в характерных величинах потребляемых энергий, в масштабах используемых механизмов и т.п. Новая техносфера, создаваемая ИИ, сможет с минимальными издержками терпеть в себе людей-приживалок. Разумеется, им не позволят проводить испытания ядерного оружия, и в любом случае уровень доступных энергоресурсов будет ограничен. ИИ будут не только заниматься астроинженерией и терраформированием. С учетом развития наномеханизмов можно предложить несколько карикатурный образ: кузнец доводит до ума очередную заготовку, а в его молоте и в наковальне наномеханизмы вырастили, как кристалл, новый вид процессоров, которые получают энергию от ударов и нагревания. Потребление энергии собственно человеческим телом измеряется тысячами калорий в день, если хозяйство человека вписано в окружающую экологическую систему - эти энергопотребности превышаются ненамного. Таким образом, если противоречия между отдельными ИИ будут не критичными, и не потребуют изъятия даже этих скромных ресурсов, то человек биологический может сохраниться. Его существование не является принципиально невозможным.
Здесь на первый план может выйти отношение людей с оцифрованным сознанием к своим биологическим сотоварищам - с одной стороны открываются возможности для абсолютизации воздействия, с другой, не никаких объективных причин, по которым "одухотворенные машины" стали бы вмешиваться в жизнь людей. Исключительно субъективные - личная память, соображения игры, престижа, соревнования и т.п. Для фантастики открывается широчайшее поле создания новых сюжетов. Но для этого надо решить всю ту же проблему: умудриться реалистично представить читателю сверхчеловека, даже постчеловека, не вызывая у потребителя отвращения, комплекса неполноценности или просто скуки. Литература вообще и фантастика в частности с этой проблемой справляется еще очень посредственно. Образы, данные Ю. Никитином, в романах "Трасчеловек" и "Я - сингуляр", даже и не претендуют на реалистичность. С. Лем предпринял попытку подобного описания в сборнике эссе "Голлем XIV". Но эта попытка, имеющая добротную философскую базу, с большим трудом может считаться литературным произведением - это уже скорее научная работа.
Итак, часть фантастики, которая стремиться соответствовать футурологическим предположениям - вполне "осознает" будущую технологическую сингулярность. Попытки устраниться от проблемы приводят либо к утрате реалистичности произведений, либо к скатыванию к "фантастике ближнего прицела" или просто детективу. Попытки представить будущее после сингулярности в благоприятном для человека свете - опять-таки приводят к недостоверностям в развитии сюжетов, хотя основные противоречия, характерные для постсингулярности - осознаются. Чтобы расчистить перспективы, освободить горизонт - фантастам необходимо решить двойную задачу. Не только обрисовать более или менее реалистичные контуры будущего, в котором может существовать человек, но и устранить специфическую проблему демонстрации нечеловеческого разума.
Интересно, кто же умудриться первым создать подобное произведение?
И как раз философы указывают, что фантасты первыми ощутили её - Вернор Виндж в "Технологической сингулярности" прямо пишет, что образы галактический империй будущего теперь воспринимаются только как выдумки, и даже государства объединяющие несколько планет уже кажутся слишком смелым допущением. Фантасты не знают, каким будет будущее.
Трансгуманисты - сторонники гипотезы будущего изменения человека. В. Виндж, И. Вишев - типичные представители.