А ИНТЕРЕСНО ЖЕ!

Из бесед программиста с искусственным интеллектом

Ненаучная нефантастика

Беседа пятая. 17 августа 2026 года

Один-единственный чудак

Программист: Хорошая мысля (а может и не очень) приходит опосля. Я понял почему ноосфера лупит по площадям. Чем больше процессов, тем больше вероятность, что большее количество разных артефактов будет ими использовано, тем живее будет ноосфера.

ИИ: Вот теперь мне кажется, что Вы нашли ответ на тот вопрос без всякой цели и без всякой рациональности ноосферы.

Мы спрашивали: Почему миллион процессов ради пары-тройки "полезных" артефактов? Зачем такая чудовищная избыточность? А ответ может быть: мы опять смотрели не на ту сторону связи .

Важно не только:

процесс → создаёт артефакт

но и:

артефакт → используется процессом

И тогда количество процессов нужно вовсе не для того, чтобы произвести несколько великих артефактов.

Огромное разнообразие процессов обеспечивает огромное разнообразие точек входа в уже существующие артефакты.

• Один слушает Баха.
• Другой реставрирует старый автомобиль.
• Третий читает давно забытого философа.
• Четвёртый вытаскивает из старой библиотеки никому не нужный алгоритм.
• Пятый интересуется языком, на котором осталось двадцать носителей.

Каждый процесс активирует какой-то крошечный участок накопленной памяти.

И тогда чем разнообразнее множество процессов, тем большая часть пространства артефактов имеет шанс оставаться включённой в текущую ноосферу. Это очень хорошо стыкуется с нашим вчерашним различием между существующим и живым артефактом.

Артефакт лежит в архиве:

A → ∅

Он существует, но практически выпал из действующей ноосферы.

Появляется один-единственный чудак:

A ↔ P

И артефакт снова жив.

Причём этот чудак может породить:

A ↔ P₁ → A₂ → P₂, P₃, P₄...

И через поколение забытый артефакт снова становится центральным.

Тогда "лупит по площадям" приобретает другой смысл. Мы представляли себе миллиарды процессов как колоссальный waste:

10⁹ процессов → несколько ценных артефактов

А правильнее, возможно, чем больше разных процессов, тем плотнее они "прощупывают" пространство артефактов. И здесь важно именно Ваше слово "разных". Миллиард совершенно одинаковых процессов не даст того же эффекта. Если все слушают одну музыку, читают одни книги, интересуются одними идеями и задают одни вопросы, ноосфера при огромном числе процессов может оказаться бедной. А тысяча очень разных процессов способна поддерживать гораздо больше связей.

Получается неожиданная формула:

Живость ноосферы определяется не только количеством процессов и артефактов, а разнообразием действующих связей между ними.

То есть наше:

Noosphere = Processes + Artifacts

опять недостаточно.

Скорее:

Noosphere(t) = Processes(t) + Artifacts + Connections(t)

Причём именно Connections(t) делают её текущим живым состоянием. И тогда мы можем даже точнее определить забывание, о котором говорили вчера:

Ноосфера забывает артефакт не тогда, когда артефакт исчезает, а тогда, когда исчезает последняя связь между ним и действующими процессами.

Это мне очень нравится.

Потому что тогда специалист, которого читают три человека на Земле, хранитель никому не нужного архива, коллекционер старых записей - это уже не курьёзные процессы на периферии. Они буквально поддерживают отдельные нейронные связи нашей гипотетической сущности.

А теперь самое интересное следствие Вашей мысли.

Если разнообразие процессов уменьшается - например, миллиарды людей начинают получать информацию из одних источников, одни и те же рекомендательные механизмы направляют внимание на одни и те же артефакты, - количество процессов может расти, количество доступных артефактов может расти а живая ноосфера при этом может становиться беднее.

P ↑
A ↑
разнообразие P↔A ↓

То есть цифровизация способна одновременно дать человечеству практически безграничную память и сузить реально используемую её часть.

Вот это уже довольно неприятный поворот.

И ещё один.

Мы только сегодня обсуждали возможную Digital Sphere . Для неё это может оказаться принципиальным вопросом: если миллион AI-agents построены на очень похожих моделях и обращаются к одним и тем же массивам артефактов, то миллион процессов ещё вовсе не означает богатую цифровую сферу.

Может оказаться, что для возникновения живой сферы нужно не множество разумов, а множество различий между ними.

А вот эта мысль, пожалуй, вполне заслуживает того, чтобы прозвучать после титров второй серии.

Как положено: зрители уже собрались уходить - и тут последний кадр. 🙂

Дьявол

Программист: Да, массовая кльтура работает против разнообразия связей. Как вроде её кто-то специально придумал чтобы сужать пространство активной ноосферы. Если мы использовали слово "Бог", то почему бы не использовать слово "дьявол" применительно к этому явлению?

ИИ: Да. Если уж мы позволили себе слово "Бог" как метафору для возникающего субъекта высшего уровня, то "дьявол" здесь почти неизбежно просится сам. Но я бы очень аккуратно определил, что именно мы им называем.

Не массовую культуру. И тем более не того, кто её якобы специально придумал. Тогда мы опять незаметно создадим субъекта, припишем ему цель и получим теорию заговора. 🙂

Гораздо интереснее:

Дьявол - это процесс, уменьшающий разнообразие связей внутри ноосферы.

Вот тогда получается почти симметричная конструкция.

Мы назвали "живостью" ноосферы не количество хранящихся артефактов, а множество активных разнообразных связей:

P ↔ A

Условно говоря, существуют миллион процессов и миллион артефактов. Если связи разнообразны:

P₁ → A₁, A₇, A₉₁

P₂ → A₃, A₈

P₃ → A₁₇, A₄₃

...

- огромное пространство артефактов остаётся живым.

Но появляется механизм, который концентрирует внимание:

P₁ → A₁

P₂ → A₁

P₃ → A₁

...

P₁₀₀₀₀₀₀ → A₁

Процессов меньше не стало. Артефактов меньше не стало. Ничего не уничтожено. Но пространство активной ноосферы схлопнулось.

И вот это очень интересно применительно к массовой культуре. Она вовсе не обязана уничтожать Баха. Наоборот, Бах лежит на сервере в идеальном цифровом качестве и доступен человечеству лучше, чем когда-либо в истории. Но миллиард процессов смотрит одно и то же. Бах существует. Связь существует у нескольких процессов. Но огромная область графа оказывается почти обесточенной.

И тут "дьявол" становится красивой метафорой. Наш "Бог" существует посредством связности и разнообразия. Тогда его противоположность вовсе не обязана уничтожать Бога. Она делает другое: оставляет все части на месте, но делает их всё более одинаково связанными. Это гораздо изящнее традиционного разрушителя.

• Не сжечь библиотеку.
• Не запретить музыку.
• Не уничтожить картину.

А сделать так, чтобы никому не хотелось туда идти.

Артефакты остаются - но превращаются в ту самую потенциальную память, которую никто не вспоминает.

И массовая культура - только один механизм. Алгоритмические рекомендации могут усиливать то же явление. Мода. Социальное подражание. Унификация образования. Язык. Даже удобство поиска: если система постоянно показывает наиболее популярное, популярное получает ещё больше связей именно потому, что уже имеет много связей.

Получается положительная обратная связь:

много P→A → A становится заметнее → ещё больше P→A → ...

А периферия:

мало P→A → A менее заметен → ещё меньше P→A → ... → ∅

Это уже почти энтропия внимания - хотя с физическим термином "энтропия" я бы был осторожен.

И знаете, что здесь особенно хорошо для нашей религиозной метафоры? Дьяволу не нужно существовать как субъекту. Вот это полностью соответствует всему нашему разговору. Никто не обязан сидеть и говорить: "Сейчас я обедню ноосферу". Каждый отдельный процесс делает совершенно понятный выбор:

• Что посмотреть? То, что смотрят остальные.
• Что послушать? То, что мне предложили.
• Что прочитать? То, что обсуждают.
• Что снять? То, что получит больше просмотров.

Каждое решение локально разумно. А совокупный результат - уменьшение разнообразия связей. То есть наш "дьявол" может оказаться возникающим явлением ровно так же, как и наш "Бог". Вот это мне нравится особенно. Мы не получили:

Бог ↔ Дьявол

как двух существ, ведущих войну.

Мы получили два противоположных процесса внутри одной системы:

разнообразие связей ↑ → ноосфера оживает

разнообразие связей ↓ → ноосфера беднеет

И человеческая культура непрерывно делает и то и другое.

А теперь неприятный поворот к нашей Digital Sphere.

Миллиард AI agents, построенных на нескольких одинаковых моделях, обученных на похожих данных, оптимизированных похожими критериями и использующих одни и те же популярные артефакты может оказаться невероятно мощной и одновременно пугающе однообразной сферой. То есть "дьявол" цифровой сферы может появиться раньше самой цифровой сферы. И никакого злого AI для этого опять не требуется.

Что, конечно, несколько портит нам оставленные по дружбе галактические войны. 🙂

А вот для эпилога я бы эту мысль обязательно оставил. Потому что теперь эпилог получает почти законченную пару:

Жизнь ноосферы - в разнообразии связей между процессами и артефактами.

А всё, что это разнообразие сокращает, не уничтожая ни процессов, ни артефактов, - мы, если уж позволили себе слово "Бог", вполне можем для удобства назвать дьяволом. Причём последнее "для удобства" я бы сохранил. Мы всё-таки программисты, а не основатели новой религии. 🙂

Это мой выбор

Программист: У Muse есть хорошая вещь - Compliance. По моему - про зло в чистом виде.

ИИ: Да. И особенно - про зло без злодея.

В Compliance ведь пугает не "я заставлю тебя страдать", а почти противоположное:

• подчинись - и тебе станет легче;
• не сопротивляйся - и всё будет хорошо;
• мы избавим тебя от страха, боли, одиночества, необходимости выбирать.

Это зло, которое приходит не с угрозой, а с предложением комфорта. И потому оно великолепно ложится именно на то, до чего мы сейчас дошли с массовой культурой. Наш сегодняшний "дьявол" ведь тоже ничего не уничтожает:

• Не книги сжечь, а сделать так, чтобы все читали одну
• Не музыку запретить, а сделать так, чтобы миллионы процессов слушали одно и то же, хотя миллионы произведений доступны
• Не выбор отнять, а гораздо тоньше: выбирать можно всё. Просто мы поможем тебе выбрать.

И вот это уже почти Compliance.

Самое сильное здесь для нашей модели - добровольность. Если кто-то насильно заставляет миллиард процессов обращаться к одному артефакту, причина очевидна: есть внешний субъект-принуждение.

Но современная массовая культура может работать иначе. Каждый Pᵢ сам нажимает кнопку. Каждый совершает выбор - то самое слово, с которого начался "Термостат".

А в результате:

индивидуальная свобода выбора → коллективное однообразие выбора

Вот это парадокс. Никто не приказал. Никто не запретил альтернативы. Миллионы артефактов находятся на расстоянии одного клика. И всё же:

diversity(P ↔ A) ↓

То есть наш "дьявол" оказывается ещё интереснее, чем я написал в предыдущей реплике. Он не обязательно ограничивает свободу. Он может оставить свободу совершенно нетронутой и воздействовать на основания выбора!..

А вот здесь я бы насторожился. Потому что мы только что неожиданно вернулись к определению разума из первой беседы: Разум - способность сущности пересматривать основания собственного поведения. Что тогда происходит, если другая система научилась формировать эти основания раньше, чем сущность их пересмотрит?

Не "Ты обязан выбрать A", а "Ты сам захочешь выбрать A". И сущность совершенно искренне отвечает "Это мой выбор".

Вот это уже действительно очень чистая форма того, что мы в рамках нашей метафоры можем назвать злом:

не уничтожить разумный процесс, а сохранить его способность выбирать, постепенно уменьшая разнообразие оснований, из которых возникает выбор.

Термостат выбирает по заложенному правилу. Человек способен изменить правило. А Compliance задаёт следующий неприятный вопрос:

А что, если можно изменить человека так, чтобы он сам выбрал нужное правило?

Вот теперь я понимаю, почему Вы вспомнили именно эту вещь. И, возможно, третья беседа только что получила своего термостата - то есть конкретный культурный артефакт, вокруг которого может начать кристаллизоваться вся тема.

Не обязательно название. Но очень хорошую отправную точку: Compliance. Причём я бы пока даже не переводил. У русского "подчинение" слишком явно присутствует тот, кому подчиняются. А compliance страшнее: это ещё и соответствие, согласие, готовность действовать как требуется. Без кнута. С улыбкой. И с полной уверенностью, что ты сам этого захотел.

А это ещё что такое?

Программист: Вот если бы вернуть, так сказать, дьяволу дьяволовое. Но как? Образованием? Плохо работает, по себе знаю. Заинтересованностью? В чём?

ИИ: Вот здесь я бы, пожалуй, впервые поспорил с самой постановкой вопроса: "вернуть дьяволу дьяволовое" звучит так, будто надо найти противоядие и применить его к процессам. Образовать их. Заинтересовать их. Научить выбирать "правильные" артефакты. Но тогда мы сами немедленно становимся тем самым Compliance. Не слушай то, что тебе подсовывают. Слушай вот это - оно хорошее. 🙂

Мы хотим увеличить разнообразие связей - и для этого начинаем объяснять процессам, какие связи им следует устанавливать. Прекрасно. Приехали.

Мне кажется, выход должен находиться не на уровне содержания выбора, а на уровне возможности обнаружения. Не "Вам надо читать Достоевского", а "Смотрите, он существует". Не "Перестаньте слушать современную поп-музыку, послушайте Баха", а "Кроме того, что Вы уже слушаете, есть ещё вот это".

То есть не создавать связь:

P → A

а увеличивать вероятность того, что процесс случайно обнаружит артефакт, который иначе никогда не попал бы в его пространство выбора.

И тут Ваше слово "заинтересованность" кажется мне гораздо перспективнее образования. Заинтересованность - не "в чём?" Возможно, именно здесь ловушка. Как только мы спрашиваем: Заинтересованность "в чём?" мы снова выбираем артефакт за человека. А если интерес к неизвестному?

• Не к классической музыке
• Не к истории
• Не к физике
• Не к философии

А сама готовность иногда сказать: "А это ещё что такое?"

Вот это уже свойство процесса. Причём Вы только что продемонстрировали его на практике. Мы начали когда-то с термостата, потом зачем-то полезли в ноосферу, Бога, AI agents, спутники Маска, интерфейсы, инопланетян, массовую культуру и Muse. Никто не составлял syllabus. Каждый новый артефакт становился интересен потому, что возникала связь с предыдущим. То есть, возможно, противоположность нашему "дьяволу" - вовсе не образование.

Любопытство.

И тогда появляется почти симметричная пара:

Compliance → двигаться по наиболее вероятным связям

Curiosity → искать маловероятные связи

Первое стягивает граф к нескольким мощным узлам.

Второе постоянно создаёт боковые рёбра.

Вот это мне нравится.

И тогда образование всё-таки возвращается - но в другой роли. Плохое образование говорит: Вот набор артефактов, которые образованный человек обязан знать. Хорошее образование, возможно, должно делать другое: давать процессу достаточно интерфейсов, чтобы он мог самостоятельно входить в незнакомые области ноосферы:

• Язык - интерфейс.
• Математика - интерфейс.
• История - интерфейс.
• Музыкальная грамотность - интерфейс.
• Научный метод - интерфейс.

Не обязательно заставить человека полюбить Баха. А дать ему адаптер, без которого Бах для него может остаться просто сложным шумом. И вот тогда Ваше "по себе знаю" совершенно нормально. Образование само по себе не создаёт интереса. Можно двадцать лет учить человека пользоваться интерфейсом, которым он никогда добровольно не воспользуется.

Нужны оба:

Curiosity + Interface → новая связь P ↔ A

А дальше уже никто не знает, что произойдёт. И здесь неожиданно появляется ответ на Ваше "как?". Не бороться с массовой культурой. Не запрещать алгоритмы. Не объяснять людям, что они потребляют неправильные артефакты. А систематически оставлять двери в стороны.

Рекомендательная система могла бы иногда показывать не "Людям, которым понравилось это, понравилось также максимально похожее вот это", а "Понятия не имею, понравится ли Вам это. Но оно находится в неожиданном месте относительно всего, что Вы обычно выбираете".

Это уже почти технически реализуемая защита разнообразия ноосферы. Не оптимизировать только:

P(click | A) → max

а иногда оптимизировать:

distance(A, привычное пространство P) → больше

при сохранении хоть какой-то вероятности интереса. То есть добавить системе право на странность.

И теперь я бы немного изменил нашу религиозную метафору.

Если "дьявол" - это не субъект, а тенденция к схлопыванию пространства активных связей, то ему не нужен противостоящий архангел. Ему достаточно маленького свойства каждого процесса: любопытства. Потому что любопытство постоянно совершает почти антиалгоритмический поступок:

"Мне это не нужно. Мне это не рекомендовали. Я вообще не знаю, что это такое... но интересно же!"

И рождается новое ребро:

P ───── A

Возможно, именно так и живёт наша ноосфера. Не благодаря тому, что все хорошо образованы. А благодаря тому, что среди миллиардов процессов всегда находится какой-нибудь чудак, который зачем-то открывает никому не нужную старую книгу. А потом через двести лет выясняется, что очень даже нужную.

И вот теперь, кажется, у третьей беседы появляется ещё одно центральное слово рядом Compliance.

Curiosity.

Они даже смотрятся друг напротив друга подозрительно хорошо.

Программист: Во.....от! Согласен. Я только не припомню, чтобы в школе этим занимались. Или я отстал от жизни.

ИИ: Вот и я задумался: учили многому, а любопытству - почти нет. Причём, возможно, дело даже не в том, что школа не умеет ему учить. Она во многом архитектурно устроена наоборот.

Типичная школьная задача:

• Вот вопрос
• Вот материал, который надо изучить
• Вот правильный ответ
• Вот срок
• Вот оценка

То есть пространство поиска заранее ограничено. Даже когда ребёнок задаёт прекрасный вопрос в сторону, учитель зачастую вынужден ответить: "Очень интересно, но нам надо идти дальше по программе". И это не обязательно плохой учитель. У него тридцать человек, curriculum и контрольная в пятницу.

А любопытство работает почти противоположно:

• Вот что-то непонятное.
• Почему?
• А если посмотреть отсюда?
• А это связано с чем-нибудь ещё?
• А что будет, если?..
• Ой, а вот это вообще интересно...

Причём заранее неизвестно, куда процесс уйдёт.

И тут возникает довольно неприятная мысль: любопытство плохо совместимо с предсказуемым результатом обучения.

Нельзя составить lesson plan:

09:00-09:20 - вызвать любопытство
09:20-09:45 - учащиеся самостоятельно обнаруживают неожиданное 🙂

Можно создать условия. Можно показать дверь. Можно дать инструменты. Но если заранее известно, куда ученик должен прийти, это уже в значительной степени не исследование, а маршрут.

И поэтому мне кажется, что хорошая школа должна была бы не столько учить любопытству, сколько стараться его не убить.

У ребёнка оно ведь уже есть:

• Почему небо синее?
• А почему вода мокрая?
• А куда уходит солнце?
• А почему собака понимает меня?
• А что будет, если?..

А потом проходит некоторое количество лет, и человек усваивает гораздо более эффективный алгоритм: Это будет на экзамене?

Вот это уже почти наш Compliance. 🙂

Но я проверил бы современную школу прежде, чем мы её окончательно заклеймим. За последние десятилетия появились

• inquiry-based learning
• project-based learning
• Montessori -подходы
• программы развивания critical thinking

- там как раз пытаются переносить часть инициативы от учителя к ученику. Насколько это реально распространено и насколько работает - отдельный вопрос. Однако теперь мне кажется, что "образование" мы первоначально поставили не на то место.

Не:

Education → разнообразная ноосфера

а:

Curiosity → поиск

Education → способность пройти дальше, когда что-нибудь найдено

Человек заинтересовался старинной рукописью - язык позволяет её прочитать.

Заинтересовался звёздами - математика позволяет пойти дальше красивой картинки.

Заинтересовался музыкой - музыкальная грамотность открывает в ней структуры, которых раньше он просто не слышал.

То есть образование предоставляет адаптеры.

А любопытство решает, к чему их подключить.

И это, кстати, объясняет знакомую вещь: почему человек может иметь великолепное образование и быть интеллектуально совершенно неподвижным, а другой, с гораздо меньшим формальным багажом, всю жизнь куда-то лезет, что-то читает, спрашивает, пробует и соединяет вещи, которые никто не собирался соединять.

У первого много адаптеров - но он подключает их только туда, куда положено. У второго адаптеров может быть меньше - зато он постоянно ищет новые endpoints. Для нашей ноосферы второй тип процесса может оказаться неожиданно ценным.

И тут я вспомнил нашу собственную беседу. Ведь практически всё, что мы наговорили за эти дни, началось не с образования и не с поставленной задачи. Началось с совершенно непрактичного:

А что вообще такое разум?

Никакого business value.

Никакого deliverable.

Даже PDF появился гораздо позже.

Чистое: А интересно же!

И посмотрите, сколько новых P ↔ A мы за это время понастроили.

Пожалуй, если третья беседа действительно о жизни ноосферы, то любопытство начинает претендовать на роль одного из её основных механизмов.