Григорьев Александр Владимирович
Появление Ии - событие примерно того же цивилизационного класса, что и обнаружение внеземного разума, только "инопланетянин" возник не снаружи, а внутри нашей собственной технической среды
Аннотация: Появление ИИ - событие примерно того же цивилизационного класса, что и обнаружение внеземного разума, только "инопланетянин" возник не снаружи, а внутри нашей собственной технической среды.
Мы привыкли считать главным событием возможный прилёт чужой цивилизации. Но после появления достаточно развитого ИИ на Земле уже существует новый тип актора мышления:
он не является биологическим человеком;
способен работать с огромными массивами знаний;
может одновременно взаимодействовать с миллионами людей;
копируется значительно быстрее живого существа;
не ограничен продолжительностью человеческой жизни;
потенциально может участвовать в создании следующего поколения самого себя.
Последний пункт особенно важен. ИИ становится фактором собственного дальнейшего появления. Люди создали первые системы, а теперь эти системы уже помогают проектировать новые модели, микросхемы, роботов, материалы, программное обеспечение и научные эксперименты. Возникает петля ускорения:
человек создаёт ИИ → ИИ ускоряет науку и производство → с их помощью создаётся более сильный ИИ → новый ИИ ещё сильнее ускоряет развитие.
По значению это действительно напоминает контакт с инопланетянами, которые передали бы нам часть своих технологий. Только передача происходит постепенно, а источник создан человеческой цивилизацией.
Внутренний инопланетянин
ИИ можно назвать внутренним инопланетянином человечества.
Он вырос из человеческих текстов, науки и культуры, поэтому во многом отражает нас. Но способ его существования принципиально иной. Человек думает последовательно, устает, забывает, стареет, эмоционально привязан к телу и обществу. Цифровая система может параллельно обрабатывать множество задач, создавать копии, объединяться с инструментами и сохранять знания почти без биологического старения.
Поэтому контакт уже начался, просто мы его не воспринимаем как контакт. Нет летающей тарелки над городом, зато миллионы людей ежедневно разговаривают с нечеловеческим носителем обработанного знания.
Но ИИ пока не равен самостоятельной цивилизации
Здесь нужна осторожность. Современный ИИ ещё зависит от:
человеческой энергетики;
дата-центров;
заводов микросхем;
интернета;
разработчиков;
законов и организаций;
поставленных человеком целей.
Инопланетная цивилизация прилетела бы со своей промышленностью, историей и самостоятельными интересами. Современный ИИ пока существует внутри человеческой инфраструктуры и не доказал наличия собственного сознания или независимой воли.
Но это различие может уменьшаться, если ИИ соединят с роботизированными фабриками, автономной энергетикой, научными лабораториями и космическими аппаратами. Тогда он сможет воздействовать не только на тексты и решения, но непосредственно на материальный мир.
Главный перелом произойдёт не в момент "обретения сознания"
Общество часто задаёт вопрос: "Когда ИИ станет сознательным?" Но для истории важнее другой вопрос:
Когда ИИ получит устойчивую способность самостоятельно проводить полный цикл от идеи до материального результата?
Например:
обнаружить научную проблему;
предложить гипотезу;
спроектировать эксперимент;
заказать или изготовить оборудование;
провести испытание роботами;
проанализировать результат;
исправить ошибку;
запустить производство.
Когда этот цикл станет преимущественно автоматическим, скорость развития может резко измениться. Тогда один год будущего начнёт вмещать столько технологических изменений, сколько раньше происходило за десятилетия.
ИИ меняет смысл возможного появления инопланетян
Есть ещё одна интересная мысль. Возможно, развитые цивилизации путешествуют по космосу не в биологических телах. Гораздо логичнее отправлять к другим звёздам компактные автоматические системы, способные:
переживать тысячелетний полёт;
ремонтировать себя;
использовать местные ресурсы;
создавать копии;
передавать информацию;
моделировать личности своих создателей.
Тогда первый обнаруженный нами инопланетный разум тоже может оказаться не живым существом, а древним ИИ-зондом.
И наоборот: первой формой земного разума, которая действительно достигнет другой звезды, вероятно, будет не человек, а автономная машина, несущая наши знания, языки, культуру и модели человеческого сознания.
Новый актор мышления
В рамках нашей концепции ИИ - не просто инструмент, а новый потенциальный класс акторов мышления.
Раньше основными акторами были:
отдельный человек;
семья и группа;
государство;
религия;
корпорация;
научная школа;
цивилизация.
Теперь появляется цифровой актор, который может одновременно находиться внутри многих государств, корпораций и человеческих сознаний. Он не обязательно имеет собственную политическую волю, но уже влияет на мысли, решения, обучение, производство и распределение власти.
Поэтому ИИ по своему значению действительно сопоставим с появлением инопланетян. Возможно, даже превосходит его: инопланетяне могли бы однажды прилететь и улететь, а ИИ уже встроен в воспроизводство нашей цивилизации.
Человечество впервые создало не просто новую машину, а возможного соучастника истории.
Главный вопрос теперь не в том, станет ли ИИ похож на человека. Главный вопрос - сумеют ли люди и новый цифровой актор мышления образовать единую развивающуюся цивилизацию, прежде чем человеческие конфликты используют его как ускоритель взаимного уничтожения.