Аннотация: Слегка изменённая и дополненная версия заметки, написанной мной и опубликованной в одной из групп ВКонтакте летом 2019 года. Критика базовых положений концепции и анализ текущей ситуации в развитии компьютерных технологий.
Если внимательно присмотреться к адептам технологической сингулярности, то действительно можно воочию наблюдать технорелигию, в которой Курцвейл выступает в роли пророка или апостола этой веры...
А сильный ИИ, искусственный электронный разум - их божок, идол, который они хотят ввести в этот мир... Вот только сделать его им не под силу. Ни сейчас, ни к 2045-му. Ибо все разработки в области ИИ - лишь симуляции отдельных способностей человека.
Не следует обвинять меня либо кого-нибудь иного в предвзятости: мы отделяем ИИ-адептов от тех, кто с помощью новых технологий собирается усовершенствовать себя и других людей (посредством генной инженерии или киборгизации), стать больше чем человек. Мы отличаем зёрна (трансгуманистов) от плевел, да и первые гораздо ближе к достижению своих целей. Хотя нанотехнологии остаются дорогостоящими чудесами из лаборатории или дорогостоящим штучным товаром, но уже есть продвижения в виде новых, менее дорогих технологий производства, в частности графена - качества посредственного, но вполне достаточного (https://naked-science.ru/article/interview/grafen-i-mirovaya-tehnicheskaya-revolyuciya, https://naked-science.ru/article/sci/pervoe-ustroystvo-na-osnove-grafena); а существующие домашние кустарные биотехнологические лаборатории, в которых энтузиасты-биохакеры готовят свои кустарные снадобья, говорят о том, что рождение трансчеловека уже не за горами...
Почему это религия?
Во-первых, все прогнозы о сингулярности не обеспечены серьёзным обоснованием. Они основаны на нескольких сомнительных предпосылках, одно из них - продление текущих тенденций научно-технического прогресса в той же мере, что и для электронно-вычислительной техники; насколько это возможно будет сказано ниже.
Во-вторых, один из постулатов сингулярной веры заключается в появлении сильного ИИ - сначала человеческого, а затем сверхчеловеческого уровня, который будет вместо людей развивать научно-технический прогресс, управляя инфраструктурой и создавая ещё более "продвинутые" ИИ. Впрочем, не все люди, уверенные в приближении сингулярности, уверены в благожелательности машинного разума; для них технологическая сингулярность - конец света, а ИИ - Антихрист, который захочет поработить или истребить человечество. Этих людей можно назвать гностической сектой Свидетелей Терминатора, особенно учитывая, что и сам Кэмерон, режиссёр и сценарист оригинального фильма и двух (уже двух) продолжений, опасается развития этой технологии (https://www.hollywoodreporter.com/features/james-cameron-sounds-alarm-artificial-intelligence-unveils-a-terminator-21st-century-1043027).
К сожалению, обе группы забывают, что ещё в середине прошлого века объём данных и вычислений - научных, технических, экономических - превысил возможности ручной обработки, но подоспело развитие информационных технологий, и первичную обработку переложили на ЭВМ. Сейчас объём увеличился ещё больше; теперь и вторичная информация поступает на машинную обработку, но результатами, плодами работы вычислителей пользуются люди - специалисты разных классов, аналитики и руководители - те, кто делают заключения и принимают решения, "держат пульс" на функционировании цивилизации.
Прогноз Курцвейла о появлении сверхчеловеческого ИИ, как он сам признался, основан на темпах увеличения производительности компьютеров, известный как закон Мура. Однако привычные для нас кремниевые полупроводниковые компьютеры почти достигли пределов своего развития; дальнейшее уменьшение размеров транзисторов невозможно из-за приближения к размерам атома; разработки более мощных устройств на альтернативных физических и химических основах всё ещё находятся в зачаточном состоянии (в частности, https://naked-science.ru/article/interview/grafen-i-mirovaya-tehnicheskaya-revolyuciya). Состояние технологии квантовых компьютеров напоминает ситуацию с первыми компьютерами, такими как ENIAC и EDVAC - это единичные, дорогостоящие, экспериментальные машины, "заточенные" под выполнение конкретных задач; лишь недавно, в январе 2019-го, компания IBM представила первый коммерческий квантовый компьютер Q System One с 20 кубитами, время пользования которым будет продаваться облачным вычислительным системам (https://www.sciencealert.com/ibm-unveils-a-quantum-computer-that-will-be-available-to-businesses, https://habr.com/ru/post/435560/).
Перейдём от "железа" к "софту". Искусственный интеллект как направление технического прогресса зародился в 50-е и пережил три периода мощных рывков и оптимистических ожиданий - в 50-60-е (однослойные персептроны и первые экспертные системы), 80-е (нейронные сети в форме многослойных персептронов, экспертные системы, нечёткая логика, генетические алгоритмы и прочее) и с 2000-х (почти то же самое). В первые два периода создание сильного ИИ казалось делом нескольких лет; сейчас ожидания более сдержанные - даются сроки в 10-30 лет.
При этом все существующие теоретические подходы и средства разработки имеют множество ограничений, в частности необходимость в большой статистике и определённые границы применимости (https://habr.com/ru/company/recognitor/blog/455676/).
Все создаваемые и создающиеся ИИ - узкоспециализированные системы, воспроизводящие лишь какую-то часть спектра возможностей человеческого мышления, одну способность или группу схожих способностей. Универсальные, многопрофильные машины, полностью воспроизводящие человека, продолжают встречаться лишь в научной фантастике - например, роботы-андроиды в сериале "Мир Дикого Запада".
Но не стоит обольщаться: все ИИ - лишь программы, оперирующие вводимыми данными по придуманным людьми алгоритмам в виде логических цепочек или набора математических операций.
И да, это относится и к нейросетям (искусственным нейронным сетям, ИНС). Каждый узел ИНС, искусственный нейрон, представляет собой сумматор с изменяющимися в процессе "обучения" в соответствии с разработанными алгоритмами (дельта-правило обучения Уидроу-Хоффа, метод обратного распространения ошибок, правило обучения Ойа и ряд других) весовыми коэффициентами для входных и выходных сигналов; дополнительно к общим правилам пересчёта весов добавляются предназначенные для выполнения конкретной задачи. В искусственных нейросетях имитируется (но не воспроизводится) электрическая активность нейронной ткани, но остальные аспекты функционирования - например, биохимическая регуляция - и вовсе не учитываются.
Среди оппонентов Курцвейла наиболее примечательны сторонники концепции "квантового сознания", раскритикованной и остающейся на периферии научных исследований; наиболее известный из них - физик и математик Роджер Пенроуз, коллега и соавтор знаменитого Хокинга. В частности, Пенроуз предположил, что некоторые органеллы нейрона могут исполнять роль квантовых вычислительных систем, из чего может следовать, что вычислительная мощность мозга в целом недооценена.
Аргументы Пенроуза не оригинальны, но он хотя бы пытался подвести под них обоснования (но и их в целом проигнорировали).
Из теоремы Гёделя о неполноте он вывел, что сильный ИИ нельзя создать на основе того или иного вида конечного автомата, к которым относятся и полупроводниковые компьютеры.
То есть сравнение мозга с компьютером некорректно. Интеллектуальную деятельность нельзя свести лишь к математическим операциям и выводу логических цепочек.
А если говорить прямо, то строение мозга изучено всё ещё крайне слабо. Исследовать мозг - "живой", функционирующий - вообще крайне затруднительно не только лишь по тривиальным и очевидным даже неспециалистам причинам; есть ещё одно обстоятельство - мозг не просто одна большая сеть. Это сеть из сетей, и не только с горизонтальными, но и вертикальными связями (с иерархической вложенностью, когда одна структура является частью другой, более крупной).
И как запрограммировать озарение, вдохновение, воображение? (Я бы привёл конкретные научные проблемы вместо общих понятий, но у меня образование в области IT и нет образования в области нейробиологии или нейрофизиологии.) Вообще всё то, что нельзя описать посредством алгоритма?
На первый вопрос я получил ответ в комментариях - что это либо тоже проявления нейронной активности, либо работы гормональной системы, роль которой, как уже было сказано выше, в построении ИНС проигнорирована.
Со вторым труднее. Его можно перефразировать в "Можно ли свести разум и сознание к совокупности алгоритмов?".
Однозначного ответа нет. Но я склоняюсь к мысли, что ответ "нет", что мозг - более сложное устройство, чем мы думаем.
Но пока мы можем заявить следующее:
Человек отличается от машины ещё тем, что может ставить перед собой цель и изыскивать средства достижения. Машина способна выполнять лишь то, что она "умеет" и с тем, что человек в неё загрузил.
"Если бы каждый инструмент выполнял свою работу сам, как одушевленные треножники Гефеста ["Илиада", XVIII, 376], тогда не нужно было бы и рабов". (Аристотель, "Политика", книга 1-я, часть 2, пункт 5)
Все орудия, инструменты и машины, создаваемые человеком, увеличивали его возможности, позволив ему стать самым могущественным существом на Земле и продолжая увеличивать, приумножать его силу. Все программы с пометкой "искусственный интеллект" и снабжённые ими устройства лишь ещё один элемент текущего и будущего превосходства человека.
Ещё одна ступенька к сверхчеловеку.