Никитин Андрей Викторович : другие произведения.

Когда начинать бояться Ии? Часть 4

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:
 Ваша оценка:
  • Аннотация:
    Всё технологическое развитие человеческого общества идет от одного тупика к другому. Потому ученые и прислушиваются в футурологам, нащупывающим возможные пути дальнейшего движения на основе экстраполяции и своего умения видеть то, что другим пока не видно.
  
 kogda41 [ANikitin] 
  
  
  Никитин А.В.
  

Когда начинать бояться ИИ?

  Часть 4. На перепутье....
  
  
  
  
  
  
  
  
  Оглавление
  ЧТО ПРЕДСТАВЛЯЕТ СОБОЙ СОЗДАВАЕМЫЙ ИИ.
  МОЖЕТ БЫТЬ ОТСЮДА И НАЧНЕМ...
  К ЛОКАЛИЗАЦИИ ИИ?
  ДУМАТЬ ИЛИ ВЫЧИСЛЯТЬ?
  ИИ В ГЛОБАЛЬНОМ ТУПИКЕ РАЗВИТИЯ.
  ЛИТЕРАТУРА:
  
  
  
  Человеческое общество в общем случае развивается спонтанно. Туда, где открывается очередная тропинка. Идет в эту сторону прогрессивного развития до тех пор, пока не упирается в стену. После этого начинается поиск выхода уже из этого тупика по очередной найденной тропинке.
  Всё технологическое развитие человеческого общества идет от одного тупика к другому. Потому ученые и прислушиваются в футурологам, нащупывающим возможные пути дальнейшего движения на основе экстраполяции и своего умения видеть то, что другим пока не видно.
  Уж кого-кого, а ученых нельзя отнести к тем, кто не понимает, куда он идет. Конечно, ученые понимают, что взятое когда-то направление движения развития ИИ сегодня уже почти пришло в очередной тупик. Технический, технологический, философский, наконец. Раньше, в прошлом веке это понимали единицы, сегодня это понимают уже многие ученые.
  Но понимать, не значит указать свой путь. Проблема как раз в том, что пока нового пути не видно. И наука снова и снова возвращается к философским аспектам понимания машинного интеллекта.
  Проблема тут старая, вековая... Чтобы находить правильные ответы, надо задавать правильные вопросы.
  А вот с этим у нас всегда проблемы.
  
  

Что представляет собой создаваемый ИИ.

  Сегодня теории ИИ нет.
  Это можно понять просто сравнив классификации естественного и искусственного интеллектов. Когда разговор в основном идет об интеллекте человека, то количество психологических систем и теорий интеллекта весьма широко и разнообразно [1]. Здесь можно найти психометрические теории интеллекта, иерархические теории, когнитивные теории, теорию множественного интеллекта, теорию тройственного интеллекта, есть и гештальт-психологическая теория интеллекта, этологическая теория интеллекта, операциональная теория интеллекта, структурно-уровневая теория интеллекта...
  В теории искусственного интеллекта ничего этого нет.
  Здесь ученые считают для себя достаточным два основных деления интеллекта на "слабый" и "сильный", а так же на "узкий" и "широкий".
  Например, вот:
  "...гипотеза в философии искусственного интеллекта, согласно которой некоторые формы искусственного интеллекта могут действительно обосновывать и решать проблемы.
   теория сильного искусственного интеллекта предполагает, что компьютеры могут приобрести способность мыслить и осознавать себя как отдельную личность (в частности, понимать собственные мысли), хотя и не обязательно, что их мыслительный процесс будет подобен человеческому.
   теория слабого искусственного интеллекта отвергает такую возможность." https://ru.wikipedia.org/?curid=688800&oldid=128332288
  
  Если ИИ решает задачи с применением оптимальных решений, то это "слабый" ИИ, если он осознает себя личностью и мыслит подобно человеку, то "сильный", хотя, как это понимать, похоже никто не знает...
  И потому, основные работы по разработке новых систем ИИ ведется в областях "узкого" и "слабого" ИИ, т.е. в прикладных задачах применения ИИ во всех отраслях хозяйства.
  "Недавно такие ученые, как Антонио Лието утверждали, что текущие исследования как ИИ, так и когнитивного моделирования идеально согласуются с гипотезой слабого ИИ (которую не следует путать с различием между "общим" ИИ и "узким" ИИ) и что популярное предположение о том, что когнитивные системы искусственного интеллекта являются частью Сильный ИИ ошибочен и проблематичен, потому что "искусственные модели мозга и разума можно использовать для понимания психических явлений, не претендуя на то, чтобы быть реальными явлениями, которые они моделируют" https://ru.wikipedia.org/?curid=688800&oldid=128332288
  
  Для понимания еще одна цитата:
  "Здесь следует провести еще одно различие - различие между системами ИИ, предназначенными для решения конкретных задач (часто называемых "узким ИИ"), и теми немногими системами, которые предназначены для способности рассуждать в целом (называемыми "общим ИИ").). Люди иногда путаются в этом различии и, следовательно, ошибочно интерпретируют конкретные результаты в определенной области как каким-то образом охватывающие все интеллектуальное поведение." Крис Хаммонд Что такое искусственный интеллект (ИИ) и в чем разница между общим ИИ и узким ИИ? https://translated.turbopages.org/proxy_u/en-ru.ru.521fa8fa-63fb6014-5ec38926-74722d776562/https/www.computerworld.com/article/2906336/what-is-artificial-intelligence.html
  
  И опять, всё различие в соотнесении с человеческим интеллектом.
  Если ИИ решает специализированные задачи, то это 'узкий' ИИ, если он для широкого класса задач, то вроде бы 'широкий', например, стратегия поведения в конкретных условиях. Как-то так.
  Пока же разработчики систем ИИ никак не используют никаких вариаций систематизации уровня ИИ своих разработок. С одной стороны их нет, а с другой они никому не нужны. Сам факт принадлежности разработки к 'ИИ' уже создает нужный ореол 'умности'.
  Но, получилось так, что...
  Разработанный человеком на основе математических методов обработки информации программный комплекс ИИ стал потенциально опасен для человека с момента своего рождения.
  Потому, что он исходно основан на вирусных технологиях активизации реакции программы на действия человека. Такой ИИ никогда не будет 'дружественным' человеческому интеллекту и требует введения постоянного контроля и ограничения действий ещё на стадии разработки.
  И, как мне кажется, именно по этой причине ученые сразу отказались от применения философских методов познания на этом направлении, заменив их простыми техническими обобщениями. То, что это создал человек, не дает никаких гарантий дружественности создаваемого на этой основе искусственного интеллекта. Скорее наоборот, математическая основа определяет исходную невозможность создания 'дружественного' интеллекта на этих принципах и логике.
  Понимают это ученые?
  Конечно.
  Сегодня человек уже выбрал свой вектор развития, который не совпадает с общим направлением развития биологических организмов. Он выбрал математику, как основу развития машинных способов обработки информации. Эта основа влияет и уже всегда будет влиять на весь процесс развития машинного интеллекта.
  Система современной математики постепенно переходит от действий с существующими в этот момент числовыми величинами и операндами к целевому алгоритму достижения заданного результата. Задача начинает решаться от предполагаемого результата к исходным данным через построение программы моделирования пути решения. При этом, математика стала быстро обзаводиться все новыми и новыми расширениями пониманий, переходя от строгой математической системы к логической, часто совсем не обоснованной, а очевидно привычной, алгоритмической.
  Посмотрите статьи Владимира Арнольда. Там нет привычной математики, это уже что-то другое... Он вообще считает, что физика, как и математика, это часть одной большой науки, которую надо так и изучать, всю сразу, а не по частям.
  И похоже, он очень прав...
  "В. И. Арнольд являлся известным критиком существовавших в середине XX века попыток создать замкнутое изложение математики в строгой аксиоматической форме с высоким уровнем абстракции. Он был глубоко убеждён, что этот подход - известный в основном благодаря активности французской школы Николя Бурбаки - оказал негативное влияние на преподавание математики сначала во Франции, а затем и в других странах." https://ru.wikipedia.org/?curid=256172&oldid=129639101
  
  Ученые используют в своей модели машинного интеллекта нечеткую логику Л.Заде для формулирования задач обоснования выбора изменения пути к цели при изменении условий её достижения. Сегодня успешно решены проблемы выбора невозвратных решений с применением математической теории катастроф. Машинное моделирование развития ситуации с применением систем самоорганизованной критичности стало новым шагом на этом сложном пути.
  Наука сегодня реально создала машинный интеллект, как систему комбинаторного анализа и выбора решений, входящую составной частью в комплекс машинных вычислений.
  Мы построили основание машинной системы обработки информации, которое не совпадает с нашими логическими принципами достижения результата и выработки управляющих решений. Это другая логика, другие способы достижения результата, другие основания для выбора пути решения проблем.
  Вычислительные способности машины уже давно никого не удивляют. К этому привыкли относиться как к нормальности нашего времени. Так и должно быть. А следом должна появиться и машина "разумная". В этом никто давно уже не сомневается.
  Именно на эту "разумную" машину и рассчитаны все книги и статьи о "войне машин", "противостоянии человека и машинного разума", и т.д., и т.п.
  Но, во всей этой богатой россыпи самых разнообразных "пугалочек с завлекалочками" оказался совершенно непонятным один вопрос...
  Что мы хотим от ИИ, если мы не понимаем, что создаем?
  С одной стороны "идеей фикс" (франц. idee fixe) у разработчиков ИИ с самого начала является "супер интеллект" в любом его исполнении.
  Исторически, главным путем реализации "машинного разума" была задача построить какую-то логическую машину, работающую на человеческой логике, которая и обеспечит разумность действий машины. Идея логической машины умерла в конце прошлого века вместе с окончательным крахом попыток построения символьного ИИ на основе специальных языков высокого уровня.
  Но, попытки закончились, а память о них жива.
  Сегодня большая часть ученых и обывателей, не знающих "как там всё устроено", продолжают существовать в той же парадигме понимания ИИ, что и полвека назад. Философы продолжают исправно писать книги по этим проблемам, раз за разом обсуждая одни и те же почти несуществующие сегодня "страхи" перед несуществующим "супер ИИ" или призывая не верить в эти сказки про ИИ.
  Уже возникла версия, что ИИ, это просто очередной миф, как когда-то были мифы про 'супер' воина, танк, оружие, и чего только не было. Или что ИИ, это "игрушка" для науки, которая возникла из ничего и скоро уйдет в никуда.
  Среди всего, что сегодня причисляют к мифам есть и приставка "нейро"', указывающая на родство электронной схемы с нейроструктурами человеческого мозга. И надо сказать, в общем это предположение верно. Приставка "нейро" есть, а реального соответствия пока нет, есть желание, чтобы такое соответствие когда-нибудь было. Но желаний у нас много, а вот их реализация всегда несколько затягивается...
  Так может и правда, нет никакого ИИ, есть только сказка о нем?
  ИИ есть и это не сказка.
  Просто ученые не хотят разбирать и как-то систематизировать, создаваемую ими кучу разработок, под общим названием - ИИ.
  Не хотят. По многим причинам.
  Одна из главных, это статус "ИИ". Он дает возможность добиваться нужных объемов финансирования работ своего направления. Ведь тут только начни систематизировать и классифицировать, сразу начнется и контроль за этим процессом, выявление самых эффективных вложений и скорость отдачи от реализации разработки. Ученым это не очень нужно, лучше уж получать средства, а классифицировать, это потом, когда перейдем к новой теме...
  Вторая причина, это реальная несостоятельность любой классификации разработок ИИ по их соответствию "интеллектуальным" и "автоматическим". Мы сегодня не знаем, где кончаются "просто" автоматы и начинаются "интеллектуальные" машины, автоматы, или что там, не знаю...
  Третья причина, полное отсутствие понимания цели в направлении развития ИИ. Куда мы идем? Идея "машинного разума" сегодня уже не находит так много сторонников как раньше, а парадигма развития "супер ИИ" на базе суперкомпьютера зашла в философский, технологический и технический тупик.
  Показанная ранее научная или техническая систематизация ИИ, работающая уже полвека, себя изживает. С появлением мобильной связи, интернет и система серверных узлов практически увязала почти все уровни машинной реализации элементов ИИ в одну большую сеть, работающую в режиме суперкоммутатора.
  Философская концепция "дружественного" ИИ, реализуемая на этих принципах никуда не ведет.
  Созданный человеком ИИ вышел на поле выбора. Это даже не сам выбор, как поиск понимания того, что и зачем мы создаем в этой области знаний...
  
  

Может быть отсюда и начнем...

  Машина и выполняемая ею работа для человека всегда были реальностью. Вот паровоз едет по рельсам. Он везет вагоны с грузом. Вот ткацкий станок, на выходе результат его работы - полотно. Вот счеты, костяшки перебрасываются, в результате - набор костяшек, обозначающий... число.
  Стоп. Тут нет реального результата.
  Есть. Вычисления на счетах, это же, говоря современным языком, симуляция процесса изменения количества каких-то материальных предметов в их счетных эквивалентах - костяшках.
  Интерпретация результата в сам процесс счета не входит. Она переводит количество в число. Количество в результате не меняется, а число может. В одной системе счисления мы получим одно число, в другой другое..., как одно и тоже количество.
  Например: 810 = 10002;
  Эта очевидность была понята человеком тысячу лет назад.
  Вот предмет счета, дерево у дороги, вот его системный эквивалент - костяшка счет. Количество деревьев и количество костяшек совпадает - есть результат счета. Количество деревьев, если они большие и растущие, изменить сложно, а костяшек?
  Да, без вопросов, добавим, уберем сколько надо.
  И счет с реальных предметов счета переместился на их эквиваленты. Теперь сложение и вычитание уже лишь математические действия.
  Как кучу яблок в корзине поделить поровну между едоками?
  Дележка "по очереди" может быстро перерасти в спор, драку за "свое", которого еще нет... Лучше это опять, сначала на костяшках сделать, а потом уже отделить "всем сестрам по серьгам", сразу нужную часть яблок из корзины. Человек начал выполнять действие деления, а потом и умножения, которые на реальных предметах счета делать часто затруднительно или невозможно.
  Но как быть, если костяшек нет под руками?
  Сделать расчеты в других эквивалентах, совсем относительных - палочками на песке, точками на глине, бумаге... Тут вместо костяшек только точки или палочки. О, как их много..., надо их как-то в кучки, что ли собирать, а потом уже кучки тоже точками или палочками или чем-то другим отмечать...
  Ну вот мы и пришли к... системам счисления, а от количества предметов перешли к их эквивалентам - цифрам.
  Мы изобретаем логику, видим в ней индукцию и дедукцию, а реально используем только... аналогию и трансдукцию. Ищем подходящие эквиваленты к тому качеству исходного предмета, которое мы сейчас используем или исследуем. Подставляем их в наши рассуждения и умозаключения вместо реального предмета и там уже виртуально переносим на них то действие, которое мы пытаемся сделать с реальным предметом.
  И только когда эти наши умозаключения кажутся нам выполнимыми, начинаем их выполнять в реальности. Если попытка не удалась, повторяем рассуждения с новыми эквивалентами.
  Эту бесконечную смену эквивалентов объектов и действий с ними мы пытаемся обратить в какую-то систему, называя этот процесс логикой. А потом и зафиксировать это в алгоритмах.
  
  Мы часто просто не представляем сколь сложный путь прошли некоторые вполне очевидные сегодня понимания и действия, которые мы делаем каждый день не задумываясь.
  Мы подняли руку у дороги... Что мы сделали?
  Подали сигнал водителям. Вот я, довезите меня, если вам по пути.
  Мы считаем, что поднятая рука, это сигнал, несущий нужную информацию, понятную всем.
  Мы уверены в этом?
  А ведь это совсем не так. Сам сигнал никакой информации не несет, да и информация, это что-то совсем не то, что мы себе представляем!
  То, что сигнал, как любое изменение реальности, никакой собственной информации не несет, было понято лишь в середине прошлого века во времена начала кибернетики.
  Информация интерпретируется из изменений, как получаемых сигналов.
  "Изобретателем" "информации" стал Ральф Хартли [1]. "Информация" по Хартли - случайное состояние системной переменной в автоматических системах вычислений.
  Следующий шаг сделал К.Шеннон:
  "В 1948 году он предложил использовать слово "бит" для обозначения наименьшей единицы информации (в статье "Математическая теория связи"). Кроме того, понятие энтропии было важной особенностью теории Шеннона. Он продемонстрировал, что введённая им энтропия эквивалентна мере неопределённости информации в передаваемом сообщении."https://ru.wikipedia.org/?curid=14866&oldid=126885287
  
  А потом пришло и понимание дискретности машинной информации. Любая машинная информация дискретна. Другой просто не существует.
  Это результат появления кибернетики и вычислительной техники.
  В свою очередь появление понимания дискретности машинной информации предопределило историческую путаницу в техническом понимании сигнала и месте его информационной интерпретации. Если информация дискретна, то она состоит из сигналов, несущих эту информацию?
  Философы быстро доработали понимание до полного совмещения понятий "сигнал" и "информация". Сигнал вдруг стал частицей информации!
  То, что это совсем не так, уже никого не волновало...
  В сигнальной машине вдруг появилась машинная информация. Теперь не изменения сигналов создают информацию в машинной интерпретации, а информация переносится изменением сигнала.
  Полученные знания о машинной информации теперь могут быть применены в полном объеме и к любому биологическому существу. Н.Винер предположил, что живые существа представляют собой системы автономного самоуправления [1].
  Этого никто и не отрицает.
  Это же совпадает с мнением физиологов, в частности академика И.П. Павлова. Все живые организмы быстро приравняли к автоматам на основе ОС. Это сравнение еще очень распространено, особенно в среде биологов. Там другие варианты до сих пор даже не рассматриваются. Вся наука остановилась на понимании, что живое существо, это автомат, охваченный петлями прямой и обратной связи.
  Но некоторые ученые всё же сравнивали живой организм и машину как системы управления. Эту же петлю обратной связи, но на другом уровне работы системы управления Х. фон Фёрстер определил, как на самореферентность [1] или организационная замкнутость и автономность. И вышел на приставку "само" в отношении к работе автомата. Саморегулирование, самоуправление и т.д.
  С другой стороны, Д.А. Поспелов справедливо указал на особый автомат в мозгу каждого живого существа, отвечающий за "живую" реакцию на происходящие изменения. Он взял название у С. Лема - гиромат [2]. Он же отделил и функцию сознания от чувств и других функций мозга.
  Потом Х. фон Фёрстер вышел на понимание "наблюдающей" системы, как кибернетики второго порядка.
  Ну, ...дальше...!
  Нет. Дальше - ничего. Произошла длительная остановка.
  Теперь я понимаю, почему все они остановились в шаге от цели своего движения. Видимо цель у них в тот момент была не та. Тогда они еще многого не предполагали, не знали, не были готовы...
  Как оказалось, человек не делает шаг вперед, пока не понимает, что он там ждет. Ожидания ведут человека вперед. Пока они сбываются, можно двигаться. Как только впереди нет доступных пониманию эквивалентов тому, что его ждет, человек останавливается в своих поисках. Он просто теряет направление движения. Чтобы его найти, нужны новые аналогии, эквиваленты и их трансдукция на предмет поиска.
  Почему остановились Д.А.Поспелов, Х. фон Фёрстер, У.Эшби в своих исследованиях основ кибернетики и интеллекта, а за ними и разработчики ИИ?
  Потому, что надо определиться, куда идти дальше?
  
  

К локализации ИИ?

  В общем - да!
  Сторонники и противники программного ИИ, являющегося сегодня единственным направлением развития ИИ наконец-то сошлись во мнении, что пришло время локализации ИИ в составе машины. Универсальную "душу машины" создать не удается, потому, что...
  С одной стороны, слишком много "привязок" получается у программы ИИ к конкретной машине её размещения. А с другой, постоянный сегодня канал связи с этим ИИ как-то надо переводить на другой режим работы или вообще убирать, иначе, какой же это ИИ?
  Сторонники и противники программного ИИ начали возвращаться к мысли о локализации, теперь уже ИИ любого типа реализации, хоть программного, хоть нейронного в каком-то одном месте сложной машины, для создания какого-то центра самостоятельности её действий.
  Почему вдруг такое единодушие идейных противоположностей?
  Сторонники глобального программного ИИ давно осознали опасность "вирусной самостоятельности", единственной защитой от которой является локализация ИИ с ограничением каналов прямого доступа у его управлению.
  Противники же всегда были уверены в исходной неправильности взятого направления развития и были очень рады появлению нейросетей, как явного прообраза "машинного мозга", в котором вполне возможна защита от прямого "вирусного" воздействия.
  Получается, что думы о самостоятельности и локализации ИИ совпали с мечтой человека об "умной машине", которая будет мыслить в соответствии с "законами роботехники" А.Азимова, будет иметь возможность эмоциональной оценки получаемой информации, соблюдать этические и моральные нормы, установленные человеком?
  Нет. До этого пока не дошло, но... как конечная цель, вполне допустима.
  Формально споры разделили ученых на несколько больших групп:
  Первая группа сегодня вполне довольна взятым направлением развития программного ИИ, как "комплекса услуг" потребителю, исполнителю, да и разработчику это самого ИИ на всех уровнях его локализации. От программ интернета до бионических протезов.
  Вторая группа двигает программный ИИ в сторону глобализации. Сосредотачивает большие объемы информации в дата-центрах, ускоряет темпы глобальной цифровизации, чипизации и кодирования всего и вся для возможности контроля и коррекции перекосов всех аспектов нашей жизни.
  Третья группа развивает направление "умнеющих автоматов", постепенно набирающих какие-то задатки интеллекта для использования при выполнении заданий, данных человеком. Это развитие дронов и роботов.
  Четвертая группа, это сторонники "умной машины", имеющей "машинный мозг" с каким-то уровнем интеллекта. Тут пока только теория.
  
  Как можно заметить, первые две группы объединены использованием программного ИИ, как "самостоятельного субъекта", а остальные группы рассматривают ИИ только как "способность", которой обладает машина с "машинным мозгом" где сосредоточен ИИ любого вида и технологии. Субъектом здесь должна быть машина.
  При этом идею создания "Супер ИИ" кажется не разделяет никто.
  Или напуганы заранее, или осознали её опасность или других идей достаточно, не знаю. Тем не менее, идея ИИ, превосходящего по возможностям человеческий интеллект никуда не исчезла. Правда, теперь она как-то потускнела, слишком много проблем возникает на пути её реализации.
  Да и непонятно уже...
  В чем ИИ должен превосходить человеческий интеллект чтобы стать опасным?
  В вычислениях давно превосходит, почти с самого начала развития вычислительной техники. Тут почти сразу никто и не видел угроз от искусственного ИИ, это же алгоритм, задаваемый человеком, и скорость машинных вычислений. Всё.
  В поисковых системах ситуация примерно та же. Алгоритм и скорость, но... вот тут вмешиваются уже "интеллектуальные" задачи, как обобщение критериев поиска по отрывочным данным, создание зоны сходных понятий и т.д. Но и тут никакой Супер ИИ родиться не сможет. Нет исходной сложности, а вот сделать работу быстрее человека, это пожалуйста, это можно...
  Так чего же мы боимся при реализации Супер ИИ?
  Что этот монстр будет мыслить шире, изощрённее нас, творчески находить выход там, где человек его не видит...
  Но это уже другой уровень ИИ!
  Тут сначала надо решить...
  
  

Думать или вычислять?

  Для машинного интеллекта это проблема специализации.
  Сначала цитата [3]:
  "Профессор Дональд Кнут, крупнейший специалист в области программирования и вычислительной математики, с удивлением заметил:
  "Искусственный интеллект, преуспев сегодня во всем, где требуется разум", неспособен на те действия, которые люди и животные совершают бездумно", - эта задача оказалась гораздо труднее!". Затруднения вызывала, например, разработка системы управления поведением роботов, а также такие их функции, как распознавание зрительных образов и анализ объектов при взаимодействии с окружающей средой. Тем не менее и сделано было немало, и продолжает поныне делаться, причем работа идет не только над развитием программного обеспечения - постоянно совершенствуются аппаратные средства."
  
  Мы понимаем, здесь написано, что программный ИИ оказался неспособен решать задачи, не имеющие оптимальных решений!
  Эту проблему отметил еще Д.А.Поспелов полвека назад, когда сравнивал вычислительную машину и Искинт на основе гиромата [4]. Вычислительная машина всегда будет выигрывать в решении математических задач, но так же всегда будет проигрывать в решении сложных логических и тем более этических задач. Почему?
  "Происходит это потому, что такие различные по своему характеру задачи, как, например, анализ текста литературного произведения, сочинение музыки, составление таблицы функции или доказательство теорем, будучи запрограммированы и введены в машину, полностью теряют всю свою специфику и выполняются машиной одинаково в соответствии с заложенной в нее жесткой интерпретацией любой машинной команды. Это приводит к сущест?венному ограничению возможностей вычислительных машин, к их неспособности совершать истинно эвристическую деятельность". [4]
  
  Машина не различает специфики задач и способов их решений. Она не видит связи различия решений задач с получателем результата.
  И тот же вопрос: Почему?
  Мы уперлись в тот тупик, который сами так долго создавали стремлением перенесения математических обоснований в логику и философию. Сами стремились создать теорию всеобщей причинности атрибутов "по нашему выбору", ведущую к предопределенной цели.
  И мы эту цель достигли.
  Сегодня математика может почти всё, если её правильно направить.
  Но, как оказалось, в этом и есть главная сложность. А когда мы не знаем, куда идти, она нас выведет на нужный путь? Выясняется, что - нет.
  Даже самые "продвинутые" и "самостоятельные" образцы машин автоматического управления с "элементами ИИ" включают "телеприсутствие" оператора. Это не "доверяй, но проверяй", это потому, что "иначе не работает". Так и задумано.
  С другой стороны, реализованный программный ИИ оказывается лишь малой частью обращен к потребителю, только как комплекс услуг. Потребители связаны с работающей моделью ИИ интернетом, как один нейрон с огромной нейронной структурой, которая находится у поставщика услуги. В отдельном здании. Это сегодняшняя реальность ИИ.
  Мне скажут, что завтра "супер ИИ", можно будет уместить на рабочем столе, дайте только срок. Охотно верю. Но и на столе он будет всё тем же суперкомпьютером, а лучше по-русски - электронной вычислительной машиной с программным управлением. Пусть и "нейро"...
  Причина этого в различиях архитектуры вычислительных ядер для суперкомпьютера и реальной нейросети, которая может составить конкуренцию этому суперкомпьютеру. Вычислительные архитектуры и технологии явно ушли в сторону от нейротехнологий. Единая прежде вычислительная машина, одинаково применяемая как в вычислениях, так и в функционировании ИИ, ушла в прошлое. Вычислительные ядра, составляющие основу многоядерного процессора сегодня уже строятся и на квантовых вычислениях, с применением новых единиц измерения - кубитов. "Обобщением понятия кубит является кудит (Q-энк, куэнк; qudit), способный хранить в одном разряде более двух значений (например, кутрит англ. qutrit - 3, куквадрит - 4, ..., куэнк - n)". https://ru.wikipedia.org/?curid=19453&oldid=129890857
  
  Пора ИИ начинать собственную техническую ветвь развития.
  Практически чисто виртуальной "математической" нейросети надо обрести реальное техническое воплощение. Создать свою архитектуру, технологии и конструктивную реальность. Сегодня мы должны выбрать: Что же мы хотим от машины с ИИ в конечном итоге - решать или мыслить?
  От этого зависит её организация.
  И тут "подводный камень", который может утопить все наши мечты в пучине несбыточности. Как организовать вычислительное пространство машины мы уже вполне понимаем, а вот с логическим пространством "нейронной сети" есть большие проблемы. Это ж почти мозг!
  Взятый очень давно курс на копирование работы реального головного мозга на основе изучения его внутренних взаимосвязей дал хорошие результаты. Ученые пришли к пониманию работу нейронных "колонок", называемых так же "миниколонка кортекса (или микроколонка кортекса) - вертикальная колонка, проходящая через несколько слоёв коры головного мозга и содержащая 80-120 нейронов (за исключением первичной зрительной коры (V1) приматов, микроколонки которой, как правило, включают вдвое большее число нейронов). Мозг человека содержит примерно 2⋅108 миниколонок. Диаметр миниколонки примерно 28-40 мкм. Миниколонки дифференцируются из прогениторных клеток эмбриона и включают от 2 до 6 цитоархитектонических слоёв коры." https://ru.wikipedia.org/?curid=1771230&oldid=114476312
  
  "Миниколонки группируются в новые образования, называемые "колонка кортекса (также называется гиперколонкой или кортикальным модулем)...
  ... Различные оценки предполагают, что гиперколонку составляют от 50 до 100 миниколонок, каждая из которых содержит примерно 80 нейронов." https://ru.wikipedia.org/?curid=1749545&oldid=88079318
  
  Но разобраться-то разобрались, а как это применить в реальности?
  Копировать реальные нейроны не имеет смысла, тем более, что наука уже давно пошла вперед на основе искусственного нейрона Мак-Каллока - Питтса, назад пути уже нет. Ученые уже давно начали создавать аналогичные комплексы из математических нейронов и программировать их коллективную работу примерно так же, как функционирует естественная нейронная колонка.
  На этом пути успехи весьма значительны. Сегодня ученые уже могут проводить симуляцию работу участка мозга объемом до 5×109 нейронов, что почти эквивалентно мозгу кошки или даже собаки.
  Надо идти дальше!
  Но, новый шаг вперед... делать некуда.
  Почему?
  Скорость симуляции работы участка мозга идет в миллионы раз медленнее реальной скорости его функционирования. Это все же только симуляция. Для получения реальных скоростей нужна и реальная структура таких масштабов.
  А вот тут...
  С одной стороны, технологический тупик, не позволяющий реализовать эту структуру. Мы об этом говорили уже не один раз.
  С другой, тупик философский, стратегический...
  
  

ИИ в глобальном тупике развития.

  Человек создал свою математическую логику обработки сигналов до уровня информации, а потом и логику обработки информации до уровня знаний. И эта система не менее интеллектуальна, чем человеческая. Она даже более рациональна и добивается нахождения оптимальных решений там, где человек уже не видит хорошего выхода.
  И тем не менее...
  Что мы начали осознавать?
  Растущее усложнение машины постепенно снижает уровень управляемости её человеком. Машина всё больше и больше переходит на самоуправление, пока под контролем человека, но... контроль уже стал почти бесполезным.
  Для реального управления машиной в кризисных ситуация у человека уже давно не хватает скорости реакции и времени для принятия управляющих решений. Машина быстрее, эффективнее и предсказуемее в таких ситуациях.
  Тогда, для чего нужен человек в этой системе "человек-машина"?
  Для общего управления. Он "рулит". И уже не всегда верно...
  А машина становится всё более самостоятельной.
  Она уже вообще может обходиться без человека. Например, беспилотные (БП) автоматы, это не только летательные автоматы (БПЛА), но и морские подводные и надводные суда без пилота, такси, военные машины..., список их увеличивается каждый день.
  Не менее важная проблема, требующая срочного решения, это надежность работы всё усложняющихся машин. Мы уже это проходили на первых ламповых вычислительных машинах, где надежность и работоспособность их с ростом сложности стала приближаться к нулю. Нескончаемые ремонты перемежались короткими проблесками нормальной работы... и опять ремонты, смена ламп и т.д.
  Сегодня, когда количество элементов машины считается на десятки миллиардов, надежность работы машины снова стала весьма сложной проблемой. Одним из решений, кроме стандартных вариантов дублирования и гибкой конфигурации, стало самовосстановление или самовоспроизведение. Пока эта проблема хороших решений не имеет, но движение в этом направлении не прекращается.
  Ко всем этим проблемам надо подходить с пониманием действия хаоса, как постоянно действующим фактором глобального влияния.
  Какой вывод и всего этого?
  Путь человека, единственного и неповторимого Творца и управляющего всех своих машин подходит к финишу. Причина тому - бесконечно растущая сложность создаваемых машин и машинных систем.
  "Сложная система - система, состоящая из множества взаимодействующих составляющих (подсистем), вследствие чего она приобретает новые свойства, которые отсутствуют на подсистемном уровне и не могут быть сведены к свойствам подсистемного уровня.
  ...Сложные системы - это системы, поведение которых трудно смоделировать из-за зависимостей, конкуренции, отношений или других типов взаимодействия между их частями или между данной системой и ее окружением.
  ...Сложные системы в основном связаны с поведением и свойствами систем. Система - комбинация взаимодействующих элементов, организованных для достижения одной или нескольких поставленных целей... Элементы, лежащие вне системы, затем становятся частью системной среды." https://ru.wikipedia.org/?curid=57298&oldid=129135730
  
  Таким образом, сегодня сложной машине, чтобы существовать, необходимо иметь какой-то уровень:
   Сложности, допускающей широкий диапазон адаптации к изменениям;
   Самостоятельности до уровня принятия управляющих решений;
   Сохранения работоспособности через самовосстановление или самокопирование;
   Противодействия влиянию хаоса.
  
  Вот здесь и начинается новый путь взаимодействия человека с машинами.
  Но, чтобы оценивать уровень чего-то, надо понять, а что это вообще, как его оценивать?
  Сегодня специалисты по ИИ, хотят они того или нет, вынуждены возвращаться на путь советского Искинта с новым пониманием и новыми возможностями. Новое общее направление развития ИИ теперь уже не определяется как "программное" или "нейросеть".
  Это уже в прошлом.
  Сегодня стоит глобальная задача приближения аппарата с системой ИИ к какому-то уровню субъектности.
  Вот здесь наши страхи ИИ наконец-то обрели конкретику...
  
  Субъектность ИИ, это то самое "зло" которое философы ИИ требуют уничтожать "в зародыше", даже не приближаясь к этой опасной для человечества черте!
  
  Здесь и возникают все страхи про Супер ИИ, "пугалки" и "страшилки" последнего времени. Философские и литературные, талантливо реализованные в формате IMAX с объемом 3D и всеми другими наворотами. Чтобы страшно стало всем и по-настоящему.
  Ну хорошо, побоялись сами, попугали друг друга, а что дальше?
  От этого проблема не исчезнет. Надо искать понимание проблемы, точки критичности, решения и способы управлять этим процессом, чтобы и правда, не загнать мир в Армагеддон.
  Никакие призывы "Долой цифровизацию!" уже не помогут. Мы уже в цифровой реальности. Другой нет и не будет в ближайшее время.
  Время атропоцентризма проходит. Машине нужна самостоятельность [9], чтобы оставаться нашей главной производительной силой. Мы это понимаем, но очень этого боимся и пытаемся понять, что происходит сейчас и что будет завтра.
  Тут, с одной стороны... Зачем усложнять?
  Философский редукционизм прав. Любое сложное явление можно разложить на множество простых действий и объектов. Но..., это если явление уже когда-то возникало в нашей реальности и мы знаем, что оно есть.
  С другой стороны, а если мы пока не знаем того, что нас ждет впереди?
  В этом случае философия должна хоть как-то предугадать то, что нас ждет или тут никакая философия не поможет?
  Философы уверены в первом, ученые - во втором.
  Но реальный поиск сложнее любых теорий и уверенностей. Он часто приводит в тупик. И потому ни философы, ни ученые не спешат со своими умозаключениями в ожиданиях от следующего шага. Понимание тормозит идеология "программного автомата", сформулированная когда-то Н.Винером и другими учеными в середине прошлого века для развития кибернетической теории на основе вычислительной техники того периода.
  Эта роль машины для человека хорошо согласуется с философией религии, парадигмой антропоцентризма, принятой за основу понимания не только в философии, но и в науке. Мы же знаем научные идеи ноосферизма и тут же... идея Великого Космоса. В основе всего - человек. И немножко Бог, в любом своем обличии, включая и Информационный Космос.
  Тогда...
  Что есть Искусственный Интеллект, это субъект или объект?
  И... нет ответа, ....ни у ученых, ни у философов. Они не хотят уточнять свое понимание этого. Потому, что уточнение противоречит всему тому, что было сказано раньше.
  Примерно так...
  Если интеллект, это субъект, то в человеке главное - душа, которая может существовать отдельно от тела. Для философии это нормально, но тогда надо признавать, что человек создает "душу машины" и когда-то подобно Богу, он возьмется и за перенесение человеческой души из одного тела в другое. И даже это как-то понимаемо, но тогда надо признавать "душу машины" субъектом и относиться к ней соответственно, как к живому существу. Такого наука и философия не могут себе ни представить, ни позволить.
  С другой стороны, если интеллект, это лишь объект, даже просто качество, человеческого ума, то тогда для создания ИИ нужен и "искусственный" мозг какого-то "машинного" субъекта, аналогичного человеку. И теперь мы должны как-то приравнять саму машину к человеку для сравнения их интеллектов. Вот тут наука вроде и не против, но вот философия.... этого категорически не принимает.
  Куда ни кинь, всюду клин...
  Потому, в этих условиях полной неопределенности, наука в середине прошлого века выбрала самый простой вариант для строительства ИИ - "программный автомат" в виде вычислительной машины.
  Но и тут с точки зрения философии есть вопрос...
  Программа для машины, это что?
  С одной стороны, это "правила жизни", диктуемый "сверху", "скрижали Завета", как единственный способ решения проблем... Похоже?
  По сути, это внешнее управление, правила, заданные внешним управляющим. Человек для вычислительной машины, в каком-то понимании - высший уровень управления, Творец, которому сопротивляться невозможно.
  Он создал машину, он вложил в неё "душу", систему поддержания заданного рабочего состояния и дал "скрижали", программу, которую необходимо исполнять, чтобы достичь цель..., заданную Творцом.
  Да. Как-то так.
  С философской точки зрения это появление бесконечной вертикали управляющих уровней. От автомата до... Бога.
  Лестница в небо.
  И в неё оказывается включена машина, как еще одна ступень развития... Интеллекта и Разума
  Вот на этом сегодня остановились философия и наука в понимании машинного интеллекта.
  Философия ушла от выбора. Наука запуталась в прошлых наработках и только начинает перешагивать через этот идеологический и философский порог, искать новое направление движения. Поиск идет во все сторону сразу.
  
  г. Волгодонск
  май 2023г
  
  Литература:
  1. Никитин А.В., В плену 'призрачных истин' // 'Академия Тринитаризма', М., Эл N 77-6567, публ.28241, 28.12.2022 http://www.trinitas.ru/rus/doc/0016/001h/00165190.htm
  2. Станислав Лем. Магелланово Облако https://www.booksite.ru/fulltext/0/001/005/167/049.htm
  3. Бостром Н., Искусственный-интеллект. Этапы. Угрозы. Стратегии https://avmim.com/wp-content/uploads/2018/11/Бостром-Н.-Искусственный-интеллект.-Этапы.-Угрозы.-Стратегии-2014.pdf
  4. Поспелов Д.А. Сознание, самосознание и вычислительные машины// Системные исследования. - М.: Наука, 1969. http://www.raai.org/about/persons/pospelov/pages/SR1_Pospelov_1969.pdf
  
 Ваша оценка:
Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список
Сайт - "Художники" .. || .. Доска об'явлений "Книги"