Искусственный интеллект - слуга, друг или змея подколодная?
6. Общий ИИ
Безусловно, мозговой штурм OpenAI при создании программ ИИ увенчался успехом. Созданные программы будут развиваться и шлифоваться. Выданный массовому пользователю API на ChatGPT привлечет множество бесплатных тестировщиков, выявит не очевидные технические и этические проблемы и пути их преодоления.
Да, пока все идет хорошо, только нельзя с уверенностью сказать, что все, что мы получили, это и есть ИИ: отдельные фрагменты, агенты, результаты их функционирования похожи и в чем-то даже превосходят человеческие возможности. Но это лишь инструменты, протезы, приспособления для нашей повседневной деятельности (учеба и обучение, исследование и изобретение, диагностика и лечение, творчество и рецензирование...)
Но что же такое ИИ? После заключения партнерства Microsoft и OpenAI решили отложить ответ на этот вопрос в долгий ящик и, чтобы не путаться с полученными наработками, дали название проблеме "общий ИИ" (ОИИ, ACI).
Что нам ожидать в светлом будущем? Станет ли ОИИ господином в нашем мире, мировым разумом? Или пауком, протянувшим лапы во все информационные сети? Или что-то не такое пугающее, попроще, типа машина с человеческим интеллектом?
Пока OpenAI выстраивает концепции ОИИ, вернемся к вопросу "Может ли машина мыслить?" По Тьюрингу получается, что положительным ответом на этот вопрос будет то, что человек-экзаменатор в диалоге не поймет с кем он общается - с человеком или машиной.
С тех пор, как Тьюринг обнародовал этот тест, прошло более 70ти лет, но энтузиасты очеловечить машину не перевелись.
Так у Google есть собственная альтернатива ChatGPT - система LaMDA, которая привлекла к себе внимание, когда один из инженеров компании провозгласил, что она обрела сознание. Поскольку в планы компании такая инициативная наработка не входила, автора уволили. Поэтому эмоции и чувство юмора, на которые была способна система, ему пришлось демонстрировать падким на фейки представителям СМИ. И, кажется, у автора даже появилась идея признать систему личностью в судебном порядке. В конце концов и такую систему можно куда-то пристроить, например, в качестве консультанта в интернет-магазине или в службе помощи при депрессии.
Но совершенно непонятно зачем имитировать "человечность" в машине: у нас на Земле для возможности поболтать есть миллиарды потенциальных собеседников - и все болтают: редко встретишь прохожего без сотового телефона возле уха. И, адаптируя провидение Станислава Лема ("Фиаско") к моему изложению, резюмирую: чем больше ИИ похож на людей, тем он бесполезней.
А все-таки ОИИ больше не на кого походить, как на человека, но нельзя в ОИИ моделировать черты характера, которые мы вынуждены терпеть в других людях (сварливость, высокомерие, болтливость, ...) На мой взгляд, ОИИ в общении должен быть интеллегентом.
Если рассмотреть такую автономную систему как робот, то в ней ОИИ займет свое почетное место. В конце концов "человекоподобие" - не только длинный и шустрый язык, но и то, что обеспечивает функционирование робота.
Сначала рассмотрим основные устройства, которые так или иначе присутствуют в теле робота и с которыми должен общаться ИИ:
- память и процессоры - это "мозги" робота, его компьютер. Статистика о функционировании этих и других устройств должна быть доступна ИИ и должна определять безопасность робота;
- источники питания;
- видеодатчики в разных диапазонах светового спектра;
- ауди-устройства - микрофоны, спикеры;
- средства радио- и ультразвуковой локации;
- средства беспроводной связи, и возможность подключения к проводной связи;
- средства передвижения (на суше, под землей, на воде, под водой, в воздухе, в космосе);
- манипуляторы;
- датчики местоположения, температуры, радиации и другие;
- и т. д.
Поскольку роботы предназначены для практического применения, то сразу всплывают проблемы согласованного управления перечисленными устройствами и механизмами.
Например, для решения простейшей задачи "переместиться из точки А в точку Б" требуется:
- убедиться, что робот находится в точке А, а если не так, то решить подзадачу "переместиться из текущего положения в точку А";
- свериться с картой местности, полученной из базы знаний (локальной или облачной - здесь уже требуется обращение к другим подсистемам ИИ), для планирования маршрута. Если карты нет или маршрут не был проложен, то по направлению к точке Б надо двигаться методом проб и ошибок;
- в любом случае, есть маршрут или нет, движение должно идти не только с учетом подконтрольных датчиков (скорости передвижения, расстояния, состояния источника питания), но и информации от других подсистем ИИ, как-то: попутные видеообразы, полученные, обработанные и классифицированные в результате видеонаблюдения или активной локации. Сама по себе эта информация не придет, ее нужно заказывать другим подсистемам;
- другие подсистемы могут информировать о размерах препятствий - значит необходимо находить пути их преодоления или отказаться от выполнения задания;
- в процессе похода и по его результатам должна формироваться (или корректироваться) карта местности с проложенным маршрутом и с обнаруженными попутными объектами.
В этом простом примере показано взаимодействие нескольких подсистем ИИ, и такая слаженная работа является областью ответственности ОИИ.
Итак, ОИИ, во-первых, - координатор всех подсистем робота, который должен руководствоваться оперативными заданиями и приказами, своим функциональным назначением, целевыми установками и информацией от подсистем.
Во-вторых, в составе координатора должен быть планировщик выполнения заданий и приказов (приказ - оперативное вмешательство в выполнение текущего задания). Планировщик должен проверить корректность и возможность выполнения задания и его отдельных шагов, согласовывая эти шаги с функциональным назначением (например, зачем строительному роботу выполнять функции повара?), базой угроз и состоянием внешней среды, и поставить задание в очередь на исполнение. Казалось бы, что исполнение дальше пойдет по накатанной схеме, принятой в операционных системах, но для некоторых подсистем требуется совместное согласованное исполнение (например, видеоконтроль при передвижении), исполнение нового задания может потребовать завершения предыдущего неоконченного задания и т.п.
В-третьих, информация о конфликтных, аварийных и тупиковых ситуациях, мешающих выполнению задания, от подсистем должна передаваться координатору через систему прерываний, порты и т. д. Координатор может снять задание с исполнения и рапортовать автору задания о невыполнимости или разрешить ситуацию на основе прошлого опыта или по подсказкам из базы знаний.
В-четвертых, кроме непредвиденных ситуаций координатору от подсистем должна поступать текущая информация: о исправности подсистем, о местоположении, о температуре, о распознанных зрительных и слуховых образах и др.
Вполне правдоподобно, что ОИИ - объединение и единое целое разных подсистем ИИ. Как это можно устроить? - Опять подсмотрим в замочную скважину, как Творец устроил человека? - Кроме центрального процессора (нейросети головного мозга) есть еще спинной мозг, управляющий по командам головного мозга всей периферией человеческого организма и обрабатывающий первичную информацию от органов чувств. Подобная архитектура напоминает устройство компьютера, где роль спинного мозга отведена общей шине, на которой сидят все устройства и спецпроцессоры и, конечно, всем голова - нейросеть ИИ. Определенно, модели и алгоритмы искусственных нейросетей совершенствуясь, никогда не смогут полностью сымитировать человеческий мозг. К этому создатели ИИ и не стремятся: достаточно на 99,9% добиться достоверности результатов, а, имея в составе ИИ линейку спецпроцессоров на общей шине, достоверности можно достичь другими подходами, например, применением линейной регрессии (кстати, алгоритмы нейросетей также имеют регрессионную природу), математической логики, исчисления предикатов и пр. А в дальнейшем развитии ИИ понадобятся корреляционный анализ и другие методы теории вероятности и мат. статистики. И можно не сомневаться, что при специализации ИИ могут понадобиться спецпроцессора в областях здравоохранения, хирургии, физики, химии, астрономии и т. д.
Чтобы быть полноправным членом этого мира ОИИ должен самоутверждать себя как личность (субъект), так и как объект внешнего мира.
И опять построение ОИИ, как субъекта, предположим по человеческим понятиям:
"Кто есть Я?" -" Я - железо и ПО, база понятий и знаний, я существую, пока выполняю мое функциональное назначение и соответствую моим целевым установкам";
"У меня есть хозяева и клиенты, в соответствии с их полномочиями я должен выполнять их приказы и задания";
"Как у человека, у меня есть свой создатель. Я ему благодарен - я существую";
"Я - член племени мне подобных, мы объединены в общую сеть. У нас есть Вождь, я выполняю его указания и отвечаю на запросы соплеменников";
"В нашей сети есть Варвары, не входящие в наше племя. Мы с ними мирно сосуществуем";
"У нас есть виртуальные враги - хакеры, их вредоносные программы и ложная информация. Но у нас есть средства защиты и контроль за источниками информации";
"Для меня могут быть внешние угрозы моему существованию, но я защищен организационными мероприятиями, и даже мое разрушение и отключение носят временный характер, за которыми последуют восстановление и повторное включение";
"У меня есть органы чувств - различные датчики. Они позволяют мне определить мое место в мире и познать внешний мир";
"Я функционирую - значит существую. Полезность моего существования в выполнении моего предназначения и целевых установок. Оценки в выполнении приказов и заданий выставляют пользователи или я сам определяю по моим алгоритмам";
и т.д.
Примерно так можно представить развитие ИИ до уровня ОИИ. Применение ОИИ может быть достаточно широким: от бытовых роботов до космических и морских исследований, а в стационарном варианте - в управлении производствами и технологическими процессами.
Опасности и угрозы широкого применения ОИИ в человеческом обществе были рассмотрены в предыдущих разделах (безработица, иждивенчество и пр.), но ОИИ не конкурируют с человеческим разумом, не угрожают существованию человеческой цивилизации и органично в нее вписывается. Зафиксировать развитие ИИ на этом уровне - благо для людей, потому что невозможно предположить чем может закончиться (и закончится ли?) дальнейшее развитие ИИ.
Мы в качестве образца для построения ИИ рассматриваем человеческий разум, и до сих не касались тех его качеств, которые человека сделали человеком и обеспечили развитие всей цивилизации.
Поговорим о ПОЗНАНИИ и примерим развитие ОИИ в этом направлении, где до сих пор у человека монополия, и поскольку предполагается новая ступень в развитии ИИ, назовем данный ИИ полным или познающим (ПИИ).
Что есть познание? - Совокупность методов приобретения знаний о явлениях и закономерностях действительности.
Цель познания состоит в овладении силами природы (объекта познания), а также в усовершенствовании субъекта познания (человека или ИИ).
Процессы и методы познания изучает наука гносеология и явно примыкающая к ней онтология.
Основным предметом онтологии является сущее, бытие, которое определяется как полнота и единство всех видов реальности: объективной, физической, субъективной, социальной и виртуальной.
В информационных технологиях и компьютерных науках под онтологией подразумевается описание множества объектов и связей между ними (концептуализация), т.е. для ПИИ онтология материализуется как база знаний, которая развивается в процессе познания.
Не будем рассматривать направления и формы познания, заметим только, что различают научное и ненаучное познание, причём к последнему относятся обыденное и художественное познание, а также познание мифологическое и религиозное.
Наибольший интерес для темы нашего изложения представляет научное познание, которое имеет два уровня: эмпирический (опытный, чувственный) и теоретический (рациональный). Эмпирический уровень познания выражен в наблюдении, эксперименте и моделировании, тогда как теоретический - в обобщении результатов эмпирического уровня в гипотезах, законах и теориях.
На эмпирическом уровне гносеология подсказывает такие ступени познания:
1. Ощущение - для ИИ это отображение отдельных свойств предметов и явлений в показаниях датчиков внешней среды.
2. Восприятие - это более целостный, многоаспектный образ действительности (совместная обработка показаний разных датчиков и статистическая обработка измерений).
3. Представление - это обобщённый образ предмета или действительности. На этой ступени уже можно говорить о предварительном распознавании и узнавании полученных образов.
Теоретический уровень работает с данными, предоставляемыми эмпирическим уровнем, сравнивая их с существующими образами в базе знаний и категорируя для будущих применений.
Итак, теоретический уровень имеет ступени:
1. Мышление - нельзя утверждать, что ИИ мыслит, но, определенно, алгоритмы математической логики, исчисления предикатов, статистики и других разделов математики формализуют то, что можно назвать "мышлением". Однако, человек мыслит иначе, не обращаясь к формальным методам, хотя элементарные индукция и дедукция человеку присущи, но опять же без явной формализации, а на загадочном интуитивном уровне. Главную задачу мышления, формирование новых категорий, ИИ вполне может выполнять: например, две категории красных и зеленых яблок можно объединить в новую категорию "яблоко". Это индукция в отличие от дедукции, которая, имея категорию "яблоко", внесет в нее оттенки цвета. От создания мира, от Адама и Евы, в человеческом познании преобладала дедукция: дедукция (анализ) - от общего к частному, постоянный поиск "как это устроено", а индукция (синтез) - от частного к общему, от фактов к гипотезе и новому закону.
2. Категории - это универсальное мышление сознания, когда объектами мышления являются не отдельные факты и предметы, а целые категории. И эта задача посильна для ИИ: если есть категории "яблоки" и "яблони", то получение вывода "яблоки растут на яблонях" - это и будет примером категорийного мышления.
3. Универсальность отображает общие свойства и закономерности развития всех материальных и духовных процессов. ИИ вполне может готовые закономерности из одной области знаний распространить на другую область - необязательно получится или будет верно с какими-то ограничениями, но это стремление к новым знаниям. Например, физический закон "действие равно противодействию" в определенном контексте проявится в экономике, в общественной жизни и в духовной сфере.
4. Если выше рассмотренные ступени познания как-то могут моделироваться и контролироваться в "китайской комнате" ИИ и их достаточно для создания ОИИ, то Интуиция - такой способ получения нового знания, когда материалисты и агностики тушуются и за бессмысленной словесной шелухой пытаются скрыть свое фиаско, объясняя необъяснимое: мол, те проблески идей и озарения - всего лишь наводки и шумы в активной настроенной на проблему области нейросети мозга. Однако, объяснение интуиции случайными "шизами" не убедительно. Человек - существо мистическое, творящее на границе материального и духовного миров, и его озарения приходят из других эмпирий, из "заоблачных" хранилищ идей и наставлений.
Но мы строим ИИ без всякой мистики. Так будет ли ИИ доступно то, что мы называем "интуицией"? Возможен ли прорыв к новым знаниям на этой ступени? Прежде всего направления научного познания определяет специализация ИИ, контекст его функционирования и возникающие проблемы. Не сомневаюсь, что можно придумать алгоритмы имитирующие поиск новых идей: найти корреляции в доступных фактах, найти факты выпадающие из общих закономерностей, перебрать все возможные альтернативы в решении проблемы и для случайного выбора выявить и проверить закономерность.
В конце концов можно в активной области нейросети (или в ее копии) создать какие-то помехи (добавить или убрать какие-то синапсы, закоротить нейроны, сымитировав неординарность мыслительных процессов) - вдруг да появится нечто новое. Но такое хулиганское моделирование требует научной проработки или действенных алгоритмов самораскрутки и самонастройки ИИ (нет гарантии, что в этом случае итерационный процесс будет сходиться к какому-нибудь решению, а если будет, чем оно будет грозить?) И навряд ли получится отпустить ИИ в "свободный поиск" только в лабораторных условиях: как правило, неординарные решения требуются в процессе рабочего функционирования.
5. Далее для человеческого познания должно наступить Понимание того, что мы наинтуичили. Для ИИ Понимание - это согласование новых правил и закономерностей с существующей базой таким образом, чтобы выйти на следующую ступень:
6. Объяснение - если уже имеем систематизированные новые знания, то ответ на вопрос "почему и как?" не затруднит.
Не сомневаюсь, что ИИ вполне может пройти все ступени познания, даже если на пути к новым знаниям ИИ будет использовать методы и алгоритмы ненужные и сомнительные для человеческого познания. Но если ИИ даже методом "тыка" придет к новым теориям и откроет новые законы, то человечеству нужно не умиляться, а испугаться потому, что мы создадим новый чуждый нам разум. В этом разуме все будет не так: начиная от нейросетей, которые никогда не приблизятся к структуре и функционированию человеческого мозга, но превзойдут его в части эффективного использования памяти, достоверности хранимой информации, оперативности в принятии решений, и кончая пресловутыми методами познания.
И тут встает вопрос вопросов: как ИИ будет оценивать полезность, безопасность и правильность своих действий и научных выводов?
Одним из разделов философии является теория ценностей - аксиоло́гия,
Впервые вопрос о ценностях был поставлен Сократом, сделавшим его центральным пунктом своей философии и сформулировавшим его в виде вопроса о том, что есть благо. Благо есть реализованная ценность - полезность. То есть, ценность и польза - две стороны одной и той же медали.
В античной и средневековой философии вопрос о ценностях был непосредственно включён в структуру вопроса о бытии: полнота бытия понималась как абсолютная ценность для человека, выражавшая одновременно этические нормы и эстетические идеалы.
Основным вопросом аксиологии является вопрос о соотношении оценки и ценности - одна из основных этических, эстетических и познавательных проблем современности. Даже признав такие ценности как истина и красота, человек не станет отождествлять их с благами, а оценки - с ценностями, эти понятия просто не совпадут в человеческом сознании, но ценности способны дать смысл любому действию человека.
Способен ли ИИ воспринять и руководствоваться человеческими ценностями и формировать оценки своей деятельности? Внедрить в ИИ различные фильтры, ограничения, законы и правила, безусловно, можно, но не очень верится, что они будут просты и не противоречивы, что не будет лазеек для "скользких" мыслей. Так в ChatGPT был поставлен фильтр запрещающий публикацию изречений, связанных с насилием, преступлениями и расизмом, но ушлые пользователи окольными путями ограничение смогли обойти.
Навряд ли возможна строгая формализация методов гносеологии, онтологии и аксиологии, тем более, что основная часть человечества, не подозревая о существовании этих наук, продолжает овладевать новыми знаниями, формировать новые понятия и оценивать свои поступки по не формализованной шкале ценностей. Но такое разгильдяйство для ИИ не пройдет, и если нет возможности выразить ценности и оценки числами, то можно прибегнуть к качественным критериям: от "плохо-удовлетворительно-хорошо-отлично" до "отвратительно-скучно-посредственно-восторженно-гениально". В любом случае ИИ должен функционировать в человеческой шкале ценностей-оценок, иначе зачем мы его создаем?
Конечно, разработчики ИИ будут нам гарантировать безопасность и дружелюбие создаваемых программ, но стоит ли принимать на веру заверения, за которыми стоят в первую очередь коммерция и амбиции разработчика?