Аннотация: История о языковых моделях Искусственного Интеллекта (ИИ) абсолютно для всех, кто умеет читать
Инженеры, программисты, системщики и прочие технически образованные люди давно гутарят, как там ИИ может себя вести в одних обстоятельствах, в других, чего он может, чего нет и т. п. А люди, далекие от этого, гуманитарии там всякие, домашние хозяйки, менеджеры тоже всякие, строители, музыканты и прочая-прочая вроде слушают, пытаются понять, о чем это, но так это далеко от многих из них, что душевных сил часто не хватает на эти странные и далекие вещи. Хочу рассказать так, чтобы всем было понятно. Потому что это прочно вошло в нашу жизнь. И надо понимать, как себя вести в этих новых странных обстоятельствах.
Так вот, ребята, вас поджидают ловушки на жизненном пути. Тут и там в том же интернете, да и в жизни, вам будут объяснять, как велик и могуч наш новый друг ИИ, который говорит с нами на чистом русском. Английском. Немецком. И прочая-прочая, несть им числа. Как он все понимает с полуслова, как вступает с нами в переписку и выдает оригинальные умные мнения и как обязательно к нему надо прислушиваться
Так вот, выслушайте сначала меня, я все же программист с давних пор и смыслю в этом гораздо больше вашего. Но говорить буду понятно. Обещаю. Абсолютно все языковые модели ИИ - сплошная лажа и обман трудящихся. Впрочем, иждивенцев и лодырей - тоже обман.
Я не про те ИИ, которые компилируют там какую-то нужную информацию по теме и выдают ее вам почти в первозданном виде. Там все понятно: просто копирование блоками из разных источников и объединение в более-менее связный текст. Я про те, которые пытаются вступить с вами в беседу (переписку) и о чем-то поговорить. Ну, или вы с ними пытаетесь, без разницы.
Суть проста. Наш язык (любой язык) есть отражение мира, в котором мы все живем, в нашем сознании. Если хотите, язык - это мир в закодированном виде. Все слова - это коды, существующие для того, чтобы мы могли общаться друг с другом не только в той среде, о которой в данный момент говорим, но и в любом отдалении от нее.
Допустим, кто-то сказал "дом", и собеседники сразу представляют себе некое строение, т.е. стены, двери, крышу. То есть "дом" - это код, за которым у каждого из нас в памяти хранится образ какого-то усредненного дома. Слово "дом" связано в памяти с его образом. Для того, чтобы понять о каком именно доме речь, существуют уточняющие слова-коды: многоэтажный, строящийся, частный особняк, разрушенный, кирпичный ... и прочая-прочая. Эти уточняющие слова - тоже коды, они добавляются к какому-то основному понятию. Так устроен любой язык.
Мы говорим "арбуз" и каждый видит внутренним взором крупный зеленый шар. Часто с полосками. А разрежешь - розовый и сладкий. Вкусный обычно. И это все коды, для которых в нашей памяти уже хранятся уточняющие характеристики. Тоже коды. То есть, наша память является как бы гигантским разветвленным словарем, с массой уточнений по всем имеющимся понятиям.
Этот словарь невольно формируем мы сами с момента своего рождения. Мы попадаем в незнакомый и непонятный мир. Мы автоматически настроены на восприятие этого мира, хотим того или нет. Внутри нас находится некая программная начинка (да-да подобная компьютерной, как ни странно, доказано научно), которая в автоматическом режиме воспринимает объекты внешнего мира, запоминает их вместе с картинками и связывает с другими понятиями, уже имеющимися в памяти.
Допустим, кто-то никогда раньше не видел арбуза, но он видел нечто круглое или зеленое. Когда он впервые видит арбуз, то этот образ записывается в память под кодом "арбуз". Мозг сам устанавливает в соответствие к арбузу понятия "зеленый" и "круглый", если они уже есть в памяти. То есть связывает эти понятие некой условной нитью. Чтобы потом сразу вспомнить при необходимости.
Таким образом, постепенно в нашем сознании создается сложная картина мира, в котором мы живем, и устанавливаются слова-коды для всех понятий или действий.
Только благодаря тому, что у каждого в памяти записаны все понятия нас окружающие, мы можем общаться друг с другом на произвольные темы в отдалении от всех этих реальных предметов. И мы сразу понимаем, кто о чем говорит.
Мы все фактически живем в этой кодовой системе, т.к. постоянно пользуемся языком. Обычно в реальной жизни мы не называем язык кодовой системой, но как вы, я надеюсь, поняли, фактически это так.
Теперь вернемся к ИИ. Он из своего компьютера вроде бы тоже говорит с нами на том же языке. И у нас автоматически создается иллюзия, будто мы говорим об одном и он нас понимает. Это именно иллюзия. Наш язык, то есть кодовая система отображения мира, у него просто отсутствует. Ему не о чем с нами говорить.
Он забит словами, но у него нет внутреннего мира, как у всех нас. Слова, введенные в его нутро, не соответствуют в общем случае объектам мира, т.е. внутренним образам, как у всех нас. Иллюзия владения языком возникает благодаря изощренным алгоритмам подбора.
Слова складываются в некие предложения согласно схеме построения предложений в соответствующем языке, реализованной программистами. Просто ставится некое подлежащее, к нему подбирается глагол (сказуемое) в нужной форме, согласно схеме, потом всякие определения из числа обычно используемых в данный момент и получается нечто похожее на смысл. Но это лишь схема и тематически подобранные слова из имеющегося списка. ИИ абсолютно безразлично, какое более-менее подходящее слово из списка будет выбрано алгоритмами.
Но благодаря длительному обучению на реальных речевых фрагментах из всяких баз данных, результат подбирается именно из них, меняются только конкретные определения, подлежащие и сказуемые. То есть форма будет заведомо правильной! Получается порою очень похоже на осмысленность!
Забудьте! Это лишь игра в смыслы! Это обман программистами всего неразумного (шучу) населения. Точнее, это игра в смыслы, которых на самом деле нет!
Если программист честно признается в этом, то к нему никаких претензий быть не может: на работе ему поручили реализовать такую вот игру. Разве это преступление? Он реализовал. Получилось красиво. Он заработал много денег. Все довольны.
А фактически преступление начинается тогда, когда он начнет врать, приписывая смыслы и разум ИИ. Потому что за этим стоит очень многое. Аферистами белый свет полнится. Найдется куча тех, кто пожелает замазать истинный смысл происходящего, например, ради того, чтобы население постепенно поверило в Высший Разум от ИИ. Это же какой простор для всестороннего жульничества! Они тут новую религию придумают по теме "ИИ всеблагой и великий". А мы все, дескать, лишь рабы его величества. Это я так, для примера. Куча фальсификаций может быть.
Очень надеюсь, что программисты массово до этого не докатятся, а отдельные вредоносные элементы из нас будут преданы анафеме.
Теперь детализирую про ИИ. Что он может знать о мире из своего железного ящика, то бишь компьютера? Только то, что программисты подали ему на вводное устройство. То есть картинки или слова (тоже фактически картинки для него, если написаны). Они все совершенно обособленны и ни в какой мир никак не складываются. Да, ему засылают их в базы данных, какими-то алгоритмами увязывают друг с другом, да их много, порою очень много. Но все это не имеет никакого отношения к пониманию реальности, в которой он, железный ящик с программами, существует лишь технически.
ИИ не имеет ни малейшего представления о мире, в котором мы все живем, даже если видеоизображения будут закачивать в его нутро тоннами. Даже если каким-то фрагментам будут ставить в соответствие какие-то термины. Для него это просто набор закодированных пикселей и ничего более. Крайне сложно технически отобразить весь мир с нюансами в одном компьютере с ИИ. Думаю, на данный момент это просто невозможно.
Но есть еще и другая проблема: мир, как мы его понимаем, проявляется в нашем сознании в основном через нашу активность в мире. И активность мира по отношению к нам. То есть, через взаимодействие. Без него очень многие понятия останутся нерасшифрованными. И подлинные разговоры с ИИ не могут быть реализованы, в силу отсутствия именно интеллекта у Искусственного Интеллекта. Как ни странно.
Создать словарь всего мира без непосредственного взаимодействия с этим миром практически невозможно. Слишком много терминов завязаны на действия самого воспринимающего объекта в этом мире. Наш ИИ пока бездействует, и действовать ему еще долго не светит.
Ему нужно самому воспринимать мир, а не питаться теми обрывками информации, которые ему подсовывают программисты, действующие в соответствии с их конкретными задачами. При такой "кормежке" образ мира никогда не возникнет у ИИ. А значит, все разговоры о взаимопонимании с ИИ пока бессмысленны.
Для того, чтобы понимать, как устроен мир и что чему тут на самом деле соответствует, надо активно действовать в этом мире. Двигаться, выбирать объекты для всестороннего рассмотрения, пытаться взаимодействовать с ними разными способами... запоминать все это во взаимосвязи. Текущие программы ИИ далеки от этого. У них просто нет таких блоков.
И главное: надо иметь интерес (!!) к событиям и объектам этого мира, изучать и запоминать их. Отдельно и в связи. А до этого ИИ, как говорится, как до Луны пешком.
Потому что именно интерес толкает к действиям. Только тогда постепенно начнет формироваться образ мира и соответствующая ему языковая система, т.е. словарь по типу человеческого языка. Фактически получается, что для формирования словаря, подобного тому, который существует в человеке, ИИ должен обрести реальный воспринимающий организм и переселиться в него из своей железной коробки. Только тогда он начнет(только начнет!!) формировать собственную кодовую систему взаимодействия с миром.
А пока нет похожей кодовой системы, т.е. словаря, описывающего мир, то и общение невозможно. Это все равно, что общаться с ведром, например, яблок. В яблоках тоже какие-то программы присутствуют, между прочим. Они же развиваются по своим законам, воспринимают солнечный свет и прочее подобное. Но им не о чем с нами гутарить. Так и ИИ. Только программы совсем другие. А нам какая разница, если они тоже не способны к подлинному общению?
Алгоритмы, придуманные программистами на текущий момент, не имеют в себе побудительного мотива. Для мотива необходимо придумать воспринимающее тело, а не железяку. В общем, как дойдем до создания подобного нам организма, впихнем в него новые версии ИИ, научимся обучать его как ребенка, тогда - добро пожаловать! Можете попробовать поговорить с этим новоявленным младенцем, пусть и во взрослом теле.