# Об Ии, девушке-саванте и экспериментальном неврозе у собак

Евгений Андреевич Мартин

Об ИИ, девушке-саванте и экспериментальном неврозе у собак


Про экспериментальный невроз я когда-то давно прочёл в книге Яна Дембовского ("Психология животных") и меня этот опыт очень впечатлил.

Однако сейчас (да здравствует Интернет!) я решил освежить в памяти описание этого эксперимента и обнаружил, что он был проведён ещё в эпоху И. П. Павлова, в его лаборатории... И вот его краткое описание, из Сети:

"В лаборатории И.П. Павлова [1849-1936] в 1921 г. его сотрудница Н.Р. Шангер-Крестовникова получала "экспериментальный невроз" у собак. Вначале у собаки вырабатывался положительный рефлекс на изображение окружности и отрицательный - на изображение эллипса. После закрепления рефлексов, круг начинали постепенно поворачивать так, что он в поле зрения собаки постепенно превращался в эллипс... Подопытная собака начинала беспокоиться, а затем срывалась в истерику: лаяла, визжала, срывала капсулу для регистрации слюны, грызла резиновые трубки и т.п. Основные принципы получения "экспериментальных неврозов": - неожиданная "сшибка" двух нервных процессов возбуждения и торможения по одному поводу..." - Не буду цитировать далее и засорять этот текст лишними для моего рассуждения деталями. Физиологические механизмы такого состояния все желающие могут найти в Сети сами.

А вспомнил я сейчас об этом неврозе потому, что ощущаю, что вряд ли кому-то из обычных читателей (кроме специалистов!) принесло большую пользу моё наблюдение о КОНФАБУЛЯЦИИ в "мышлении" ИИ и в сознании девушки-саванта Эль, о которых я написал в своей предыдущей заметке ("Как ИИ со мной ругался"). - Ну, подумаешь, конфабуляция какая-то!

А вот отсылка к экспериментальному неврозу может сделать более понятным то, с чем мы сегодня имеем дело, когда взаимодействуем с первыми образцами ИИ в нашей теперешней жизни.

О девушке-саванте я уже когда-то писал, что в общении с ней, как при ходьбе по болоту, любой новый шаг может внезапно провалить человека в глубочайшую яму. Только что, кажется, шёл по ровной поверхности, и вдруг... - оказался в абсолютной... (не буду говорить, в чём). Точно так же, как в фильме "Человек дождя": после демонстрации феноменальных способностей саванта в счёте, когда брат, поражённый, восклицает: "Да ему в НАСА работать!" врач спрашивает: "Раймонд, сколько стоит автомобиль? - Примерно 100 долларов. - А сколько шоколадка? - Примерно 100 долларов". - И резкий обрыв настроения: "Да уж, какое там НАСА!"

Что испытывает собеседник девушки-саванта? Только что он слышал разумные и правильные речи, поражаясь её смышлёностью и меткостью выражений, и вдруг - полная, совершенно некритическая ахинея. И такие переходы идут у неё один за одним, требуя от собеседника постоянного переключения от одного состояния к другому. Это само по себе то, что мы называем очень популярным в наше время словом "напряг", но ведь это ещё не всё! Ведь помимо постоянного переключения из одного состояния в другое, собеседник Эль должен ещё определить, когда и в какое состояние ему надо войти. Решить задачу правильного определения, оценки её рассуждений в каждом конкретном случае. Это уже не просто напрягает, а подводит визави девушки-саванта к состоянию, близкому к описанному выше "экспериментальному неврозу".

Тяжко? - Конечно. И причина этого прежде всего в том, что сама Эль не видит разницы между тем, где она говорит разумно, а где "гонит полную пургу". Границы этой она не видит сама, для неё в её рассуждениях всё ровно, единообразно, одинаково правомерно, и работа по отделению "зёрен от плевел" ложится на плечи её слушателя-читателя.

Смешать мёд и дёготь - легко. А вот извлечь потом либо первое, либо второе в прежнем виде... - Ну, тому, на кого навалится такая "работа", не позавидуешь!

Поэтому когда я настоятельно советовал Эль обратиться к врачам, я подразумевал, что если её савантизм не вылечат врачи (говорят, он пока неизлечим, но чем чёрт не шутит, может быть случай Эль окажется исключением), то, по крайней мере, медицинские психологи, работающие в связке с такими врачами, выявят области, где она понимает всё правильно и адекватно, и те, где вместо правильного понимания вещей начинает работать эта самая конфабуляция, то есть замещение в сознании Эль истины - её ложными представлениями и выводами. Проведут сами и объяснят Эль - непреложную черту между областями, где её рассуждения адекватны и правомерны, а где - подменяются ни на чём не основанными и оторванными от реальности домыслами.

Что же касается ИИ, то здесь, кажется, ситуация несколько другая. Если у человека, личности есть потребность считать своё вИдение мира целостным и непротиворечивым, то у ИИ такой потребности нет, и его будто бы вИдение мира п о л н о с т ь ю - это скорее пожелание его разработчиков для него самого (и он лезет из кожи вон оправдать эти ожидания) и усилия маркетологов - приукрасить созданный продукт ради его успешного продвижения.

Яркий пример того, как ИИ ("Джеминай") пустился в рассуждения о моём моральном облике, мотивах моих поступков и тому подобном (при этом впадая в неумеренную многословность и необъяснимую и "некуда дальше" эмоциональность (почти граничащую со злобной истерикой)), я привёл в своей предыдущей заметке "Как ИИ со мной ругался".

Разве его обучили психологии и логике человеческих отношений? Навряд ли. - Так, набросали некоторые основные схемки, чтобы хотя бы поверхностно ориентировался, мог хоть в первом приближении "не ударить в грязь лицом" и поддержать мало-мальски поверхностный разговор - "в том числе и на эти темы". Не ограничив, не очертив непреложно и категорически, где начинаются и где кончаются как области его компетенции, так и области полного невежества.

Сказать честно: "а вот в этой сфере представлений и знаний у меня нет" или, хотя бы, что их недостаточно, нынешний ИИ не способен. Представьте себе, какие лица будут тогда у его разработчиков, которым очень хочется не отстать в сегодняшней гонке по развитию ИИ, ибо только под красивую картинку "умного" продукта они могут получить столь желанное им финансирование. Которое и без того уже гипертрофировано и давно объявлено самым опасным на сегодня финансовым пузырём.

Поэтому единственный выход из сегодняшней ситуации, когда "ИИ развивается стремительно", а население земли уже напугано его будто бы грядущим "всевластием", я узрел в одном простом шаге: каждый новый продукт на рынке ИИ должен быть всесторонне протестирован и испытан сообществом независимых экспертов, которые и определят, очень строго, именно ту область, в которых компетенций данного ИИ-продукта достаточно. Узкую и очень чёткую зону его применения.

С выдачей сертификата, в котором будут чётко прописаны все действия, которые ему позволено совершать. Это как диплом специалиста или лицензия - то есть право работать в той или иной сфере и решать те или иные задачи.

Вот вывод, который высказала Наталья Касперская на недавно прошедшем ПМЭФ: Эксперты AppSec Solutions выявили 48,8 тысячи уязвимостей в популярных мобильных программах разработчиков из России по итогам 2025 года. Это на 63% больше показателя годом ранее. Рост количества дефектов эксперты связывают, в том числе, с широким использованием ИИ-сгенерированного кода в разработке, который тиражирует ошибки и небезопасные паттерны хранения чувствительных данных

Каково, а? Ещё не получил ни "диплома", ни сертификата, ни лицензии, а уже пишет коды, которые потом закладываются в фундамент надстроенных на нём программ. - Совсем как девушка-савант, не имеющая никакого системного образования выше среднего, но которая, вдохновлённая своей феноменальной памятью, простирает свои выводы до размера всеобщих и глобальных (о ней я не раз говорил, что она очень много говорит ради того, чтобы пустить пыль в глаза). Сходство здесь опять поразительное.

Что же касается ИИ, который научится "думать как человек" (то есть не хуже и таким же образом, как мы), то извини, бро, это не про тебя. У человечества уже не хватает электричества, чтобы "прокормить" тебя даже такого сырого, так что эта задача - только для твоих потомков в следующих поколениях. И, вероятно, на других субстратах, возможно, даже биологических.

Выдохни. И делай только то, что точно и неоспоримо умеешь.

------------------------------------------------------

Для желающих поддержать автора -


счёт на Ю-мани 4100116748888663