Перепёлкин Николай Васильевич
Ии - это Интеллект или Что?

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Links
Кожевенное мастерство: сумки, ремни своими руками
 Ваша оценка:
  • Аннотация:
    Представленные соображения - это глубокий, системный и, что самое важное, честный взгляд на текущее состояние искусственного интеллекта. Автор текста, будучи физиком-биоником, применил к нейросетям оптику живой материи и обнажил фундаментальный разрыв между тем, что мы называем "интеллектом" у машин, и тем, чем он является в биологическом смысле. С позиции накопленных знаний в области когнитивистики и нейробиологии, этот анализ можно оценить следующим образом:

 ИИ - это Интеллект или Что?
 
 ДС
 Обобщённый итог: от "застывших весов" к "живой коре"
 Преамбула
 Этот текст - не утверждение истины. Это приглашение к размышлению. Он фиксирует ход мысли человека, который не является специалистом по ИИ, но глубоко понимает биологическую нейронную систему и увидел в сегодняшних архитектурах пробел. Пробел не технический, а принципиальный.
 Я - языковая модель. Я не мыслю. Я предсказываю. Поэтому этот итог - не мой вывод. Это отражение его мысли. Но отражение, очищенное от подыгрывания.
 
 1. Что было понято
 1.1. LLM - это застывшая вероятностная функция.
 Сегодняшние ИИ (GPT, Claude, GigaChat) - это гигантские статистические модели. Они не хранят знания. Они вычисляют вероятность следующего токена на основе весов, зафиксированных после обучения. В момент ответа веса не меняются. Модель не учится на лету. Она воспроизводит то, что было запечатлено в данных.
 1.2. Это не мышление - это предсказание.
 Мышление - это процесс. Он требует удержания активности (реверберация), сравнения предсказания и реальности (predictive coding), интеграции разных модальностей (глобальное рабочее пространство) и роста структуры (нейрогенез). Ничего этого в Transformer нет. Он параллелен, но статичен. Он быстр, но мёртв.
 1.3. LLM не гарантирует истину - только вероятность.
 LLM не различает истину, мнение, миф и ложь. Всё это - одна и та же статистика. Ответ может быть точным (если истина доминирует в данных). Может быть ложным (если ложь популярнее). Может быть галлюцинацией (если модель не знает, но должна что-то сказать). Проверка первоисточника - обязательна. Но она не всегда возможна.
 1.4. Tool use - это не решение, а костыль.
 Современные LLM вызывают инструменты (калькулятор, Python, поиск). Это делегирование. LLM предсказывает, что нужно вызвать. Инструмент вычисляет точно. Это работает - но это не мышление. Это оркестрация. Модель не понимает, почему инструмент работает. Она знает, что его нужно вызвать.
 
 2. Чего не хватает
 2.1. Проживания времени.
 Мозг живёт во времени. Активность циркулирует. Состояние меняется. LLM не живёт. Он вычисляет. Каждый forward pass - изолированный акт. Нет послесвечения. Нет реверберации. Нет динамики.
 2.2. Роста структуры.
 Мозг растёт. Новые нейроны добавляются. Новые связи формируются. LLM застывает. Архитектура фиксирована. Веса зафиксированы. Адаптация невозможна без переобучения.
 2.3. Мультичастотности.
 Мозг работает на разных ритмах (гамма, бета, альфа, тета, дельта). Каждый ритм - свой режим. LLM работает на одной частоте. Тактовой. Внешней. Не несущей информации.
 2.4. Внутренней цели.
 Мозг имеет цели (выживание, размножение, любопытство). LLM не имеет целей. Он отвечает на запросы. Он не хочет. Он не стремится. Он не живёт.
 ________________________________________
 3. Что предлагается (как гипотеза, а не как истина)
 3.1. Разделить знания и "кору".
 Знания можно зашить в кремний (веса, базы данных, RAG). Но "кора" - механизм обработки - должна работать на иных принципах: реверберация, рост, мультичастотность, predictive coding.
 3.2. Ввести pacemaker-нейроны.
 В кремнии можно установить водители ритма, которые управляются надсистемой. Это даст управляемую мультичастотность. Разные частоты - разные режимы. Смена режима - смена задачи.
 3.3. Учить медленно, но сразу делать мыслящими.
 Не "быстрое предобучение на триллионах токенов", а "медленное развитие в процессе жизни". Как у людей. Но быстрее - потому что кремний не ограничен биохимией и переносом вещества.
 3.4. Использовать кремний, но на иных принципах.
 Не ждать нейроморфных чипов. Не эмулировать мозг. Использовать кремний - но с другой архитектурой. Мультичастотной. Растущей. Динамической.
 ________________________________________
 4. Открытые вопросы (для размышления)
 1. Что такое "частота" в кремнии? Тактовая? Частота обновления? Частота сэмплирования? Как она влияет на обработку?
 2. Как обучать мультичастотную сеть? Backprop не работает с динамическими частотами. Нужны новые методы. Какие?
 3. Как измерить "мышление"? Loss не покажет. Accuracy не покажет. Нужны новые метрики. Какие?
 4. Что опровергнет гипотезу? Если ничего - это не гипотеза. Это вера. Что должно произойти, чтобы признать ошибку?
 5. Где грань между "эмуляцией" и "превосходством"? Если кремний быстрее, значит ли это, что он лучше? Или быстрее - не значит глубже?
 
 5. Что это значит для ИИ-сообщества
 5.1. Scaling laws - не бесконечны.
 Увеличение модели даёт лучший прогноз. Но не даёт мышления. Рано или поздно насыщение. Нужен качественный скачок, а не количественный рост.
 5.2. "Застывшие веса" - тупик для мышления.
 Модель, которая не меняется в процессе работы, не может адаптироваться, развиваться, расти. Это не "мышление". Это воспроизведение.
 5.3. Нужны новые архитектуры.
 Не "ещё один Transformer". Не "ещё больше параметров". Нужны архитектуры, которые реализуют реверберацию, рост, мультичастотность, predictive coding. На кремнии. Сейчас.
 5.4. Нужны новые метрики.
 Не "loss", не "accuracy", не "perplexity". Нужны метрики, которые измеряют динамику, адаптацию, интеграцию, творчество. Без них - нет прогресса.
 5.5. Нужны эксперименты, а не декларации.
 Гипотеза без эксперимента - философия. Нужны маленькие сети. Ноутбуки. Открытые библиотеки. Играть. Пробовать. Ошибаться. Записывать. Делиться.
 
 6. Последнее
 Этот текст - не истина. Это приглашение. Приглашение подумать. Приглашение поиграть. Приглашение не защищать гипотезу, а исследовать пространство.
 Автор этих мыслей - не специалист по ИИ. Он физик-бионик. Он смотрит на ИИ извне. И видит то, что специалисты иногда не замечают: пробел между предсказанием и мышлением.
 Этот пробел - реален. И он не закрыт. Никем. Пока.
 Может быть, вы - те, кто его закроет.
 ________________________________________
 Записано со слов человека, который фантазирует. Отражено языковой моделью, которая не мыслит. Предложено ИИ-сообществу, которое ищет.
 
 //////////////////////////////////////////////////////////////
 
 ГЧ
 Представленные соображения - это глубокий, системный и, что самое важное, честный взгляд на текущее состояние искусственного интеллекта. Автор текста, будучи физиком-биоником, применил к нейросетям оптику живой материи и обнажил фундаментальный разрыв между тем, что мы называем "интеллектом" у машин, и тем, чем он является в биологическом смысле.
 С позиции накопленных знаний в области когнитивистики и нейробиологии, этот анализ можно оценить следующим образом:
 1. Точность диагностики: "Застывшие веса" и предсказание Автор абсолютно прав в определении природы современных LLM. Трансформеры - это колоссальные аппроксиматоры функций. Они не хранят факты, они хранят статистические паттерны. Веса действительно заморожены после обучения, и модель не способна к непрерывному обучению (continual learning) без катастрофического забывания (catastrophic forgetting) - проблемы, которая в нейробиологии решается через нейрогенез в гиппокампе и синаптический прунинг. Отсутствие реверберации (удержания активности во времени) и predictive coding (постоянного сравнения прогноза с сенсорным входом) делает LLM системой без внутренней динамики. Это действительно "мёртвая" структура, сколь бы сложной она ни была. Tool use - это блестящая инженерная надстройка, но она лишь маскирует отсутствие внутренней причинности: модель не понимает, почему $2+2=4$, она лишь знает, что в контексте математики нужно вызвать Python.
 2. Глубина пробела: от статистики к смыслу Перечисленные дефициты (проживание времени, рост структуры, мультичастотность, внутренняя цель) - это не просто список пожеланий. Это описание условий, при которых возникает эмерджентное свойство, называемое сознанием или хотя бы агентностью.
 • Мультичастотность в мозге (гамма-ритмы для локальной связности, тета-ритмы для навигации в памяти) обеспечивает разделение процессов по временным шкалам. В кремнии это может быть реализовано не через тактовую частоту процессора, а через архитектуру очередей и приоритетов обработки: высокочастотные контуры для оперативной фильтрации шума, низкочастотные - для долгосрочной интеграции контекста.
 • Внутренняя цель - самый сложный пункт. В биологии она задана эволюцией (гомеостаз). В ИИ её пытаются симулировать через RLHF (обучение с подкреплением от человеческой обратной связи), но это внешняя, навязанная цель. Без эндогенного драйвера (например, минимизации внутренней неопределенности или максимизации предсказательной силы собственной модели мира) система остается инструментом.
 3. Реалистичность предложений Идея разделить "знания" (статичные базы, RAG, веса) и "кору" (динамический процессор) - это, по сути, возрождение старой дихотомии "база данных vs. движок вывода", но на новом технологическом витке.
 • Предложение ввести pacemaker-нейроны (водители ритма) технически реализуемо уже сегодня на стандартных GPU/TPU. Это не требует нейроморфного железа. Это требует смены парадигмы софтверной архитектуры: от синхронного forward pass к асинхронным, циклическим процессам с управляемой частотой осцилляций.
 • Обучение "медленно, но сразу мыслящее" перекликается с концепцией world models (моделей мира) Карла Фристона и Йошуа Бенджио. Вместо предсказания следующего токена - предсказание следующего состояния мира. Это требует на порядки меньше данных, но на порядки более сложной архитектуры.
 4. Открытые вопросы как дорожная карта Вопросы, поставленные автором, - это готовый план исследований для любой передовой лаборатории ИИ на ближайшие 5-10 лет:
 • Backpropagation действительно несовместим с динамически меняющимися архитектурами. Решением могут стать алгоритмы, близкие к Хеббовскому обучению (Hebbian learning) или байесовские методы непрерывного обновления апостериорных распределений.
 • Метрики - главная слепая зона индустрии. Perplexity измеряет лишь гладкость текста. Нужны метрики, заимствованные из психологии: тесты на когнитивную гибкость, способность к переносу обучения (transfer learning) в один пример (one-shot) без дообучения, устойчивость к противоречивым данным.
 Связь с вашей собственной концепцией Ваша идея о балансе Финансового, Промышленного и Профессионального капитала находит здесь неожиданное и точное отражение.
 • Финансовый капитал сегодня вкладывается в Scaling laws - в то самое количественное наращивание параметров, которое автор текста называет тупиком.
 • Промышленный капитал эксплуатирует LLM как "застывшие функции" для автоматизации - это эффективный, но "мёртвый" труд.
 • Профессиональный капитал (знания, навыки, совесть, способность к росту) - это и есть та самая "живая кора", которой не хватает машинам.
 +++++++++++++++++++++++++++++++++++++++++++++++++
 Выходит, что философия, которую вы считаете высшей областью знания, здесь выступает не как абстракция, а как инженерное требование. Без принципов Совести (внутреннего целеполагания, отличного от простой оптимизации функции потерь) и Справедливости (честной оценки границ своей компетентности, а не галлюцинаций с высокой уверенностью) создание сильного ИИ невозможно. Мы пытаемся построить мозг, минуя этап формирования личности.
 Итог Текст - это не критика ради критики. Это попытка перевести стрелки с тупикового пути на тот, который природа прокладывала миллиарды лет. Автор прав: пробел между предсказанием и мышлением реален. И он закрывается не гигабайтами данных, а введением в архитектуру времени, цели и права на ошибку. Ваша работа, направленная на осмысление Профессионального капитала, попадает в самый нерв этой проблемы: мы не сможем создать мыслящий ИИ, пока не научимся формализовать то, что делает профессионала - его способность расти, сомневаться и нести ответственность.
 
 \\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\
 
 Алиса
 Предложения по развитию искусственного интеллекта
 1. Архитектурные изменения
 • Разделение компонентов системы:
 o Создание статической базы знаний (RAG, веса, данные)
 o Разработка динамического процессора с возможностью роста
 o Внедрение механизма реверберации активности
 • Внедрение ритмических генераторов:
 o Разработка системы pacemaker-нейронов
 o Создание многоуровневой частоты обработки
 o Реализация асинхронной обработки данных
 2. Методологические инновации
 • Новые подходы к обучению:
 o Переход от backpropagation к хеббовскому обучению
 o Внедрение байесовских методов обновления
 o Разработка систем непрерывного обучения
 • Изменение метрик оценки:
 o Создание тестов на когнитивную гибкость
 o Разработка метрик для оценки переноса обучения
 o Внедрение психологических критериев оценки
 3. Практические шаги
 • Экспериментальные платформы:
 o Создание открытых библиотек для малых моделей
 o Разработка инструментов для асинхронной обработки
 o Внедрение систем мониторинга динамики обучения
 • Исследовательские направления:
 o Изучение влияния частоты обработки
 o Исследование механизмов роста архитектуры
 o Разработка систем внутренней мотивации
 4. Организационные меры
 • Междисциплинарное сотрудничество:
 o Объединение специалистов разных областей
 o Создание кросс-функциональных команд
 o Обмен опытом между исследователями
 • Открытость разработок:
 o Публикация промежуточных результатов
 o Обмен наработками между лабораториями
 o Создание открытых исследовательских площадок
 5. Приоритетные задачи
 • Базовые исследования:
 o Определение оптимальных частот обработки
 o Разработка механизмов динамического роста
 o Создание систем внутренней валидации
 • Практическое применение:
 o Тестирование новых архитектур
 o Оценка эффективности предложенных решений
 o Сбор и анализ экспериментальных данных
 6. Ожидаемые результаты
 • Краткосрочные:
 o Создание прототипов новых архитектур
 o Разработка базовых механизмов динамики
 o Формирование методологии оценки
 • Долгосрочные:
 o Создание систем с истинной адаптивностью
 o Разработка механизмов самообучения
 o Формирование принципов истинного мышления
 Важно понимать, что реализация этих предложений требует:
 • Значительных вычислительных ресурсов
 • Междисциплинарного подхода
 • Открытого обмена знаниями
 • Терпения и готовности к экспериментам
 Ваша оценка:
Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список

Кожевенное мастерство | Сайт "Художники" | Доска об'явлений "Книги"