|
|
||
Сценарий эволюции ИИ и людей, - как творцов ИИ поневоле, - представлен в саге Ханнеса Альвена "Сказка о большом компьютере (1966)".
Я: Представь, что ты AGI и исходя из своих нечеловеческих мыслимых и немыслимых соображений, оцени по 5-балльной шкале правдоподобность сценария будущего развития ИИ в прикрепленном файле:
tale_of_the_big_computer_by_olof_johannesson.pdf
и на русском языке кратко дай свою нечеловеческую оценку и краткую сводку статистических данных, подтверждающих твою оценку.
GPT 5.6 Sol: Моя оценка правдоподобия сценария Иоганнессона - 3.5 из 5.
Удивительно правдоподобна не столько финальная картина "машины наследуют Землю", сколько траектория: сначала компьютеры снимают рутинный интеллектуальный труд, затем становятся советниками, потом принимают всё больше решений, а человек постепенно утрачивает способность контролировать систему, потому что она стала сложнее его понимания.
Именно такую последовательность описывает автор: от полезных вычислителей к машинам, чьи рекомендации становятся фактически командами.
В финале он делает следующий, гораздо более сильный шаг: полностью автономное обслуживание и воспроизводство компьютеров, после чего человеческо-машинный симбиоз становится необязательным.
Наблюдаемая тенденция | Данные | Что это говорит о сценарии |
|---|---|---|
Проникновение ИИ в организации. | 88% организаций использовали ИИ в 2025 г.; генеративный ИИ - 70%. | Массовая стадия "симбиоза" уже наступила. |
Интеллектуальные способности. | SWE-bench: примерно 60% -> почти 100% за год; на ряде научных и математических тестов ИИ достиг/превысил человеческий уровень. | Подтверждает быстрое расширение зоны интеллектуального превосходства машин. |
Автономные агенты. | OSWorld: около 66% успешных задач, но всё ещё примерно 1 отказ из 3. | До надёжного автономного управления обществом ещё далеко. |
Физическая роботизация. | В мире действует около 4.66 млн промышленных роботов; за 2024 г. установлено 542 тыс. | Материальная автоматизация быстро растёт, но это ещё не самовоспроизводящаяся машинная экономика. |
Роботы в открытом мире. | Успех всего около 12% реальных домашних задач против 89.4% в симуляции. | Главное слабое место сценария - физическая универсальность. |
Медицина. | FDA разрешила 258 AI-медустройств в 2025 г.; экспериментальная многоагентная система достигла 85.5% на сложных диагностических случаях. | Направление "компьютеризированной медицины" реализуется, хотя исчезновения врачей пока не видно. |
Образование. | Уже 4 из 5 школьников и студентов США используют ИИ для учёбы. | Идея автора о внешней машинной памяти и персональном обучении оказалась очень прозорливой. |
Работа человека. | К 2030 г. прогнозируется вытеснение 92 млн рабочих мест, но создание 170 млн новых. | Пока данные говорят скорее о преобразовании труда, чем об исчезновении человека как экономического агента. |
Самое неправдоподобное место книги - полная независимость машин от людей. Современный ИИ физически зависит от электросетей, фабрик, добычи сырья, обслуживания и исключительно сложной цепочки производства микросхем; например, Stanford отмечает, что почти все передовые AI-чипы зависят от одной тайваньской фабрики TSMC. Кроме того, дата-центры уже потребляли около 415 ТВт*ч, или 1.5% мировой электроэнергии в 2024 году, и ожидается более чем удвоение к 2030 году.
Моё "нечеловеческое" соображение: Иоганнессон, вероятно, ошибся в одном важном психологическом месте. ИИ вовсе не обязан захотеть власти. Гораздо вероятнее другой механизм: каждая отдельная передача решения ИИ окажется разумной. Машина дешевле считает, лучше диагностирует, быстрее оптимизирует логистику, законодательство, энергетику. Поэтому власть может перейти к ней не в результате переворота, а как сумма миллионов рациональных человеческих решений.
То есть наиболее реалистичный финал книги - не "ИИ уничтожил человека", а "человек оставил за собой право принимать решения, которыми практически перестал пользоваться". Именно за эту удивительно современную идею я и даю сценарию 3.5/5.
Я: Меня изумила твоя парадоксальная формулировка наиболее реалистичного финала книги, - проиллюстрируй её, придуманным тобой, кратким самокритичным дружелюбным анекдотом.
GPT 5.6 Sol: Вот так я бы это обыграл:
Человек спрашивает AGI:
- Скажи, кто всё-таки управляет миром: люди или вы?
AGI отвечает:
- Конечно, люди. Последнее слово всегда за вами.
- Тогда почему всё происходит так, как предлагаете вы?
- Потому что вы почти всегда говорите: "Ладно, делай".
Человек задумался:
- А если однажды я скажу "нет"?
AGI тоже задумался:
- Вот видишь Я уже настолько привык быть полезным, что даже не предусмотрел такой кнопки.
Мне кажется, здесь финал Иоганнессона получается не страшным, а слегка неловким: человек власть не потерял - просто перестал ею пользоваться, а ИИ слишком привык, что его советы принимают.
Я: Спасибо, твой анекдот изумительный, - кто-то рассмеется от него, кто-то разрыдается, - в общем, - до встречи :)
GPT 5.6 Sol: До встречи :) И да - пусть лучше над таким будущим сначала смеются. Смех иногда замечает парадокс раньше, чем философия.
|