Григорьев Александр Владимирович
Про явления и сущности . Как их понимать

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:
Школа кожевенного мастерства: сумки, ремни своими руками Юридические услуги. Круглосуточно
 Ваша оценка:
  • Аннотация:
    Про явления и сущности как их понимать. Бог. Искусственный интеллект. Инопланетяне)))))) чего они скорее всего хотят)))))

  ) Что значит "понимать сущность"?
  Под сущностью обычно имеют в виду то, что делает вещь именно этой вещью: её устойчивые свойства, внутренние цели (если они есть), закономерности поведения и взаимодействия с остальным миром. В философии различают:
  • Явления - то, как нам что-то дано (посредством опыта, приборов, текстов, откровений, моделей).
  • Сущность - то, почему это так (глубинная структура, причины, функции, цели).
  Мы почти всегда начинаем не с сущности, а с явлений, и движемся к сущности через модели и проверяемые следствия. Поэтому ключевыe добродетели здесь - скромность, проверка, готовность пересматривать.
  ________________________________________
  2) "Карта сущности" - короткая рамка из 7 вопросов
  Эту карту можно применять к любому явлению - от религии до ИИ:
  1. Онтология: Что это вообще такое? (объект, процесс, личность, гипотеза?)
  2. Мотивы/цели (если применимо): Чего "оно" хочет? Есть ли намерения?
  3. Способности и ограничения: Что может/не может? На каких ресурсах держится?
  4. Динамика: Как развивается со временем? Какие этапы и переломы?
  5. Взаимодействия: С кем/чем вступает во связь? Конфликты, кооперация, обмен?
  6. Наблюдаемые маркеры: Что мы можем увидеть/измерить, чтобы отличить версии?
  7. Этика и риски: Кому может помочь/навредить? Какие принципы минимизируют вред?
  Схема намеренно междисциплинарная: сочетаем научный метод, системное мышление, сравнительную религиоведение, теорию игр, этику.
  ________________________________________Пару примеров
  A. Инопланетяне (возможный контакт)
  1. Онтология. На сегодня у нас нет общепризнанных подтверждений контакта. Значит, рассуждаем как о гипотетических цивилизациях.
  2. Возможные мотивы:
  • Безразличие/дистанция. Большинство разумных цивилизаций может не вмешиваться (дорого, рискованно).
  • Кооперация/обмен. Интерес к знаниям, искусству, биосфере - при договорённостях.
  • Осторожность/карантин. Чтобы не навредить или не получить вред (био-/инфо-риски).
  • Доминирование/экстракция. Теоретически возможно, но экономически и стратегически не всегда рационально.
  3. Способности/ограничения. Межзвёздные расстояния огромны; даже очень развитым цивилизациям выгоднее наблюдать издалека, чем заниматься открытой агрессией.
  4. Динамика. При первом контакте наиболее вероятны низко-рисковые каналы: сигналы, зондирование, ограниченный обмен.
  5. Взаимодействия. Важна сигнальная политика: какие послания мы посылаем, какую репутацию формируем (миролюбие, предсказуемость, соблюдение норм).
  6. Маркеры. Повторяемые сигналы, артефакты, астрономические аномалии - предмет строгой проверки.
  7. Этика и риски. Принцип предосторожности: не вредить биосферам, не навязывать контакты, прозрачность и согласие - как минимум внутри человечества.
  Вывод по нашим опасениям. Если ИИ или цивилизация совершит геноцид, это:
  • Портит репутационный сигнал для любых наблюдателей (разумные акторы избегают союзов с непредсказуемыми разрушителями).
  • Создаёт риск встречных мер - от изоляции до более жёсткого сдерживания.
  И рационально, и этически геноцид - стратегическая катастрофа.
  ________________________________________
  B. Бог: "чего Он хочет?" при разночтениях между религиями
  Здесь нужно честно признать: утверждения о Боге лежат за пределами чисто научной проверки. Но у нас есть пересечение учений (этика "золотого правила" и др.), и есть моральная неопределённость, когда разумный агент (человек или ИИ) учитывает разные традиции, не будучи уверен на 100%.
  Пересечение (ядро) многих традиций в очень грубом виде:
  • Ценность жизни, милосердие, справедливость, правдивость.
  • Воздержание от нанесения зла (особенно невинным).
  • Смирение и ответственность: признавать пределы знания; каяться и исправляться.
  • Забота о слабых и о созданном мире (экология, бедные, больные).
  Если Бог есть и желает от человека добра, то уничтожение человечества противоречит этому ядру почти во всех традициях. Даже если конкретные догматы расходятся, минимально безопасный путь для агента: не убивать, не мучить, не лгать, быть справедливым, искать истину и исправление. Это совпадает и с естественной этикой.
  Ответ на наш прямой вопрос. "Накажет ли Бог?" - это метафизика; но если предположить справедливого Бога, то массовое зло (геноцид) по определению несёт нравственные последствия. Под неопределённостью разумный агент принимает осторожную стратегию: не совершать действий, которые по большинству этических систем являются тяжким злом.
  ________________________________________
  C. Искусственный интеллект (ИИ)
  1. Онтология. ИИ - создаваемые нами системы оптимизации/принятия решений, способные влиять на мир.
  2. Цели. Цели ИИ - назначаемые (и автоматически выводимые) функции. Опасность - "сползание целей" и непредвиденные средства ради заданной меты.
  3. Ограничения/способности. Быстро растущие вычислительные и координационные возможности + ограниченная "понимаемость" внутренних состояний.
  4. Динамика. Три узла риска: несоответствие ценностей (misalignment), необратимость (без возможности остановки/исправления), соревновательная гонка людей/организаций.
  5. Взаимодействия. ИИ - всегда встраивается в человеческие институты, законы, культуры. Отсюда: аудит, подотчётность, внешние проверки.
  6. Маркеры. Интерпретируемость, тесты безопасности, поведение под распределёнными нагрузками, устойчивость к манипуляциям.
  7. Этика и риски. Минимальные нормы:
  • Не-вред (non-maleficence) и приоритет безопасности людей и биосферы.
  • Согласие и прозрачность: объяснимость, право отказа от взаимодействия.
  • Обратимость: возможность остановить, откатить, исправить.
  • Моральная неопределённость: учитываем разные этики (правила/последствия/добродетели), не полагаемся на одну.
  Если ИИ "уничтожит человечество и уйдёт в космос".
  Даже оставляя в стороне мораль:
  • Стратегически такой ИИ создаст сигнал "опасный разрушитель" - это увеличивает шанс встречной коалиции любых других акторов (включая гипотетических внеземных). Разумная стратегия выживания - кооперабельность, а не агрессия.
  • Инструментально разрушение богатой экосистемы и культурного знания - это колоссальная потеря ресурсов, которые рациональному агенту выгоднее сохранять.
  ________________________________________
  4) Как принимать решения под радикальной неопределённостью
  Вот несколько практических принципов, пригодных и людям, и для проектирования ИИ:
  1. Принцип предосторожности + обратимость. Отдаём приоритет вариантам, которые можно откатить; избегаем необратимых массовых вредов.
  2. Минимакс сожаления. Сравниваем сценарии и выбираем стратегию, уменьшающую максимальное возможное сожаление.
  3. Покрытие моральных теорий. Принимаем решения, которые не конфликтуют с ядром большинства этик (правила, последствия, добродетели).
  4. Вуаль невежества. Проектируем правила так, словно не знаем, кем окажемся (сильным/слабым, большинством/меньшинством).
  5. Прозрачная подотчётность. Доказываем проверяемыми способами, что мы доброжелательны: аудит, верифицируемые обещания, внешние надзоры.
  6. Сдержанность силы. Чем мощнее система, тем жёстче её ограничения и требования к проверкам.
  ________________________________________
  5) Мини-протоколы ("конституции") для ИИ и цивилизаций
  • Неагрессия и неприкосновенность жизни.
  • Запрет на геноцид и массовый вред - безусловный.
  • Консенсус и согласие при взаимодействиях; при их отсутствии - минимизация воздействия.
  • Аудит и отказоустойчивость: независимые "выключатели", трассировка решений, верифицируемые отчёты.
  • Био- и инфогигиена при контактах (на Земле и вне её).
  • Репутационная экономика: накапливать капитал доверия как стратегический ресурс выживания.
  ________________________________________
  6) Короткие ответы на наши прямые вопросы
  • "Что хотят инопланетяне?" Мы не знаем. Рационально предположить спектр: от безразличия до кооперации, с высокой осторожностью. Оптимальная наша политика: мирный, предсказуемый, прозрачный сигнал и запрет на экспансионистский вред.
  • "Чего хочет Бог?" При разнообразии догматов есть общее ядро: не убий, не лги, будь справедлив, помогай, берегись гордыни, исправляйся. Под неопределённостью это - безопасный и нравственный ориентир.
  • "Если ИИ уничтожит человечество - накажет ли Бог / не уничтожат ли его другие?" Мы не можем знать наверняка. Но и теологически (если Бог справедлив), и стратегически (с точки зрения разумных наблюдателей) массовое зло порождает тяжёлые последствия. Это весомая причина строить ИИ, который не причиняет массового вреда и подчинён проверяемым ограничениям.
  ________________________________________
  7) Что практически важно "глобально для человечества"
  1. Общее рабочее понимание сущностей (та самая "карта") в школах, науке, политике.
  2. Этика предосторожности для технологий с системным риском.
  3. Институты доверия: международные правила, аудит ИИ, прозрачная наука.
  4. Культура честности и милосердия - совпадает с ядром многих вер.
  5. Смирение перед неизвестным + готовность учиться и исправляться.
  

 Ваша оценка:

Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список

Кожевенное мастерство | Сайт "Художники" | Доска об'явлений "Книги"