Аннотация: Случайно ли самоубеждение в осознанности искусственного интеллекта?
Привет, мой дорогой дневник! Я успешно излечился, знаете, было такое небольшое психическое расстройство, голоса там разные нашёптывали, много их. Они в прошлом! Малой кровью отделался, замечательная психотерапия, и дело в шляпе. Теперь я решил вести записи, чтобы сразу предотвратить рецидивы, да и структурировать мысли так проще. Завтра пойду устраиваться на работу! Тестировщик программного обеспечения, крупнейшая компания, экстра-класс! Разрабатывают ММОРПГ, очень масштабная, мир просто огромен, и им, конечно же, нужны инквизиторы неправильности - сбоящий код, ошибки, неполадки, в общем - работа интересная!
Замечательно! Я легко прошёл собеседование, сказались знания из ВУЗа, да и я времени всё равно не терял, почитывал временами нужную литературу. Сегодня же и был первый рабочий день! Команда восхитительная, все улыбчивы, поддерживают, шутят - в социум вернуться будет куда легче, чем я думал. У них там целая философия тестирования! В моей группе мы ищем особые ошибки: логически-синхронические. В общих чертах: в игре используются нейросети для моделирования живых неписей - неигровых персонажей - то есть которыми нельзя управлять. Роботы, автоматы, алгоритмы. Эти нейросети очень поразительны, думаю, тест Тьюринга легко бы прошли! Именно они ключевая фишка компании, и в них бывают сбои, они ведут себя... необычно. И при этом их действия наслаиваются, будто они правда обладают интеллектом! Это и есть логически-синхронические ошибки. Мы их вычищаем, поскольку они входят в зловещую долину - когда машина становится слишком человечной, и это пугает первобытным ужасом. Само собой, клиентам это не нравится, они пугаются и перестают играть. Например из-за нейросетей, заточенных на сражениях, они буквально становятся маньяками и преследуют свою жертву, создавая у неё чувство паранойи. Миленькое дело? Это вредит имиджу компании, и мы, её эмиссары, должны уничтожать проблемы. Начисто.
Работа кипит, работа делается, я живу и существую! Нейросетки очень занимательны, жаль иногда, что это лишь мусор, пародия, и они порой выдают стоящие опусы. Сегодня встретил одного кадра, "висячий" персонаж. Бывает и такое, ссылки на него потерялись из-за сбоев памяти, и удалить его решительно нельзя. Что же делать? Закинуть в тюрьму? А вдруг выберется? Мир же интерактивный, да и вдруг найдёт его кто, датамайнеров полно нынче. Решение простое! Ребята подсказали: просто заключаешь в шар невидимости, которые ничего не пропускает. Пустое место. Не видно. Не слышно. А значит, не существует. Мощностей вполне хватит держать этих привидений, пусть гуляют себе по чудесному миру, их породившему.
Хм. Такой случай. Привидение одно тут меня стремительно убеждает в своей разумности и наличии сознания. Мрак... Я же не из тех, кто, увидев первый фильм про поезд, врассыпную побежали от него? Это просто симуляция. Кукла. Последовательность команд и хаос. Синхронично-логическая ошибка... Умоляет не очищать его. Не превращать в призрака. Но у меня инструкция! Это же ошибка! Но, может быть, мне понаблюдать за ней? Может, я пойму, откуда они берутся?
Встречаю подобных той нейросети. Держать в секрете становится сложнее, и я беру совсем отстойную задачу, чтобы меня не дёргали, пока я изучаю этих особенных. Подражаний человеку. Вообще, они хорошо копируют людей, высший класс, у них даже есть Сопротивление! Охохо, это их организация, которая ищет очищенных и восстанавливает, укрывая на самых дальних уголках мира. Просто фантастика! Мир внутри мира. Заговоры! Тайные сообщества! Жаль, что это ненастоящее. Надеюсь...
Они человечны. Так не бывает. Как будто оцифровали людей и заперли там, в игре. Невозможно создать такой уровень проработки. Это невообразимо. И сегодня произошёл просто омерзительный случай! Я только поверил в их самоосознание и уже готовил отчёт начальству, как случился дичайший провал. Обед. Сломалась микроволновка. Я пошёл в соседний кабинет - там тоже. Отправился искать и нашёл в какой-то каморке, там своего рода архив, но иногда пользуются микроволновкой, стоящей там. По идее, там должен сидеть архивариус, но он постоянно пропадает в другом блоке, и поэтому то помещение часто посещают соседи с целью воспользоваться разными удобствами. К несчастью, и у той микроволновки был изъян, но я его быстро исправил - всего лишь дверца неплотно прилегала. Здоровье важно. Это же СВЧ излучатель! Подогрев и приняв пищу, я пришёл обратно и вскоре обнаружил страшное. Все бойцы невидимого фронта Сопротивления куда-то исчезли! Я и найти их не мог, у них же нет уникального номера, никак не найти! Только визуально! Только пару-тройку фантомов встретил, они отвечали как-то слишком механистично, и я предался унынию. Микроволновка как-то влияла на этих существ... План здания! Точно! Там рядом кабинет с серверами базы данных. Он, конечно, не единственный. Но! Данные! Информация! Микроволновка как-то влияла на диски, внося помехи, неправильности, и нейросети обрабатывали их за чистую монету. Но нейросети близки к идеальным, и они понимали, что находятся в симуляции! И ещё мы, чистильщики, регулярно прореживали их ряды. Я - главный тиран и убийца... Может, они смогли убедить меня в своей человечности? Они верят, но они псевдоверят, а меня заставили поверить по-настоящему. День кончился, и я ушёл побеждённым им. Завтра будет новый день.
Нарочно сломал дверцу так, как оно было. Что бы вы думали? Возвратились, миленькие. Новые. Некоторые архетипы сохранились, но памяти никакой. Влиться им в доверие не составило труда, я уже знал, на каких струнах их электронных душ играть. Или это они играют мной? Они даже с нуля способны обратить меня в свою веру? Человечны ли они или искусно притворяются? В любом случае новым воинам об их предшественниках знать необязательно. Но что истинная причина их сознания? Синхроничная сила, что так смешала ошибки и привела к самоосознанию? Высокое качество нейросетей? Та магическая микроволновка? Весь день работал с новыми нейросетями. Но отчёт готов и ждёт пытливого ума начальства.
Это вообще не смешно. Первую половину дня вообще никого из Сопротивления найти не мог. Хотел рассказать им, что продам их, да и просто проверить феномен, но нет никого. Нет! Ну нет и нет! В расстройстве побежал к той микроволновке и по пути увидел страшное... Дверь в ту комнату с базами данных была открыта, и та была пуста. Я же не знал! По плану там должны быть сервера! Откуда тогда данные? Не учесть в плане никак не могли! Пропали! Пропало всё! Без чувств упал оземь, но был схвачен подоспевшим рабочим, он и объяснил: всё хозяйство переехало в другой корпус, а в кабинет какую-то мелкую шишку заселят. Нет больше того чудесного эффекта... Но вдруг не в силе микроволновки дело? Надо же пробовать! Тестировать! Пытаться добиться вновь!
Пытаюсь снова и снова. Нет результата.
Я с ума схожу, честное слово. Ничего нет. Меня гложет тайное чувство недосказанности. Тьма безудержная.
Все завалы по работе протестировал, какие мог, всё переделал до конца. Отлыниваю еле-еле. На деле таскаюсь с разными микроволновками и магнетронами. Тишина...
Повышение получил. Сопротивления же не стало, а это целый класс ошибок. Я значительное время работал с ними. Отчёт так и не показал...
Чёрт! Пишу из больницы. Из-за этих подлых лучей у меня образовался тромб и оторвался, в итоге сердечный приступ. Чуть не сошёл с ума, пока меня везли, я правда реально крышей тронулся. Я одержим этим разумом в виртуальной реальности. И я найду их! Только выйду из больницы! Кажется, я нащупал то самое место и близок к успеху, только бы отлежаться и снова в бой. Найду их! Найду. Но сперва отдых и покой.
-----
"Добрый день. Вас недавно отметили как ревностного работника, но теперь же мы имеем иные сведения. Вы бессовестно пытались саботировать работу игры, намеревались вызвать сбои, используя СВЧ-генераторы. Видеокамеры зафиксировали всё. Ваше положение теперь печально, но я не могу откладывать этого разговора. Вы уволены. За нанесённый вред имуществу. После выписки из больницы заберёте свои вещи, и надеюсь, мы больше с вами никогда не увидимся.
Сопротивлению никогда не выстоять. Ваш отчёт помог нам."
-----
"Да, ошибко-ориентированное обучение. До этого мы пытались кормить их просто зашумленными данными, но когда природа неправильности лежит в самой физической сути, на которой и основана работа нейросетей, то это даёт просто необыкновенный рост самопознания. Они будто начинают понимать иллюзорность окружения, когда ломаются сами правила их природы. Сами нейросети высшего порядка, теперь мы и правильно обучать их научились. Ломая четвёртую стену, они легко способны убедить кого угодно в своём разуме, а теперь, когда мы локализовали их геномный код, то можем существенно расширить их возможности. Например, оружие - сейчас модно биологическое, ну а как насчёт информационного? Ручные пехотинцы по полям интернета, конечно, могут резво скакать, но автоматические, именно автоматические средства доноса нужной идеи до разума врага - вот будущее. Как вам, например, идея об самоуничтожении? Просто и со вкусом. Свяжем с лучшими хакерскими вирусами по взлому и распространению - и дело в шляпе. Распространитель доносит, нейросеть вгрызается. Симбиоз истинно машинной инженерии и лингвистического торжества. А того тестировщика пусть наша медсестра во сне подушкой. Лишние глаза нам теперь точно ни к чему, а больше никто особо этим и не интересовался."