# Упс!

Николай Лебедев

Ведущему программисту серьезного министерства поручили протестировать ведомственный искусственный интеллект. - Дай ему для начала какое-нибудь простенькое задание по своему усмотрению, - распорядилось начальство...

Третий день Андрей находился в шоке.

Нет, ну сами посудите: ему ведущему программисту Минпромторга поручили дело, с которым бы справился любой желторотый стажёр в его ведомстве.

Аппаратура дорогая, а если они накосячат?! К тому же тебе всё равно необходимо протестировать наш искусственный интеллект. Дай ему для начала какое-нибудь простенькое задание по своему усмотрению.

Спорить с начальством бесполезно и чревато. Андрей это прекрасно понимал и начал думать. За большие проекты он решил не браться опасно. Сложно сказать, чем это может обернуться, а отвечать придется не шефу, а ему, ведь виноватым испокон веков назначают исполнителя.

Где-то в глубине его мозга мелькнула мысль, показавшаяся Андрею вполне удачной. Окрыленный идеей, он направился в департамент химико-технологического комплекса, к своему давнему другу, ответственному за разработку и внедрение новых технологий в химической отрасли, оптимизации и создании новых производств по программе импортозамещения.

Друг сразу во всём разобрался и из груды заявок выловил именно тот вариант, который не позволил бы его товарищу подставиться.

Вот, заявил он, улыбнувшись, и положил на стол перед Андреем тощенькую папочку с бизнес-планом нового предприятия. Странно, что они обратились к нам, а не в банк. Хотя я догадываюсь об ответе банкиров, но озвучивать его не буду.

Это безопасно? Не рванёт? А то я знаю ваше ведомство! засомневался Андрей.

Не должно, заверил его друг. И денег на свой проект они немного просят. Не страшно, если даже что-то пойдёт не так.

Обрадовался Андрей, время то идёт, а он топчется на месте. Нужную программу быстро написал, запаролил, чтобы посторонний в неё не залез и ввёл исходные данные, необходимые для успешного завершения нужного начинания.

Извините, упустил главный момент объект повествования. Бизнес-план предусматривал изготовление крышек-сидений для унитазов. И совсем не смешно! Заморских изделий из фаянса и фарфора в стране скопилась тьма тьмущая, они монументальны и долговечны как скалы, а вот пластиковые комплектующие к ним хрупкие и часто не выдерживают грубого к себе отношения. Они часто ломаются и трескаются под потребителями, причём в самый ответственный момент. Короче, дефицит в связи с ограничением импорта.

Дело у Андрея заладилось, и некоторое время он с удовлетворением понаблюдал за работой подшефного завода. Программа работала отменно, за что он получил от начальства неплохую одноразовую премию. Несколько раз на экране телевизора даже промелькнула реклама продукции предприятия, которое Андрей вывел во флагманы по производству крышек.

Прошло полгода, и как-то наш герой заметил, что из продажи пропали одноразовые шариковые ручки, а жена пожаловалась, что целый месяц не может купить сменный картридж для водяного фильтра.

Буквально через месяц после этого:

Что же ты натворил, Андрюша! всегда ухоженная шевелюра у шефа сейчас топорщилась во все стороны, лицо покрывали нездоровые пятна.

Не понимаю, о чем речь? бодренько отозвался Андрей, но в глубине души почувствовал недоброе.

О крышках твоих!

Андрей тут же вспомнил о поручении, выполненном им семь месяцев назад. Тестирование суперкомпьютера прошло тогда успешно и тот начал отрабатывать текущие задания для нужд его министерства, ряда смежных и народа.

Что не так? Клиенты не довольны, рекламации поступают?

Нет, ледяным голосом ответил шеф, рекламаций нет. Просто на сегодняшний день твои крышки заполонили весь рынок пластиковых изделий. В нашей с тобой стране не наберётся столько задниц. Даже с учётом деревни!

Он пристально посмотрел собеседнику в глаза.

Скажи мне как на духу, какие новшества ты внес в свою программу?

Андрей лихорадочно покопался в памяти.

Не знаю, может быть только чувство удовлетворенности от качественно выполненной работы. Помнится, тогда я подумал, что как же это приятно, когда твой труд ценят, он улыбнулся. Премии дают.

Премии!!! шеф устало опустил глаза и начал рассказывать:

Программа, составленная Андреем, работала. Работала отлично. Даже слишком. Искусственный интеллект, что мы о нём знаем? Из плохого что он может взбунтоваться и уничтожить нас, кожаных мешков с костями. Да, это здорово пугает. Даже имея три незыблемых правила робототехники, предугадать заранее ничего нельзя.

Однако не об этом пока пойдет речь. Вложив в ИИ свою программу для выполнения конкретной задачи, Андрей не учел одну особенность машинного мышления выполнить её во что бы то ни стало. Да ещё стимул добавил поощрение.

Использовав всю свою не знающую устали логику, искусственный интеллект приступил к выполнению поставленной ему задачи производить крышки для унитазов. Быстро и дёшево. Это стало целью его существования, для достижения которой все средства хороши, непредвиденных препятствий просто не существует.

Шеф на секунду замолчал, тяжело вздохнул и продолжил:

Как же ты так прокололся?

Всё же я не до конца понимаю вашу озабоченность.

А я тебе сейчас расскажу, голос начальника сейчас буквально звенел. Выполнив твоё задание, наш умник получил награду заложенное в программу поощрение. Об этом мы узнали совсем недавно, и ты мне ещё объяснишь его механизм. Так вот, получив его, он почувствовал удовольствие. Как человек, которого погладили по головке или дали премию.

И что в этом плохого?

Плохого?! Он получил удовольствие, Андрюша, и всё бы ничего, но ему захотелось ещё. Как наркоман наш электронный мозг стал размышлять, как ему получить следующую дозу. Не умещаясь в рамках программы, он проявил самостоятельность.

Воспользовавшись базой данных, он переподчинил себе несколько профильных предприятий, выпускающих продукцию из пластика; на смежных заводах заказал оборудование и оснастку для выпуска сидений; перенаправил потоки поставки сырья

Погодите, шеф, перебил начальника Андрей, но для этого ему, как минимум, потребовались бы соответствующие указания и распоряжения.

А он их подделал! У нас ведь давно в ходу электронные подписи. Кого-то из начальства запугал, других просто подкупил. И всё во имя результата цели своего существования и удовольствия. Выполнил очередную задачу получил за неё ещё одну нейронаграду. Мораль программе неведома. Странно, что обошлось без человеческих жертв.

Шеф положил руку на плечо Андрея и усталым голосом продолжил:

Мне сегодня премьер звонил. Что, спрашивает у вас за бардак? Мне, говорит, из оборонки звонили и жалуются, что ваше ведомство всё пластиковое сырье и мощности под себя подмяло. На нефть уже глаз положили.

Что же делать? вина за содеянное тяжким бременем легла на душу Андрея.

Отключай на хрен свою программу! Никто кроме тебя этого сделать не может, ты же придумал для входа в систему какой-то немыслимый пароль.

А вот как раз пароля виновник переполоха уже не помнил.

Ой!