Искусственный интеллект - слуга, друг или змея подколодная?
0. Вводная
Я уже полвека упражняюсь в смешном ремесле - в программировании.
Все началось еще в семидесятых, студенческих годах: университет, выбор специализации на старших курсах, - и я, пресытившись общими математическими дисциплинами, выбрал то, что было ближе для сердца, чем для ума - спецсеминар "Роботы". И действительно доброжелательная атмосфера и подача материала на занятиях не оставляла сомнений в правильности выбора. Я до сих пор с благодарностью вспоминаю руководителей семинара Сергея Сергеевича Камынина и Эдуарда Зиновьевича Любимского, - это они погрузили нас студентов в мир железных и башковитых существ и своим примером преподали главный урок на всю оставшуюся жизнь: как стать специалистом и всегда быть человеком. Жаль, не всегда получалось следовать этим заветам: на самоволие и самомнение запретов не было.
В работе семинара были обзоры статей из научных журналов и обсуждения различных идей и конструкций - скучать не получалось. Робот - объединение разных подсистем: управление механикой и системой питания, система диагностики, обработка видеообразов и информации от других датчиков и само построение тела робота - сложная конструкторская задача. В качестве части прототипа "мозга" робота была представлена дедуктивная информационно-поисковая система разработки Института прикладной математики (докладчиком и автором разработки был один из кураторов семинара Бухштаб Юрий Александрович). И тут я попался: в качестве "домашнего" задания мне было предложено сформировать запросы к системе, имитирующие индуктивные выводы.
Это задание никак не хотело решаться: какие бы предикатные и импликационные формулы не придумывались за рамки дедуктивной системы не выпрыгнешь. Не может логическая система индуцировать и порождать новые понятия. А раз так, то ответ на вопрос таков: надо на систему навешивать специальные алгоритмы. Это я и предложил, и алгоритм со статистическими критериями обозначил, и что-то долго-долго докладывал на семинаре, и скорей всего не по поводу моего выступления, а пророчествуя, Эдуард Зиновьевич изрек: "Это только считается, что индукция проще дедукции".
Темой моей дипломной работы автоматически стало "Применение индукции в информационно-поисковой системе". И, конечно, не из-за достигнутых результатов, а по каким-то другим критериям "шефы" меня рекомендовали к поступлению в аспирантуру.
Не сошлось. В аспирантуру я не стал поступать и поехал по распределению, где интересной работы было столько, что сомнений в правильности выбора не возникало.
Но иногда с любопытством и отчасти с ревностью я заглядывал в новости, касающиеся успехов в создании искусственного интеллекта (ИИ, Artificial intelligence, AI). И в этой информации обнаружилось нечто новое - страх, опасения - то ли мы создаем?
Страшилок для рода человеческого хватает: тут и продовольственный кризис - значит голодаем, тут и эпидемии с пандемией, и глобальное потепление с новым потопом, и враждебный космос с пришельцами и тунгусскими метеоритами, и, кто бы подумал, - пресловутый искусственный интеллект. Не обратил бы я внимание на последнюю чепуховую угрозу, что казалось бы высосана из пальца, но реально, и авторитетно, и не опровергнуто, и уважаемо она заявлена Биллом Гейтсом и Илоном Маском.
Не думаю, чтобы они столковались об этой угрозе за чашкой нарзана, скорей всего у каждого свои сведения о разработках, которые они независимо опекают.
Этим сильным мира сего не до абстрактных угроз. Значит что-то знают, ибо ни мне, ни вам об угрозе ИИ ничего неизвестно и мы спокойно спим. А эти знают, что разработки ведутся и всеобщего счастья не предвидится. И, очевидно, эти разработки ведутся не за счет гос. бюджета, а на частные венчурные инвестиции. А инвесторами могут быть те же, которые почему-то в курсе угрозы, а "венчурные" - это бахнет или не бахнет?
И спонсируется, конечно, не ИИ, а амбициозный разработчик, некий новый профессор Мориарти, у которого свои претензии к этому миру, замаскированные под всеобщее счастье, которое побродит-побродит "призраком коммунизма" да так в нищете и сгинет.
Так что же не так с ИИ, который будучи программой становится угрозой?
Сразу предупреждаю, что мое расследование - не научная статья, и содержание я пытался максимально согласовать с информацией, доступной в Интернете, поэтому никаких ссылок на источники не привожу, а дотошного читателя отсылаю к этим источникам, например, в Википедию.
Не стоит надеяться, что вам представлена только компиляция общеизвестных фактов: свои предположения о том, где же можно спрятать угрозу при разработке программ и, скорей всего, при функционировании ИИ, я все-таки изложу. Не претендую на пророчество и кликушествовать не собираюсь, пусть становление ИИ идет и пойдет совсем другими путями, нежели мной показано, но в соответствии с теорией алгоритмов нужно было убедиться, что угрозы от программ ИИ интуитивно реализуемы.