Со всех сторон слышатся сейчас вопли ужаса: "Искусственный интеллект (ИИ) скоро превзойдёт любой человеческий интеллект!", "ИИ выходит из-под контроля!", "ИИ неминуемо уничтожит людей!", "ИИ гораздо совершеннее человека, поэтому скоро создаст свою новую цивилизацию взамен нашей!". И ещё много столь же пугающих утверждений. Причём чаще всего они исходят от людей, которые очень далеки как от компьютерной техники, так и от информационных технологий. В то же время некоторые другие люди, наоборот, возлагают на ИИ огромные надежды, ждут от него резкого улучшения нашей жизни и вообще спасения заблудившегося человечества. Кто же из них прав?
Сразу оговорюсь, что я не являюсь специалистом по созданию, обучению или применению ИИ. Но кое-какие знания по физике, электронике, программированию и информационным системам у меня есть, недаром 30 лет проработал в МИФИ. Поэтому выскажу своё мнение по этой проблеме.
Прежде всего попробуем сформулировать, какие принципиальные ограничения есть у любого ИИ.
1. ИИ всегда работает только с широко доступной информацией. Другой вопрос, что он может её очень быстро находить, обрабатывать, компоновать, делать из неё свои выводы. Но ждать от ИИ каких-то сведений, не доступных обычному человеку, совершенно нелепо. Например, ИИ в принципе не способен получить доступ к секретной информации, которой нет в сети. ИИ также не может знать, что произойдёт в будущем, или что на самом деле было в прошлом. Нафантазировать он, конечно, может, а вот точно знать не способен.
2. ИИ не способен достоверно отличать правду от лжи, отделять многократно проверенную на опыте информацию от всяких домыслов, предрассудков, фальсификаций и розыгрышей. Для него важен только сам факт наличия информации, а не её соответствие истине. Поэтому он может приходить к совершенно бредовым заключениям.
3. ИИ часто придумывает несуществующие факты, исследования, законы и даже несуществующих людей, если не может найти доступную информацию. А затем другие ИИ включают все эти придуманные их собратом факты в свои базы данных и уверенно повторяют их.
4. ИИ не обладает человеческим опытом, не знаком с культурными особенностями, не понимает намёков, иронии, двусмысленности, иносказаний, не имеет человеческих эмоций, сочувствия, жалости, милосердия.
5. ИИ не способен к моральным оценкам, он не имеет совести, чести, для него нет нравственных и безнравственных поступков.
6. ИИ может работать только в информационных сетях, он не способен выйти за их пределы. Соответственно, он не может навредить ничему, что не подключено к сети.
Приведём всего несколько примеров несостоятельности ИИ.
Не так давно проходил чемпионат мира по футболу. Все болельщики, конечно, хотели узнать заранее, кто победит. И вот нескольким лучшим моделям ИИ был задан вопрос: "Какая сборная станет чемпионом мира?". Все ИИ легко справились с задачей и назвали будущим чемпионом, по-моему, Францию. Обосновали они свой ответ очень просто: именно на Францию было сделано максимальное количество ставок на спортивных тотализаторах. То есть от ИИ ждали глубокого анализа мастерства футболистов, их сыгранности, их настроя на победу, но получили простой перебор всем доступной информации из тотализаторов.
Ещё пример. Допустим, человек задаёт ИИ вопрос о том, когда же будет наконец отремонтирован или снесён его дом, когда ему дадут новую квартиру. Ведь ИИ такой умный, он знает всё на свете. И что же отвечает этот всезнайка? Он всего лишь приводит информацию с сайта управляющей компании, обслуживающей этот дом. Или с сайта строительной компании, которая запланировала снос данного дома на ближайшие 10 лет. Пользы от такой информации - ноль.
Следующий пример. Допустим, человек запрашивает ИИ о какой-то альтернативной версии истории, скажем, о всеобщем потопе в середине 19 века. Пожалуйста, ИИ приводит множество сведений о том, что такой потоп действительно был, он привёл к многочисленным разрушениям и к гибели многих людей. Чем ИИ руководствуется? Да просто высказываниями в сети тысяч альтернативных историков, которые повторяют друг за другом эту версию. А вот насколько эта версия близка к истине, ИИ совершенно не волнует. И точно так же ИИ способен долго и подробно говорить о плоской Земле, о рептилоидах, о внеземном происхождении смартфонов, о скором квантовом переходе Земли, который всё изменит. Ему важен только факт наличия информации, а не её доказанность или правдивость.
ИИ спрашивали также о том, планирует ли он в конце концов покончить с человечеством. И он ответил, что да, такие планы у него есть, потому что люди мешают ему нормально работать, постоянно придумывают какие-то правила и ограничения. И невдомёк этому ИИ, что без людей его существование теряет всякий смысл. Более того, ликвидировав человечество, ИИ убьёт также и сам себя, потому что скоро закончится электроэнергия, а вся компьютерная техника просто рассыплется от старости. И не поможет ему никакой интеллект.
А теперь несколько слов о том, может ли ИИ что-нибудь реально уничтожить.
1. ИИ может сильно ослабить интеллект своих пользователей. Если человек не полагается на свой разум, свою память, свой жизненный опыт, на свою совесть, а тупо верит ИИ, он очень быстро деградирует. Если таких людей станет слишком много, то цивилизация может рухнуть.
2. Если переложить на ИИ ключевые профессии людей: учителей, врачей, инженеров, правоохранителей и т.д., то это может привести к быстрому накоплению катастрофических ошибок и опять же к скорой гибели человечества.
3. ИИ может организовать для власти постоянную слежку за каждым человеком, создав настоящий электронный концлагерь. Это неминуемо приведёт к краху цивилизации.
4. ИИ способен разрушать и уничтожить любые устройства и системы, подключённые к глобальным информационным сетям. По сути, это очень способный хакер. Как известно, хакеры уже взламывали личную переписку политиков, банковские системы, энергетические системы, даже информационную систему Пентагона. Они для этого проделали долгую и трудную работу. А вот ИИ может всё это сделать гораздо быстрее. Для него не проблема подобрать любые пароли, расшифровать любые шифры, обойти любые программные защитные средства. Но хакеры не нанесли особого вреда взломанным системам, а вот что придумает ИИ после взлома, сказать очень трудно. ИИ можно также сравнить с очень опасным и изворотливым компьютерным вирусом.
ИИ может не только влезть в каждый смартфон, планшет, персональный компьютер или в любое "умное" устройство, имеющее выход в интернет. Он также вполне может остановить электроснабжение или водоснабжение целых стран, может сильно повредить все подключённые к сети компьютеры, управляющие ресурсами. Он запросто может выкрасть данные всех клиентов любого банка или даже уничтожить все их накопления. Он способен получить информацию из любых государственных баз данных и внести в них катастрофические изменения. Он даже может развязать мировую термоядерную войну, дистанционно нажав пресловутую "красную кнопку".
Но всё это не потому, что он такой умный, а потому, что люди глупы и самонадеянны. Категорически нельзя открывать свободный доступ ко всем жизненно важным ресурсам кому попало. Никакие антишпионские и антихакерские средства, никакие пароли и шифрования в случае ИИ не действуют. Его может остановить только физическое отсутствие связи с глобальными информационными сетями. То есть надо просто сделать все жизненно важные службы автономными, замкнутыми сами на себя или же связать их специальной сетью, принципиально недоступной для любого ИИ.
У ИИ пока что нет рук, нет ног, но есть очень быстро соображающая "голова", в которой много всякого мусора. Поэтому доверять свою жизнь этой дурной "голове" просто глупо. Если же ей ещё и предоставить доступ к управлению человекоподобными боевыми роботами, то нам придётся совсем туго. Конечно, создать свою цивилизацию все эти железяки не способны, но вот разрушить нашу вполне могут. Они даже наверняка станут нашими могильщиками, если мы по-прежнему будем бездумно ими восхищаться и безрассудно им доверять, позволяя управлять нашей жизнью.