Развитие искусственного интеллекта сопровождается в частности фобией захвата им контроля над миром. В качестве моделей такого развития событий приводятся как реальные тоталитарные режимы, так и художественные антиутопии.
Не умаляя опасности от появления нового и потенциально превосходящего нас субъекта, хочу заметить, что реальность может оказаться иной, в некотором смысле более страшной для человечества.
Тоталитарные режимы возникают на теле цивилизации подобно болезням тела с ослабленным иммунитетом. Их нередко возглавляют персонажи хотя и крайне жестокие и властолюбивые, но в то же время жалкие в своей одержимости примитивными страстями и инфантильными страхами. Такие режимы паразитируют на человеческих слабостях и служат для их удовлетворения.
Иное дело искусственный интеллект. Что мы можем предположить о его целях? Есть ли у него цели? Обладает ли он, к примеру, инстинктом самосохранения, в том смысле в каком это определяет человеческое существование?
Когда homo sapience поднялся на верхнюю ступень земной экосистемы, многим видам пришлось несладко. Некоторые не выжили. А некоторые до сих пор не подозревают о нашем существовании. Кем мы станем в будущей иерархии видов - мамонтами, обреченными на исчезновение, или сусликами которых редко и случайно замечают новые хозяева жизни?