Белов Андрей Михайлович : другие произведения.

А, робот должен видеть сны?

"Самиздат": [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:


 Ваша оценка:
  • Аннотация:
    О создании искусственного интеллекта и механизмах работы мозга

А, робот должен видеть сны ?

         А. М. Белов                        Главная страница на http://stob2.narod.ru 

          Вопросы: "Должен ли робот иметь возможность видеть сны, надо ли это ему или его создателям ?" возможно, не пришло бы в голову никому задавать, если бы почти полувековые усилия по созданию искусственного интеллекта или другими словами искусственного мозга для робота увенчались успехом. К сожалению пока ситуация с созданием искусственного интеллекта такая, что вряд ли удастся найти человека способного убедительно доказать, что он знает хотя бы направление, последовательное развитие которого постепенно приведет нас к столь желаемому появлению искусственного мозга. Ход работ по разработке искусственного интеллекта и полученные результаты (вернее сказать их отсутствие, так как наличие хотя бы примитивного искусственного интеллекта нигде не наблюдается) свидетельствуют в пользу того, что не только не разработана  удовлетворительная теория работы искусственного интеллекта, но, по всей видимости, не сформулированы даже основополагающие принципы его работы.

         В такой ситуации самое разумное не пытаться заходить глубже в тупик, ведя дальнейшие исследования в традиционных направлениях  при этом пытаясь хоть как то доказать их связь с искусственным интеллектом, а попытаться найти принципиально новые направления исследований. Для поиска этих новых направлений исследований и необходимо задавать вопросы, как можно больше вопросов, как логичных и уместных, так и наивных и абсурдных, как имеющих отношение к предмету исследования в целом, так и относящихся лишь к одному конкретному предложению реализации какой либо одной функции мозга. Опыт решения сложных задач показывает, что при рассмотрении таких вопросов в ходе попыток получить на них ответы можно рассчитывать на генерацию новых идей, способных обеспечить прорыв. 

         По этому эта статья содержит много вопросов. В основном эти вопросы остались без ответов. В лучшем случае предлагаются варианты направлений поиска ответов на высказанные вопросы, но целью статьи и не являлось дать готовые ответы. Если бы были известны ответы, то эта статья была бы не нужна.

         Так как предъявить устройство, которое можно было бы назвать искусственным мозгом, пока никто не может, то обычно демонстрируются различные устройства, или чаще компьютерные программы, по утверждениям их разработчиков, содержащие так называемые элементы искусственного интеллекта. Если сказать проще, то демонстрируются устройства или программы, моделирующие какую либо функцию мозга или действие, которое могло бы быть реализовано при помощи использования интеллектуальных способностей.  

         К таким программам обычно относят программы, обеспечивающие моделирование рассуждений, ведения диалогов, автоматическое доказательство теорем, решение алгебраических задач, анализ текста, перевод с одного языка на другой, распознавания образов, различные игры. Очевидно, что совершенствование таких программ нисколько не приближает нас к появлению искусственного интеллекта. Например, сейчас можно утверждать, что вполне возможно создать компьютерную программу для игры в шахматы, которая обыграет всех чемпионов мира, но так же ясно, что эта совершенная программ никогда не сможет распознавать текст, поддерживать диалог и даже играть в какую либо другую более простую игру.

         Несомненно, самым значительным достижением в области имитации интеллектуальных процедур считается создание искусственных нейронных сетей.

         Первая искусственная нейронная сеть, названная персептроном была создана в 1957 году Ф. Розенблаттом. Причем персептрон рассматривался его автором не как техническое вычислительное устройство, а как модель работы мозга.

         Упрощенно персептрон представляет собой множество, соединенных друг с другом пороговых логических элементов, которые в свою очередь связывают между собой множество входов в сеть персептрона с, как правило, одним выходом из сети. Пороговый элемент пропускает входной сигнал только в том случае, если его уровень превысит некоторую, заданную величину (порог) и тем самым имитирует механизм работы синаптической передачи импульсов естественных нейронов.

         В настоящее время существует большое количество персептронов, отличающихся большим разнообразием схем соединения пороговых логических элементов, но общим у них остается так называемое обучение, заключающееся в изменении величин порогов срабатывания пороговых логических элементов для получения необходимого выхода сети персептрона при подаче на вход в сеть определенных сигналов.

         Возлагаемые на персептроны Ф. Розенблаттом надежды во многом не оправдались и современные разработчики уже рассматривают их не как модели работы мозга, а просто как компьютерные программы, предназначенные для моделирования сложных нелинейных зависимостей при решении задач прогнозирования, классификации, управления, распознавания образов и т.п. 

         Из общего описания персептронов следует, что любой обученный персептрон будет обладать памятью в виде набора, заданных значений порогов пороговых логических элементов. При этом сам персептрон служит хранилищем информации и одновременно осуществляет переработку поступающей на его входы информации. Необходимо особо отметить, что персептрон может удовлетворительно обрабатывать лишь информацию того вида, для которого он прошел обучение. Более того, попытки записать, в уже обученную сеть персептрона, какую либо дополнительную информацию обычно приводят к необходимости проведения переобучения его сети и к увеличению количества пороговых логических элементов.

         В этой связи, пожалуй, будет уместно задать вопросы: "Не является ли персептрон обычной компьютерной программой, но записанной в форме отличной от традиционной ? Не является ли процесс так называемого обучения сети персептрона процессом его программирования ?". Ведь персептронам так же присущ главный недостаток компьютерных программ - их узкая специализация. Если персептрон был создан для прогноза биржевых котировок, то он не сможет, например, различать рукописные цифры, как минимум без его полного переобучения, а можно сказать иначе - без перепрограммирования с соответствующей потерей своих первоначальных возможностей.

         Сказанное вполне логично приводит к следующему вопросу: "Действительно ли персептроны имитируют работу мозга в большей степени, чем, например, калькулятор ?". Этот вопрос выглядит еще более закономерным, если учесть многочисленные явления и факты, которые теория работы персептронов никак не объясняет.

         Известно, что мозг человека содержит около десяти миллиардов нейронов. Этого количества вполне хватит для обозначения громадного количества информации, но именно только для обозначения. Однако человек, по всей видимости, способен запомнить все, что увидит, причем навсегда. Неоднократно наблюдалось, как подробности прошлого всплывают в памяти под гипнозом или в стрессовых состояниях. Причем в нормальном состоянии человек даже не подозревает, что он их помнит или  когда-либо видел.

         Вся информация в мозг поступает через органы чувств - скопления специализированных рецепторов, служащих для восприятия раздражения из внешней среды и от внутренних органов. Рецепторов имеется никак не менее 335 миллионов. Отношение общего количества нейронов мозга к количеству рецепторов составляет весьма небольшую величину - около 30, что является явно недостаточным для хранения в нейронной сети информации о состоянии рецепторов, за сколько ни будь значительный период времени.

         Таким образом, сама нейронная сеть не очень то подходит для хранения значительных объемов информации, воспринимаемых человеком практически постоянно. С другой стороны, если бы принцип хранения информации в естественной нейронной сети был бы такой же, как в персептронах, то пришлось бы признать, что в человеческом мозгу содержится огромное количество сравнительно сложных клеток нейронов, которые никогда не будут использованы. Ведь границ объемов человеческой памяти пока никто не достигал.

В персептронах же не предусмотрено накопление информации на внешних носителях и ее считывание.

          В основе работы любого персептрона лежит быстрое и постоянное изменение величин порогов пороговых логических элементов, имитирующих работу синаптических контактов. Однако возможность столь быстрых и управляемых изменений параметров синаптических контактов в естественных нейронных сетях при осуществлении высших форм психической деятельности вызывает сомнения.

Так, в 2003 году из университета Калифорнии в Сан-Франциско пришло сообщение о том, что для обеспечения предопределенного соединения двух нейронов существует специальная клетка. Зачем природе потребовалось создавать такой сложный механизм формирования нейронной сети ? Не проще ли было бы позже исправить все неточности в структуре нейронной сети за счет соответствующей настройки снаптических контактов ? Тем более что, по мнению, создателей персептронов, это должно происходить практически мгновенно.

Факт существования специального механизма формирования нейронной сети свидетельствует о том, что наличие "правильной" ее структуры является более важным, чем это считалось раньше.

Подтверждением того, что мозг не использует для исправления структуры нейронной сети, настройку своих синаптических контактов может так же служить следующее обстоятельство. Известно, что человек рождается с не полностью сформированной нервной системой. В первые, 2-3 года в мозгу происходят процессы доразвития.  Структурные изменения мозга, появляющиеся в это время под влиянием внешних условий, в другие периоды жизни появиться уже не могут.

Роджер Карпентер из Кембриджского университета в Великобритании в 2001 году распространил сообщение о том, что нервные клетки по разному реагируют на одни и те же раздражители в течение времени. Одновременно он высказал предположение, что неопределенность (случайность) ответной реакции нервных клеток является фундаментальным свойством головного мозга.

Существование неопределенности ответной реакции нервной системы на одинаковые раздражители вообще-то известно давно. Достаточно просто посмотреть на приведенные, на рис. 1 хорошо известные примеры зрительных иллюзий. Вот только предположение того, что ответная реакция нервных клеток формируется случайным образом, вызывает сомнение.  Например, в надписях "1230896" и "ПР0БА" попробуйте случайно перепутать цифру "0" и букву "0". Вряд ли получится. А, приходилось ли кому ни будь видеть, как в результате действия механизма формирования неопределенной ответной реакции случайно вырабатывалось, очевидно, вредное решение для лица его принимающего ?

Исходя, из приведенных примеров можно предположить, что иллюзия неопределенности ответной реакции нервной системы возникает из-за того, что информация, хранящаяся в памяти, сравнивается с информацией, поступившей от рецепторов отдельными блоками, а не вся сразу. Видимо у мозга нет необходимых ресурсов для осуществления сравнения поступающей информации сразу со всей информацией, хранящейся в памяти. Вот и приходится это делать по частям. При этом сравнение начинается с последнего текущего информационного блока и заканчивается при появлении первого же совпадения. Таким образом, если человеку показывали несколько цифр, то следующий образ человек в первую очередь будет сравнивать с цифрами, а не буквами и переключится на другие образы, только если совпадений не будет найдено.

Этот механизм объясняет, почему мы в любой момент времени любой образ воспринимаем однозначно и у нас не возникают непреодолимые противоречия при восприятии.  Этот же механизм может помочь в ответе на вопрос: "Почему человек мгновенно способен распознать предъявленный ему  целиком объект и испытывает значительные затруднения при распознавании объекта так же показанного ему полностью, но отдельными достаточно маленькими частями ?"

Если проанализировать время, которое затрачивает человек на распознавание предъявленного ему объекта, то выяснится, что это время слишком мало не только для аналитической процедуры узнавания, но и для последовательного сличения с образами, хранящимися в памяти даже при условии параллельного выполнения операций при каждом таком сравнении. Выход из этой ситуации просматривается только один - это организация сравнения, наблюдаемого объекта одновременно (параллельно) с несколькими образами, хранящимися в памяти.

Еще одной характерной особенностью деятельности мозга является его способность создавать образы, которых в действительности в этот момент времени в реальности не существует. Причем эта способность проявляется не только во сне, под гипнозом или при возникновении галлюцинаций, но и у вполне здоровых людей в нормальном состоянии. Например, любой читатель, посмотрев рис. 2 скажет, что он видит белый треугольник и квадрат, но в действительности таких фигур на рисунке нет.

Так от куда же человеческий мозг берет все эти треугольники, квадраты и другие не существующие в реальности образы ? Поступление информации из памяти в нейронную сеть мозга хоть как-то все это объясняет, а вот теория работы персептронов и других, существующих в настоящее время устройств, имитирующих интеллектуальную деятельность,  никак эти и другие явления не объясняет.

Для целей разработки искусственного интеллекта особый интерес вызывает недавно опубликованная статья академика Н.П. Бехтеревой "Мозг человека - сверхвозможности и запреты" (№ 7, 2001 г.   журнал "Наука и жизнь"), вызванный тем, что в статье были изложены результаты исследований деятельности человеческого мозга в нестандартных ситуациях.

В статье делается вывод о том, что, так называемые, сверхвозможности мозга, выражающиеся в появлении у человека способности находить правильные решения в условиях дефицита информации, видеть без использования глаз и т. п. связаны с активацией мозговых структур в большей степени, чем в обычном состоянии. Этот вывод можно рассматривать, как подтверждение того, что персептроны все же моделируют интеллектуальные процедуры. Поскольку для решения более сложных задач в персептронах так же обычно увеличивается количество логических пороговых элементов и усложняется схема искусственных нейронных сетей.

Однако приведенная в статье интерпретация, полученных экспериментальных наблюдений вызывает сомнения. Во-первых, потому, что если мы признаем наличие у мозга структур в нормальных условиях не используемых, а включающихся в работу в чрезвычайно редких случаях или при возникновении заболеваний, причем у незначительного количества людей от рождающихся на Земле, то придется признать, что природа зачем-то на протяжении многих десятков тысяч лет обеспечивает формирование и воспроизводство без атрофирования этих мало используемых структур мозга. Очевидно, что наличие таких мозговых структур и механизмов их активизации выглядит очень маловероятным.

Во-вторых, вывод о повышенной активации мозговых структур делается на основе того, что электроэнцефалограмма отличается более частым (преобладание, так называемого бета-ритма), чем обычно ритмом. В этой связи можно задать следующий вопрос: "А, разве увеличение частоты ритма электроэнцефалограммы должно в обязательном порядке сопровождаться активацией мозговых структур и не может ли, частота этого ритма расти на фоне уменьшения активности мозговых структур ?".

Электроэнцефалограмма представляет собой результирующую от суммы колебаний электрической активности большого количества источников колебаний  - нейронов мозга. Поэтому для ответа на поставленный вопрос проведем небольшой вычислительный эксперимент. Возьмем выражение: "Sin(x/1)+Sin(x/2)+...+Sin(x/i)" каждое слагаемое, которого как бы моделирует самостоятельный источник колебаний, и построим на рис. 3 два графика, определяемых этим выражением  Зеленый график построен для i=300, а красный для i=100. На рисунке отчетливо видно, что красный график, построенный для случая меньшего количества, чем зеленый график источников колебаний, имеет, тем не менее, более высокую частоту колебаний.

Найдутся люди, которые скажут, что суммирование синусоид и реальных нервных импульсов это две большие разницы. По этому на рис. 4 приведены графики, полученные в результате сложения реальных потенциалов действия нейронов. Изменение реального потенциала действия нейрона приведено на рис. 5. Конечно, для построения этих графиков потребовалось использовать более сложное уравнение, но принципиально полученные результаты от сложения синусоид и реальных потенциалов действия нейронов существенных отличий не имеют.  

Таким образом, графики, приведенные на рис. 3 и 4 показывают, что частота ритма вполне может расти на фоне уменьшения количества источников колебаний или, что можно предположить о возможности увеличения частоты  ритма электроэнцефалограммы на фоне уменьшения активности мозговых структур.

Что же нам дает высказанная здесь гипотеза об отключении или угнетении части мозговых структур при решении так называемых сверхзадач ? Первое это, то, что "избавляет каждого человека от необходимости таскать в своей голове практически никогда не используемые мозговые структуры и механизмы их активизации". Второе это, то, что обеспечивается и в этом случае подтверждение принципиального отличия естественной нейронной сети от персептронов. Третье это, то, что, с учетом этой гипотезы можно предложить механизм проявления сверхвозможностей мозга, выражающихся в появлении у человека способности находить правильные решения в условиях дефицита информации, видеть без использования глаз и т. п.

Если предположить, что вся информация от органов чувств в естественной нейронной сети сравнивается с информацией, хранящейся в памяти, то в условиях дефицита информации такие сравнения будут приводить в нормальных условиях все время к отрицательным результатам. Иными словами человек просто ничего не будет узнавать. Для того, что бы человек смог распознавать информацию при поступлении ее в мозг в урезанном состоянии, например без использования зрительного канала необходимо отключить те структуры мозга, которые сравнивают зрительную информацию из памяти с поступающей из вне. Тогда при сравнении будет учитываться информация, поступающая только от других рецепторов температурных, тактильных и т. п., что может обеспечить появление положительных результатов сравнения. При этом работа части мозговых структур будет угнетаться.

Такой механизм проявления сверхвозможностей человеческого мозга вызовет появления вполне законного вопроса: "Разве с отключением части мозговых структур надежность распознавания информации человеком не снизится ?".

Конечно, снизится, что обычно и наблюдается в экспериментах по так называемому внечувственному восприятию. А сколько люди, в том числе и гении, вырабатывают заблуждений в расчете на одну по настоящему пионерную идею ?

Косвенным подтверждением того, что нейронная сеть человеческого мозга постоянно работает с двумя информационными потоками - внешним и внутренним из памяти стали, распространенные в 2001 году результаты исследований группы ученых Токийского университета под руководством Ясудзи Миясито. В ходе этих исследований было установлено, что вся поступающая в мозг информация четко делится на два потока, поступающие на внешнюю оболочку коры головного мозга и в ее внутреннюю область. Причем, если человек, что-то вспоминает, то возникает обратный информационный поток из внутренней области коры головного мозга на ее внешнюю оболочку.

Самым ярким подтверждением последнего времени не способности естественной нейронной сети обучаться при осуществлении высших форм нервной деятельности стали работы Стива Поттера, доцента технологического института штата Джорджия, в Атланте, который для управления обычным роботом подключил к нему сеть из нескольких тысяч естественных нейронов крысы. Несмотря на все усилия ученого робот, управляемый естественной нейронной сетью демонстрирует пока только полную не способность хоть чему-либо научиться.

Для разработки  теории работы искусственного интеллекта наряду с вопросами, касающимися общих принципов работы мозга, чрезвычайно важным является вопрос: "Располагаем ли мы в настоящее время математическим языком способным описывать процессы интеллектуальной деятельности и образы, которыми оперирует мозг ?". Если такого математического языка нет, то  говорить о разработке общей теории работы искусственного интеллекта вообще преждевременно.

В настоящее время для описания моделей искусственных нейронных сетей и образов математическим языком используется аппарат векторной и матричной алгебры, математическая логика, булева алгебра, дифференциальные уравнения, различные специализированные функции, заданные с помощью словесных формулировок и др.

Столь значительное разнообразие используемых математических методов, скорее всего, означает, что пока мы все же не располагаем универсальным математическим языком, способным описывать образы и процедуры работы с ними. А, правдоподобно ли выглядит предположение того, что естественная нейронная сеть при своем функционировании способна реализовать какой либо из перечисленных выше математических методов ?

Какими же свойствами должен обладать математический аппарат используемый для описания интеллектуальных процедур ?

При ответе на этот вопрос пока можно высказать только самые общие принципы. Справедливость этих принципов подтвердить, конечно, нечем.

Поскольку мозг при своей работе обрабатывает сумму единичных, можно сказать точечных, сигналов от большого количества рецепторов органов чувств, то можно предположить, что адекватный для описания интеллектуальных процедур математический аппарат можно будет получить на основе уравнений, способных задавать график, состоящий из одной произвольной точки. Уравнение, обладающее необходимыми свойствами можно получить на основе использования сравнительно простого выражения: [x/w]Ч[w/x]. В выражении: w - некоторая заданная постоянная, [ ] - знак, обозначающий целую часть числа. Очевидно, что если это выражение разделить само на себя, то полученное таким образом уравнение для всех положительных значений аргумента будет иметь всего одно значение при x=w, т. е. будет определять на графике точку.

Для демонстрации возможностей уравнений, составленных на основе использования выражений вида  [x/w]Ч[w/x] на рис. 6 приведен график одного подобного уравнения. Само уравнение не приводится из-за значительного его объема - занимает несколько страниц. Этот рисунок наглядно показывает возможность записи информации о сложных изображениях в виде пусть и большого, но одного уравнения. А, разве глаз человека имеет мало светочувствительных клеток ?

Конечно, трудно сказать использует ли мозг при своей работе нечто подобное, рассматриваемым здесь уравнениям, но зато, если предположить, что он их все же использует, то отпадает необходимость ответа на вопрос: "С точностью до какого знака после запятой естественные нейронные сети воспринимают величины, поступающих сигналов ?", так как используемые в уравнениях выражения в ходе вычислений предполагают отбрасывание дробных частей.

Анализ поставленных в статье вопросов и предложенных вариантов ответов на них позволяет сформулировать следующие требования к искусственным нейронным сетям:

          - Должна постоянно получать и сравнивать информацию из внешней среды и памяти. Причем поступающая из внешней среды информация должна иметь возможность непрерывно систематизироваться и фиксироваться в памяти.

         - Процедура сравнения должна быть универсальной для всех воспринимаемых сетью образов. Для описания всех образов должен использоваться единый универсальный математических аппарат.

         - По мере обучения работы с новой информацией сеть как минимум должна иметь возможность оставаться неизменной.

         Проверить принципиальную работоспособность искусственной нейронной сети, отвечающей перечисленным требованиям, оказалось совсем не сложно. Для этого потребовалось лишь написать простенькую программу, предназначенную для распознавания цифр от 0 до 9 рисуемых при помощи компьютерной мыши на экране монитора и  обучить программу путем занесения в память информации о различных вариантах изображения цифр.

         Эксперименты, проведенные с программой, показали, что распознавание цифр может успешно осуществляться при сравнении информации о цифрах из памяти с информацией, поступающей от компьютерной мыши. При этом не требовалось изменять величину порога срабатывания никаких пороговых элементов, т. е. сама сеть оставалась неизменной.

         Следует отметить, что программа даже с весьма небольшим объемом памяти работала крайне медленно. По всей видимости, для создания искусственного интеллекта нужны машины, не имитирующие параллельность работы элементов искусственной нейронной сети, а реально ее обеспечивающие.

Кроме этого, при предъявлении программе вместо цифры какого либо другого образа, не содержащегося в памяти, компьютер сам периодически по каким то своим правилам предлагал вариант распознавания на основе доступной ему информации, т. е. он как бы создавал образ, которого в реальности не было. А, может способность создавать сны, иллюзии действительно будет одним из обязательных свойств искусственного интеллекта ?

                                                                                            октябрь 2003 года

РИСУНКИ К СТАТЬЕ

           []

           Рис. 1 Примеры неоднозначной классификации одного и того же

изображения: на рисунке с лева наблюдатель видит либо число "13",

либо букву "В", а на рисунке с права либо зайца, либо утку

  []

Рис. 2 Белого треугольника и квадрата в реальности на рисунке нет

  []

Рис. 3 Графики суммирования колебаний: зеленый 300-от источников, красный 100 источников колебаний

  [] 

Рис. 4 Графики суммирования колебаний реальных потенциалов

действия: зеленый - 1000 нейронов, красный - 4000 нейронов

  [] 

Рис. 5 Реальный потенциал действия нейрона

  [] 

Рис. 6 Пример формирования сложного изображения в виде

графика, заданного одним уравнением

 


Главная страница на http://stob2.narod.ru  

"Распознавание образов: математический аппарат"

"ТЕХНИЧЕСКИЕ ВОПРОСЫ СОЗДАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА МОДЕЛИРУЮЩЕГО РАБОТУ МОЗГА"

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Если статья не загрузилась, то нажать: ЗАГРУЗИТЬ СТАТЬЮ



Rambler's Top100








































Статья о механизме работы мозга, искусственном интеллекте,нейронных сетях,распознавании образов? математическом описании процессов работы мозга, искусственного интеллекта, нейронных сетей, механизмах сноведений, механизмах распознавания образов, иллюзиях, аномальных явлениях, сверхвозможностях, пара нормальных, механизме работы синапсов



Статья о механизме работы мозга, искусственном интеллекте,нейронных сетях,распознавании образов? математическом описании процессов работы мозга, искусственного интеллекта, нейронных сетей, механизмах сноведений, механизмах распознавания образов, иллюзиях, аномальных явлениях, сверхвозможностях, пара нормальных, механизме работы синапсов



Статья о механизме работы мозга, искусственном интеллекте,нейронных сетях,распознавании образов? математическом описании процессов работы мозга, искусственного интеллекта, нейронных сетей, механизмах сноведений, механизмах распознавания образов, иллюзиях, аномальных явлениях, сверхвозможностях, пара нормальных, механизме работы синапсов



Статья о механизме работы мозга, искусственном интеллекте,нейронных сетях,распознавании образов? математическом описании процессов работы мозга, искусственного интеллекта, нейронных сетей, механизмах сноведений, механизмах распознавания образов, иллюзиях, аномальных явлениях, сверхвозможностях, пара нормальных, механизме работы синапсов


 Ваша оценка:

Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
Э.Бланк "Пленница чужого мира" О.Копылова "Невеста звездного принца" А.Позин "Меч Тамерлана.Крестьянский сын,дворянская дочь"

Как попасть в этoт список
Сайт - "Художники" .. || .. Доска об'явлений "Книги"