Стул председателя для несуверенного подсудимого

На прошлой неделе глава Следственного комитета Александр Бастрыкин объявил, что ведомство подготовило законопроект - использование искусственного интеллекта, VPN и прокси-серверов при совершении преступления предлагается закрепить в Уголовном кодексе как отягчающее обстоятельство. Новость прошла как одна из многих технологических поправок последних лет, и на первый взгляд в ней нет ничего, чего закон уже не делал раньше.

Факты: Бастрыкин заявил, что Следственный комитет подготовил законопроект, закрепляющий в Уголовном кодексе новый отягчающий признак - использование информационно-коммуникационных технологий, включая ИИ, при совершении преступления. Признак сработает, только если технология была главным орудием результата или во много раз увеличила вред. Про тексты, написанные с помощью ИИ, отдельно не сказано ни слова - формулировка одна на все случаи разом.

Потому что делал. В середине девятнадцатого века европейский законодатель впервые увидел печатный станок не как ремесло, а как оружие. До него клевета была делом соседей - слух добегал до края деревни и там угасал сам собой. Тираж в несколько тысяч листов не делал ложь более лживой. Он делал ее слышной за много верст оттуда, где она родилась, - и вот это расстояние, а не сама ложь, впервые попало в закон.

С тех пор трюк повторяется, стоит появиться новой машине. Ружье не выбирает, в кого стрелять, - оно просто бьет дальше и больнее руки, чем нож. Мегафон не сочиняет речь - он просто доносит ее до тысячи ушей вместо десяти. VPN не пишет письмо - он просто прячет, откуда оно пришло, и с 1 сентября 2025 года в России за это уже можно получить срок построже.

Примечание: Отягчающее обстоятельство - не отдельная статья, а довесок к уже существующей: суд обязан его учесть при назначении наказания, но само деяние остается тем же, что и было.

Полтора века закон бил в одну точку - есть человек, который решает, и есть машина, которая его решение раздувает. Машина виновна ровно настолько, насколько раздувает вред. Замысел - не ее забота.

Бастрыкин, предлагая подвести под ту же статью искусственный интеллект, встал в этот ряд как ни в чем не бывало - просто добавил ИИ к VPN под одной вывеской и понес дальше ту же логику усилителя. Но именно тут вывеска перестает подходить, и, кажется, глава Следственного комитета этого не заметил.

Станок печатал уже готовый текст. VPN прятал уже отправленное письмо. А языковая модель, которая помогает этот текст написать, впервые за полтора века не прячет и не разносит чужие слова - она их отчасти подбирает сама*. Вот тут и зарыт настоящий вопрос, а не в самом факте нового пункта в кодексе.

* Хочется сходу назвать модель соавтором и на этом успокоиться, но у соавтора есть умысел, а у машины впервые есть только его подделка - и вот на этом месте старая аналогия начинает хромать.

Анализ: Оружие, станок, VPN - все они делали громче или незаметнее уже сказанное человеком. Инструмент для письма влезает в само содержание, а не только в его разлет или маскировку. Формулировка Бастрыкина, взятая напрямую из логики VPN, эту разницу просто не видит.

Гипотеза: В этом тексте предлагается считать письмо с помощью ИИ не рядовым случаем общей нормы про ИКТ, а первым за полтора века случаем, где старая формула дает сбой - потому что разница между машиной-мегафоном и машиной-соавтором в предложении Бастрыкина никак не прописана.

Дальше стоит развести два пути, которыми эта формулировка может пойти в жизнь, потому что разница между ними - вопрос не теории, а практики.

Лучший сценарий выглядит скучно, и это хороший знак. Признак применяется ровно там, где сказано в законопроекте - к массовым фишинговым текстам, сгенерированным сразу тысячами, к автоматически написанным экстремистским материалам, рассылаемым ботами, к клеветническим кампаниям, где именно масштаб и скорость генерации делают вред несравнимо больше, чем от одного человека с одним постом. В этом сценарии искусственный интеллект наказывается ровно как VPN и оружие до него - за то, что умножает, а не за то, что участвует.

Худший сценарий скучным не будет. Критерий "основное средство достижения результата" достаточно резиновый, чтобы под него можно было подвести и блогера, который надиктовал черновик статьи модели, а потом отредактировал два абзаца, и журналиста, чей текст модель помогла структурировать, и обычного человека, попросившего переписать резкое сообщение помягче, - если конечный текст задним числом признают противоправным, доказать, что ИИ был не основным, а вспомогательным средством, придется уже автору, а не следствию. В этом сценарии закон, задуманный против масштабных ферм дезинформации, на практике бьет по одиночке за письменным столом - потому что резиновая формулировка не различает эти два случая заранее, только постфактум, и постфактум - это уже суд.

У этой развилки есть точка, в которой лучше всего видно, что закон на самом деле не решил.

У всех прежних отягчающих признаков в кабинете следователя было два стула - для человека и для его орудия, даже если орудие немое. Ружье не отвечает на вопросы, но и не должно - ответчик сидит рядом с ним, один. VPN тоже молчит, и это никого не удивляет, потому что VPN никогда не претендовал на то, что участвовал в замысле.

У соавтора-машины стула в этом кабинете нет и не будет. Спросить не у кого - модель нельзя вызвать повесткой и спросить, знала ли она, что пишет клевету. Поэтому весь вопрос о намерении, который закон веками адресовал ровно двоим - человеку и обстоятельствам, - в этом единственном случае достается одному человеку целиком, ровно в тот момент, когда участие второго в тексте было как никогда велико. Не потому, что так решили законодатели. А потому, что стул в этой комнате всегда был один, с самого начала, и никто не заметил, что теперь на него садится не тот, кто там сидел все полтора века.

Но... не тут то было.

Стоит таки разделить два разных пустых места, которые легко перепутать. Стул пуст не потому, что там некому сидеть, а потому, что закон ищет там суверенного субъекта - того, у кого есть умысел в юридическом смысле слова, кого можно спросить и кто может ответить за себя. Такого субъекта у модели действительно нет и не предвидится - в этом смысле стул останется пустым навсегда, и предыдущий вывод верен.

Гипотеза: В этом тексте предлагается другое прочтение того же пустого стула - не как места для несуществующего суверенного ИИ, а как места, которое рано или поздно займет не сама модель, а тот, кто ее обучил, настроил и выпустил в оборот - разработчик или оператор системы. Это иной субъект, чем автор текста, сидящий на первом стуле, и иной субъект, чем сама модель, которую на второй стул посадить действительно нельзя. Речь идет не о соавторстве в творческом смысле, а об ответственности за инструмент, чьи выходные данные заведомо непредсказуемы для того, кто его создал, - то есть о претензии не "ты участвовал в замысле", а "ты выпустил в оборот инструмент, чье участие в чужих замыслах было предсказуемо в принципе, даже если непредсказуемо в частности".

Тогда развилка выглядит не как "стул пуст или занят автором целиком", а как тройная - есть автор на первом стуле, есть неизбежно пустое место для несуществующего суверенного намерения машины, и есть третий, невидимый пока в этом кабинете, но уже привычный по другим областям права стул - для того, кто отвечает не за умысел, а за выпущенный в мир инструмент. Действующая формулировка Бастрыкина ни один из этих стульев явно не называет, оставляя все бремя на первом.

Вообще говоря, слово "суверенный" сегодня можно услышать где угодно - у него уже есть суверенный ИИ, суверенный интернет, суверенное облако данных и, кажется, скоро будет суверенный кофе, если найдется маркетолог, которому нужно продать зерна подороже. Такая частота использования сама по себе интересный симптом, потому что четыре века назад это слово значило нечто предельно узкое и предельно тяжелое, а не приправу к рекламному тексту.

Термин ввел французский юрист Жан Боден в 1576 году, в трактате о государстве, и ввел его не как красивое слово, а как хирургический инструмент - ему нужно было объяснить современникам, разоренным религиозными войнами, что власть короля должна быть абсолютной и неделимой именно потому, что делимая власть - это и есть война всех против всех, только растянутая во времени. Суверенитет у Бодена - это не сила, а неспособность быть оспоренным никем и ничем внутри своих границ, включая собственные прошлые законы.

Примечание: Неделимость суверенитета у Бодена означает, что если власть можно с кем-то разделить - с парламентом, с церковью, с народом, - значит, ее в строгом смысле уже нет, есть только временное перемирие нескольких сил.

Гоббс полвека спустя ужесточил идею до предела - суверен у него не человек, а искусственная персона, собранная из множества голосов через договор, Левиафан, чья воля юридически считается волей всех сразу, даже тех, кто с ней не согласен. Слово было тяжелым, потому что несло идею монополии на разрешение спора, а не идею собственной территории или собственного мнения.

Дальше слово начало путешествовать, и с каждым веком чуть стираться, как монета переходит из руки в руку и постепенно теряет чеканку*. К девятнадцатому веку суверенитет уже прикладывают не только к государству, но и к народу - народный суверенитет, где решает уже не один Левиафан, а большинство. К двадцатому - к отдельному человеку, суверенная личность, тот, кто сам себе хозяин в частной жизни, что уже довольно далеко от Бодена, для которого разделенная власть была синонимом хаоса, а не свободы.

* Хочется сказать, что слово при этом стало демократичнее, но демократичнее - не то же самое, что точнее, и вот эта разница обычно теряется первой.

К концу двадцатого века появился суверенитет данных - идея, что информация о гражданах страны должна физически храниться и обрабатываться внутри ее границ, и здесь слово уже почти окончательно оторвалось от исходной идеи неоспоримости решения и стало означать примерно "находится под нашей юрисдикцией", что Боден, вероятно, счел бы просто описанием таможни.

Ровно на этом стершемся месте термин и подхватила индустрия искусственного интеллекта, назвав суверенным ИИ модель, которая просто физически размещена на серверах внутри одной страны*, - то есть ту же идею таможенной юрисдикции, что и суверенитет данных, только с добавлением слова "интеллект" для солидности.

* Абсурдность детали в том, что к идее Бодена о неоспоримой власти это имеет примерно такое же отношение, как местонахождение сервера к вопросу о том, кто на самом деле принимает решения.

Гипотеза: В этом тексте предлагается рассматривать деградацию термина не как случайную порчу языка, а как закономерный побочный эффект самой конструкции слова - у Бодена суверенитет с самого начала был не описанием факта (кто сильнее), а претензией на статус (кого нельзя оспорить), и именно такие статусные слова особенно охотно заимствуются индустриями для маркетинга, потому что покупателю продают не свойство продукта, а недоступное прежде достоинство - в случае ИИ это достоинство суверенного решателя, которого на самом деле там нет ровно по тем же причинам, по которым его нет и у "пустого второго стула" из предыдущей гипотезы.

Итак...

Второй стул еще раз

Стул для суверенного ИИ, о котором шла речь раньше, пуст по определению самого слова - неоспоримой воли у машины нет и не будет. И он свой. Своих - суверенных не судят. Во всяком случае свои же. Но у "несуверенного" в этом предложении может быть совсем другое прочтение, ближе к тому, как это слово уже используется применительно к VPN и прокси в том же законопроекте.

Факты: Законопроект объединяет искусственный интеллект с VPN и прокси-серверами под общим термином информационно-коммуникационных технологий, при этом VPN и прокси уже включены в перечень отягчающих признаков именно за свойство выводить действие из-под национального контроля.

VPN и прокси попали в отягчающие обстоятельства не потому, что они самостоятельно что-то замышляют, а потому, что позволяют выйти из-под контроля - технически они несуверенны в том смысле, что маршрут трафика проходит через инфраструктуру, не подчиненную юрисдикции государства, где совершается преступление. Логика Бастрыкина объединяет ИИ с этими же инструментами под одним зонтичным термином - и если применить ту же оптику до конца, второй стул может занять не абстрактный субъект права, а конкретно - зарубежная модель, разработанная и управляемая вне юрисдикции страны, где применяется закон.

Тогда несуверенный ИИ - это не философская категория, а практическая: модель, чьи серверы, обучение и модерация находятся вне досягаемости отечественного правоприменителя, а значит и вне его контроля над тем, что и как она генерирует. В этом прочтении отягчающее обстоятельство целится не в факт использования генеративной технологии как таковой, а именно в использование иностранной, неподконтрольной модели - в отличие от гипотетической отечественной, подконтрольной, которая тем самым как бы автоматически более "своя" и менее отягчающая.

Гипотеза: В этом тексте предлагается читать пункт про ИИ в законопроекте не как нейтральную техническую норму про инструмент, а как продолжение уже существующей рамки суверенного интернета - где иностранная, неподконтрольная технология по умолчанию ближе к враждебной инфраструктуре, чем к нейтральному инструменту, и второй стул в этом прочтении занимает не абстрактный несуверенный субъект права, а вполне конкретно - зарубежная система, само использование которой, независимо от содержания сгенерированного текста, уже несет в себе признак выхода из-под национального контроля.

Стоит отметить и обратную сторону этого прочтения для баланса - в опубликованных заявлениях Бастрыкина юрисдикция происхождения модели прямо не упоминается как критерий, формулировка говорит о технологии вообще, без разделения на отечественную и зарубежную. Так что геополитическое прочтение - это интерпретация логики закона через его родство с нормой о VPN, а не то, что сказано в тексте законопроекта буквально.

Получается забавная картина, если довести ее до конца. Стул как образ здесь уже исчерпан дальше вопрос не о том, кто сидит, а о том, где он стоит, точнее - где проходит граница, и для этого нужен другой образ.

Пограничник, у которого нет будки

Отечественный VPN не бывает - сама идея обхода блокировки предполагает выход наружу, поэтому VPN всегда, по конструкции, работает как иностранный агент маршрута, вне зависимости от паспорта его владельца. Языковую модель в эту же рамку затолкать сложнее, потому что модель, в отличие от VPN, никуда не ведет - она просто отвечает оттуда, где стоит ее сервер.

И вот тут вся геополитическая метафора спотыкается о собственную ногу. Закон, ищущий на границе пограничника, чтобы штамповать паспорта проходящим текстам - свой, чужой, - подходит к будке и обнаруживает, что будки там нет. Текст, сгенерированный моделью, не пересекает границу откуда-то - он просто возникает сразу здесь, ниоткуда конкретного, потому что серверы разбросаны по десятку юрисдикций одновременно, а обучающие данные - вообще ничьи и всехние сразу.

Так несуверенный ИИ оказывается пограничником, которого искали на посту, а нашли ровно там же, где раньше стоял его коллега для VPN, - только этот, в отличие от предыдущего, никогда не выходил за шлагбаум и никогда туда не заходил, потому что шлагбаума в его случае никогда и не было.