Арсений Гончуков. Доказательство человека

• Арсений Гончуков. Доказательство человека. — М.: Издательство АСТ: Редакция Елены Шубиной, 2023. — 313 с.

Арсений Гончуков — кинорежиссер, сценарист, прозаик и поэт. Его первая изданная книга — сборник стихов «Отчаянное рождество» (2003). Публиковался в журналах «Дружба народов», «Воздух», «Новый берег», «Искусство кино», «Современная драматургия», а также в «Литературной газете», «Текстуре» и «Полутонах».

«Доказательство человека» — sci-fi роман в семнадцати новеллах о далеком, за тысячу лет после нас, будущем. В этом мире ИИ становится независим от воли создателя. А вот человеческая природа остается прежней: люди все так же подвержены страстям и порокам. И не только обычные люди, но и с оцифрованным сознанием. Каждая новелла по кинематографичности и сюжетной насыщенности напоминает сериалы «Черное зеркало» или «Любовь, смерть и роботы», да и смысловая наполненность схожа — размышления о социальной и нравственной стороне технического прогресса. И человечество, как всегда, оказывается на грани катастрофы.

 

4. первый маньяк

Он сел в ракету, громыхнувшую под ним металлом, пристегнул крест-накрест ремни, надел шлем, захлопнул над головой фонарь из сверхпрочного плексигласа, запустил двигатели — фронтальный, два тяговых и три подъемных — и потянул рукоятку с большой красной кнопкой на себя. Сопла двигателей скрылись за оранжево-красным ревущим потоком огня. Ракета под прямым углом взмыла над Подмосковьем и направилась в сторону Ядра — лететь всего несколько минут.

Провожая взглядом крошечный в вышине самолет, Парамонов представлял ракету как в фантастическом мультике, чувствовал себя мальчишкой и улыбался. Второй час стоял в восемнадцатиполосной июльской пробке, жмурился на синее небо. Ну, а что? Было бы клево иметь такую ракету, летать на работу… Сзади посигналили. Блин, впереди машина уехала! Парамонов дернулся, но перед ним тут же влезла наглая красная «Тесла». Да и черт с тобой. Не жалко.

Улыбка с лица сползла. Вот так и на работе могут. Отправить в увольнение и больше никогда не вернуть. Что делать? Я им докажу. Я молодой, умный, работоспособный. Парамонов утешал себя, но чувствовал, насколько сильный страх сидит внутри: потерять работу — значит потерять все. 

 

«Молодой, подающий надежды» капитан милиции особого аналитического киберотдела УВД Москвы Павел Парамонов подъезжал к Управлению. Предельно собран, серьезен, даже суров — каким всегда становился в радиусе пары километров от широкой черной бетонной высотки с узкими окнами.

Приказ об увольнении (официально — «О приостановке») как минимум сорока процентов личного состава еще не был подписан, и работа по текущим особо важным делам продолжалась. Впрочем, других в парамоновском отделе не было.

Вот отдельный ведомственный светофор, поворот налево и — въезд под плотной охраной из трех вооруженных андроидов в стандартной форме ОМОНа. Далее автоматически считывается спецпропуск, иначе бы метра не проехал, и машина ныряет вниз, в длинный темный тоннель, и мощный магнит, встроенный в стены, вырубает всю электронику, которую ты по ошибке мог взять на работу. В самом конце тоннеля автомобиль просвечивается безопасным рентгеном.

Со служебной парковки ведет массивная бетонная лестница, наверху укрепленная кривыми листами брони сейфовая дверь на электроприводе, за ней — просторный холл с сияющим паркетом цвета желчи и стенами под мореный дуб. Здесь очень тихо. В воздухе глухота и сдавленность, как на подводной лодке. Как будто не проезжал несколько минут назад через центр Москвы, не видел пронзающий солнце шпиль Дома Советов, как будто ты на дне морском, под толщей миллионов кубометров воды.

Уже через четыре месяца «раскопок» в ведомственной библиотеке и в спецархивах МВД Павел понял, что Кретов был маньяком. Ветеран войны 2040 года, полковник-супервайзер 107-го гвардейского киберспецподразделения, программист-самоучка с докторской степенью, а до войны коллега, легендарный следователь по особо важным, Леонид Натанович Кретов закончил жизнь в психушке. В самой обыкновенной дурке для ветеранов кибервойн, куда свозили буйнопомешанных с передовых всех фронтов.

Однако тайные эксперименты, которые интересовали Парамонова и его отдел, полковник Кретов ставил и описывал задолго до печального знакомства с персоналом дурдома. Исследования его были дотошными и скрупулезными, а выводы точными и убедительными — дай бог каждому так хорошо соображать. 

 

— А зачем он это делал? Паш, ты понял цели-то его? Ради коммерческого интереса или… что, строго научный интерес? — говорил немного в нос Андреев, подполковник и шеф особого киберотдела, стоя боком у окна, глядя куда-то вниз так, что глаза его светились, как стеклышки витража на солнце. 

— Эм-м… Сергей Дмитриевич, вот я уверен, что не ради выгоды… Ну как? Скорее, для себя. — Крупный Парамонов с планшетом в руках присел на краешек кушетки, не слишком фамильярно, но и вполне свободно. 

— Убивал для себя… Прият-тный у нас кол-лега… — растягивал слова Андреев. 

— У него была такая возможность. Что само по себе, согласитесь, эм-м, дорогого стоит. Когда после войны в 44-м военные разработки наконец пошли в гражданку и все узнали и увидели, что такое настоящие нейросети и человекоподобные машины на их базе, Кретов сразу открыл собственную компанию — по сути, конструкторское бюро плюс цех по разработке и внедрению… 

— Это все вроде бы понятно, Паш… Тогда все начали открывать фирмы и фирмочки, чтобы заработать на хлынувших в свободный оборот технологиях, но только Кретов занимался тем, чем занимался… Ведь так? — Андреев говорил медленно, но твердо, от окна не отворачиваясь. 

— Да, Сергей Дмитриевич, именно так… — Парамонов сдерживался, стараясь говорить на столь важную для него тему ровным голосом. — Проблематикой искусственного интеллекта преступника и криминальными наклонностями ИИ занимался тогда только он… Пионер практически! Ну если не считать закрытых изысканий наших коллег, военных и спецслужб… Но Кретов пошел дальше, гораздо дальше. 

— Хотя, казалось бы, куда уж… — тихо сказал Андреев. — Там жуть какая-то у него началась… 

Подполковник резко отвернулся от окна, нашел лицо Парамонова и заглянул в глаза. Паша на секунду растерялся. 

— Кретов… эм-м… знаменит в научной среде тем, что не просто пытался выявить преступников среди… отдельных экземпляров ИИ, так сказать… а сам начал обучать их… и… заставлять преступать закон… 

— Вот! — Андреев энергично поднял вверх палец. 

— Человек, который учил искусственный интеллект грабить, насиловать и убивать… Причем с особой жестокостью… В качестве обязательного… эм-м… условия… 

— Отлично. Как это официально формулируется в деле? 

— Так, э-э-э… — Паша запрокинул голову. — Ну, например: «Исследовал естественным образом возникающие при генерации нейросетей психологические барьеры»… Или: «Изучал генезис, тестировал и выявлял границы допустимого»… И в итоге составил так называемую «Шкалу моральных установок», признанную позже не совсем научной… Ну и… эм-м… зашел в своих экспериментах слишком далеко… и однажды… 

— Понятно, Паш. Дальше я помню. Но нам сейчас плевать, сколько Кретов народу убил, нас тут самих скоро… — Андреев притих, глядя в пустоту, явно не желая потерять некую видимую только ему нить. — Нас, товарищ капитан, мораль, этика и допустимые пределы уже не интересуют и их не интересуют… — он кивнул в окно. — Нам нужно выловить из бумаг Кретова хоть что-нибудь насчет критической ошибки, которая — возможно! возможно! — приводит ИИ к преступному поведению… Понимаешь? За тем я тебя и направил… Вот главное. Вот что нам нужно понять!

Андреев снова отвернулся к окну. 

— Так, э-э, товарищ подполковник… Я понимаю… — Парамонов выпрямился. 

— И? — тот вдруг резко повернулся обратно. 

— Этих данных нет… Я не могу найти. 

— Нет или не можешь найти?! 

— Нет.

Подполковник смотрел на Парамонова в упор. Капитан встал — взгляд начальника поднял его с кушетки. 

— Я уверен, что Кретов так и не выяснил, откуда… эм-м… и как среди нейросетей появляются маньяки и убийцы, скажем так… Это осталось неизвестным. 

— А матрицы вычислений и логи сохранились? — голос Андреева как будто сел. — Какие-то наработки, которые могут быть полезны… 

— Только контрольные сектора… испытательных прогонов… но это гигантские объемы информации, петабайты… — говорил Парамонов осторожно. 

— Знаю! — раздраженно сказал подполковник. — Только мы ни хрена не успеем.

Андреев поднял глаза на небо, Парамонов проследил за его взглядом. Военный самолет, крупный, серебристо-черный, летел беззвучно, как будто крался по небу. Они оба смотрели и щурились. 

— Сколько, по последним данным? — тихо спросил Парамонов. 

— Тридцать человек. 

— Войдем в историю.

Андреев замер у окна. Парамонов сел на кушетку, откинулся на мягкую спинку. Открыл на планшете раздел поисковика «Новости». Сотни статей и заметок, сгруппированных по темам, и заголовки один оглушительнее другого: «Кровавая бойня в Москве — количество убитых цифровым маньяком перевалило за…», «Первое массовое убийство Искусственным Интеллектом», «Нейросеть-убийца орудует в столице», «Искусственный интеллект-маньяк — разработчики не выявили ошибок в коде», «Первый в мире ИИ-преступник заявил, что не собирается останавливаться»… 

Парамонов листал страницы, Андреев смотрел на город. Вдруг на улице что-то грохнуло — хлопок, скрежет, звук рвущегося металла, как будто подорвали автомобиль. Андреев отпрянул. Парамонов вскочил и уставился на шефа. На улице заголосили сигнализации, послышались сирены, в небе с характерным гулом тут же возникли милицейские дроны… Андреев посмотрел на подчиненного, хотел что-то сказать, но передумал.

 

Улицу перед отдельным въездом в здание киберотдела УВД Москвы перекрыли спустя несколько часов, сразу после подписания приказа. Меры были приняты чрезвычайные — обеспечивать их привлекли не только ФСО и СОБР, но и военных. Семь БТР, несколько БМП, два танка, не считая бесшумно зависших штурмовых беспилотных вертолетов. Непосредственно к выходу подогнали три четырехосных грузовика с красными фургонами со встроенными погрузчиками.

Чтобы собрать в одном месте, отключить, инвентаризировать, упаковать и подготовить к транспортировке всех андроидов, работавших в киберотделе, понадобилось шесть часов — к началу погрузки на улице стояла глубокая ночь, и над машинами зависли автономные лампы. Приехавшие из Следственного комитета «живые» следователи-кураторы опечатывали грузовики. Единственный наблюдавший за погрузкой генерал, худощавый, седоватый, с короткой стрижкой, вдруг рассмеялся. Полковник с планшетом обернулся. Генерал показал пальцем — в одном из прозрачных контейнеров подполковник и капитан замерли друг против друга, как восковые фигуры: застывший недовольный Андреев и наклонившийся перед ним испуганный Парамонов. 

— Эти как обычно! — воскликнул полковник. 

— Теперь вдоволь наговорятся! — засмеялся генерал.