Доказательство человека. Роман в новеллах

Когда после войны в 44-м военные разработки наконец пошли в гражданку и все узнали и увидели, что такое настоящие нейросети и человекоподобные машины на их базе, Кретов сразу открыл собственную компанию – по сути, конструкторское бюро плюс цех по разработке и внедрению…

– Это все вроде бы понятно, Паш… Тогда все начали открывать фирмы и фирмочки, чтобы заработать на хлынувших в свободный оборот технологиях, но только Кретов занимался тем, чем занимался… Ведь так? – Андреев говорил медленно, но твердо, от окна не отворачиваясь.

– Да, Сергей Дмитриевич, именно так… – Парамонов сдерживался, стараясь говорить на столь важную для него тему ровным голосом. – Проблематикой искусственного интеллекта преступника и криминальными наклонностями ИИ занимался тогда только он… Пионер практически! Ну если не считать закрытых изысканий наших коллег, военных и спецслужб… Но Кретов пошел дальше, гораздо дальше.

– Хотя, казалось бы, куда уж… – тихо сказал Андреев. – Там жуть какая-то у него началась…

Подполковник резко отвернулся от окна, нашел лицо Парамонова и заглянул в глаза.

Паша на секунду растерялся.

– Кретов… эм-м… знаменит в научной среде тем, что не просто пытался выявить преступников среди… отдельных экземпляров ИИ, так сказать… а сам начал обучать их… и… заставлять преступать закон…

– Вот! – Андреев энергично поднял вверх палец.

– Человек, который учил искусственный интеллект грабить, насиловать и убивать… Причем с особой жестокостью… В качестве обязательного… эм-м… условия…

– Отлично.

Как это официально формулируется в деле?

– Так, э-э-э… – Паша запрокинул голову. – Ну, например: «Исследовал естественным образом возникающие при генерации нейросетей психологические барьеры»… Или: «Изучал генезис, тестировал и выявлял границы допустимого»… И в итоге составил так называемую «Шкалу моральных установок», признанную позже не совсем научной… Ну и… эм-м… зашел в своих экспериментах слишком далеко… и однажды…

– Понятно, Паш. Дальше я помню. Но нам сейчас плевать, сколько Кретов народу убил, нас тут самих скоро… – Андреев притих, глядя в пустоту, явно не желая потерять некую видимую только ему нить.

 – Нас, товарищ капитан, мораль, этика и допустимые пределы уже не интересуют и их не интересуют… – он кивнул в окно. – Нам нужно выловить из бумаг Кретова хоть что-нибудь насчет критической ошибки, которая – возможно! возможно! – приводит ИИ к преступному поведению… Понимаешь? За тем я тебя и направил… Вот главное.