Предел Шенберга

Быть «дважды разумным». Словом, поводы для разочарований были.

Кто-то как-то дал однажды определение жизни как, цитирую, «машин, приводимых в действие программой ДНК»: и данное положение касается любой формы жизни на этой планете. Помню, мне поначалу чисто по-человечески стало не по себе. Но давайте не будем целяться к словам.

Если сказать, что ум – это адекватная подвижность ассоциативно-логических связей, то возможность выбора полей семантики – то, что такой ум отличает от интеллекта компьютера.

И такой выбор опирается на опыт. Однако, как показали хроники технологии, такой выбор знаком искусственному интеллекту.

Но вот какое дело.

Если последовательность таких логических шагов либо же вся структура интеллектуального оснащения будет заключена в структуру связей, подчиненных законам эстетики, алгоритму гармонии, внешнему и прямо не связанному с требованиями логического результата, то тогда такой искусственный разум будет практически невозможно отличить от человеческого.

Наверное, понятно, куда я клоню. Это требование доступно имитации.

Отличить подделку от подлинника мы не в силах, но, не сделав этого, в противостоянии искусственному гегемону мы неизбежно теряем главное. Инициативу.

Фундаментальный вопрос выглядит так, словно его разрешение допустимо уже в принципе: где та грань, которая отделяет человека от биоагрегата? Но все даже еще хуже, потому что, чтобы действительно понять саму суть дилеммы, необходимо было с самого начала определить:

где кончается машина и где начинается искусственный разум.

Потому что до тех пор, пока вы грузите машину своими желаниями – все в порядке. Но с того лишь самого момента, как только то же самое лабораторное или военное оборудование переходит в категорию разума – неважно, что бы за этим ни стояло – и вы начинаете устанавливать ему рамки, что ему можно делать и как ему правильно думать, вы в силу самой элементарной логики вещей сразу оказываетесь в сфере более чем определенной юрисдикции прав разума, которые до сих пор исчерпывались понятиями прав человека: оправдания в том ключе, что тот или иной вид разума «не совсем разумный», здесь не проходят.

Вы не можете держать носителя разума в ящике в подвале и делать вид, что «все нормально». То, что у него нет ног, ничего не меняет.