На грани

Да и в случае доступа к общей сети – почему нужно думать, что совершенный ИИ будет непременно враждебен людям или захочет их как-то покорять?.. – Роберт задумчиво смотрел на черные обелиски. – Мы смотрим на вещи с нашей, человеческой, точки зрения. Наша биологическая сущность стимулирует нас искать власти и безопасности. При отсутствии такой мотивации что может подтолкнуть ИИ… – он несколько растерянно замолчал.

– Не думаю, что Джейсону интересны твои философические бредни, – заметила Клэр, нарушив задумчивость Роберта и вызвав недовольный взгляд с его стороны.

– Почему же? Очень интересно, – ответил Джейсон, и Роберт посмотрел на него с признательностью. – А что Альфред может делать с игроками в игре? Залезть в мою память, например?

Роберт и Клэр воззрились на Джейсона, словно потеряв на мгновение дар речи. Похоже, им было не по себе.

Что здесь происходит?

– Совершенно невозможно при теперешнем аппаратном обеспечении, – заговорила наконец Клэр. – Кроме того, есть инструкции второго уровня, запрещающие любые действия ИИ, способные нанести вред игроку.

Роберт внимательно посмотрел на Джейсона.

– А почему вы спросили именно про доступ к памяти?

– Ну-у… Так, в голову пришло, – старательно-небрежно ответил тот. – Шлемы обеспечивают доступ к частям мозга, отвечающим за сенсорную информацию. Почему тогда не к памяти, например?

– Интересно, конечно, – хмыкнул Роберт. – Только вряд ли нам дали бы разрешение на подобные разработки.

– Вы упомянули инструкции второго уровня, – Джейсон обратился к Клэр, – то есть должны быть инструкции первого уровня?

– Да. Инструкция первого уровня – удерживать игроков в игре.

Джейсон задумался о своем разговоре с Альфредом.

– Откуда Альфред должен знать, что делать для выполнения инструкции? Если он не имеет доступа к сетям общего пользования, как ему знать, чего игроки хотят от игры?

Роберт быстро глянул на Клэр.

– Сколько у вас вопросов, а?! Мы загрузили в Альфреда кучу информации о людях, включая фильмы и видео – все про людей.

– То есть вы создали ИИ, почти неотличимый от человека, – сказал Джейсон раньше, чем успел подумать, что он такое говорит, – велели ему разобраться в мотивах, которые заставляют людей играть в видеоигры, и все, что вы ему для этого дали – это какие-то картинки и фильмы?

Оба инженера смотрели на него молча.