Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Basic Books, 1995, особенно главу 4, где описывается «Элиза», один из первых чат-ботов.

30

Этот аргумент был развит Майком Элганом, исследователем с факультета технологии Университета Миссури.

31

Sharkey N. The Evitability of Autonomous Robot Warfare // International Review of the Red Cross. 2012. Vol. 94. № 886.

32

Хокинг, знаменитый космолог, в ноябре 2017 года на «Веб-саммите» в Лиссабоне заявил, что ИИ может стать «худшим событием в истории нашей цивилизации». Впоследствии в многочисленных интервью и статьях он не раз заявлял о неминуемости этой угрозы.

33

Исследователи в MIT создали 3D-имитацию черепахи, которую легко узнаёт человеческий глаз, но в случае малозаметных «возмущений» (таких как изменение узора, цвета и т. п.) ИИ путал эту черепаху… с ружьем!

34

Russell S., Norvig P. Artificial Intelligence: A Modern Approach [1995]. 2009.

35

Подобная гипотеза была ярко описана Максом Тегмарком во введении к его книге «Жизнь 3.

0» (Tegmark M. Life 3.0. Penguin Books, 2018, см. введение «Рассказ о команде Омега»).

36

Harris M. Inside the First Church of Artificial Intelligence?// Wired. 2017. Nov. 15. URL: https://www.wired.com/story/anthony-levandowski-artificialintelligence-religion/

37

Это маловероятно: ученым пока еще не удалось произвести полную копию мозга даже маленького червя Caenorhabditis elegans, в котором насчитывается лишь 302 нейрона…

38

Этот аргумент Гари Маркуса, профессора психологии из Нью-Йоркского университета и специалиста по ИИ, см.

, например, в его статье: Marcus G. Artificial Intelligence Is Stuck // The New York Times. 2017. July 29.

39

Это так называемое recursive self improvement, «рекурсивное самоулучшение».

40

В математике синглетон – это множество, состоящее из единственного элемента. В этом случае автор подразумевает то, что также можно назвать «абсолютом». – Прим. ред.

41

Это так называемая symbol grounding problem, «проблема обоснования символов»: ИИ не может закрепить символы, постоянно производимые им, в соответствующей реальности.

Как и в эксперименте с «китайской комнатой», он сталкивается с неспособностью произвести смысл.

42

Бостром называет это «извращенным исполнением», тогда как философы ИИ описывают эту проблему в целом термином «упорядочивание целей».

43

Это так называемая moral rightness model.