Я – странная петля

Нам следует с осторожностью говорить «я знаю», тщательно взвешивать это «я знаю» каждый раз, когда сознание твердит нам, что это правда.

Сократ: Верно. Если бы я спросил: «Жив ли ты?», ты без сомнений ответил бы: «Да, я жив». А если бы я спросил: «Откуда ты знаешь, что ты жив?», ты сказал бы: «Я чувствую, я знаю, что я жив, – разве знать и чувствовать – это не означает быть живым?» Разве не так?

Платон: Да, я бы точно сказал что-то в таком духе.

Сократ: Теперь давай предположим, что существует машина, способная создавать предложения на английском языке и отвечать на вопросы.

И я, допустим, задал вопрос этой английской машине: «Жива ли ты?», и, допустим, она ответила мне в точности так же, как ты. Что скажешь о справедливости таких ответов?

Платон: Первым делом я возразил бы, что ни одна машина не способна знать, что такое слова и что они значат. Машина обращается со словами абстрактно, механическим путем, как консервный автомат, который раскладывает фрукты по банкам.

Сократ: Твои возражения не принимаются по двум причинам.

Ты же не считаешь, что слово является базовой единицей человеческой мысли? Широко известно, что у людей есть нервные клетки, которые функционируют по арифметическим законам. Во-вторых, ты недавно предупреждал, что мы должны быть осторожны со словом «знать», а сам используешь его так беспечно. Почему ты считаешь, что машины не способны «знать», что такое слова и что они значат?

Платон: Сократ, ты пытаешься доказать, что машины могут знать факты так же, как их знаем мы, люди?

Сократ: Ты только что заявил, что не способен объяснить, что есть знание.

Как ты, будучи ребенком, выучил слово «знать»?

Платон: Очевидно, я усвоил его, слушая, как его употребляют вокруг.

Сократ: Значит, контроль над этим словом ты получил автоматически.

Платон: Нет… Ладно, возможно, я понимаю, о чем ты. Я привык слышать его в определенных контекстах и более-менее автоматическим путем научился использовать его в этих контекстах сам.

Сократ: Подобно тому, как используешь язык и сейчас – без необходимости обдумывать каждое слово?

Платон: Совершенно верно.

Сократ: То есть если ты скажешь: «Я знаю, что я жив», это будет всего лишь рефлекс твоего мозга, а не продукт сознательного мышления.

Платон: Нет, нет! Либо в твоей, либо в моей логике ошибка. Не все, что я произношу, является результатом рефлексов. Некоторые мысли я сознательно обдумываю, прежде чем произнести.