китайская комната

Ответ от Лев Богров[гуру]
Это попытка одного философа (Джон Сёрль) показать несостоятельность концепции Искусственного Интеллекта. Якобы никакая система, которая занимается преобразованиями последовательностей символов, не может "понять", что именно она делает.В комнате сидит человек, у него есть большая книга, в которой написаны непонятные символы (пусть - китайские иероглифы) , и написаны правила, как заменять одни символы на другие. Вот в комнату залезает листочек, на котором написаны иероглифы, человек заменяет эти иероглифы по правилам из книги и отдает результат наружу.А люди наруже восторгаются. Человеку был задан вопрос на литературном китайском, а он сумел дать на него красивый развернутый ответ. Т. е. "программист" книги сделал хорошую программу, которая умеет "отвечать на вопросы".Но теперь вопрос, получается, человек внутри умеет отвечать на вопросы на китайском, но значит ли это, что человек внутри "понимает" китайский? Он ничего не понимает, он даже может не знать, что занимается ответом на вопросы. Т. е. любая программа Искусственного Интеллекта может делать только то, чему ее научили и никогда не будет "понимать", что она делает. А обычный интеллект всегда понимает, что он делает, как бы противоречие