> Насчёт "абсолютной компетенции" в вашем понимании ИИ ("непременно превзойдёт человека")
> есть большие вопросы
> Теорема Гёделя о неполноте
> http://elementy.ru/trefil/21142 Я так понимаю, что Вас смущает последний абзац со ссылкой на Пенроуза. Ну, что я могу сказать. Это очень древние архивы. Боюсь, что это мнение сильно устарело.
Теорема Гёделя говорит, что "если система аксиом полна, то она противоречива". То есть, говоря грубо, если при помощи заданной системы аксиом можно вывести все возможные утверждения, то обязательно будет найдено противоречие, то есть утверждение, которое может быть доказано одновременно со своим отрицанием. Наиболее известный пример из области математики, это "множество, которое содержит все множества, не содержащие себя в качестве элемента" (парадокс Рассела). Далее следует логичный вопрос: содержит ли это множество само себя? И человек приходит к логическому противоречию: если оно содержит себя, то его надо исключить из этого множества, и наоборот, если оно себя не содержит, то оно должно содержать себя в качестве элемента.
Но в рассуждении Пенроуза есть изъян. Да, программы компьютера имеют некоторый набор аксиом, определяемый набором команд. Но вот в чём проблема: из этого не следует, что нельзя создать компьютерную программу, которая строит наборы аксиом, и исходя из этих наборов ведёт рассуждения. Если провести упрощённую аналогию с людьми, то утверждение Пенроуза звучит примерно так: "человеческий мозг, как известно, состоит из частиц (атомов), поэтому никогда не сможет осознать свою квантово-волновую природу" (я про карпускулярно-волновой дуализм, если вдруг Вы не физик).
В 1931 году такое мнение можно было воспринимать серьёзно. Тогда ИИ был сказкой, мечтой. Сейчас же, думаю, оно никакого веса уже не имеет. Буду рад продолжению дискуссии.