Тема искусственного интеллекта сейчас вполне актуальна. Ведь мы живем в век бурного развития техники, и не за горами время, когда основная часть рутинного труда человека будет выполняться роботами, а среда обитания человека станет миром машин.
Уже сейчас встают вопросы об искусственном интеллекте и зависимости людей от машин. Я прикоснулся к ним, опираясь на материал книги "Образы сущего"
Под словом "интеллект" обычно понимается человеческий интеллект. Но можно исходить из предельно достижимых способностей робота и называть их "интеллектом робота". Тогда утверждение данной статьи таково: интеллект робота никогда не достигнет интеллекта человека. (Хотя, в некоторых операциях робот может и превзойти человека, например, в игре). Ситуация с этим термином приблизительно такова: соловей не может сочинить симфонию, но то, что он сочиняет называют симфонией.
Наверно, надо говорить о некоторой условной "разумности" машин, сравнивая ее с разумностью человека. Мне хочется показать, что существуют качественные различия между человеком и машиной в процессах, условно называемых "мышлением" - различия, которые образуют пропасть между ними. Никто не запрещает нам произносить "искусственный интеллект", но это просто не корректное словосочетание. Мои аргументы подразделяются на философские и научно-технические.
Начну с первых. Все, что человек делает сознательно, опирается на смыслы. Т.е. любое его сознательное действие - это комментарий смысла. Мы можем понять и комментарий, и смысл. Но мы не знаем, что такое "смысл". Мы не умеем его конструктивно описывать так, чтобы можно было запрограммировать смысл. Следовательно, робот не сможет обрести феномен смысла через программу.
Шахматный компьютер обыгрывает чемпиона мира. Он умеет считать и играть, но он не понимает, что он делает. Способность понимать и объяснять - истинно человеческая, но она не программируемая. Сознание - это орган человека, невоспроизводимый в рациональной модели. Оно есть главная "деталь" личности - бессмертная и уникальная, созданная Богом. Человек может сделать многое, опираясь на законы физики, но он не Бог.
Говорят так: "наука явно указывает на отсутствие Бога в области уже познанных явлений природы и на возможность его отсутствия в еще не познанных, но принципиально доступных к познанию областях". Однако то, что не познано, есть самое сложное, самое важное, самое ценное. Бесконечная сложность, сколько от нее не отнимай, остается бесконечной. И поскольку сознание бесконечно сложно, то любая модель его оказывается несостоятельной, не достигающей цели моделирования. Бесконечно сложное сконструировать в роботе невозможно. В этом первое принципиальное различие между человеком и роботом.
Перейду ко второй группе аргументов. Пусть человек не способен создать сознание, но может быть, робот сам его обретет в процессе адаптации? Мы его будем наполнять множеством различных программ и баз знаний, учитывающим все мелочи и подробности функционирования его в нашем мире, а он постепенно станет умным. Может быть, это и есть реальный (адаптивный) путь обретения сознания? Однако он требует увеличения числа программных компонент и исполнительных элементов (будем называть их чипами) системы "искусственного интеллекта".
Состояния элементов связаны близкодействием. В работе системы в целом учитывается работа почти каждого чипа. Вероятность ошибки системы пропорциональна сумме вероятностей ошибок всех чипов, и при большом числе их эта вероятность может оказаться заметно отличной от нуля, несмотря на высокую надежность чипов. В реальных устройствах применяются всевозможные методы резервирования и корректирования работы элементов, их функционирование подконтрольно человеку, который отслеживает работу в целом. Но автономная система не может быть неограниченно большой, так как она становится ненадежной. (А именно большой она должна быть, если мы хотим в ней увидеть интеллект.)
Иная картина имеет место в социуме, где, несмотря на высокое разнообразие поведения индивидов, функционирование систем оказывается весьма устойчивым. В отличие от множества чипов, социум связан не только близкодействием, но и дальнодействием, т.е. информацией, благодаря чему точность решения общей целевой задачи практически не уменьшается с ростом числа элементов. Грубо говоря, индивиды озабочены не только своими личными, но и общественными проблемами. Именно так устроен живой многоклеточный организм. Его "чипы" - это клетки, которые, согласно концепции метафизики живого универсума, демонстрируют поведение лиц - разумных монад.
Таким образом, человеческий организм есть совокупность живых (разумных) элементов, а робот - косных, безжизненных элементов электроники. Устойчивость биомеханики обусловлена информационным взаимодействием живых монад в их культурной среде. И в этом второе принципиальное различие между человеком и роботом.
Итак, нам не следует опасаться "машинной цивилизации", поскольку искусственный интеллект невозможен. И фантазии типа "Матрицы", "Терминатора", "Я робот" и т.д. не имеют под собой реального основания. Бояться надо ненадежности машин, это проблема техническая. Зависимость человека от машин имеет мало общего с зависимостью от людей. Она не содержит подавления свободы, рабского подчинения, морального унижения. Она такова, что человек может, привыкнув, забыть о ней. Машины не требуют к себе внимания (внимания как самостоятельной специфической социальной ценности), не проявляют волю. Они способны создать комфорт, в котором человек свои силы и внимание отдаст только человеку. И людям следует избегать фетишизации, не следует в машинах, в их дизайне повторять человеческие формы и черты поведения, машины должны быть функционально профилированы.
Развитие машинной среды отрицательно скажется на экологии природной среды. Возникнет проблема обеспечения баланса между жизнью и автоматами. Неизбежен момент "насыщения", когда дальнейшее усовершенствование машин перестанет оправдывать затраты усилий их творцов, и машинная надстройка достигнет некоторого стационарного состояния.
Литература
Чиворепла Лев. Образы сущего. Издание 5-е. -М.: КМК, 2009. - с.333.
Под словом "интеллект" обычно понимается человеческий интеллект. Но можно исходить из предельно достижимых способностей робота и называть их "интеллектом робота". Тогда утверждение данной статьи таково: интеллект робота никогда не достигнет интеллекта человека. (Хотя, в некоторых операциях робот может и превзойти человека, например, в игре). Ситуация с этим термином приблизительно такова: соловей не может сочинить симфонию, но то, что он сочиняет называют симфонией.
Наверно, надо говорить о некоторой условной "разумности" машин, сравнивая ее с разумностью человека. Мне хочется показать, что существуют качественные различия между человеком и машиной в процессах, условно называемых "мышлением" - различия, которые образуют пропасть между ними. Никто не запрещает нам произносить "искусственный интеллект", но это просто не корректное словосочетание. Мои аргументы подразделяются на философские и научно-технические.
Начну с первых. Все, что человек делает сознательно, опирается на смыслы. Т.е. любое его сознательное действие - это комментарий смысла. Мы можем понять и комментарий, и смысл. Но мы не знаем, что такое "смысл". Мы не умеем его конструктивно описывать так, чтобы можно было запрограммировать смысл. Следовательно, робот не сможет обрести феномен смысла через программу.
Шахматный компьютер обыгрывает чемпиона мира. Он умеет считать и играть, но он не понимает, что он делает. Способность понимать и объяснять - истинно человеческая, но она не программируемая. Сознание - это орган человека, невоспроизводимый в рациональной модели. Оно есть главная "деталь" личности - бессмертная и уникальная, созданная Богом. Человек может сделать многое, опираясь на законы физики, но он не Бог.
Говорят так: "наука явно указывает на отсутствие Бога в области уже познанных явлений природы и на возможность его отсутствия в еще не познанных, но принципиально доступных к познанию областях". Однако то, что не познано, есть самое сложное, самое важное, самое ценное. Бесконечная сложность, сколько от нее не отнимай, остается бесконечной. И поскольку сознание бесконечно сложно, то любая модель его оказывается несостоятельной, не достигающей цели моделирования. Бесконечно сложное сконструировать в роботе невозможно. В этом первое принципиальное различие между человеком и роботом.
Перейду ко второй группе аргументов. Пусть человек не способен создать сознание, но может быть, робот сам его обретет в процессе адаптации? Мы его будем наполнять множеством различных программ и баз знаний, учитывающим все мелочи и подробности функционирования его в нашем мире, а он постепенно станет умным. Может быть, это и есть реальный (адаптивный) путь обретения сознания? Однако он требует увеличения числа программных компонент и исполнительных элементов (будем называть их чипами) системы "искусственного интеллекта".
Состояния элементов связаны близкодействием. В работе системы в целом учитывается работа почти каждого чипа. Вероятность ошибки системы пропорциональна сумме вероятностей ошибок всех чипов, и при большом числе их эта вероятность может оказаться заметно отличной от нуля, несмотря на высокую надежность чипов. В реальных устройствах применяются всевозможные методы резервирования и корректирования работы элементов, их функционирование подконтрольно человеку, который отслеживает работу в целом. Но автономная система не может быть неограниченно большой, так как она становится ненадежной. (А именно большой она должна быть, если мы хотим в ней увидеть интеллект.)
Иная картина имеет место в социуме, где, несмотря на высокое разнообразие поведения индивидов, функционирование систем оказывается весьма устойчивым. В отличие от множества чипов, социум связан не только близкодействием, но и дальнодействием, т.е. информацией, благодаря чему точность решения общей целевой задачи практически не уменьшается с ростом числа элементов. Грубо говоря, индивиды озабочены не только своими личными, но и общественными проблемами. Именно так устроен живой многоклеточный организм. Его "чипы" - это клетки, которые, согласно концепции метафизики живого универсума, демонстрируют поведение лиц - разумных монад.
Таким образом, человеческий организм есть совокупность живых (разумных) элементов, а робот - косных, безжизненных элементов электроники. Устойчивость биомеханики обусловлена информационным взаимодействием живых монад в их культурной среде. И в этом второе принципиальное различие между человеком и роботом.
Итак, нам не следует опасаться "машинной цивилизации", поскольку искусственный интеллект невозможен. И фантазии типа "Матрицы", "Терминатора", "Я робот" и т.д. не имеют под собой реального основания. Бояться надо ненадежности машин, это проблема техническая. Зависимость человека от машин имеет мало общего с зависимостью от людей. Она не содержит подавления свободы, рабского подчинения, морального унижения. Она такова, что человек может, привыкнув, забыть о ней. Машины не требуют к себе внимания (внимания как самостоятельной специфической социальной ценности), не проявляют волю. Они способны создать комфорт, в котором человек свои силы и внимание отдаст только человеку. И людям следует избегать фетишизации, не следует в машинах, в их дизайне повторять человеческие формы и черты поведения, машины должны быть функционально профилированы.
Развитие машинной среды отрицательно скажется на экологии природной среды. Возникнет проблема обеспечения баланса между жизнью и автоматами. Неизбежен момент "насыщения", когда дальнейшее усовершенствование машин перестанет оправдывать затраты усилий их творцов, и машинная надстройка достигнет некоторого стационарного состояния.
Литература
Чиворепла Лев. Образы сущего. Издание 5-е. -М.: КМК, 2009. - с.333.
Обсуждения Искусственный интеллект невозможен