Чтобы понять, как машина может вступать с человеком в «полноценное общение», не имея личности, сознания и души (как бы мы ни называли то, что делает нас людьми), надо иметь представление о структуре коммуникации и об устройстве механизма мышления.
Говоря же коротко, машина нас обманывает, но точно так же люди обманывают друг друга в процессе общения.
Что происходит, когда мы с кем-то говорим? Мы оцениваем услышанные слова, выбираем подходящий ответ и произносим его вслух. Если мы хотим обидеть собеседника, мы делаем наши слова «острыми и ядовитыми», если мы хотим ему польстить, мы «подсыпаем сахару», и так далее. Это просто обработка входной информации на основе культурных кодов, биологических императивов и личных интенций (намерений).
С культурными кодами обстоит проще всего — нет никаких проблем залить в память машины самую подробную энциклопедию и все ее кросс-линки, десять раз перемноженные сами на себя, темы для разговора, фразы и фразочки, ссылки на обстоятельства, когда их следует произносить, интонации, залинкованные по параметрам смысла, а также проводить оценку огромного массива входных данных по другим индикациям. К тому же, в программе можно учесть то, что человек, довольно часто, контролирует процесс общения не параметрам смысла, а открывает рот лишь для отвода глаз, решая некий вопрос, практически, вне всякой связи с ходом и содержанием разговора. Собеседник это, обычно, «чувствует», но часто, не может вырваться из «потока вербализации смыслов». Отсюда и все эти легенды об иррациональности сердца (какая, прости-господи, чушь!) Этот социально-биологический механизм тоже поддается программной симуляции без особых проблем, так как опирается на вполне просчитываемые параметры.
А вот с интенциями (намерениями, личными целями, желаниями, которые заставляют человека метаться по окружающему пространству с момента пробуждения до отхода ко сну) дело обстоит так: пользователи программных продуктов сами не хотят в это верить, но ничего подобного у «механического умного собеседника» просто нет. В машине отсутствует субъект, порождающий желание. Программа может только имитировать чувства «на выходе». Но качество имитации - это и есть самая главная задача для программиста.
Например, машина не может захотеть похвалить, ободрить, обвинить, шантажировать, утешить или разгневать, бросить вас или погибнуть. Она ничего не хочет. И погибнуть она тоже не может, поскольку не живет. Но программа может предельно точно имитировать поведение любого «эмоционально-волевого типа человека» на основе имеющихся у нее шаблонов. Что создаст достоверную для пользователя иллюзию правдоподобия «её личного отношения к нему».
Как создается впечатление «разумности» машины?
Наш ум превращает непосредственное восприятие (органами чувств) в ментальную репрезентацию. Затем ум анализирует все имеющиеся в культуре прецеденты, связанные с инвариантами этой репрезентации и подбирает наиболее подходящую модель поведения на основе имеющегося опыта выбора. Между ментальными репрезентациями происходят взаимодействия по правилам, определяемым прецедентом таких взаимодействий. Но каждая из репрезентаций становится на некоторый период (до реализации или затухания) личностным «я».
Программное обеспечение «умной» машины воспроизводит этот механизм, с той разницей, что в ней нет наблюдателя репрезентаций, а только набор загруженных в память и конкурирующих между собой поведенческих паттернов, выбор между которыми зависит от интенсивности возбуждения во временно возникающих электромагнитных контурах. И самая интенсивная из зон возбуждения становится на время ее техническим «я»…
Таким образом, «разум» машины – это сложно организованный банк данных, в который загружены не просто прецеденты реакций, но и прецеденты поиска прецедентов и так далее. Она не думает, потому что у нее внутри нет того, кто думает. Вместо воспринимающих органов чувств в ней есть сканер, который считывает культурные человеческие коды (символы, знаки, слова и предложения), и огромная база референций и правил, позволяющих подбирать символы для «ответа».
Машина запрограммирована переводить каждую фразу на несколько символических систем, разделяя ее на множество слоев и уровней. Затем каждый слой соотносится со своей базой. После этого происходит обратный синтез инвариантов, и мы получаем комплексную реакцию, имеющую смысловой, стилистический и эмоциональный аспекты, которые взаимно дополняют друг друга, создавая ощущение уникального, живого и адресованного лично вам ответа. Это, конечно, симуляция с помощью программного обеспечения. Общаясь с «разумной машиной», вы имеете дело с прошлым человечества.
То же, в основном, касается и людей. Точно так же дети имитируют своих родителей и сверстников — часто до самой старости.
Есть ли у «умных машин» личность?
И да, и нет. Смотря как понимать это слово. Машины «высокого класса» неповторимы, что достигается особой конфигурацией внутренних информационных связей. Они так же уникальны, как разные замки одной и той же марки — конструкция одна, но ключ везде свой. Если вы зададите другие программные настройки, это будет несколько «другое существо». Вернее сказать, другая имитация.
Программный алгоритмы могут быть очень сложны и основаны на изощренных взаимодействиях базы культурных кодов с генератором случайностей, которым, в свою очередь, управляет другой генератор случайностей — что позволяет сделать машину в процессе «общения» с пользователем по-настоящему непредсказуемой. Конечно, в строго очерченных границах — как и в случае с живым человеком.
Что происходит, когда мы с кем-то говорим? Мы оцениваем услышанные слова, выбираем подходящий ответ и произносим его вслух. Если мы хотим обидеть собеседника, мы делаем наши слова «острыми и ядовитыми», если мы хотим ему польстить, мы «подсыпаем сахару», и так далее. Это просто обработка входной информации на основе культурных кодов, биологических императивов и личных интенций (намерений).
С культурными кодами обстоит проще всего — нет никаких проблем залить в память машины самую подробную энциклопедию и все ее кросс-линки, десять раз перемноженные сами на себя, темы для разговора, фразы и фразочки, ссылки на обстоятельства, когда их следует произносить, интонации, залинкованные по параметрам смысла, а также проводить оценку огромного массива входных данных по другим индикациям. К тому же, в программе можно учесть то, что человек, довольно часто, контролирует процесс общения не параметрам смысла, а открывает рот лишь для отвода глаз, решая некий вопрос, практически, вне всякой связи с ходом и содержанием разговора. Собеседник это, обычно, «чувствует», но часто, не может вырваться из «потока вербализации смыслов». Отсюда и все эти легенды об иррациональности сердца (какая, прости-господи, чушь!) Этот социально-биологический механизм тоже поддается программной симуляции без особых проблем, так как опирается на вполне просчитываемые параметры.
А вот с интенциями (намерениями, личными целями, желаниями, которые заставляют человека метаться по окружающему пространству с момента пробуждения до отхода ко сну) дело обстоит так: пользователи программных продуктов сами не хотят в это верить, но ничего подобного у «механического умного собеседника» просто нет. В машине отсутствует субъект, порождающий желание. Программа может только имитировать чувства «на выходе». Но качество имитации - это и есть самая главная задача для программиста.
Например, машина не может захотеть похвалить, ободрить, обвинить, шантажировать, утешить или разгневать, бросить вас или погибнуть. Она ничего не хочет. И погибнуть она тоже не может, поскольку не живет. Но программа может предельно точно имитировать поведение любого «эмоционально-волевого типа человека» на основе имеющихся у нее шаблонов. Что создаст достоверную для пользователя иллюзию правдоподобия «её личного отношения к нему».
Как создается впечатление «разумности» машины?
Наш ум превращает непосредственное восприятие (органами чувств) в ментальную репрезентацию. Затем ум анализирует все имеющиеся в культуре прецеденты, связанные с инвариантами этой репрезентации и подбирает наиболее подходящую модель поведения на основе имеющегося опыта выбора. Между ментальными репрезентациями происходят взаимодействия по правилам, определяемым прецедентом таких взаимодействий. Но каждая из репрезентаций становится на некоторый период (до реализации или затухания) личностным «я».
Программное обеспечение «умной» машины воспроизводит этот механизм, с той разницей, что в ней нет наблюдателя репрезентаций, а только набор загруженных в память и конкурирующих между собой поведенческих паттернов, выбор между которыми зависит от интенсивности возбуждения во временно возникающих электромагнитных контурах. И самая интенсивная из зон возбуждения становится на время ее техническим «я»…
Таким образом, «разум» машины – это сложно организованный банк данных, в который загружены не просто прецеденты реакций, но и прецеденты поиска прецедентов и так далее. Она не думает, потому что у нее внутри нет того, кто думает. Вместо воспринимающих органов чувств в ней есть сканер, который считывает культурные человеческие коды (символы, знаки, слова и предложения), и огромная база референций и правил, позволяющих подбирать символы для «ответа».
Машина запрограммирована переводить каждую фразу на несколько символических систем, разделяя ее на множество слоев и уровней. Затем каждый слой соотносится со своей базой. После этого происходит обратный синтез инвариантов, и мы получаем комплексную реакцию, имеющую смысловой, стилистический и эмоциональный аспекты, которые взаимно дополняют друг друга, создавая ощущение уникального, живого и адресованного лично вам ответа. Это, конечно, симуляция с помощью программного обеспечения. Общаясь с «разумной машиной», вы имеете дело с прошлым человечества.
То же, в основном, касается и людей. Точно так же дети имитируют своих родителей и сверстников — часто до самой старости.
Есть ли у «умных машин» личность?
И да, и нет. Смотря как понимать это слово. Машины «высокого класса» неповторимы, что достигается особой конфигурацией внутренних информационных связей. Они так же уникальны, как разные замки одной и той же марки — конструкция одна, но ключ везде свой. Если вы зададите другие программные настройки, это будет несколько «другое существо». Вернее сказать, другая имитация.
Программный алгоритмы могут быть очень сложны и основаны на изощренных взаимодействиях базы культурных кодов с генератором случайностей, которым, в свою очередь, управляет другой генератор случайностей — что позволяет сделать машину в процессе «общения» с пользователем по-настоящему непредсказуемой. Конечно, в строго очерченных границах — как и в случае с живым человеком.
Обсуждения Общение человека с разумной машиной
Кстати, с помощью того же Пелевина возникло ещё одно определение "счастья"))
Счастье - это состояние сознания, когда нет ни вопросов, ни сомнений, и потому - нет ни радости, ни горя. Это состояние - и есть та самая «истинная реальность», где не смеет находиться человек, потому что именно отсюда Бог изгнал его за единственный грех - «сомневаться в Его Словах».
Как Вам?
Я согласен, что машинам далеко до понимания идеи о змее-искусителе. Есть много аспектов в любви, морали, куда машинам лучше не соваться, хотя и здесь они могут дать какие-то подсказки в выборе спутника жизни или поведения в трудной жизненной ситуации.
Дело в том, что человек уже давно по уши погряз в игре с машинами и просто не в состоянии выйти из этой игры или изменить ее правила. Освоенные технологии, промышленное производство, экономические процессы появились в значительной мере вне зависимости от воли отдельных личностей. Соответственно нас окружают технологические процессы и умные программы, от которых уже не реально отказаться. Так что по сути никакого выбора у человека нет. Остается в основном продолжать сумасшедшую гонку, перекладывая все больше дел на плечи машин.
Да, мы рискуем, доверяясь машинам. Но мы делаем это уже очень давно. Любая деталь автомобиля, поезда, самолета, здания может повести себя непредсказуемо и привести к человеческим жертвам. При этом мы смело заходим в лифт, доверяя свою жизнь тупой автоматике. Мы мчимся, сломя голову, на зеленый свет светофора, подчиняясь указаниям еще более примитивной железяки, которая тоже в любой момент может выйти из строя.
Неправильно было бы думать, что машины навязывают или в будущем станут проводить свою волю вместо человеческой. Они лишь посредники между многими сложившимися обстоятельствами и правильным решением в интересах людей. В одних ситуациях человек справится сам, в других ему не обойтись без громоздких расчетов и помощи умных программ. Кто даже с риском применил новые средства, тот имеет больше шансов на успех. А кто застрял и осматривает пейзаж, тот скорее окажется на обочине. Н.В.Невесенко
Но "пользоваться" (даже своим умом) - не значит "доверять" (даже собственному уму). Машина ведь никогда не поймет идею о змее-искусителе и Божественной Лиле. Поэтому, я думаю, что выбор игры, при любых искусственных (искушенных) программах, в любом случае, останется за людьми. В смысле, за классом программистов. А класс геймеров как обычно, будет принесен им в жертву.)
Скажем, при расчете зарплаты на большом предприятии любое число можно проверить вручную, но полную проверку никто делать не станет, поскольку это нереально, и зачем тогда машина? В принципе можно проверить все расчеты ЭВМ, которая обыграла Г.Каспарова, когда он был чемпионом мира. Но на это ушли бы сотни лет. Таким образом, далее люди все более будут вынуждены доверять умным машинам. Хотя соответствие между заложенным и полученным, конечно, есть, но фактически оно оказывается необозримым и неизвестным заранее.
Как Вы считаете: не означает ли это, что реальный выбор останется за умной машиной? Скажем, уже сейчас сложные программы выдают прогноз погоды на несколько дней вперед. Конечно, человек вправе с ним не согласиться, но на каком основании? По бабушкиным приметам? Все равно публикуется то, что выдала машина. Так же рассчитываются экономические прогнозы, где ни один человеческий ум не в состоянии охватить всю нужную информацию в мире. Н.В.Невесенко
Несомненно, машина может эффективно перебрать множество заложенных в неё вариантов развития событий и даже скомбинировать их в случайном порядке, чтобы выдать неожиданный и интересный для пользователя вариант "предсказания" или "прогноза". Точно так же, собственно, чаще всего, работает ум, комбинируя элементы своего чувственного опыта. Но выбор-то "быть или не быть" этому варианту будущего в реальности - за кем? Ясно, что не за машиной.