Плачущий "Дракон" и проголодавшийся поезд [Георгий Далидович] (fb2) читать постранично, страница - 2

узнаванием, а не пониманием.

С точки зрения "понимания", прежде всего, необходимо исключить вариант того, что повествование идет от лица собаки, которая из всего спектра цветов различает только оттенки синего, и, следовательно, для нее солнце действительно может "синеть", так как ничего иного ему не остается. Но если говорить серьезно, то для правильного понимания сказанной фразы необходимо иметь представление об описываемых образах реальности. Надо иметь опыт и помнить ощущения жары, лета, берега моря или иной ситуации, в которой данное описание могло бы иметь место. При этом слова (неважно, на каком языке, так как для понимания выбор языка не является принципиальным) являются лишь отражением этой реальности. С точки зрения нашего "Дракона" (или иной системы распознавания образов) это было бы возможным, если оснастить его температурными и световыми спектральными датчиками и отправить в отпуск, скажем, в Анталию. Иными словами, обеспечить ему весь набор органов чувств, сходных с человеческими, и позволить пройти процесс обучения с целью накопления базы данных жизненного опыта хотя бы пятилетнего ребенка. Вывод прост — адекватное человеческому понимание речи или иной вводимой информации возможно только при тождественности жизненного опыта и устройств ввода. Ведь программа распознавания может быть достаточно совершенна и адекватна, но только самой себе. Все ее "органы чувств" состоят из микрофона и клавиатуры, а жизненный опыт — это те часы тренировки и запоминания речевой модели при диктовке, которые она, собственно, и "прожила", как уникальное виртуальное "существо" во взаимодействии со своим окружающим миром, ограниченным голосом "хозяина".

Но и этого еще не достаточно для "понимания". Одной из самых важных черт систем искусственного и "естественного" интеллекта является способность к самообучению. В системах распознавания образов, помимо первичной тренировки изначально установленных словарей и таблиц символов, существует еще и процесс исправления ошибок распознавания, который также запоминается и становится частью их "жизненного опыта". Это очень похоже на дрессировку. Правда, возможности стимулирования здесь сильно ограничены. Правильно определенное слово (или символ) проходит "по умолчанию", а вот ошибка требует ручного ввода нужного значения и, возможно, его дополнительной тренировки. При этом системе, в общем-то, все равно, правильно или нет была определена данная последовательность. Отрицательные эмоции приходятся на долю пользователя-дрессировщика. С собачкой Павлова дело обстоит более жестко: за правильную последовательность действий — сахар, а за ошибку — можно и удар электротоком (или просто удар) получить. Справедливее было бы, если ручная коррекция ошибок распознавания (или, в более общем виде, исправление неправильной с точки зрения "хозяина" реакции на команду или сигнал) вызывала "отрицательные эмоции" именно у системы. Представляете — вы вносите исправление в продиктованный текст, а ваш "Дракон" жалобно попискивает от обиды и переживаний за свою некомпетентность (а может, так оно и есть?)!

В природе существует два механизма совершенствования поведенческих реакций (в нашем примере — это вывод в текстовой форме продиктованного и распознанного материала). Для простейших организмов — это, в основном, принцип естественного отбора, когда наиболее адекватно реагирующие на окружающую среду особи оказываются и наиболее плодовитыми, а сами реакции закрепляются в генетическом коде. Для наиболее развитых представителей и, соответственно, для более сложных поведенческих реакций основным становится механизм мотивации за счет эмоций. Уже не просто физическая боль, чувство голода или стремление к размножению, но и весь мир страданий и радостей — часто по совершенно не понятным на первый взгляд причинам — становится той силой, которая движет человеком (или не только человеком?) по пути самообучения и развития.

Вспомним Книгу Иова (глава 5): "Но человек рождается на страдание, как искры, чтоб устремляться вверх". Вопрос только в том, положительная или отрицательная мотивация (кнут или пряник) преобладает в каждой конкретной жизни. Обычно приходится иметь дело с обоими вариантами, а вообще — кому как повезет…

Из этого следует, что, кроме неадекватности мировосприятия, вторым отличием современных систем искусственного интеллекта является отсутствие стимулов или мотивации для развития как на индивидуальном, так и видовом уровне. Но это отличие является вполне преодолимым.

Если говорить о развитии на видовом уровне, то уже известны "мутирующие" вирусы, которые хотя и не являются интеллектуальными в полном смысле, но зато уже вполне способны в процессе естественного отбора в искусственной среде передавать своим "потомкам" наиболее зловредные черты, препятствующие их отлову.

Вопрос мотивации или создания стимулов к развитию на эмоциональном уровне также является