МЕЛОЧИ ЖИЗНИ

КОМПЬЮТЕРНАЯ ГАЗЕТА

Станислав Лем Emotional Quotient

Роботы, обычно появляющиеся в фильмах science fiction, способны по-настоящему говорить (разговаривать), но, как правило, голос их не такой, как наш (человеческий), аффектно модулируемый. Чаще всего они говорят "деревянным голосом", за исключением "андроидов", т.е. очень человекоподобных "псевдороботов", как мистер Спок в сериале "Star treк".

(c) Компьютерная газета

 Эти безаффектно высказываемые слова не представляют, вопреки мнению некоторых, режиссерского "приема", который должен упростить зрителям распознавание различий между человеком и имитирующей его големоподобной машиной [1,2]. Дело в том, что кроме интеллектуально осмысленной жизни мы имеем ее еще и эмоционально обусловленную. И именно в последние годы эта "эмоциональная жизнь" стала дополнительно усложнять дело желающим сконструировать "искусственный интеллект". В тестовых экспериментах, практикуемых до сих пор, в которых применяется "тест Тьюринга" в его классической форме, то есть в такой ситуации, в которой человек, объясняющийся словами с Кем-то, должен решить, говорит ли он с другим человеком или с "мертвой имитацией" (скажем, для упрощения, с компьютером), вся беседа сводится к написанию, а точнее, к выстукиванию вопросов либо ответов на вопросы на клавиатуре устройства, соединенного с "этим другим", который также не может увидеть собеседника, потому что тот тоже лишь выстукивает тексты на клавиатуре. Типичные эксперименты такого рода уже в зародыше снимают проблему вопроса, участвуют ли эмоции в происходящем разговоре или нет. Хотя в тексте, при полном отсутствии живого собеседника, можно было бы имитировать (модуляциями этого текста) приливы либо отливы эмоций, которых "вообще в действительности нет". Эта сторона начала все больше беспокоить практиков и теоретиков Аrtificial Intelligence [3]. Прежде всего, суть в том, что мы переживаем такие АФФЕКТЫ, ЭМОЦИИ, ЧУВСТВА как дополнительно, отрицательно или даже амбивалентно чувствуемые умственные состояния (не только наяву: эмоциональные переживания, в принципе, имеют место также во время сна, но из необходимости, диктуемой благоразумным чувством меры, я пропущу сферу сна, поскольку во сне часто бывает так, что переживаемые в нем эмоции иногда не соответствуют их "обычному", т.е. стандартному упорядочению событий, которые произошли бы во время бодрствования, т.е. наяву). То, что я отметил в скобках, уже сразу имеет определенное значение в проблеме "возможности симулирования эмоций" потому, что если когда-нибудь (во сне или после приема наркотиков, например) случаются вызванные аффектами восприятия, для которых в "нормальной действительности" нет метода выявить их "нормальность", то это свидетельствует о том, что эмоции могут отделяться от переживаемых "сюжетов" (происшествий). Жизнь, состоящая из осознаний, что есть так и так - отдельно, а жизнь, устанавливаемая посредством потока эмоциональных состояний - отдельно. Обычно обе между собой переплетаются и даже сильно связаны. Нормальная вещь - обрадоваться при встрече давно не виденного друга. Нормальная вещь - сожалеть при известии о его несчастье или смерти. Нормальная вещь - рассмеяться, когда мы видим, что кто-то садится на сковороду с яичницей с помидорами, и нормальная вещь - почувствовать страх, переходящий в панику, когда тормозная педаль автомобиля, на котором едем именно мы, вместо того, чтобы начать торможение, проваливается без сопротивления "до упора", а наша машина стремится со скоростью в другую или в море. Кроме того, нам много известно об особенностях проявления эмоционально отчетливых состояний. Нам известно, например, что в компании человек смеется намного охотней, когда смеются остальные (и поэтому в фильмах для идолов-зрителей, плохо понимающих, когда нужно смеяться, а когда нет, записаны, в соответствии с происходящим на экране действием, залпы смеха "в нужных моментах"). (В действительности не каждый склонен поддаваться таким записанным "командам рассмеяться": я, например, избегаю их в TV, так как не желаю присоединяться к кругу людей, не знающих, следует ли смеяться и когда следует смеяться. Но это было небольшое отступление).

Из обстоятельных исследований, проводимых в последнее время, следует, что чувства, выражаемые прежде всего мимикой, т.е. выражением лица, а также "языком тела" ("Кorperpsrache"), бывают в жизни людей часто притворные (симулированные). Этому может научить нас savoir vivre [4] (мы стараемся не показывать выражение огорчения при виде ужасно надоедливой старой тетки, которой как раз вчера мы наврали по телефону, что сегодня надолго уезжаем. Будем демонстрировать "радость встречи"). А профессиональная имитация переживаемых чувств, определенная именно разыгрываемой актером или актрисой ролью, - дело обычное и необходимое в этой профессии. (Теперь "в моде" эротические сцены поцелуев, начинающихся с обоюдного открытия губ, будто бы герои намереваются непременно повылизывать возможные остатки непроглоченного яства и бактерии с зубов и горла целуемой особы, но этот обычай упрощает "разыгрывание" страстных поцелуев, поскольку, кроме вклеивания открытых губ в губы, больше ничего не требуется исполнить - это также было лишь отступлением). Гаммы чувств, сигнализируемых выражением лица, безмерно богаты. Впрочем, "типичная сигнализация" не ограничивается исключительно лицом. Каждый нормальный человек, говоря по телефону, хотя и не видит собеседника по другую сторону, несмотря на это, чисто рефлекторно производит движения телом и рукой так, что создает смысловой, прежде всего эмоционально, аккомпанемент разговора.

Умение, или способность, к имитации чувств, определяемых ситуацией (например, по семейной традиции, по savoir vivre и т.п.), дана людям в очень неодинаковой мере. Одни идеально могут "играть" непереживаемые внутренние чувства, другие хуже. Я, например, очень плохо "играю", и мне трудно встретить сердечной улыбкой непрошенного гостя, особенно помешавшего работе. Исследования, проводимые с помощью "полиграфа", т.е. машины для выявления лжи, сводятся к одновременной записи на параллельно движущихся бумажных лентах давления крови, пульса, электрической сопротивляемости кожных покровов, зависящей от степени влажности кожи, которую выявляет измерение (меньше или больше потеет обследуемый), хотя эти анализы и бывают используемы в криминалистике, но не дают на 100% верного заключения (говорит испытуемый правду или лжет), т.к., с одной стороны, существуют невротики, ни в чем не виновные, которые очень бурно реагируют на раздражающие вопросы, хотя и не имеют отношения к идущему следствию, а с другой стороны - серийные убийцы и насильники, которые при этом обследовании проявляют совершенно трезвую и нейтральную безразличность. Если мы добавим к этому особые возможности, прежде всего творческие, но не только такие, которые волнуют или проходят hossy и bessy [5] в зависимости от переживаемых духовных состояний с начальным аффектным компонентом, т.е. если к собранию хороших актеров мы добавим собрание художников, творческих ученых, помешанных фанатов, созидателей и т.д., то обнаружится лишь наша полная беспомощность перед задачами, которые ставят себе трудолюбиво намеревающиеся создать искусственный интеллект его проповедники: как сделать, чтобы компьютер-интеллектуал (насколько такой удастся сконструировать) обеспечить программами эмоционального реагирования? Прежде всего, дело начинается, в общем-то, следующим образом: для того чтобы пережить эмоции, нужно понять, что пережить их следует... Это не обычный circulus in explicando [6], поскольку набитой сеном шкуры льва не испугается тот, кто заранее будет знать, что это не живой лев, а лишь чучело. Но, к сожалению, дело слишком сложное, потому что даже компьютер Deep Blue, который поставил мат Каспарову, не знал, что играл в шахматы и что выиграл партию: эмоциям подчинялась лишь одна сторона (Каспаров) [7]. Из литературы, признаний, мемуаров, а также last but not least [8] из собственного опыта я знаю, что находиться в депрессии, что переживать какое-то горе или потерю и поражение и одновременно писать, ударяя струей юмора, не очень-то возможно. Дополнительные эмоции, однако, не являются тем же, чем служит шпора для коня или допинг для атлета: тот, кого разрывает от смеха, как говорится, не особенно предрасположен к созданию замечательной юморески.

Все несчастье компьютеров в том, что им "абсолютно все равно". Все компьютеры того американского космического "Шаттла", разрушенного взрывом после старта (о нем есть книга Ричарда Фейнмана (Richard Feynman), уже и на польском языке), в то время, когда корпус со всем экипажем падал в океан, ничего не знали, не понимали и не думали, и в те же последние секунды, как известно, астронавты готовились к смерти с чувствами, сопровождающими падение.

Нет, неизвестно, что нужно сделать, чтобы компьютер мог переживать эмоционально насыщенно, причем в последнее время раздаются все более многочисленные голоса, что лишенный чувственных состояний интеллект не может быть полноценным. Некоторые идут дальше в противопоставлениях: говорят, что не только мозг один является главным "переживателем" аффектов, поскольку ему необходимо тело, которое может дрожать, потеть, и бьющееся сердце, и давление крови, и т.п. В последнем я не уверен, потому что люди с нарушенным позвоночником, т.е. паралитики, вообще не способные двигаться, могут, однако, переживать чувства. Следует опасаться, что только устройство, сконструированное с похожей степенью внутренней структуры и слаженности, а также снабженное датчиками органов чувств, как наш мозг, сможет не только показывать чувства, как ловкий симулятор-марионетка, но, кроме того, переживать их. Впрочем, эта область очень неясна, поскольку мы знаем, что существа, низшие по сравнению с человеком, особенно млекопитающие (например, собаки, коты или обезьяны), переживают состояния чувств от высшей степени радости до глубокой подавленности, и мы знаем об этом, хоть ни одна собака и ни один кот ничего нам не сообщили в необходимой мере, и познания наши в этой области ограничиваются только наблюдением за их поведением. Поэтому мы знаем, что эмоции эволюционно определили возникновение человеческого интеллекта и что они связаны и спаяны с ним еще плохо изученным, но очень сильным образом. В настоящее время в американских трудах пишут об EQ, Emotional Quotient [9], но измерить его по каким-либо шкалам мы не умеем, в частности, потому, что: А) при "аффектометрии" речь должна идти об n-размерности, так как имеется очень много чувственных состояний и их индивидуальных нюансов; и Б) эмоциональные состояния можно имитировать чисто внешне (иначе не удалось бы различить хороших актеров и лишенных всякого актерского таланта; я сам, к сожалению (?), принадлежу, надо признаться, к этой последней подгруппе неспособных подражателей переживания чувств, которые в действительности не переживаю). Понятно, что поднятая проблема по многим направлениям выходит за пределы моего текста: в последнее время оказалось, например, что смех совсем не должен быть "действительно веселым". В частности, об этом писал в своих новеллах Витольд Гомбрович (Witold Gombrowicz). Но это уже такие области, до которых, пожалуй, и в приближающемся двадцать первом веке компьютерная симуляция не допрыгнет...

В то время, когда неблагоприятные влияния настроений (чувств), оцениваемых как "отрицательные", существуют и хорошо известны и понятны как факторы, тормозящие интеллектуальные способности во главе с оригинальным творчеством (жалость, грусть, депрессия - чувственные эффекты несчастья), влияние факторов, окрашенных дополнительными аффектами, на воплощаемый потенциал все еще является, скорее, загадкой. Мне кажется, что способности человека, которые соответственно запрограммированный компьютер способен успешно имитировать (от проведения математических операций до разыгрывания "ограниченных неизменными правилами" конфликтных ситуаций типа игры в шахматы), вообще функционируют при минимальном вкладывании эмоций. Зато вне творческой сферы, par excellence [10], такие способности могут оказаться очень существенными и эффетивными фаторами в достижении цели. Но дело, правда, обстоит не так, что чем "сильнее хочется" достигнуть цели, тем успешней она достигается: ни значительные произведения, ни a fortiori [11] "шедевры" от усиления волевой составляющей предпринятого действия напрямую не зависят. А также фактор, сильно насыщенный аффектом, а именно АМБИЦИЯ, тоже напрямую не вносит постоянного вклада в получаемый эффект. Если бы это было не так, то чем большую амбицию имел бы, например, графоман, то тем ближе он был бы к трону на Олимпе. Дело, однако, обстоит так, что эмоциональное состояние дает нечто большее, нежели "выгодное стартовое положение" для умственного труда. Все эти неразрешенные проблемы происходят оттого, что в естественной эволюции не действует специальная активность, должная известить человека (например, творца), КАК он сможет справиться с поставленными миром либо им самим задачами. Это значит, что мы умеем с ними справляться, но необязательно узнаем в случае или успеха, или поражения, КАК ЭТО ПРОИСХОДИЛО в голове. Ибо эволюция, по мере возможности, исключает (вытесняет) умственные поступки, в том числе психические, а может быть особенно психические, и осознание всяких методов (алгоритмов?) поиска. Следует, впрочем, отчетливо сказать, что вклад эмоциональных факторов в предпринятии умственно плодотворных действий очень различный у различных людей (Si duo faciunt idem, non es idem [12]). Кроме того, специалист, преуспевающий в области некоторых интеллектуально весомых видов деятельности, может быть в другой области средне и даже посредственно способным, и эффекты предпринятого усилия менее успешны либо вообще безрезультатны. И снова: МЫ НЕ ЗНАЕМ, какую стимулирующую роль играют эмоции. Интуиция, как мы ее понимаем, сама не является эмоцией, но может основываться на эмоциях, и, например, возможно, что такой эмоционально ангажированный математик-"исследователь", как Ферма (Fermat), мог посчитать, что доказал свою "великую теорему", но только ему не хватило места для записи хода решения (ибо если давление эмоционального "триумфа" высоко, легко ошибиться, недосмотрев как будто бы несущественные препятствия). Поскольку мы уже знаем, что не все удастся разгрызть существующими алгоритмическими методами (вместе с алгоритмами биологического происхождения [13]), то здесь рекомендуется скорей всего обдуманное чувство меры, чем ура-оптимизм...

Написано летом 1997 года [14].

Примечания переводчика:

[1] Наделенная искусственным интеллектом - по названию серии компьютеров в одноименном фантастическом эссе Станислава Лема "Голем XIV". Само слово "голем" - древнееврейского происхождения, на иврите означает "эмбрион". В Талмуде термином "голем" определяются незавершенные предметы и существа, не готовые или не приступившие к выполнению своей функции. Слово "голем" впервые встречается в Библии (ВЗ, Пс. 138:16, "зародыш" в синодальном переводе). В других трудах сказано, что человек способен создавать живых существ из глины - големов. Первым големом, пока Бог не вдохнул в него жизнь, был Адам. В Талмуде содержится ранний вариант легенды о Големе как о человекоподобном существе, созданном искусственно, посредством магического акта. Известны и другие легенды о Големе, которые послужили материалом для большого количества литературных произведений, самые известные из которых - "Фауст" Гете и "Франкенштейн" Мэри Шелли. Наиболее полно легенда о Големе представлена в романе Густава Майринка "Голем" (1915 г.).

[2] См. эссе Станислава Лема "Душа в машине" (КГ N№21/2000) и "Душа из машины" (КГ N№22/2000)

[3] Искусственный интеллект (англ.)

[4] Житейская мудрость (фр.)

[5] Подъемы и падения - биржевые термины

[6] Порочный круг при споре (лат.)

[7] См. эссе Станислава Лема "Искусственный разум?" (КГ N№41/1999).

[8] Последний по счету, но не менее важный (англ.)

[9] Показатель эмоциональности (англ.)

[10] В особенности (фр.)

[11] Тем более (лат.)

[12] Когда двое делают то же самое, не получается то же самое (лат.)

[13] См. эссе Станислава Лема "Генетические алгоритмы" (КГ N№30/1999).

[14] Это эссе впервые было опубликовано в журнале "PC Magazine po polsku", N№9/1997, а затем включено в сборник "Мегабитовая бомба" (см. также КГ, начиная с N№26/1999).

Перевел с польского Виктор Язневич (yaznevich@mail.ru)