КОМПЬЮТЕРНАЯ ГАЗЕТА

Станислав Лем
Заменить разум?

I
Все усилия по созданию искусственного интеллекта оказались напрасными, а ведь они предпринимаются уже около полувека. Развитие технологии мышления или понимания несколько "угасло", она оказалась отодвинутой на обочину прогресса, нацеленного на создание интеллектуального помощника человека (не для развлечения и не для того, чтобы нечто, скрытое от глаз, было способно имитировать интеллект и тем самым выдержать тест Тьюринга) посредством развивающейся, до сих пор без серьезных преград, технологии "рабства, перерабатывающего знаки" — то есть посредством компьютеров, способных к работе все более быстрой и все шире охватывающей области традиционно "исключительно человеческой" деятельности. Очередным новейшим течением, усилившим это направление, стала технология связи. Конечно, я имею в виду различного рода сети. Как я, кстати говоря, и надеялся (и не только я), из сети, стремящейся к глобализации (прежде всего, англоязычной), начинают выделяться системные части с признаками специализации. Проще говоря, научные учреждения соединяются с другими такими же учреждениями, банки с банками, биржи с биржами, и помимо этого "штатского" множества туманно вырисовываются системы связи, общим знаменателем которых является сфера военная, от штабов до подчиненных им центров. Вместе с тем подобные специализированные направления тоже могут заключать друг с другом сетевые союзы, например медицина с фармакопеей, информационные банки экспертных данных одной области с энциклопедическим хранилищем данных другой области, — в зависимости от того, насколько люди, в чьем ведении находятся сети и их "стрелки", посчитают это потенциально имеющим смысл и информационно (конструкторски, диагностически, анамнестически, экономически и т.д.) плодотворным.

Во всем этом весьма отчетливо проявляется, прежде всего, ускорение "внеразумного" развития. Я хочу сказать, что ни одна сеть, никакие ее петли, системы, их иерархические соединения, даже предназначенные "только" для игр и развлечений, по-прежнему "сами по себе" разума не имеют. Кажущуюся каплю "разума" кое-где можно обнаружить лишь благодаря тому, что специалисты просто научились создавать — насколько это вообще оказалось возможно — "заменители" разума, хотя бы частичные, используя найденные (пусть не полные и не совсем точные) соответствия между синтаксисом (формальным) и семантическим универсумом, то есть пространством смыслов. Таким образом, возникает то, что является центром споров об Artificial Intelligence, что создает два противоположных лагеря: тех, кто признает возможность синтеза "машинного" (необязательно только электронного) разума, и тех, кто эту задачу считает во веки (веков?) неосуществимой.
К этому и сводится (хотя этим не ограничивается) спор, ведущийся вокруг "китайской комнаты" и ее "обитателя", который, совершенно не зная китайского языка, "вместе с комнатой и дополнительной информацией" ведет себя (на выходе) так, словно он понимал то, что получал (по-китайски) на входе. Об этом я уже писал[1] и не намерен снова вдаваться здесь в суть этого спора. Одних аргументы обеих сторон убеждают, других — нет, и уже отсюда видно, до какой степени ответ на вопрос об искусственном понимании является также ВОПРОСОМ ВЕРЫ (в то, что дело обстоит именно так, а не иначе).

Подмена понимания используется, в частности, лексикографической схоластикой, что упрощенно можно было бы показать на примере дилетанта, прислушивающегося к диалогу двух физиков (о квантах, а не о ресторанах), или человека, открывающего энциклопедию на своем родном языке на статье "Оператор Гамильтона", — и хотя сначала ему покажется, что, прочитав статью, он что-нибудь узнает о гамильтониане или даже поймет, что такое этот оператор, но если он не в ладах с математикой, он просто соскользнет к обычному синтаксису и ни до чего не сможет "додуматься". Я настойчиво пишу об этом, потому что хочу показать довольно простую вещь, о которой, однако, или говорят немного, или вообще ничего не говорят: "понимание", которое без (хотя бы капли) "интеллекта" невозможно, кажется нам (особенно в повседневных ситуациях) элементарным, но, по существу, это сложное и по-прежнему загадочное явление. Здесь следует сначала отметить, что "понимание" подлежит как внутри-, так и межвидовой градации (ступенчатости). Моя собака понимает, когда ее ждет прогулка, а когда вкусный кусок: понимает без языка, бихевиористически. Если бы — вздохнет специалист по AI — машина хотя бы без языка могла так себя вести... То, что могут такие "машины" (например, робот Винограда [Winograd]), происходит на уровне еще не совсем хорошо ползающего ребенка. Так могут понимать звери, а что касается людей, они тоже могут демонстрировать "понимание на соответствующем уровне" и даже (это удается студентам на экзаменах) могут создавать поведенчески-языковую видимость, что понимают заданные им вопросы, раз дают ответ, удовлетворяющий экзаменатора, но более тщательное изучение (что называется, "прижать виновного к стенке") покажет, что это была только видимость (например, заучивание фраз на память, а не "на ум", и т.п.). Помимо этого или параллельно этому случаются ситуации, в которых можно заметить, что в течение достаточно длительного промежутка времени происходит приближение к пониманию: что есть "так-то и так". Как известно, теорию относительности Эйнштейна ("Uber die Elektrodynamik bewegter Кorper"[2]), первая редакция которой насчитывала едва пару страниц, его современники-ученые в одном смысле "понимали", а в другом "вообще не понимали", и, наверное, только Эддингтон (Eddington) заметил, что ее "понимало" тогда всего несколько физиков в мире. Здесь мы имеем дело с переходом от одних данных к другим в соответствии с последовательными и необратимыми шагами в процессе познания. Шварцшильд (Schwarzshild), немецкий астроном, создавший математическую модель черной дыры, сам не верил в эту дыру как в реальный объект астрофизики, и прошло немало времени, прежде чем астрофизики и космологи стали, вначале нерешительно, выдвигая гипотезы, а потом со все большей уверенностью признавать black hole одним из конструктивных элементов строения галактик. Дело не в том, что сначала люди "не хотят" или "не могут" поверить, а потом "изменяют вероисповедание" только потому, что растет число наблюдений, подтверждающих, что звезды с массой, впятеро превышающей массу нашего Солнца, после исчерпания всей имеющейся в их недрах атомной энергии сжимаются в точку, что это и есть коллапс, а потом появляются Хокинг (Hawking) и Пенроуз (Penrose)..., впрочем, речь не о черных дырах, а о мыслительном процессе, ведущем к утверждению, что они есть и должны быть. В 30-е годы доктор Людвик Флек (Ludwick Fleck) (он был выходцем из Львова, но как урожденный Галиции времен Австро-Венгрии владел немецким языком и в Германии опубликовал свою работу, сейчас переиздаваемую в Базеле швейцарцами) описал процессы, приводящие в конце концов к возникновению (особенно в медицине, в которой он как микробиолог был сведущ) научного факта. Он считал, что в коллективе специалистов, вместе размышляющих над определенной, сначала даже туманной, не точно сформулированной темой (например, что представляет собой какая-либо болезнь или аллергия и т.п.), мысли, передаваемые от одного к другому, как бы непроизвольно "крепнут", "оформляются", и в результате коллективным убеждением выкристаллизовывается новый "научный факт". Хотя каждый, кто читал "Структуру научных революций" Куна (Kuhn) с ее парадигмами, сразу увидит: если Кун преподнес преобразование "парадигм" как проект возникновения познавательных инноваций, то д-р Флек выразил этот процесс моделью "совместного вращения новых мыслей" в коллективе знатоков. То есть вывод таков: приходить к "пониманию" можно так или иначе, и одно толкование может стоить другого. Впрочем, не исключено, что представить "понимание" некоего конкретизируемого предмета лучше всего можно там, где этого предмета никто раньше не видел, никто его не понимал.

Может ли такое быть? Еще как. Я не хочу сейчас говорить о какой-нибудь, например, теории антропогенеза, хотя уже сегодня заметны неожиданные повороты мысли: до сих пор считалось, что возникновение человека было процессом линейным, несколько одноколейным, а сейчас новейшие палеонтологические данные достаточно четко указывают на то, что около четверти миллиона лет тому назад homo erectus и homo sapiens были двумя сосуществующими видами. Но здесь идет "борьба фактов": есть различные интерпретации костных останков плюс измерение возраста, определяемое по новейшим методикам (например, по времени распада определенных изотопов). Но так как я предпочитаю говорить о "чистой" конденсации мыслей в виде фактов (конъюнктурно создаваемых), я скорее обращусь к внеземным цивилизациям. Никто их не видел, никто с ними не вступал в контакт, никто не получал от них сигналов, однако их существование является более или менее таким же "научным фактом", как и "искусственный интеллект". И здесь одни говорят: да, такие цивилизации должны где-то быть, а другие придерживаются прямо противоположного мнения. Хотя обе стороны согласны по крайней мере в том, что (так им кажется) они знают, о чем идет речь. То есть обе стороны понимают, в чем суть спора, и могут спорить, понимая друг друга. Я оставлю в покое область еще более абстрактную, а именно теорию множеств, потому что это территория почти бесконтекстных языков, и хотя интуиция очень нужна и полезна математикам, но загвоздка в том, что если о понимании известно хоть что-то (хотя бы немного), то об интуиции, правду говоря, ничего.

Из всего изложенного следует, что возможно понимание как оставляющее какие-то следы, так и безъязыковое (собаки не говорят) и что до понимания явлений (процессов, предметов) новых, доселе неизвестных, целиком чуждых, человек доходит собирательно и постепенно, используя при этом язык семантически контекстный и формально бесконтекстный (например, когда берутся за компьютерную имитацию явлений стохастических, хаотичных, фракталов и т.д. почти до бесконечности). Если это так (мне кажется, что так бывает), то "обычное, ежедневное понимание чего-либо" составляет случайную науку и является информацией, которая чувственно (сенсорно) никем "лично" никогда не испытывалась, и только такую, которую "дает на веру" газета, разговор с кем-либо, энциклопедия, фильм, телевидение, радио и т.п. Ибо сейчас около 90% всего, что мы "понимаем", возникло не через личный контакт с тем, что нужно было "понять", а пришло к нам, в наш разум, мозг, благодаря какому-либо виду связи.

Средства коммуникаций между людьми, создающие интеллектуальное понимание, существовали уже каких-то 220 или 250 тысяч лет назад. Они предшествовали и помогали рождению языковой связи, и когда пралюди пользовались так называемым праязыком nostratic, из которого, как убеждают нас языковеды, выросло огромное древо всех земных языков (с почти пятью тысячами ветвей), не было еще ни письменности, ни, естественно, других технологий визуальной передачи информации. Мы еще находимся внутри "галактики Гутенберга", но маленькая (пятилетняя) американка, которая спрашивает отца, "что это такое — энциклопедия", а отец показывает ей статью и картинку с птицами в открытом томе, и тогда девочка говорит "Ах, понимаю, это как в CD-ROM'е" (потому что она уже знает или понимает, что этих птиц и такие картинки, даже движущиеся, она видела на мониторе компьютера, показывающего фрагмент энциклопедии для детей), — эта малышка уже почти удаляется из "галактики Гутенберга". Она уже находится на пороге информационного столетия, этого XXI века, и толстые тома словарей уже являются для нее чем-то не очень понятным, не очень разумным, примерно тем же, чем баллиста для современного артиллериста. Можно еще понять, но... это уже уходит в невозвратное и несущественное, вплоть до непонимания, прошлое. После всего, что было показано выше на примерах, видно, какой большой труд (и в какие бездны времени — антропогенеза и исторического) был затрачен, чтобы основы человеческого понимания и естественного человеческого интеллекта возникли и сформировались, прежде чем мы пришли к эпохе космических полетов и непонимаемого познания, потому что нашему человеческому опыту чужды явления, происходящие в мире квантов, чужды, поскольку их нельзя свести к нашим переживаниям, сначала к чувственным (особенно к одновременно многозначным), а потом к вырастающим из них и над ними абстракциям. И то, что высветилось из пещерного мрака, из глубин тысячелетий, мы стремимся одним коротким сгустком передать машинам, чтобы зажечь в них разум. И раз Прометею удалось сделать что он хотел, то и я осмелюсь признаться: я из лагеря тех, кто верит (сегодня ничего более надежного нет), что мы (осторожность подсказывает сказать: наши потомки) сможем в конце концов и в машинах посеять интеллект, словно способное к развитию зерно. Мне кажется, что не верить в такую возможность легче, однако свойством людей, скорее похвальным, является поиск трудностей, которые после тяжелых поражений мы умеем преодолевать.

II
Прекрасно. Но остается вопрос: "Что такое разум?". Интеллект кажется чем-то менее личным, чем разум: он не настолько интегрально "соединен" с отдельной человеческой личностью. Его можно каким-то образом измерить тестами. Тестов на "разумность" нет: я о таковых не слышал. В качестве не очень сильно обоснованных гипотез я решаюсь сказать только следующее. Во-первых, зародышем разума, по-видимому, являются условные и безусловные рефлексы живого организма, который в своей эволюции останавливается на видовой норме или же развивается по направлению к "разуму". Потому что наша разумность является, например, не обонятельной, а знаково-языковой, хотя, по моему мнению, таковой быть не обязана. Здесь филогенетические пути развития "аппаратов языка и мыслей" пересеклись с тем, что обычно называется душой (и может иметь дополнение в образе "языка тела" (что по-немецки называется "Korpersprache"), а не только жестикуляции или мимики, заметного, когда кто-то разговаривает по телефону, сопровождая слова движениями головы и тела, остающимися невидимыми для собеседника). Наверное, одно возникает синхронно с другим. Следующим этапом уже является разум, оснащенный языком, но здесь следует высказываться осторожно, потому что творения языка укоренены в такую мозговую первооснову, в которую никаким интроспективным зондированием человек проникнуть не может. Можно было бы сказать: "нельзя глубоко изучить язык, которым ты пользуешься как родным", но можно заметить "разницу укоренения семантики" — скорее значений, чем синтаксиса — по тому, используем ли мы родной язык или выученный в зрелом возрасте. Здесь я могу привести в качестве примера собственный опыт. Когда я пишу по-немецки, то я и думаю по-немецки, но, однако, использование значений в родном польском языке является некоторым образом "окончательным", то есть "более глубоким". Я замечаю это по многочисленным сомнениям над моим немецким тогда, когда я артикулирую со знанием безупречности, а в польском же языке такие сомнения — это редкость. Кроме того, когда старого человека начинает подводить память, бывает так, что неведомый нам механизм information retrieval, поиска нужных слов, позволяет понемногу "обнаружить себя". Можно помнить определенное понятие и быть не в состоянии припомнить его название как СЛОВА! При старении мозга это обычно начинается с имен собственных. Сохранившаяся память позволяет найти как бы семантический "контур" искомого слова (названия); например, помнишь, что речь идет о физике, придумавшем название "флогистон", или химический состав и даже тип действия лекарства, но забыл его название. Это первое. Во-вторых, бывает так, что поиски в памяти приводят к удаче, название "всплывает" в сознании, но сначала этим сознанием "воспринимается" как-то странно, чуждо, хотя ранее и было привычным.

Это объясняется тем, что, как дирижабль удерживается у земли при помощи канатов целой ротой солдат, как дерево врастает в грунт многочисленными корнями, так и хорошо известное слово сильно обрастает многочисленными ассоциациями, которые его как-то поддерживают, а при дефектах мозга часть этих "корней", этих "канатов" рвется или ослабевает, и только после приложения определенных усилий (умственных), только после попыток различного употребления слова, выловленного из привычных контекстов, наступает полное восстановление, "реабилитация", и этот процесс в чужом и поздно выученном языке невозможен в полном объеме с такой же эффективной точностью. Родной язык редкими оборотами скорее не удивляет; чужой, хотя и понятный, может удивлять, и здесь я не могу выразить разницу иначе, чем следующим: чужим языком можно владеть бегло, но составлять фразы в соответствии с его семантикой и синтаксисом как бы извне, как тот человек, который в китайской комнате формально прекрасно складывает отдельные сегменты высказывания. В этом смысле родной язык "понимается" без всякого "остатка", как будто бы он чувствуется "изнутри", "из середины". И именно здесь, в этом месте появляется (при вспоминании) выразительное "чувство" — АФФЕКТ. Известно, что у близких нам видов, то есть у млекопитающих — собак, обезьян и пр., АФФЕКТИВНЫЙ ТИП ПОВЕДЕНИЯ проявляет их бихевиористическое значение как желание чего-либо (выйти на прогулку, съесть банан) или как гнев (вследствие определенной ситуации). Я не хочу продолжать перечисление, но каждый знает, каким бурным может быть "недержание аффектов" животным. В "интеллектуальном" поведении аффектов может быть относительно меньше, и, наверное, поэтому тенденция к "пересадке" его из живой головы в какие-то неживые устройства доминирует во всех работах по Artificial Intelligence, и я думаю, что это ложно, потому что выглядит как намерение построить дом, начиная с трубы на крыше. Потому что фундаментом являются эмоции и вместе с ними ориентация на что-либо или от чего-либо (Кемпиньски[3] питал пристрастие к терминологии, идущей от "информационного метаболизма"). Холодный "интеллект" не очень-то может стать аналогом человеческого. Язык подобен строю кораблей: правда, их поддерживает их же водоизмещение (по Архимеду), но без воды нет флотилии, без бурь не будет устойчивости всего способного плавать, и серьезно сесть на мель — то же самое, как застрять в языке. Мы по-прежнему обречены на такие примитивные наглядные примеры, и в конце мне остается лишь повторить свои же некогда написанные слова: ТО, ЧТО МЫ ДУМАЕМ, ВСЕГДА НАМНОГО МЕНЕЕ СЛОЖНО (менее многомерно), нежели то, ЧЕМ МЫ ДУМАЕМ. Когда мы узнаем ЧЕМ и научимся это воспроизводить в каком-либо способном к диз- и конъюнкции материале — мы научим машины говорить разумно, а не болтать как попугаи и граммофоны.

Написано в декабре 1996 года[4].

Примечания переводчика.
[1] В эссе "Тайна китайской комнаты" (апрель 1995 г.) из одноименного сборника (1996 г.). В этом эссе Станислав Лем подробно анализирует мысленный эксперимент, предлагаемый специалистами по AI для подтверждения того, что возможна имитация понимания текста, которого, на самом деле, человек, его составляющий, совершенно не понимает. По мнению Лема (и он в этом не одинок), которое он подробно обосновывает на различных наглядных примерах, предлагаемый эксперимент вводит нас в заблуждение: "понимание" в нем не участвует вообще и даже нет речи о присутствии "сознания", а возможен ли искусственный интеллект — покажет будущее, но этот эксперимент с этим будущим ничего общего не имеет.
[2] "Об электродинамике движущихся тел" (нем.).
[3] Kepinki Antoni (1918-1972) — польский психиатр и кибернетик, основоположник теории информационного метаболизма как процесса усвоения, обработки и передачи информации психикой человека.
[4] Эссе включено в сборник "Мегабитовая бомба" (см. также КГ, начиная с №26/1999).

Перевел с польского Виктор Язневич (yaznevich@mail.ru)