Станислав Лем
Естественный интеллект
У нас есть Интернет и другие сети связи уже глобального радиуса действия. У нас есть сетевые "узлы" - компьютеры новейшего поколения, такие как Intel Teraflop, которые выполняют биллион (или по американской терминологии - триллион) вычислительных операций в секунду. Чемпион мира по шахматам был и будет бит. Это несомненно. А так как по-прежнему из компьютера не удалось высечь даже и следа интеллекта (то есть создать интеллектуальные программы), то специалисты пытаются этот существенный пробел как-то восполнить. И поэтому появляются различные подсистемы для классификации данных, для их распознавания, по крайней мере, по синтаксису, раз уж широта значений (n-размерная семантика) чаще всего остается недоступной; у нас есть серверы, провайдеры, браузеры, которые делают возможным серфинг в любой сети, у нас есть даже блокираторы, которые должны сделать недоступным для несовершеннолетних пользователей то, что является (или по местным нормам должно быть) неприличным или развратным. Конгресс США принял "Indecency Act", закон, наказывающий за распространение в сети всякого рода непристойностей, а точнее говоря, порнографии, но Верховный Cуд признал этот закон недопустимым, так как он противоречит первой поправке (First Amendment) к Конституции США, которая гарантирует свободу слова и изображения. Я на стороне этой поправки, хотя очень хорошо отдаю себе отчет в ее небезопасных последствиях: если можно все, то педофилические действия и изображения не должны запрещаться, но молодым умам они могут нанести значительный вред. Вместе с тем, я разделяю мнение американского публициста, который, очевидно, рассерженный назойливой агрессивностью антипорнографистов, написал, что еще ни один типично порнографический текст или изображение никого не привели к смерти, никого не склонили к убийству, вместе с тем к актам насилия и к преступлениям достаточно определенно склоняет до 90% мирового телевещания. Благодаря телевидению уже повсеместно известно, как следует (можно) людей (лучше всего детей, женщин) похищать, связывать, успешно держать в заключении и использовать это с финансовой точки зрения, бить, истязать, подвергать страшному воздействию огня, мора, воды, ставить на них ловушки, демонстрировать в зрелищах, что преступниками и похитителями бывают и судьи, и полицейские, и шерифы, красивых и с виду невинных девушек можно учить пользоваться оружием, наручниками, пуленепробиваемыми жилетами - я все это вместе взятое также считаю настоящей порнографией, и на нее нет никакого закона и никакой управы. Но это я сказал "только попутно"... В 60-е годы, когда молодая кибернетика считалась "буржуазной лженаукой" [1], я бывал в советской Москве, где участвовал в беседах с самыми уважаемыми учеными, которые были вынуждены тогда тайно заниматься кибернетикой. Этот запрет знания не делал меня несчастным, потому что я понимал, что если оно (знание) будет постоянно запрещаться в Советах, то это ускорит их глобальное поражение не только в области гонки вооружений, потому что и из астронавтики у русских ничего бы не вышло. В то время там, где кибернетика могла свободно развиваться (например, в США или во Франции), как и там, где она была "подрывной деятельностью", повсеместно господствовало убеждение, что ее развитие в скором времени ДОЛЖНО привести к созданию быстро мыслящих конструкций, то есть, если кратко говорить, к AI (сокращение от Artificial Intelligence). Уже тогда высказывались скептики, такие как братья Дрейфусы (Dreyfus), например, и даже такие, которые немного позже осмеливались сомневаться в, якобы, безусловной правильности "теста Тьюринга", то есть тезиса, что собеседник, который не знает, разговаривает ли он с человеком или с машиной, тем самым доказывает нам, что машина ведет себя так же умно, как и человек. Сейчас мы уже не питаем такой уверенности, потому что машины, с которой удалось бы поговорить на различные темы, как не было, так и нет по-прежнему. В этой удивительной ситуации, с точки зрения надежды, которая господствовала почти полвека назад, следует, как мне думается, приглядеться немного внимательнее к области явлений, из которой искусственный интеллект должен был бы per analogiam [2] выведен. Для упорядочивания я разделю беседу на три части. А именно, primum comparationis [3] будет оригинал для возможного копирования, то есть МОЗГ ЧЕЛОВЕКА. Sekundum comparationis будут все центральные нервные системы животных, которые этот первый мозг эволюционно определили таким образом, что его конструкция (по крайней мере, частично) основана на их строительных принципах (сразу скажу, что я не буду касаться генной автоинженерии, потому что для того, чтобы провести такое сравнение в пределах доступного нам сегодня и по-прежнему убогого, то есть неполного, знания, потребовался бы толстый том). И наконец, tertium comparationis будет просто "дерево жизни" Линнея (Linnaeus), в котором есть с самых истоков, то есть от возникновения способных к обучению репликаторов типа ДНК - и началось. И это последнее, разумеется, в сильном сокращении. Весь мой, упрощенный по необходимости, вывод берется оттуда, что наивные инженеры, как, например, Эшби (Ashby) или МакКей (McKay) (Джон фон Нейманн (John von Neumann) был уже тогда более скептичен), считали, что бытие, именуемое интеллектом, "само собой разумеется", поэтому они принимали концепцию Алана Тьюринга (Alan Turing) как бесспорную: тот, кого нельзя в разговоре отличить от человека, eo ipso [4] равен человеку. Сомневаться в этом положении им даже в голову не приходило. Последующие полвека при полном отсутствии искусственного интеллекта (или хотя бы его первых зачатков) породили по-настоящему огромную библиотеку, полную работ и книг по AI, которая (библиотека) и сейчас постоянно пополняется. Некоторые из появившихся в Польше работ на эту тему мне довелось читать в нынешнем году. Их можно разделить на "инженерские", то есть "здравомыслящие", и на уходящие к противоположному полюсу "глубинные герменевтико-когнитивистические" [5] работы. Это возможно потому, что здесь можно бродить и углубляться в виртуальные бесконечности языка, в его созидательные возможности, или, если кто-то может или ему кажется, что он даже умеет, - перескакивать в математику, то есть к конструктивистской формализации, в которой компьютеры чувствуют себя не худшим образом. А это потому, что "обычная диалоговая семантика" все более отделяема от математики. Тем временем, отдельно и как-то параллельно (хотя в этой параллельности можно, и даже чуть ли не следует, сомневаться) развивались новые исследования мозга, о котором мы уже знаем, что все больше его не знаем, несмотря на лучшее исследование отдельных центров, роли отдельных участков - серого вещества, коркового, а также размещенных в мозгу, на разной его глубине, ядер и центров. Так возникают то слабее, то сильнее основанные или на фактическом материале (гистологично-невральной препараторике), или на материале PET [6], электрической, биохимической энцефаллографии и т.п., а иногда и на гипотезотворческом воображении исследователей, различные концепции, которые интегрально должны объяснить, как живой мозг функционирует, что в нем появляется ум и венец - индивидуальное сознание. Здесь уже я сам начинаю плавать в метафоре, потому что как не было почти ничего точного, то есть НЕОТВРАТИМО известного нам, так и нет до сих пор. Почему? Ответ, даваемый по сути, эмпирический или, по крайней мере, претендующий на эмпирический, выглядит следующим образом. Мозг возник эволюционно у всех миллионов различных видов животных. Он возникал благодаря работе ("игре") генов, под различными влияниями и давлением видового окружения: земного, т.е. климатического, гравитационного и т.д., и т.п. Во всех обстоятельствах "дело было в том", что ему никто разумный и ничто разумно ориентированное не помогали: был отбор, селекция, мутации, а также эпигенетические влияния, но все это вместе взятое никакому, даже самому скромному "пониманию", то есть ВОСПРИЯТИЮ, эволюционирующими субъектами вообще не подвергалось. Иначе говоря, это значит, что все функции формировались по направлению к функциональному оптимуму, замкнутому посредством так называемых СОПРЯЖЕННОСТЕЙ (непреодолимых ограничений, определяемых граничными и исходными условиями), который должен был быть достигнут для того, чтобы отдельная система могла размножиться, а следовательно, создать потомство (если она была не однополая, то, разумеется, не самостоятельно) и чтобы она до этого дошла живой, то есть и жизнеспособность является обязательным условием оптимизации, потому что мертвые системы не способны размножаться. Во всей этой двойной работе строительнице и конструкторше организмов скорее всего было "все равно", смогут ли эти системы или не смогут осуществить САМООПИСАНИЕ. Надо уметь, например, двигать руками, плавниками или крыльями, однако, знать о том, как это делает каждый человек, птица или рыба, ей (ему) с "эволюционной точки зрения" абсолютно не нужно. И пожалуйста: какие реальные последствия это имеет у человека? А такие, что мы не имеем ни малейшего понятия о том, что мы делаем, когда думаем, и как это происходит, что мы обладаем сознанием и являемся носителями "естественного" интеллекта, по-прежнему неточно измеряемого с помощью IQ - показателя интеллекта, который статистически может разместить множество людей на нормальной, то есть кольцевой, кривой графика (распределения Гаусса). Интеллект животных (мы принадлежим к ним, хотя не каждому это нравится) можно распознать по тому, что он неодинаков у всех видов: есть мудрецы, есть "середняки" и есть глупцы, но тщетно искать его, например, среди мух, потому что у насекомых недостаточность инстинкта, программирующего поведение, сразу обрекает особь на смерть. У людей все значительно сложнее, но хотя мы и познаем собственное строение и собственные функции методом обдумывания, фальсификации и верификации (всегда неопределенной) конъектур (предположений), то есть все более дерзких гипотез, мы по-прежнему не знаем, как мы это делаем "головой". О том, что мы это делали автоматически, безотчетно и четко (а иногда и с ошибками) во множестве житейских ситуаций, мы убеждаемся только тогда, когда процессуальное течение таких действий под старость начинает нас подводить. Тогда, когда некоторые движения невозможно совершить легко и "бездумно", когда все больше и больше переживаний, названий и ситуаций забывается и невозможно их вызвать только внутренним желанием, только тогда мы начинаем замечать, что сознание, пока еще и оно полностью не помутится, возникает и действует благодаря бесконечным, совсем неизвестным нам, ибо НЕДОСТУПНЫМ В ПОЛНОЙ МЕРЕ, невральным механизмам, таким, которые поддерживают его, создают, двигают, основывают и питают память наплывающей информацией, которые могут направлять человека к тому, что с ним, его близкими, его социальной группой и даже со всем человечеством происходило, что происходит и что будет происходить. Но размеры (четкость) всех этих умений даны нам строением мозга, и так не бывает, что если бы кто-то захотел быть поэтом или златоустым оратором, или харизматичным политиком, то он им и будет. Это не зависит ни исключительно, ни прежде всего от желаний личности. Подобно как и женщина, желая быть красивой, к сожалению, красивой от этого желания не станет. Учитывая то, что уже было сказано, я склонен заменить на месте tertium comparationis "дерево жизни" на "ДЕРЕВО НАШИХ ТЕХНОЛОГИЙ". Это дерево всегда развивалось таким образом, что сначала создавались образцы. После них шли первые КОНКРЕТНЫЕ ПОПЫТКИ, а потом только появлялась фаза таких усовершенствований "продукта", которая уже без сильного теоретико-математического вклада обойтись не могла. Я лично уже несколько десятков лет настойчиво прошу о том, чтобы мы старались догнать и даже перегнать Природу как Конструктора, и хотя мой голос, как писк мыши под метлой, не разносился далеко, но именно туда начало направлять свои современные побеги наше "дерево технологий". Как живое дерево к Солнцу, так и наши технологии даже без внимания к моим советам направились в сторону природы: биотехнология с генной инженерией и с микрохирургией клонирования, трансгенные трасплантации и даже целые появляющиеся виды организмов. Однако, я не намерен заниматься самовосхвалением потому, что если бы ни меня, ни моих прогнозов вообще не было, все пошло бы так же. Да, я предвидел, но этим предвидением de facto ничего не сделал, так что те люди, которые реализовали мои "помыслы будущих действий" и реализовывают их по-прежнему, не имеют ни малейшего понятия, что был кто-то, кто предвидел их начинания. Но и это было только отступлением "попутно". И здесь, где было призвано как tertium comparationis дерево расцветающих и ветвящихся ТЕХНОЛОГИЙ, появилась вполне заметная на первый взгляд принципиальная разница между по-прежнему напрасно преследуемой "ментальной технологией", то есть техникой создания машинного интеллекта, и действием человеческого мозга. А это потому, что до самолета был китайский бумажный змей, до космического челнока американцев были фейерверки, до автоматической линии (конвейера под присмотром компьютера) был ручной труд от палеолита до слесарного ремесла и кузнечного дела, а до компьютера были только счеты, затем сконструированные как арифмометр, но никакой технический след имитации разумной жизни хотя бы муравьев или мух не появился. Мы не умеем инженерно подражать тому, что полностью не следует из результатов исследования конструкции! Мы не знаем ни как и откуда берется сознание, ни где рождаются наши мысли, ни как понятия превращаются в предложения языка, но скромные попытки механизации вместе с усилиями обучения машины, чтобы она печатала наш диктант, дают такие результаты, что рентгенолог предпочитает сам (или диктуя стенографистке) делать описание рентгеновского снимка, чем потом исправлять текст, напечатанный компьютером с самой лучшей программой. Это так, но это совсем не означает, что так должно быть. Уже были отрасли во главе с атомной физикой, в которых теоретический скачок через невежество, невозможный путем малых шажков, оказался и возможным и необходимым. И так дошло дело до желаемых и нежеланных успехов. Но о "многообразии возможных искусственных интеллектов" поговорим, может быть, в другой раз. Написано в июле 1997 года [7]. Примечания переводчика: [1] Приведем цитату того времени из "Краткого философского словаря" (М.: "Гос. изд-во полит. лит-ры", 1954, тираж 1 500 000 (!)): КИБЕРНЕТИКА (от др. греч. слова, означающего рулевой, управляющий) - реакционная лженаука, возникшая в США после Второй Мировой войны и получившая широкое распространение и в других капиталистических странах; форма современного механицизма. Приверженцы кибернетики определяют ее как универсальную науку о связях и коммуникациях в технике, о живых существах и общественной жизни, о "всеобщей организации" и управлении всеми процессами в природе и обществе. Тем самым кибернетика отождествляет механические, биологические и социальные взаимосвязи и закономерности. Как всякая механистическая теория, кибернетика отрицает качественное своеобразие закономерностей различных форм существования и развития материи, сводя их к механическим закономерностям. (...) Эта механистическая метафизическая лженаука отлично уживается с идеализмом в философии, психологии, социологии. (...) Кибернетика является не только идеологическим оружием империалистической реакции, но и средством осуществления ее агрессивных военных планов. [2] по аналогии (лат.) [3] первое сравнение (лат.), далее по тексту второе и третье сравнения [4] тем самым (лат.) [5] от герменевтика - теория и искусство истолкования древнего текста и когнитивистика - процесс познания [6] позитронно-эмиссионная томография [7] Опубликовано в журнале "PC Magazine po polsku", №10/1997, а затем включено в сборник "Мегабитовая бомба" (см. также КГ, начиная с № 26/1999).
Перевел с польского Виктор
Язневич ( yaznevich@mail.ru )
|