Eyre and Spottiswoode London, 1954 Издательство иностранной литературы, 1958. Перевод Е.Г. Панфилова Норберт Винер Cebernetics and society - Кибернетика и общество Глава Х. Некоторые коммуникативные машины и будущее Я посвятил предыдущую главу проблеме воздействия на промышленность и общество некоторых управляющих машин, которые уже начинают проявлять имеющие большое значение возможности замены человеческого труда машинным. Однако есть много проблем, связанных с автоматическими устройствами, которые не имеют никакого отношения к нашей фабричной системе, но служат или для иллюстрации и выявления возможностей коммуникативных механизмов вообще, или для полумедицинских целей протезирования и замены человеческих функций, утраченных или ослабленных у некоторых потерпевших несчастье лиц.   Первая машина, которую мы рассмотрим, была создана для теоретических целей как иллюстрация к работе, проделанной теоретически несколько лет тому назад мною и моими коллегами д-ром Артуро Розенблютом и д-ром Джулианом Бигелоу. В этой работе мы предположили, что механизм самопроизвольного действия является механизмом обратной связи, и соответственно мы искали в человеческой самопроизвольной деятельности те черты расстройства, которые проявляют механизмы обратной связи, когда они перегружены. Простейший тип расстройства – это колебания в процессе выбора цели; это колебание происходит только в случае активно вызванного процесса. Это явление довольно близко к имеющему место у человека явлению, известному как целевое дрожание, например когда пациент протягивает руку за стаканом воды, его рука дрожит все сильнее и сильнее и он не может поднять стакан. У человека встречается и другой тип дрожания, который в известных отношениях диаметрально противоположен целевому дрожанию. Он известен как болезнь Паркинсона и знаком всем нам как параличное дрожание у стариков. Здесь у пациента дрожание проявляется даже во время отдыха; а фактически, если болезнь не слишком сильна, – только во время отдыха. Когда пациент пытается выполнить определенную задачу, это дрожание прекращается настолько, что жертва болезни Паркинсона в её ранней стадии может быть даже преуспевающим глазным хирургом. Все мы трое связывали болезнь Паркинсона с обратной связью, несколько отличной от обратной связи, связанной с достижением цели. Для того чтобы успешно достичь цели, различные, прямо не связанные с целенаправленным движением сочленения должны находиться в таком состоянии умеренного тонуса или напряжения, чтобы должным образом поддерживать конечное целенаправленное сокращение мускулов. Для этого необходим механизм вторичной обратной связи, местом которого в мозгу, по-видимому, не является мозжечок, представляющий собой центральный управляющий пост механизма, расстройство которого вызывает целевое дрожание. Этот второй род обратной связи известен как обратная связь, регулирующая положение. Математически можно показать, что в обоих случаях дрожания обратная связь является чрезвычайно большой. Теперь, когда мы рассматриваем обратную связь, имеющую важное значение в болезни Паркинсона, то оказывается, что самопроизвольная обратная связь, регулирующая основное движение, действует в направлении, противоположном обратной связи, регулирующей положение, поскольку дело касается движения органов, регулируемых этой последней обратной связью. Поэтому наличие цели вызывает ослабление чрезмерного усиления обратной связи, регулирующей положение, и вполне может установить её ниже уровня дрожания. Теоретически эти вещи мы знали очень хорошо, но до недавнего времени мы не пытались создать рабочую модель. Однако в дальнейшем возникла потребность создать демонстрационный аппарат, который действовал бы в соответствии с нашей теорией. Соответственно профессор Дж. Б. Уиснер [Wißner], работающий в лаборатории электроники Массачусетского технологического института, обсудил со мной возможность создания фототропической машины, или машины с простой фиксированной, приданной ей целью; части этой машины должны были быть в достаточной степени приспособлены для демонстрации основных явлении самопроизвольной обратной связи и такого явления, которое мы только что называли обратной связью, регулирующей положение, а также их расстройств. По нашему предложению, Генри Синглтон взялся за решение проблемы построения такой машины и довел её до блестящего и успешного конца.   Эта машина основана на двух принципах действия: во-первых, позитивно фототропическом, когда машина движется к свету, и, во-вторых, негативно фототропическом, когда она убегает от света. Мы назвали машину в её двух соответственных функциях “молью” и “клопом”. Машина состоит из маленькой трехколесной тележки с толкающим двигателем на задней оси. Переднее колесо представляет собой ролик, управляемый рычагом. Тележка имеет пару направленных вперед фотоэлементов, один из которых осматривает левый квадрант, а другой – правый.   Эти фотоэлементы представляют собой противоположные плечи мостика. Выход моста, который является обратимым, соединен с переставным усилителем. Отсюда он идет к сервомотору, который регулирует положение одного контакта с потенциометром. Другой контакт также регулируется сервомотором, который, кроме того, движет рычаг, управляющий передним роликом. Выход потенциометра, представляющий собой разницу между положением двух сервомоторов, проходит через второй переставной усилитель ко второму сервомотору, регулируя рычаг, управляющий передним роликом. В зависимости от направления выхода моста этот прибор направляется либо к квадранту с более сильным светом, либо от него. В любом случае он автоматически стремится к самоуравновешиванию. Таким образом, перед нами зависящая от источника света обратная связь, идущая от света к фотоэлектрическим элементам и отсюда к рулевой управляющей системе, посредством которой она окончательно регулирует направление своего собственного движения и изменение угла падения света. Эта обратная связь стремится выполнить задачу либо позитивного, либо негативного фототропизма. Она является аналогом самопроизвольной обратной связи, ибо мы наблюдаем, что у человека самопроизвольное действие, по существу, представляет собой выбор между тропизмами. Когда эта обратная связь перегружена возрастанием усиления, то маленькая тележка, “моль” или “клоп”, в зависимости от направления своего тропизма будет идти к свету или избегать его колебательным движением, в котором колебания все более увеличиваются. Это представляет собой близкую аналогию целевого дрожания, которое связано с повреждением мозжечка. Установочный механизм, управляющий положением руля, содержит вторую обратную связь, которую можно рассматривать как обратную связь, регулирующую положение. Эта обратная связь идет от потенциометра ко второму моменту и обратно к потенциометру, и её нулевое положение регулируется выходом первой обратной связи. Если эта обратная связь перегружена, то руль начинает испытывать дрожание второго рода. Такое дрожание происходит при отсутствии света, то есть когда машине не задана цель. Теоретически это обусловливается тем обстоятельством, что поскольку затрагивается второй механизм, постольку действие первого механизма противоречит его обратной связи и стремится уменьшить её значение. Это явление в применении к человеку представляет собой описанную нами болезнь Паркинсона. Недавно я получил письмо от д-ра Грэя Уолтера, работающего в Неврологическом институте в Бристоле (Англия), где он интересовался “молью” или “клопом”, и Уолтер сообщил мне о подобном своем собственном механизме, отличающемся от моего механизма тем, что имеет определенную, но изменяющуюся цель. Уолтер пишет: “Мы включили другие черты, кроме отрицательной обратной связи, которые придают прибору как исследовательское и этическое отношение к миру, так и чисто фототропическое отношение”. Возможность такого изменения в модели поведения рассматривается мною в главе, посвященной научению, и развитые там взгляды имеют прямое отношение к машине Уолтера, хотя в настоящее время я не знаю, какие именно средства он использовал для того, чтобы обеспечить такой тип поведения. “Моль” и дальнейшее развитие фототропической машины Уолтером на первый взгляд представляются упражнениями в виртуозности или, самое большее, техническими комментариями к философскому тексту. Тем не менее они в известном отношении имеют определенное практическое применение. Военно-медицинская служба Соединенных Штатов сфотографировала поведение “моли” для сравнения с фотографиями действительных случаев нервного дрожания, и эти фотографии помогают обучению военных врачей-неврологов. Второй класс машин, над которыми мы также работали, имеет гораздо более прямую и непосредственную важную медицинскую ценность. Эти машины можно использовать для компенсирования повреждений искалеченных или недостаточно развитых органов чувств, а также для придания новой и потенциально опасной силы уже здоровым органам. Помощь машины может распространяться на создание лучших искусственных органов, на приборы, помогающие слепому читать страницы обычного текста путем преобразования видимых знаков в слуховые, и на другие подобные вспомогательные средства для того, чтобы осведомить этих лиц о приближающихся опасностях и дать им свободу передвижения. В частности, мы можем использовать машину для того, чтобы помочь совершенно глухим. Вспомогательные средства этого последнего класса сконструировать, по-видимому, легче всего: частично вследствие того, что телефонная техника лучше всего изучена и представляет собой наиболее знакомую нам технику сообщения, частично вследствие того, что потеря слуха представляет собой в подавляющем числе случаев утрату одной способности – способности свободного участия в человеческом разговоре, и частично вследствие того, что передаваемая речью полезная информация может быть сконцентрирована в таком узком диапазоне, что она не будет находиться вне пределов передаточной способности чувства осязания. Некоторое время тому назад профессор Уиснер сказал мне, что он интересуется возможностью создания приспособления, помогающего совершенно глухим, и что он был бы рад слышать мое мнение по эгому вопросу. Я изложил свою точку зрения, и оказалось, что мы во многом придерживаемся одного и того же мнения. Мы знали об уже проделанной в лабораториях “Bell telephone company” работе над зрительно воспринимаемой речью и об отношении этой работы к их более ранней работе над “вокодером”. Мы знали, что работа над “вокодером” дала нам более благоприятное, чем любой из предшествующих методов, измерение объема информации, которую необходимо передать, для того чтобы речь была понятной. Однако мы чувствовали, что зрительно воспринимаемая речь имеет два неудобства, именно то, что её, очевидно, нелегко произвести в портативной форме, и то, что она предъявляет слишком тяжелые требования к органу зрения, который сравнительно более важен для глухих, чем для всех других людей. Грубые расчеты показывали, что использованный в приборе зрительного приема речи принцип можно перенести на чувство осязания и это, как мы решили, должно быть основой нашего аппарата. Очень скоро после начала нашей работы мы обнаружили, что исследователи в лабораториях “Bell telephone company” также рассматривали возможность осязательного приема звука и включили этот принцип в свою патентную заявку. Эти исследователи были достаточно любезны сообщить нам, что ими не была проделана никакая экспериментальная работа в этой области и что они предоставляют нам свободу продолжать наши исследования. Поэтому мы поручили проектирование и создание этого аппарата Леону Ливайну, инженеру в электронной лаборатории Массачусетского технологического института. Мы предвидели, что вопросы учебы будут составлять большую часть работы, необходимой для того, чтобы довести наше изобретение до практического применения, и здесь нам помогли советы д-ра Александера Бэвеласа, работающего в управлении психологии. Проблеме интерпретирования речи через другое чувство, кроме слуха, как, например, через чувство осязания, можно дать следующее объяснение с точки зрения языка. Как мы говорили, можно грубо различить три ступени в языке и два промежуточных преобразования между внешним миром и субъективным приемом информации. Первую ступень составляют акустические символы, физически представляющие собой вибрацию воздуха; вторая, или фонетическая, ступень – это различные явления, возникающие во внутреннем ухе и связанных с ним частях нервной системы; третья, или семантическая, ступень представляет собой передачу этих символов смысловому опыту. У глухого имеются первая и третья ступени, но вторая ступень отсутствует. Однако вполне можно представить, что мы можем заменить вторую ступень ступенью, обходящей чувство слуха и проходящей, например, через чувство осязания. Здесь преобразование первой ступени в новую вторую ступень осуществляется не заложенным в нас физико-нервным аппаратом, а искусственной, созданной человеком системой. Преобразование новой второй ступени в третью ступень прямо недоступно нашему наблюдению, однако оно представляет собой образование новой системы привычек и реагировании, подобных тем, какие мы вырабатываем у себя, когда учимся управлять автомобилем.   В настоящее время состояние нашего аппарата следующее: переход от первой к новой второй ступени вполне находится под контролем, хотя и имеются некоторые технические трудности, которые следует ещё преодолеть. Мы проводим исследования процесса научения, то есть перехода от второй ступени к третьей; и, по нашему мнению, результаты этих исследований являются чрезвычайно обнадеживающими. Лучший результат, который мы можем пока показать, состоит в том, что при наученном словарном запасе в двенадцать простых слов в восьмидесятикратных случайных повторениях было сделано только шесть ошибок. В нашей работе мы должны всегда помнить о ряде обстоятельств. Первым из этих обстоятельств, как мы сказали, является тот факт, что слух не является единственным чувством сообщения, но что он такое чувство сообщения, которое находит своё главное применение в установлении en rapport с другими индивидуумами. Слух также представляет собой чувство, соответствующее некоторой коммуникативной деятельности с нашей стороны, а именно деятельности речи. Использование слуха в других отношениях также имеет важное значение, как, например, восприятие звуков природы и наслаждение музыкой, однако это использование не столь важно, чтобы мы рассматривали человека глухим в социальном отношении, если он участвует в обычном сообщении между людьми посредством речи и не использует слух в других отношениях. Иначе говоря, слух обладает тем свойством, что если мы лишены всякого использования слуха, кроме использования его для связи посредством речи с другими людьми, то мы тем не менее испытывали бы неудобства и от этого минимального недостатка. Имея перед собой цель протезирования органов чувств, мы должны рассматривать весь речевой процесс как целое. Насколько это важно, становится сразу очевидным, когда мы рассматриваем речь глухонемого. Для большинства глухонемых обучение чтению движения губ не является ни невозможным, ни чрезмерно трудным делом, и глухонемой может достичь вполне удовлетворительного результата в умении воспринимать речевые сигналы от других. С другой стороны, за очень небольшим исключением, что является результатом лучшего и более раннего обучения, огромное большинство глухонемых, хотя они могут научиться использовать сноп губы и рот для произведения звуков, делают это с такой причудливо комической и неприятной интонацией, которая представляет собой очень неэффективную форму посылки сигнала. Трудность заключается в том, что для глухонемых акт разговора разорван на две совершенно отдельные части. Мы можем очень легко создать подобную ситуацию для нормального человека, если дадим ему такую телефонную систему связи с другим лицом, где его собственная речь не передается телефоном к его собственным ушам. Создать такие передаточные системы с глухим микрофоном не представляет труда, и эти системы действительно рассматривались телефонными компаниями и были отвергнуты только потому, что они вызывают страшное чувство расстройства, обусловленное, в частности, незнанием того, в какой степени голос передается линией. Люди, пользовавшиеся системой этого рода, всегда были вынуждены кричать в полную силу своего голоса, чтобы быть уверенными, что их сообщение услышано на другом конце линии. Вернемся теперь к обычной речи. Мы видим, что процессы речи и слуха никогда не разделены у нормального человека, но что само обучение речи обусловлено тем обстоятельством, что каждый индивидуум слышит то, что он говорит. Для получения лучших результатов недостаточно, чтобы человек с большими перерывами слышал то, что он говорит, и чтобы он заполнял эти интервалы, прибегая к своей памяти. Хорошее качество речи может быть получено только в том случае, когда она подвержена постоянному контролированию и самокритике. В любом вспомогательном аппарате для совершенно глухих должен учитываться этот факт, и, хотя этот аппарат может фактически воздействовать на другой орган чувств, как, например, на органы осязания, а не на отсутствующее чувство слуха, он должен иметь сходство с электрическими слуховыми аппаратами наших дней по своей портативности, а также в том, что его можно постоянно носить с собой. Дальнейшая теория протезирования органа слуха зависит от объема информации, эффективно используемой при слушании. Самый грубый расчет этого объема позволяет оценить максимум, который возможно передать через диапазон звука частотой в 10 000 герц и диапазон амплитуды в 80 децибелов. Однако такое напряжение связи, хотя оно показывает максимум того, что вполне могло бы выполнить ухо, является слишком большим, чтобы представлять передаваемую речью эффективную информацию. Во-первых, речь, передаваемая через телефон, не влечет за собой передачу звуков более чем в 3000 герц, амплитудой, очевидно, не больше 5–10 децибелов; однако даже здесь, несмотря на то, что мы не преувеличиваем диапазона передаваемых уху звуков, мы сильно преувеличиваем диапазон используемых ухом и мозгом звуков для воспроизведения членораздельной речи. Мы отмечали, что самой лучшей работой, проделанной в области оценки объема информации, является работа над “вокодером” в лабораториях “Bell telephon company”. Эту работу можно использовать для демонстрации того, что если человеческая речь правильно разделена не более чем на пять частотных полос и если эти полосы детектированы таким образом, что воспринимается только их оболочка или внешние формы, и если они используются для модулирования совершенно произвольных звуков в пределах их диапазона частоты, тогда, если эти звуки в конце концов сложить, первоначальная речь опознается как речь, и притом почти как речь отдельного лица. Тем не менее объем использованной или неиспользованной возможной переданной информации сокращается не больше чем до одной десятой или одной сотой имевшейся в наличии первоначальной потенциальной информации. Когда мы проводим различие между использованной и неиспользованной информацией в речи, то мы проводим различие между максимальной кодирующей мощностью речи, воспринятой ухом, и между максимальной мощностью, проникающей через каскадную сеть последовательных ступеней, состоящих из уха и мозга. Первая мощность имеет отношение только к передаче речи через воздух и через промежуточные приборы, подобные телефону, завершаемые самим ухом, а не каким-либо иным аппаратом в мозгу, используемым для понимания речи. Вторая мощность относится к передаче энергии всего комплекса “воздух-телефон-ухо-мозг”. Конечно, могут иметься более тонкие оттенки модуляций, которые не проходят через данную всеохватывающую передаточную систему узкой полосы частот; и трудно оценить объем потерянной информации, передаваемой этими оттенками, однако этот объем, по-видимому, является сравнительно небольшим. Такова идея “вокодера”. Предыдущие технические оценки информации были неполны, так как они игнорировали конечный элемент цепи, идущей от звуковых колебаний воздуха к мозгу. Используя другие чувства глухого, мы должны иметь в виду, что за исключением зрения все другие чувства более низкого качества по сравнению со слухом и передают меньше информации за единицу времени. Единственный способ, которым мы можем заставить такое менее совершенное чувство, как осязание, работать с максимальной эффективностью, состоит в том, чтобы посылать через него не всю информацию, которую мы получаем через слух, а отредактированную часть тех звуковых комбинаций, которые пригодны для понимания речи.   Иначе говоря, мы заменяем часть функции, выполняемой обычно корой головного мозга после получения звука, фильтруя нашу информацию до того, как она проходит через осязательные рецепторы. Таким образом, мы передаем часть функции коры головного мозга искусственной внешней коре. Способ, каким мы осуществляем это в рассматриваемом нами аппарате, состоит в разделении частотных полос речи как в “вокодере” и затем – после того, как они были использованы для модулирования колебаний, имеющих частоту, легко воспринимаемую кожей, – в передаче этих различных детектированных полос в пространственно разделенные области осязания. Например, пять частотных полос можно соответственно послать к большому пальцу и четырем другим пальцам одной руки. Это помогает уяснить нам основные принципы аппарата, необходимого для приема понятной речи через звуковые колебания, преобразованные электрически в осязание. Мы уже достаточно продвинулись вперед на этом пути и знаем, что формы значительного количества слов достаточно отличаются друг от друга и достаточно стойки у ряда говорящих людей, чтобы их можно было распознать без большой речевой тренировки. Исходя из этого, основным направлением исследования должно быть более тщательное обучение глухонемых распознанию и воспроизведению звуков. С технической точки зрения перед нами встанут серьезные проблемы, связанные с портативностью аппарата и сокращением потребляемой им энергии без нанесения ущерба его свойствам. Эти вопросы пока ещё находятся в стадии обсуждения. Я не хочу посеять ложные и, в частности, преждевременные надежды среди людей, страдающих физическими недостатками, и их друзей, однако я думаю, что можно с уверенностью сказать, что перспективы на успех далеко не безнадежны. Со времени опубликования первого издания этой книги новые специальные приборы, поясняющие положения в теории сообщения, были созданы некоторыми работниками в этой области. Я уже упоминал в одной из предыдущих глав о гомеостате д-ра Эшби и в известном отношении подобных машинах д-ра Грэя Уолтера. Позвольте мне здесь упомянуть также о некоторых более ранних машинах д-ра Уолтера, в некоторой степени подобных моим “моли” или “клопу”, по созданных для иной цели. В этих фототропических машинах каждый отдельный прибор имеет источник света и, следовательно, может воздействовать па другие приборы. Таким образом, ряд этих приборов, приведенных одновременно в действие, обнаруживает некоторые группировки и взаимные реакции, которые большинство зоопсихологов объяснило бы как социальное поведение, если бы эти элементы оказались воплощенными в плоть и кровь, а не в медь и сталь. Это – новая наука механического поведения, даже несмотря на то, что почти вся она – дело будущего. В течение последних двух лет здесь, в Массачусетском технологическом институте, по ряду обстоятельств было трудно продвинуть работу по созданию слуховой перчатки, хотя возможности её создания все ещё имеются. Между тем теория привела к улучшениям в аппарате, позволяющем слепому проходить по лабиринту улиц и зданий, хотя детали этого прибора ещё не разработаны. Это исследование в основном произведено д-ром Клифордом М. Уитчером, который сам является слепым от рождения, – выдающимся авторитетом и техником в области оптики, электротехники и других областях, необходимых для этой работы. Большие надежды подает также протезный аппарат, который фактически пока ещё не разработан и пока ещё не был подвергнут окончательному критическому рассмотрению; этот аппарат представляет собой искусственное легкое, где приведение в действие двигателя дыхания будет зависеть от электрических или механических сигналов, идущих от ослабленных, но не разрушенных дыхательных мускулов пациента. В этом случае нормальная обратная связь в спинном мозгу и мозговом стволе здорового человека будет использована даже у паралитика для обеспечения контроля за его дыханием. Таким образом, можно надеяться, что так называемое “железное легкое” больше уже не будет тюрьмой, н которой пациент забывает, как надо дышать, а будет средством упражнения для поддержания активности его остаточных способностей дыхания, и даже возможно, что это легкое разовьет его остаточные способности дыхания до такой степени, что пациент сможет дышать самостоятельно и освободится от механизма, поддерживающего его дыхание. До сих пор мы рассматривали машины, которые, в той мере в какой это касается всего общества, по-видимому, имеют характер оторванной от непосредственных человеческих задач теоретической науки или являются определенно благодетельными вспомогательными средствами для инвалидов. Теперь мы перейдем к другому классу машин, которые обладают некоторыми очень зловещими возможностями. Довольно любопытно, что к этому классу относится играющая в шахматы машина. Некоторое время тому назад я предложил способ, каким можно было бы использовать современные вычислительные машины для ведения по крайней мере удовлетворительной игры в шахматы. В этой работе я следовал линии мысли, имеющей значительную историю. Эдгар По рассказывает о мошеннической играющей в шахматы машине Мельцеля и показывает, что она работала вследствие того, что внутри неё находился безногий калека. Однако машина, которую я имею в виду, настоящая, и она использует последние достижения в развитии вычислительных машин.   Легко сделать машину, которая будет играть в шахматы только по правилам и очень плохо; безнадежно стараться сделать машину, которая играла бы в шахматы хорошо, ибо такая машина требовала бы слишком многих комбинаций. Профессор Принстонского института исследований повышенного типа фон Нейман указывал на эту трудность. Однако не легко и в то же время не безнадежно создать машину, которой мы можем гарантировать самые лучшие возможные действия на ограниченное число ходов вперед, например на два хода вперед, и которая затем будет ставить себя в наиболее благоприятное в соответствии с некоторым более или менее легким методом оценки положение. Современные сверхскоростные вычислительные машины могут быть настроены для действия в качестве играющих в шахматы машин, хотя более усовершенствованную машину можно было бы сконструировать при условии громадных расходов, если мы предпочли бы работать на специально созданной для игры в шахматы машине. Скорость этих современных вычислительных машин достаточна для того, чтобы они могли оценить каждую возможность на два хода вперед в течение полагающегося по правилам на один ход игрового времени.   Число комбинаций резко возрастает в геометрической прогрессии. Таким образом, различие между игрой с использованием всех возможностей на два хода вперед и игрой на три хода вперед очень большое. Предусмотреть наперед всю игру, то есть количество ходов, равное примерно пятидесяти, безнадежное дело в пределах любого времени, которое можно отпустить на , ход. Все же для существ, живущих достаточно долго, это, как показал фон Нейман, было бы возможно; тщательно играемая обеими сторонами партия привела бы, будучи предрешенным делом, либо всегда к победе белых, либо всегда к победе черных, или, что наиболее вероятно, всегда к ничьей. Клод Шеннон, работающий в лабораториях “Bell telephon company”, предложил машину с такими же принципами, как и задуманная мною двухходовая машина, однако значительно более усовершенствованную. Начать хотя бы с того, что его оценка окончательного положения после двух ходов делала поправку на контроль взятия фигур, на взаимную защиту фигур, а также ряда фигур, на шах и мат. Затем, если бы после двух ходов позиция оказалась непрочной вследствие шаха, или возможного взятия фигуры, или вследствие возможности “вилки”, то механический игрок автоматически проиграет ещё ход или два вперед до тех пор, пока не будет достигнута устойчивая позиция. Насколько это затягивание игры – на время для каждого хода сверх полагающегося по правилам срока – замедлило бы игру, я не знаю, хотя не уверен, что мы можем пойти очень далеко в этом направлении, не попадая в цейтнот при наших современных скоростях. Я разделяю предположение Шеннона, что такая машина играла бы в шахматы на уровне хорошего любителя и даже, возможно, на уровне мастера. Её игра была бы негибкой и довольно неинтересной, но намного безопаснее игры любого игрока-человека. Как указывает Шеннон, можно включить случайность в се операции, чтобы предотвратить её неизменное поражение при игре чисто систематическим способом, то есть соблюдением определенной твердой последовательности ходов. Эта случайность или неопределенность может быть включена в оценку окончательной позиции после двух ходов. Машина играла бы гамбиты и возможные эндшпили, подобно игроку-человеку, пользуясь запасами стандартных гамбитов и эндшпилей. Более усовершенствованная машина накапливала бы на ленте каждую когда-либо сыгранную ею партию и дополняла бы уже указанные нами процессы поисками среди всех прошлых партий, имеющих отношение к данной партии, короче говоря, прибегала бы к силе научения. Хотя мы видели, что можно создать научающиеся машины, техника производства и использования этих машин пока ещё очень несовершенна. Для создания играющей в шахматы машины на принципах научения время ещё не созрело, хотя до этого, вероятно, не очень далеко. Играющая в шахматы машина, которая способна познавать, могла бы продемонстрировать большую степень совершенства игры, зависящего от качества игроков, против которых она выступает как их противник. Лучший способ создания машины шахматного мастера, вероятно, заключался бы в том, чтобы выставлять её в качестве противника против большого числа самых различных хороших шахматных игроков. С другой стороны, хорошо задуманную машину можно было бы более или менее испортить необдуманным выбором её оппонентов. Лошадь также портится, когда позволяют плохому ездоку ездить на ней. В научающихся машинах нужно различать то, чему машину можно научить, и то, чему её нельзя научить   Машину можно сконструировать либо со статистическим предпочтением к известному роду поведения, которое тем не менее допускает возможность другого поведения; или же определенные черты режима работы машины могут быть твердо и неизменно определены. Мы назовем первый вид определения режима работы машины предпочтением, а второй – ограничением. Например, если правила узаконенной игры в шахматы не введены в играющую в шахматы машину в качестве ограничения и если машине придана способность научать, то это незаметно может изменить играющую в шахматы машину в машину, выполняющую совершенно иную задачу. С другой стороны, играющая в шахматы машина с правилами, приданными ей в качестве ограничения, может все же быть научающей машиной в отношении тактики и стратегии шахматной игры. Читатель, может быть, удивляется, почему мы вообще интересуемся играющими в шахматы машинами. Разве они не являются просто ещё одной безобидной маленькой безделушкой, при помощи которой эксперты-конструкторы стремятся показать своё умение миру, который, как они надеются, будет изумляться и удивляться их достижениям? Будучи честным человеком, я не могу отрицать, что известный элемент хвастливого нарциссизма присущ по крайней мере мне. Однако, как вы скоро увидите, дело не только в этом; кстати сказать, око имеет не слишком большое значение для читателя-неспециалиста. Шеннон привел несколько причин, почему его исследования могут иметь большее значение, чем только конструирование диковинки, интересной лишь для игроков. Среди этих возможностей он указывает на то обстоятельство, что подобная машина может явиться первым шагом к созданию машины, способной оценивать военную ситуацию и определять самые лучшие шаги на любой специфической ступени. Пусть никто не думает, что он говорит несерьезно. Замечательная книга фон Неймана и Моргенштерна по “Теории игр” произвела глубокое впечатление на мир и не меньшее на Вашингтон. Когда Шеннон говорит о развитии военной тактики, он не болтает вздора, а высказывает своё мнение о самой близкой и опасной случайности. В хорошо известной парижской газете “Монд” от 28 декабря 1948 года некий доминиканский монах отец Дюбарль опубликовал очень проницательную рецензию на мою книгу “Кибернетика”. Я приведу высказанную им мысль о некоторых из ужасных последствий выросшей и облекшейся в военные доспехи машины, играющей в шахматы. “Одна из наиболее заманчивых перспектив, открывающаяся, таким образом, перед нами, это рациональное руководство человеческими делами, и в частности делами, затрагивающими общественные коллективы, которые, по-видимому, представляют собой некоторую статистическую закономерность, как, например, руководство общественным явлением создания мнения. Нельзя ли представить себе машину, накапливающую тот или иной тип информации, как, например, информацию о производстве и рынке, и затем в качестве функции обычной человеческой психологии и количеств, которые можно измерить в определенном случае, определяющей наиболее вероятное развитие ситуации? Разве нельзя представить себе государственный аппарат, охватывающий все системы политических решений. либо при режиме многих государств, существующих на нашей планете, либо при явно более простом режиме общечеловеческого правительства всей планеты? В настоящее время ничто не мешает нам предположить это. Мы можем мечтать о том времени, когда 'machine à gouverner' (управляющая машина) сможет заменить – на пользу или во вред – современную очевидную недостаточность мозга, когда последний имеет дело с обычной машиной политики. Во всяком случае, человеческая действительность не допускает такого острого и очевидного решения, какое допускают вычисления цифровых данных. Она позволяет только определить сомнительный характер своих ценностей. Машина, обрабатывающая данные об этих процессах и поставленных ими проблемах, должна поэтому обладать вероятностной, а недетерминированной мыслью, как это представлено, например, в современных вычислительных машинах. Это делает её задачу более сложной, однако не невозможной. Упреждающая машина, которая определяет действенность огня зенитной артиллерии, является примером этому. Теоретически упреждение времени не является невозможным, также не является невозможным определение наиболее благоприятного решения, по крайней мере в известных пределах. Возможность создания игровых машин, как, например, играющих в шахматы, очевидно, указывает на возможность такого упреждения.   Ибо человеческие процессы, составляющие объект правительственной деятельности, могут быть уподоблены играм в том смысле, в котором фон Нейман исследовал их математически. Даже если бы эти игры имели неполный комплекс правил, то существуют другие игры с очень большим числом игроков, где данные чрезвычайно сложны. Machines б gouverner будут характеризовать государство как игрока, наилучшим образом информированного на каждой отдельной ступени; и государство будет единственным верховным координатором всех отдельных решений. Это огромное преимущество; если эти решения приобретены на научной основе, то они позволят государству при всех обстоятельствах наносить поражение каждому игроку в человеческой игре, кроме себя, предлагая следующую дилемму, либо немедленное уничтожение, либо плановое сотрудничество. Эта дилемма будет представлять собой последствия самой игры без применения внешнего насилия. Поклонникам лучших миров действительно есть о чем мечтать! Несмотря на все это и, вероятно, к счастью, появление machine б gouverner не ожидается не сегодня-завтра. Ибо, кроме очень серьезных проблем, которые пока ещё ставит объем информации, которую необходимо собрать и быстро обработать, проблемы стабильности упреждения остаются вне пределов наших серьезных мечтаний об управлении. Ибо человеческие процессы уподобляются играм с не до конца определенными правилами и, кроме того, с правилами, которые сами являются функциями времени. Различие правил зависит как от эффективных подробностей ситуаций, порожденных самой игрой, так и от системы психологических реакций игроков на результаты, полученные в каждом отдельном случае. Изменение может быть ещё более быстрым. Прекрасным примером этому, по-видимому, служит происшествие с Гэллапом во время выборов 1948 года. Все это не только имеет тенденцию усложнить степень факторов, влияющих на упреждение, но вероятно, и имеет тенденцию радикальным образом стерилизовать механические манипуляции человеческих ситуаций. Насколько можно судить, только два условия могут гарантировать здесь стабилизацию в математическом смысле этого слова. Во-первых, наличие достаточной степени невежества масс игроков, эксплуатируемых квалифицированным игроком, который, более того, может планировать метод, которым можно было бы парализовать сознание масс; и, во-вторых, наличие достаточно доброй воли, чтобы позволить кому-либо ради стабильности игры передать свои решения одному или некоторым игрокам этой игры, которые имеют произвольные преимущества.   Это представляет собой трудную задачу трезвой математики, однако проливает некоторый свет на смелое предприятие нашего века: колебание между неопределенным . и бурным характером человеческих дел и пришествием ужасного Левиафана. По сравнению с этим Левиафаном “Левиафан” Гоббса – только милая шутка. Сегодня мы подвергаемся риску создать огромное “мировое государство”, где осмотрительная и сознательная примитивная несправедливость может быть единственно возможным условием для статистического счастья масс: создания для каждого ясного ума мира, худшего, чем ад. Вероятно, было бы неплохо для коллективов ученых, создающих в настоящее время кибернетику, добавить к своему штату технического персонала, пришедшего из всех областей науки, несколько серьезных антропологов и, возможно, философа, интересующегося мировыми проблемами”. Machine б gouverner отца Дюбарля страшна не потому, что она может достичь автоматического управления человечеством. Она слишком груба и несовершенна, чтобы представить одну тысячную часть целенаправленного движения независимого поведения человеческого существа. Но реальная опасность, которую она может вызвать, состоит совершенно в другом: эта опасность заключается в том, что подобные машины, хотя и безвредны сами по себе, могут быть использованы человеком или группой людей для усиления своего господства над остальной человеческой расой, или в том, что политические лидеры могут попытаться управлять своим народом посредством не самих машин, а посредством политической техники, столь узкой и индифферентной к человеческим возможностям, как если бы эта техника действительно вырабатывалась механически. Большая слабость машины – слабость, которая пока ещё спасает нас от её господства над нами, – состоит в том, что она не может пока учесть ту огромную область вероятности, которая характеризует человеческую ситуацию. Господство машины предполагает общество, достигшее последних ступеней возрастающей энтропии, где вероятность незначительна и где статистические различия между индивидуумами равны нулю. К счастью, мы пока не пришли к такому состоянию. Однако даже без государственной машины отца Дюбарля мы, как показали события 50-х годов, уже разрабатываем новую концепцию войны, экономического конфликта и пропаганды на основе “Теории игр” фон Неймана, которая сама является коммуникативной теорией. Эта теория игр, как я говорил в одной из предыдущих глав, представляет собой вклад в теорию языка, однако существуют правительственные органы, склонные применять её в военных и квазивоенных агрессивных и оборонительных целях. Теория игр основывается в своей сущности на договоренности игроков или союзов игроков, каждый из которых стремится разработать стратегию для достижения своих целей, исходя из предположения, что его противники, как и он сам, используют лучшую линию поведения для достижения победы. Эта крупная игра уже ведется механически и в колоссальном масштабе. Хотя философия, лежащая в основе этой теории, вероятно, неприемлема для наших современных оппонентов – коммунистов, однако имеются явные признаки того, что её возможность уже изучается как в России, так и в Соединенных Штатах, и что русские, отказывающиеся принять теорию в том виде, в каком мы её представили, по-видимому, улучшили её в некоторых важных отношениях.   В частности, большая часть работы, хотя и не вся, которую мы проделали по теории игр, основывается на предположении, что мы, как и наши противники, имеем неограниченные возможности и что единственное ограничение, с которым мы ведем игру, зависит от того, что мы можем назвать розданными нам картами или наблюдаемым расположением фигур на шахматной доске. Значительный объем свидетельств, скорее в делах, чем в словах, показывает, что своё отношение к мировой игре русские дополнили рассмотрением психологических ограничений игроков, и особенно их усталости как части самой игры. Таким образом, в настоящее время своего рода machine б gouverner, по существу, действует на обоих полюсах мирового конфликта, хотя ни в том, ни в другом случае она не состоит из одной машины, которая делает политику, а скорее представляет собой механистическую технику, приспособленную к требованиям машиноподобной группы людей, посвятивших себя выработке политики. Отец Дюбарль обратил внимание ученого на растущую воженную и политическую механизацию мира как на огромный сверхчеловеческий аппарат, работающий на кибернетических принципах. Для того чтобы избежать различных как внутренних, так и внешних опасностей этой механизации, необходимы, как он совершенно правильно подчеркивает, антрополог и философ. Иначе говоря, мы, как ученые, должны знать, какова человеческая природа и каковы заложенные в человеке цели, даже если мы должны владеть этим знанием как солдаты или государственные деятели, и мы должны знать, почему мы хотим управлять им. Когда я говорю, что машинная опасность для общества исходит не от самой машины, а от её применения человеком, я действительно подчеркиваю предупреждение Сэмюеля Батлера. В своем “Erewhon” он показывает, что машины неспособны действовать иначе, как покоряя человечество, путем использования людей в качестве подчиненных органов. Тем не менее мы не должны принимать предвидение Батлера слишком серьезно, так как в его время фактически ни он, ни его современники помогли понять подлинную природу поведения автомата, и высказывания Батлера являются скорее сарказмами, чем научными замечаниями. С тех пор как мы имели несчастье изобрести атомную бомбу, наши газеты много шумели об американском “знании, как делать”, но есть ещё одна вещь – более важная, чем “знание, как делать” это “знание, что делать”, – и мы не можем заподозрить Соединенные Штаты в чрезмерном обладании этим достоинством. Под “знанием, что делать” мы имеем в виду не только то, каким образом достичь наших целей, но и каковы должны быть наши цели. Я могу пояснить различие между этими двумя видами знания примером.   Несколько лет тому назад один видный американский инженер купил дорогое пианино. Спустя неделю или две стало ясно, что эта покупка вызвана не каким-либо особым интересом к музыкальным достоинствам пианино, а скорее интересом к его механизму. Для этого джентльмена пианино было не средством воспроизведения музыки, а средством показать некоему изобретателю, насколько он был искусен в преодолении некоторых трудностей в воспроизведении музыки. Такое качество – достойное уважения качество ученика-второгодника. Насколько достойно уважения это качество в одном из тех, от кого зависит вся культурная будущность нашей страны, я оставляю судить читателю. В мифах и сказках, которые мы читали в детстве, мы узнаем некоторые более простые и более очевидные истины жизни, как, например: когда найдешь джина в кувшине, то лучше оставить его там; если рыбак слишком много раз по наущению своей жены просит благ от неба, то он окончит именно тем, с чего начал, если вам даны три желания, то следует быть очень осторожным в выборе этих желаний. Эти простые и очевидные истины представляют детский эквивалент того трагического взгляда на жизнь, которого придерживались древние греки и придерживаются многие современные европейцы и который в некоторой мере чужд нашей стране изобилия. У древних греков акт открытия огня вызывал самые различные чувства   С одной стороны, в их представлении, как и в нашем, огонь являлся великим благом для всего человечества. С другой стороны, принести огонь с неба на землю – означало бросить вызов богам Олимпа, и это не могло остаться безнаказанным как оскорбительная дерзость по отношению к прерогативам богов. Так, мы видим могучую фигуру Прометея, похитителя огня, прообраз ученого, героя, но героя, осужденного, прикованного цепями к скале в горах Кавказа, с громадным орлом, рвущим своим клювом его печень. Мы читаем звучные строки трагедии Эсхила, где прикованный титан призывает и небо, и землю быть свидетелями тех мук, которые он выносит по милости богов. Чувство трагедии состоит в том, что мир не является приятным маленьким гнездышком, созданным для нашей защиты, а огромной и в основном враждебной средой, где мы можем добиваться чего-либо большого, только оказывая открытое неповиновение богам, и что это неповиновение неизбежно влечет за собой кару. Это опасный мир, где нет безопасности, за исключением некой негативной безопасности смирения и умеренных стремлений. Это мир, где заслуженную кару несут не только те, кто грешит преднамеренно, но и те, чье единственное преступление заключается в незнании богов и окружающего его мира. Если человек с этим трагическим чувством приближается не к огню, а к другому проявлению первоначальной энергии, как, например, к расщеплению атома, он будет делать это со страхом и дрожью. Он не прыгнет в ту область, куда боятся ступить ангелы, если только он не готов понести кару, которая постигает падших ангелов. Он также не передаст спокойно машине, сделанной по его собственному образу, выбор между добром и злом, не снимая с себя полностью ответственности за этот выбор. Я сказал, что современный человек, и особенно современный американец, сколько бы у него ни было “знаний, как делать”, обладает очень малым “знанием, что делать”. Он благосклонно отнесется к недосягаемой ловкости полученных машиной решений, не слишком задумываясь над побуждениями и принципами, скрывающимися за ними. Поступая так, он рано или поздно поставит себя в положение того отца из книги Вильяма Уаймарка Джэкобса “Обезьянья лапа”, который мечтал получить 100 фунтов, и в конечном итоге увидел у двери своего дома агента компании, в которой служил его сын, предлагающего ему 100 фунтов в качестве утешения за смерть его сына на фабрике. Или опять-таки он может сделать это таким же образом, как рыбак араб из сказок “Тысяча и одна ночь”, сломавший печать Соломона на крышке кувшина, в котором находился злой джин. Запомним, что существуют игровые машины типа “обезьяньей лапы” и типа джина в закупоренном кувшине. Любая машина, созданная в целях выработки решений, если она не обладает способностью научения, будет совершенно лишена гибкости мысли. Горе нам, если мы позволим ей решать вопросы нашего поведения, прежде чем исследуем законы её действий и не будем полностью уверены, что её поведение будет осуществляться на приемлемых для нас принципах. С другой стороны, подобная джину машина, способная к научению и принятию решений на базе этого научения, никоим образом не будет вынуждена принимать такие решения, какие приняли бы мы или которые были бы приемлемы для нас. Для человека, который не уверен в этом, переложить проблему своей ответственности на машину независимо от того, будет ли она способна к научению или нет, означает пустить свои обязанности с ветром и видеть, что они возвращаются ему с бурей. Я говорил о машинах, но не только о машинах, имеющих мозг из меди и мускулы из железа. Когда человеческие атомы скреплены в организацию, в которой они используются не в соответствии со своим назначением, как разумные человеческие существа, а как зубцы, рычаги и стержни, то большого значения не будет иметь то обстоятельство, что их сырьем являются плоть и кровь. То, что используется в качестве элемента в машине, действительно представляют собой элемент машины.   Если мы доверим наши решения машине из металла или тем машинам из плоти и крови, которые представляют собой бюро, огромные библиотеки, армии и акционерные общества, то мы никогда не получим правильного ответа на наш вопрос, если только не поставим его правильно. “Обезьянья лапа” из кожи и кости столь же мертва, как и все сделанное из железа и стали. Джин – этот собирательный образ корпорации – столь же страшен, как если бы он являлся окруженным ореолом колдовским обманом. Час уже пробил, и выбор между добром и злом у нашего порога. Оглавление   www.pseudology.org