"Итак, идея того, что наука - единственный
источник истинного знания - смехотворна... На самом
деле все важнейшее, что мы знаем о мире - результат
трансцендентного мышления, а не, скажем так, инст-
рументального мышления. Я имею в виду, что по-нас-
тоящему важные вещи приходят к нам не через науку.
Поэтому для всех, а не только для ученых или интел-
лектуалов чрезвычайно важно иметь различные взгляды
на мир".
Профессор Дж. Вайзенбаум
* * * *
ИНТЕРВЬЮ С ПРОФЕССОРОМ ДЖОЗЕФОМ ВАЙЗЕНБАУМОМ
(род. 8 января 1923 г.)
Один из самых выдающихся ученых-компьютерщиков мира,
проф. Джозеф Вайзенбаум известен своим большим вкладом в отрас-
ли Искусственного разума. Он был автором известной программы
"Элиза" (предшественницы "Доктора" и других подобных программ),
которые потрясающе продемострировали возможность встраивания
"интеллектуальных" эффектов в компьютер путем программирования.
Он также написал главную книгу, озаглавленную "Сила компьютера
и Человеческий разум: от расчетов - к суждению", в которой он
крититически исследовал далеко идущие социальные применения ис-
следования и философского предположения, касательно искусствен-
ного интеллекта.
Профессор Вайзенбаум получил степень доктора физики в
Вейн-Стейт университете в Детройте. После нескольких лет в про-
мышленности он начал работу в Масачюссетском Технологическом
институте (МТИ), где руководил факультетом с 1955 г. В настоя-
щее время - профессор отделения компьютерных наук МТИ. В его
исследовательские интересы входят Искусственный Интеллект и со-
циальное использование компьютерики и кибернетики.
- 2 -
Настоящий адрес: Отделение компьютерных наук,
МТИ, Кембридж, Масачюссетс,
03139, США.
Интервьер: Рави Гомотам
Записано 14 января 1985 г.
* * * * * * * *
РГ: Почти во всех кругах растет признание того, что наука и
научное исследование больше не являются отдельным или личным
делом, и что они тесно связаны с тем, как мы живем, и со мно-
гими сферами человеческих интересов. По этим вопросам было
много дискуссий. Какой из этих вопросов Вы считаете централь-
ным?
ДВ: Я думаю, здесь задействованы вопросы нескольких уровней.
На одном уровне вопрос заключается в том, что сегодня наука и
ученые производят огромные силы, которые имеют важные видимые
и невидимые воздействия на все общество. Исследование или но-
вая научная находка может, по словам, Дайсона, встревожить
всю Вселенную. Хорошо известна аксиома о том, что этическая и
моральная ответственность человека простирается как минимум
столь же далеко, как его влияние. Еще сто лет назад ученый
мог работать в лаборатории с одним или двумя помощниками, ос-
таваться довольно академичным очень долгое время, быть заме-
ченным только научными журналами и не иметь дальнейшего воз-
дествия на окружающую общественность. Давайте рассмотрим се-
годняшние успехи, к примеру, генетики и молекулярной биоло-
гии. Здесь мы видим, что буквально горстка ученых - что-то
около сотни на всей планете - делают такие вещи, как создание
такого живого существа, которого не создала сама Природа и
которое, вероятно, может неуправляемо расти. То, что в экст-
ремальном случае - эта очень маленькая группа ученых может
- 3 -
действительно вызвать смерть человеческой расы даже без ис-
пользования всякого ядерного оружия, само по себе весьма
серьезно. Подумайте о тех экспериментах, которые мы ставили в
прошлом в несколько меньших масштабах, имея меньше знания,
чем сегодня. Однажды было предложено разместить сотни тысяч,
даже миллионы маленьких иголок размером с иглу фонографа в
виде пояса вокруг земли для проведения каких-то атмосферных
экспериментов. Это почти сделали, когда некоторым ученым уда-
лось в последний момент обратить внимание правительств на по-
бочные эффекты, которые будет иметь эксперимент и к такому
факту, что неизвестны все побочные эффекты. Сегодня в подоб-
ных экспериментах риск и степень могущества ученого еще боль-
ше. Можно сказать, они почти универсальны, под чем я подразу-
меваю, что они идут не только на земле, но и, так сказать, в
небе над нами. Важнейшее замечание при таких "починках" при-
роды таково: все наши эксперименты необратимы, и их последст-
вия более или менеее устойчивы. Ученых как группу никто не
избирает. И в политическом смысле они не отчитываются перед
законом. Поэтому обладание такой силой в группе, представляю-
щей только саму себя, очень опасно и поднимает некоторые мо-
ральные проблемы.
Сейчас, на совершенно ином уровне, мы буквально разьедаем
древо познания. Во многих религиях к этой теме относятся с
благоговением и даже, возможно со страхом. Один очень извест-
ный мой коллега, Герберт Симон из университета Карнеги - Мел-
лона - ведущий ученый в области искусственного разума и тео-
рии организации, часто говорил, что знание лучше неведения.
Вероятно, тогда он произнес лозунг нашего времени. Но если мы
внимательно проанализируем это заявление, мы придем к вопро-
су: "Всякое ли знание лучше незнания? Есть ли знание, стоящее
больше, чем другое знание? Какую цену мы хотим заплатить за
конкретное знание?" Например, многие ученые интересуются фун-
кционированием живого мозга. Вопрос того, как он работает, -
одна из великих тайн вселенной. Это, по крайней мере, столь
же загадочно, как астрофизика. Но все то, что мы знаем сегод-
ня - лишь маленький прогресс в этой области. Теперь, предпо-
ложим, мне удалось разработать метод, который гарантированно
- 4 -
даст огромный прогресс в понимании того, как работает челове-
ческий мозг. Скажут: "Да, конечно, нам он нужен", но спросят:
"Какую цену Вы платите за это?" Предположим, я предложил ис-
следовать живой мозг здоровых детей хирургическими методами,
которые почти наверняка убьют детей или изувечат их. Тогда
даже если познание гарантировано, будет ли оно стоить даже
одного ребенка?
РГ: Вы поднимаете вопрос средств и целей?
ДВ: Верно - совершенно верно. Я поднимаю вопрос средств и це-
лей. Я надеюсь, мы пришли к тому, что хотя бы цивилизованные
люди осознают, что цели не оправдывают средств. Какую цену
можно просить за знание? Совершеннно неправильно то, что лю-
бое змание лучше неведения. За каждое знание нужно платить.
Кроме экспериментирования на живых существах (включая людей),
что необходимо однозначно запретить всеобщим законом, сущест-
вуют и другие цены, которые мы платим. Одна из них - неуве-
ренность - факт того, что мы не можем знать всей цены даже
через много лет после эксперимента. На земле меньше всего не
золота (или желтой воды) - меньше всего человеческой мудрос-
ти. В определенном смысле к этому следует относиться как к
любому запасу. Если я имею десять тысяч долларов в год для
моей лаборатории и трачу пять тысяч долларов на центрифугу,
то мы должны осознавать, что решение купить центрифугу исклю-
исключает приобретение целого набора
другого оборудования, которое мы могли бы купить. Подобно
этому, когда я решаюсь изучать, скажем, простые числа,
я принимаю решение, что следующие двадцать лет я не
буду изучать весь круг других больших областей потенци-
ального знания. Решение изучать отдельный аспект природы
мира всегда является ценностным решением. Особенно в наше
время, оно имеет даже политические последствия. Одни про-
блемы гораздо более неотложны, чем другие. Возможно, не-
которые из них опасно изучать сегодня, а через сто лет,
может быть, нет. Возьмем изучение генетически обуслов-
ленных различий в интеллекте разных рас. Возникает вопрос:
"Самое ли это важное, что нам следует знать?" Что мы
станем делать с этим знанием, получив его? Возникает целая
проблема с наукой, свободной от ценностных ориентации.
Я только что сказал, что решение изучать одно, отдавая
этому предпочтение перед другим, само по себе является
вопросом ценностей. И должен добавить сюда кое-что, от-
носящееся к нашему времени. Современные ученые в уни-
верситетах и коммерческих лабораториях болтают о знании
ради знания, о науке ради науки, о чистом стремлении
к познанию Вселенной и т.д. Я сказал "болтают", ибо считаю,
что для большинства из них такой мотивировки просто не
существует. Все они ориентируются на определенную цель,
а проекты, над которыми они работают, финансируются людь-
ми с очень специфическими интересами. Думаю, стоит честно
признать тот факт, что около половины всех ученых в мире
сегодня прямо или косвенно работают на военные программы.
Картина из старой сказки, изображающая ученого-одиночку,
работающего в лаборатории с одним верным помощником,
присматривающим за оборудованием, в облаках идущего не-
известно откуда пара и приходящего к открытию, которое
излечивает рак или делает возможным что-то столь же за-
мечательное, как превращение соленой воды в пресную, боль-
ше не соответствует действительности. Сегодня наука так не
работает, за очень редкими исключениями.
РГ: Это важная проблема, и я попросил бы Вас остановиться на
ней немного больше. Если я правильно Вас понял, Вы говорите,
что, быть может, сто или сто пятьдесят лет назад в науке
имело место стремление к получению знания ради знания. Но не
ради чего-нибудь еще. Больше этого нет. Вы хотите сказать,
что за прошедший период характер науки как-то изменился?
Хотите ли Вы сказать, что в настоящее время целью науки
стало нечто иное?
ДВ: Да. Я думаю, наука радикально изменилась. Я предполагаю,
это имеет отношение к самой экономике функционирования
науки. Достаточно вспомнить, что Британское Королевское
общество, появившееся во времена Ньютона, получало свои
средства в большой степени на основе обещания давать ре-
зультаты, полезные для общества. Оно не обещало наращивать
знания, мудрость мира или еще что-нибудь такое. Оно обе-
щало полезные результаты. За первые сто пятьдесят лет
единственным полезным результатом, явившимся следствием
такого спонсорства, было изобретение громоотвода. По су-
ществу это созвучно с тем, что мы и теперь называем
современной наукой. Сегодня наук'-, очень дорогостояща, так
как большинство инструментов, необходимых ей, очень до-
роги. Это циклотроны, ускорители всех видов, компьютерные
системы, электронные микроскопы, радиотелескопы и т.д.
Благодаря всему этому создается большая наука, а политика
управляет ею. Большая наука сегодня имеет характеристики,
в очень многом сходные с любым большим бизнесом, -
гигантский административный аппарат, чрезвычайно высокие
накладные расходы и т.п. И все это породило недостаток
самокритичности в науке. Интересной фантазией, думается,
было бы проследить, что случилось бы, если бы какой-нибудь
университет решил вдруг предпринять некую совершенно осо-
бую попытку по обучению студентов науке, которую может
делать только один человек. Прискорбно признавать, что, если
посмотреть, какой аспект человеческой природы играет на-
ибольшую роль в современной науке, то это окажется ал-
чность - стремление получить фонды, заручиться поддержкой
и т.д. Я могу здесь также сослаться на искусственные тре-
бования публиковаться, предъявляемые студентам и молодым
ученым. Неважно, что они публикуют, лишь бы это попало
в так называемые цитируемые журналы. Когда приходит вре-
мя рассматривать вопрос о продвижении, о том, может ли
молодой ученый остаться в конкретном университете, тогда
проверяются библиография, число статей и журналы, где они
опубликованы. Это просто дает людям ложную основу для
публикаций. Основанием должно быть убеждение автора в
том, что ему или ей есть, что сказать. В отсутствии этого
критерия публикация работ превращается в безмерную бю-
рократию, включая бюрократию слежения за всем этим старь-
ем. И это также увеличивает расходы большой науки, ис-
кажая, кроме того, весь оценочный механизм науки и ученых.
РГ: Мы слышали, что Вы говорили о необходимости учитывать
средства познания; Вы также обсудили спектр финансирования.
Можно ли сказать, что лучшее знание - то, которое наносит
наименьший ущерб окружающей среде и требует наименьших
средств со стороны?
ДВ: Я боюсь любой формулы. Мир очень сложен, и, видимо,
само знание тоже сложно. Не думаю, что нам следует искать
какую-нибудь простую формулу.
РГ: И все же Вы говорили о том, что ученым необходимо признать,
что погоня за знанием самим по себе недостойна, если она не
сопровождается общественно-полезными соображениями. Как
практически включить это признание в науку?
ДВ: В определенном смысле ответ мне ясен. Мудрость или знание
того, что можно и чего нельзя делать, что этично и что
неэтично, что морально допустимо, а что нет - эта оценка
должна присутствовать в сознании ученого. Этого нельзя дать
ему извне. Разрешите привести пример. Предположим, что
я, отходя от стола, чтобы выпить воды, роняю бумажник,
а Вы поднимаете его. Вы находите в нем огромную сумму
денег. Когда я возвращаюсь, Вы говорите: "Вы выронили
бумажник, а я нашел его, возьмите". Теперь, предположим,
кто-то спрашивает Вас: "Почему ты не оставил бумажник
себе?" Ваш ответ не будет содержать перечисления возможных
последствий похищения бумажника. Скорее всего, Вас поразит
этот вопрос. Скорее всего Вы скажете: "Меня не так вос-
питывали. Это не для меня!" Вы не сможете дать дальнейших
объяснений. Такое поведение - просто часть Вас. И так
и должно быть. Это значит, что ученый, обретя зрелость
в целом и научное знание в частности, должен дышать
атмосферой морали, чтобы моральный подход к науке стал
инстинктивной и неотчуждаемой его частью. И еще разрешите
добавить, что я не считаю, что этому следует учить ис-
ключительно ученых. Не только ученых - всех. Другими
словами, ситуация не улучшится до тех пор, пока у нас
не произойдет радикального изменения морали во всем мире.
Это заявление весьма пессимистично, ибо обещает только
очень отдаленную возможность. Но тем не менее оно верно.
РГ: Итак, Вы считаете, что проблемы нашего времени ведут не
только к науке и ученым, но относятся скорее к распространив-
шемуся повсюду падению качеств, стандартов жизни, или
человеческого уровня?
ДВ: Это верно, хотя меня удивляет слово "падение". Я хотел
бы знать, стало хуже или нет. Несомненно то, что наше
положение неважно. За последние сто лет влияние, или эф-
фективность, ученого, политика и военного неизмеримо воз-
росли. Силы, способные погубить человечество, возросли так
сильно, что то что нам кажется ухудшением положения
людей или всей' жизни на земле, вполне может быть просто
отражением сохраняющейся незрелости человеческого бытия
в контексте все нарастающей материальной мощи.
РГ: Наука, видимо, движется от одного локального достижения к
другому, а общей картины мы не представляем. Мы не можем
предсказать всего круга результатов конкретного вида исследо-
ваний. В такой ситуации есть ли вообще какая-нибудь надежда
почувствовать, что, продолжая научные поиски и прогресс, мы
не придем ко все большим трудностям?
ДВ: Весьма малая. Я очень, очень пессимистичен. Но вместе
с тем я также думаю, что надежда есть. Это звучит па-
радоксально - позвольте мне объясниться. Оптимизм-песси-
мизм - это принципиально статистическое измерение. Оно
касается возможности успеха или вероятности неудачи. Когда
я говорил, что я очень пессимистичен, я хотел сказать,
что вероятность того, что положение станет намного лучше,
невелика. В то же время надежда имеет дело с возмож-
ностями, а не со статистикой. А возможность спастись для
нас существует. Я в этом не сомневаюсь. В действительности,
я думаю, все, что нам нужно знать для того, чтобы жить
в мире и безопасности - не только в военном, но и в
духовном смысле, - уже существует в писаниях основных
религий. Приведу лишь один пример: очень компактный на-
бор алгоритмов добродетельной жизни содержится в Нагорной
проповеди. Я не верю, что мы нуждаемся в дальнейшем
исследовании моральных альтернатив. Это уже сделано. Боль-
ше делать этого не нужно. Использовать то, что мы знаем,
очень, очень трудно, но сам факт того, что это знание
существует, вселяет в меня надежду. Возможность органи-
зовать человеческую жизнь разумно и гуманно существует.
Это значит, что надежда есть. Но сам я настроен очень
пессимистично.
РГ: Возможность в общем смысле всегда существует. Но дело в том,
что человеческая раса в целом, практически во всем мире все
более доверяется научному пути познания и прогресса. Вы видите
какую-нибудь надежду, при условии что кардинально не изменит-
ся ограниченная и узкая природа научного познания? Иначе говоря,
следует ли нам вообще призывать к смене парадигмы того, кто
утверждает, что наука и только наука - путь к истине и лучшей
жизни?
ДВ: То, на что Вы обращаете внимание, сегодня широко принято,
сознательно или бессознательно, явно или неявно - только
наука может привести к истинному познанию мира. И это
- фундаментальная ошибка. Я могу проиллюстрировать это
небольшой историей. Предположим, мы пересекаем местность
и натыкаемся на большой глиняный холм. На вершине этого
холма сидит слон. Одному из нас приходит в голову узнать,
сколько времени потребуется слону, чтобы соскользнуть вниз
к подножью, если он начнет соскальзывать. Как бы мы,
современные ученые начали искать ответ на этот вопрос?
Мы заменили бы слона центром тяжести и определили бы
по таблице коэффициент трения. Потом написали бы одно-два
дифференциальных уравнения, решив которые, получили бы
ответ, что слону потребуется 67 секунд, чтобы достичь под-
ножья. Вполне возможно, что в действительности слону по-
требуется 66 или 68 секунд. Это метод науки. Мы абс-
трагируем проблему. Здесь само слово "абстрагировать" оз-
начает отрываться от действительности. Таков фундаменталь-
ный метод науки - строить модели. В данном случае это
- математическая модель. Чего мы не учли в этой модели?
Давайте посмотрим. Мы не учли запах слона. Мы не учли,
что слон производит определенный шум, что у него волосы
на теле, что у него имеется хвост и т.д. Мы не учитываем,
как ощущается глина пальцами ног маленького мальчика.
Мы не учли всего того, что можно сделать из глины, включая
кирпичи и шары. Я думаю, теперь ясно, что можно про-
должать буквально вечно перечисление того, чего мы не учли.
Потому что то, чего мы не учли, - это вся Вселенная,
каждый атом в ней, за исключением тех нескольких, которые
мы смоделировали. Я думаю, именно это имел в виду Эйн-
штейн, делая свое известное заявление, что самое замеча-
тельное во Вселенной - это то, что мы вообще приходим
к ее пониманию. Действительно замечательно, что с помощью
этого глупого метода, именуемого наукой, мы можем найти
хоть что-то полезное, помимо слонов, соскальзывающих с
горок, что с помощью методов такого рода и человеческого
гения нам удается строить мосты и т.д. Поэтому идея о
том, что наука - это единственный источник обоснованного
знания о мире, смехотворна. Это абсурдно перед лицом мира.
Я возвращаюсь к мысли о том, как глина ощущается паль-
цами маленького мальчика. Нет, существуют и другие ис-
точники познания мира. Конечно, к этим источникам от-
носятся различные искусства. В действительности, все важ-
нейшие вещи, которые мы знаем о мире, являются ре-
зультатами трансцендентального, а не, позвольте так выра-
зиться, инструментального мышления. Я имею в виду, что
по-настоящему важные вещи приходят к нам не через науку.
Поэтому для всех, а не только для ученых или интел-
лектуалов, чрезвычайно важно иметь различные взгляды на
мир.
РГ: Я задам последний вопрос, так как считаю, что его нужно
задать. Сейчас наука ужасно занята изучением материи. Если
наука должна стать значимой для человеческих целей и интере-
сов, ей определенно следует создать разумную картину природы
и понять цели жизни вообще и человеческой жизни в частности.
Какова надежда на науку в этом отношении?
ДВ: Если кратко, то никакой. Я не думаю, что на эти вопросы
вообще можно ответить научно. Это не вопросы, подобные
тому, как долго будет скользить слон по глине. Как я говорил
раньше, есть много источников обоснованного знания о мире.
Для получения знания такого рода, а именно знания о цели
и смысле жизни, просто не годятся научные средства. Во
всяком случае, годятся не должным образом. Наука может
пролить на это очень мало света. Между прочим, говоря
о науке в этом интервью, я имел в виду современную
науку, науку со времен Ньютона. Если мы утверждаем, что
ответ на вопросы о жизни и ее смысле - задача современной
науки, это подразумевает, что до недавних пор таких вопросов
вообще не задавали, потому что 300 лет назад не было
современной науки. Это подразумевает также, что можно от-
бросить все древнекитайские, древнегреческие, древнеиндий-
ские и другие источники знания как не относящиеся к
делу, потому что в те времена не было современной науки.
Но это не так. Сам факт, что пересечение всех современных
религий - не пустое множество, означает, что у них есть
нечто общее. И эта мудрость - древняя. Она, конечно, на-
много предшествует появлению современной науки. Это само
по себе говорит о том, что эти вопросы адресовались сред-
ствам решения, отличным от научных. Это не значит, что
у науки не может быть каких-то ответов или прозрений
в этих сферах. Это просто значит, что такое знание можно
было получить без современной науки. Однако мое мнение
таково, что наука просто не имеет отношения к вопросам
такого рода. Просто не имеет отношения. Предположим, Вы
спросили бы меня: "Какой вклад может внести зоология
в познание цели человеческого рода?" Я бы сказал, что ни-
какой. Почему тогда физика или любая другая наука должны
иметь большее значение?
РГ: Как Вы думаете, что имеет значение для ответа на эти вопросы?
Какой род познания?
ДВ: Я думаю, что актуальное значение имеет знание и мудрость,
содержа! цисся в писаниях великих мировых религий. Зна-
чение имеет и опыт, заключенный в литературных трудах
таких великих людей, как Толстой, Шекспир и др. Совер-
шенно ясно, что мы не научились жить согласно этому
знанию. Подумайте только, что во имя Иисуса сотни, даже
миллионы людей были убиты и подвергнуты пыткам ин-
квизиции, что ради утверждения одного религиозною ми-
ровоззрения уничтожались тысячи других религий. Мы ви-
дим, что творится в Ливане и в других местах. Отсюда
ясно, что одного существования этих писаний и трудов не-
достаточно. Но я почти абсолютно уверен, что знание о
том, как вести добропорядочную жизнь, содержится в этих
трудах. То, что они не оправдали наших ожиданий, про-
изошло не потому, что в них не заключено мудрости, но
потому, что мы не настолько еще доведены до отчаяния,
чтобы хотеть обрести разумный образ жизни. Я лишь на-
деюсь, что наше современное затруднительное положение при-
даст нам отчаяние и душевный подъем, чтобы обратиться
к этому первому и последнему источнику знания - древнему
знанию - и уделить ему серьезное внимание.
РГ: Благодарю Вас, профессор Вайзенбаум.