Samkniga.netРазная литератураРациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски

Шрифт:

-
+

Интервал:

-
+

Закладка:

Сделать
1 ... 68 69 70 71 72 73 74 75 76 ... 457
Перейти на страницу:
окислительное горение в основе огня, химическое взаимодействие с нервной системой у снотворных. Но механизмы кажутся сложнее, чем сущности; о них труднее думать, они менее доступны нашему разуму. Поэтому, когда кто-то пинает торговый автомат, мы думаем, что у него есть врожденная склонность к пинанию торговых автоматов.

Если только этот «кто-то», пинающий автомат, — не мы сами. В таком случае мы ведем себя абсолютно нормально, учитывая обстоятельства; уж конечно, любой другой поступил бы так же. Действительно, мы переоцениваем вероятность того, что другие отреагируют так же, как мы — это называется «эффектом ложного консенсуса». Пьющие студенты значительно переоценивают долю выпивающих сокурсников, а непьющие — значительно ее недооценивают. Термин «фундаментальная ошибка атрибуции» описывает нашу склонность избыточно объяснять чужое поведение особенностями характера, выворачивая эту тенденцию наизнанку, когда речь заходит о нас самих.

Чтобы понять, почему люди поступают так или иначе, мы должны сначала осознать, что каждый считает свое поведение нормальным. Не спрашивайте, с каким странным качеством-мутантом они родились, которое напрямую отражается в их внешнем поведении. Спросите лучше, в каких обстоятельствах, по собственному мнению, эти люди находятся. Да, у людей есть личностные особенности — но не существует стольких наследуемых причуд характера, чтобы ими можно было напрямую объяснить всё наблюдаемое разнообразие внешнего поведения.

Представьте, что я дал вам пульт с двумя кнопками: красной и зеленой. Красная кнопка уничтожает мир, а зеленая не дает нажать на красную. Какую кнопку вы нажмете? Зеленую. Любой, кто ответит иначе, скорее всего, излишне усложняет вопрос.

И все же люди иногда спрашивают меня, почему я хочу спасти мир. Словно у меня должно было быть травматичное детство или что-то в этом роде. На самом деле это решение кажется довольно очевидным... если смотреть на ситуацию в таких категориях.

У меня могут быть нетипичные взгляды, требующие объяснения (почему я верю в такие вещи, в отличие от большинства?), но, исходя из этих убеждений, моя реакция едва ли требует какого-то исключительного объяснения. Возможно, я пал жертвой ложного консенсуса; возможно, я переоцениваю число людей, которые нажали бы зеленую кнопку, воспринимай они ситуацию схожим образом. Но знаете, я бы все равно поставил на то, что набралось бы как минимум внушительное меньшинство.

Изнутри большинство людей видят себя совершенно нормальными. Даже те, кого вы ненавидите, люди, совершающие ужасные вещи, — не какие-то исключительные мутанты. Увы, никаких мутаций для этого не требуется. Когда вы это поймете, вы перестанете удивляться человеческим поступкам.

*

1. Daniel T. Gilbert and Patrick S. Malone, “The Correspondence Bias,” Psychological Bulletin 117, no. 1 (1995): 21–38, http://www.wjh.harvard.edu/~dtg/Gilbert%20&%20Malone%20(CORRESPONDENCE%20BIAS).pdf.

2. Edward E. Jones and Victor A. Harris, “The Attribution of Attitudes,” Journal of Experimental Social Psychology 3 (1967): 1–24, http://www.radford.edu/~jaspelme/443/spring-2007/Articles/Jones_n_Harris_1967.pdf.

61. Действительно ли ваши враги злы от природы?

Мы склонны видеть слишком прямую связь между чужими поступками и внутренними качествами людей. Мы видим необычный характер, в точности соответствующий необычному поведению, вместо того чтобы задаться вопросом о реальных или воображаемых ситуациях, способных объяснить это поведение. Мы строим гипотезы о мутантах.

Когда кто-то действительно задевает нас — совершает поступок, который мы (справедливо или нет) осуждаем, — тогда, как я замечаю, ошибка соответствия проявляется вдвойне. Похоже, существует очень сильная тенденция объяснять злые поступки мутантской, порочной натурой Врага. Не из соображений морали, а чисто с точки зрения априорной вероятности нам следовало бы спросить: что Враг может думать о своей ситуации, чтобы его поведение казалось менее нелепым? Это позволило бы нам предположить менее исключительный характер и тем самым взвалить на себя меньшее бремя невероятности.

11 сентября 2001 года девятнадцать мусульман угнали четыре реактивных авиалайнера, заведомо идя на самоубийство, чтобы навредить Соединенным Штатам Америки. Как вы думаете, почему они это сделали? Потому что они видели в США маяк свободы для всего мира, но родились с мутантской натурой, заставившей их возненавидеть свободу?

Будем реалистами, большинство людей не строят сюжет своей жизни так, чтобы быть в ней злодеями. Каждый — герой собственной истории. История Врага, какой её видит сам Враг, не выставляет его в дурном свете. Если вы попытаетесь приписать ему мотивы, которые выставляли бы Врага негодяем, вы в корне ошибётесь в том, что действительно происходит в его голове.

Но политика — это убийца разума. Споры — это война, аргументы — солдаты. Как только вы понимаете, на чьей вы стороне, вы обязаны поддерживать все аргументы этой стороны и атаковать все аргументы, которые, как кажется, играют на руку противнику; иначе это всё равно что наносить удар в спину своим же солдатам.

Если бы у Врага действительно была злая натура, это было бы аргументом в пользу вашей стороны. А любой аргумент в пользу вашей стороны должен быть поддержан, каким бы глупым он ни был, — иначе вы ослабляете натиск где-то на линии фронта. Все стремятся превзойти ближнего своего в патриотическом обличении, и никто не смеет перечить. Вскоре у Врага вырастают рога, крылья летучей мыши, появляется огненное дыхание и клыки, с которых капает разъедающий яд. Если вы станете отрицать любой из этих аспектов, руководствуясь чисто фактическими соображениями, вы выступаете на стороне Врага; вы предатель. Очень немногие поймут, что вы не защищаете Врага, а просто защищаете истину.

Если бы для совершения чудовищных вещей требовалось быть мутантом, история человечества выглядела бы совсем иначе. Мутанты были бы редкостью.

Или, возможно, за этим кроется страх, что понимание ведёт к всепрощению. Легче расстреливать злых мутантов. Гораздо более воодушевляющий боевой клич — кричать «Умри, злобная мразь!» вместо «Умрите, люди, которые могли бы быть точно такими же, как я, но выросли в других условиях!». Вы можете почувствовать вину, убивая тех, кто не был абсолютной тьмой.

На мой взгляд, это похоже на глубоко укоренившуюся тоску по таким однобоким дебатам о выборе стратегии, в которых наилучшее решение не имеет никаких недостатков. Если армия переходит границу или на вас с ножом бежит сумасшедший, варианты действий таковы: (а) защищаться или (б) лечь и умереть. Если вы защищаетесь, вам, возможно, придется убить. Если вы убьете того, кто в другом мире мог бы стать вашим другом, — это трагедия. И это действительно трагедия. Другой вариант, лечь и умереть, — тоже трагедия. Почему обязательно должен быть вариант без трагедии? Кто сказал, что лучшее из возможных решений не должно иметь недостатков? Если кто-то должен умереть, пускай это будет

1 ... 68 69 70 71 72 73 74 75 76 ... 457
Перейти на страницу:

Комментарии
Минимальная длина комментария - 20 знаков. Уважайте себя и других!
Комментариев еще нет. Хотите быть первым?