Роботы и мораль

По мере развития науки и техники вычислительные машины и роботы освоят различные сферы деятельности человека. При этом возникнет общество людей и роботов, которое можно назвать человеко-машинным социумом. В какой мере сохранится человеческая мораль в этом социуме, насколько машина сможет изменить устоявшиеся нормы нравственности? Этот вопрос требует специального рассмотрения, однако некоторые его аспекты мы затронем.

Прежде всего заметим, что роботы сами по себе лишены морали; они являются лишь носителями нравственных норм человека и в таком качестве могут влиять на нравственность самого человека и человеко-машинного социума в целом. В большинстве научно-фантастических романов роботы наделяются моральными качествами, которые, по существу, являются отражением соответствующих человеческих норм поведения. Так, известные три закона робототехники А. Азимова представляют собой до крайности упрощенную формализацию этических норм, существующих в обществе. По Азимову, получается, что, если некто исполняет все законы робототехники, он или робот, или высоконравственный человек [92].

Утверждения о том, что робот может быть наделен моральными качествами, можно встретить не только на страницах фантастической литературы. Есть и научные работы, в которых рассматривается, например, возможность создания машины, которая обладала бы совестью [93]. Следует подчеркнуть, что в таких работах на самом деле речь идет не о морали роботов, а об имитации ее проявлений. Различие принципиальное. Не так сложно заложить определенные правила поведения в систему управления робота, однако понятия, лежащие в основе нравственного поведения человека,- добро и зло, любовь и ненависть, доверие, надежда и т. п.- бессмысленны для робота. Эти понятия социальны и поэтому могут быть усвоены только человеком в процессе его общественной жизни и на основании индивидуального социального опыта. Действительно, как, к примеру, реализовать принцип "робот не может причинить вред человеку"? В простейшем случае, например, чтобы промышленный робот не травмировал человека, возможны соответствующие ограждения, самовыключение робота при неисправности системы управления и т. п. Но в общем случае, чтобы решить, что вредно для человека, нужно знать самого человека, образ его жизни, взаимоотношения с окружающим миром, правильно понимать конкретную ситуацию, наконец, чувствовать, что в данном случае есть зло для данного человека, а что добро.

Итак, нравственность остается прерогативой человека. Каким же образом робототехника может повлиять на нравственность?

Автоматизация и жесткая рационализация производства нередко приводят к тому, что на производстве человек работает тем успешнее, чем глубже он освоил узкий круг своих обязанностей. Такая оценка иногда начинает переноситься и на сферу внепроизводствепных отношений. Как пишет Д. Гранин, "личность начинает иногда цениться в первую очередь по ее знаниям, по ее способностям - научным, техническим, организаторским. Общительность, доброта, правдивость - то, что так украшает жизнь и так нужно окружающим людям,-в этих условиях формально не учитываются, меньше значат, чем умение обслужить машину и дать норму" [94]. Это приводит к прагматизму, рационалистическому отношению к жизни и к людям; требование немедленной пользы, отдачи иногда воспринимается как один из принципов научно-технической революции. Появляется односторонне развитый человек-функция. Вопросы всестороннего развития личности как бы теряют свою актуальность в глазах общества. Эти тенденции проявляются, в частности, в снижении интереса к искусству, литературе, музыке.

Прагматизм, утилитарное отношение к жизни не имеет социальных корней в нашем обществе. Научно-техническая революция при социализме является не самоцелью, а средством развития, самовыражения личности - гармонически развитой, социально активной. Однако при этом появляются задачи воспитания личности - помочь ей реализовать возможности, предоставляемые обществом.

Возможны и другие формы влияния роботизированного производства на человеческие взаимоотношения, в частности руководителя и подчиненного. Руководитель - "машинопоклонник" (о котором писал Н. Винер) [95, с. 64] предпочитает сотрудников, у которых исполнительность превалирует над инициативой. Такой "машинопоклонник" предпочитает машину человеку не только за точность, быстродействие и т. п., но и за возможность переложить ответственность за принятие решений на ЭВМ, которая обладает бесспорной объективностью.

Еще один важный этический аспект робототехники связан с ответственностью ученого. Особенно остро этот аспект проявляется в капиталистическом обществе, где в его основе лежит проблема использования новейших научных результатов в интересах, далеких от интересов общества. Очевидно, и в данном случае машина не страшна сама по себе, а все дело заключается в доброй или злой воле людей, которые ее используют.

В книге "Кибернетика и общество" Н. Винер указывает на еще одну "опасность" вычислительных машин, заключающуюся в том, что машины, безвредные сами по себе, "могут быть использованы человеком или группой людей для усиления своего господства над остальной человеческой расой, или в том, что политические лидеры могут попытаться управлять своим народом посредством не самих машин, а посредством политической техники, столь узкой и индифферентной к человеческим возможностям, как если бы эта техника действительно вырабатывалась механически" [96]. Одним из аспектов такой политики является использование вычислительных машин для контроля над личностью. Опасность представляет накопление с помощью ЭВМ информации относительно всех сторон личности, ее социальной активности, политических мнений, связей и т. п., что создает угрозу ее суверенитету. Разумеется, эта угроза возникает не со стороны машин, а со стороны людей, их использующих.

В определенной мере такие информационные данные в памяти ЭВМ, например, о сотрудниках какого-либо предприятия могут, конечно, использоваться и в социалистическом обществе. При ответственном отношении к таким данным они значительно облегчают работу отдела кадров. Возможны и банки данных, создаваемых с определенной целью; например, сейчас обсуждается вопрос о создании справочно-информационной службы в области права. Однако этика социалистического общества ограничивает применение машин в этой области. Пределы создания и использования банков социальной или личностной информации устанавливаются в соответствии с интересами личности, принципами нравственности, нормами социалистического права.

Проблема этических ограничений, по-видимому, будет сохраняться с развитием робототехники, так как робототехника может затронуть весьма существенные стороны человеческой жизни. Например, среди прогнозов в этой области, кажущихся вполне реальными,- создание кибернетических организмов - киборгов, представляющих собой симбиоз человека и робота. Протезирование сегодня позволяет оснащать человека искусственными конечностями, искусственными органами кровообращения, дыхания и т. п., и протезы настолько совершенны, что человек, оснащенный ими, продолжает вести активную жизнь. Можно представить, что на какой-то стадии развития протезирования встанет вопрос о том, где проходит граница между человеком и киборгом. Функциональные возможности такого организма могут быть специализированы, например, для работы в космосе или под водой. Возможно, продолжительность его жизни возрастет. Однако возникнут и сложные этические проблемы, поскольку нарушается суверенитет личности, открываются возможности использования личности вопреки ее желанию. И наконец, возникает вопрос: является киборг личностью или роботом?

Если говорить о еще более удаленной перспективе, в которой, по выражению Н. Винера, человека можно будет закодировать и передать по телеграфу, то этические проблемы, связанные с такой передачей, еще более возрастут. Отметим хотя бы проблему возникновения помех (в том числе умышленных) в канале предполагаемой связи.

Можно ли полагать, что этические проблемы, о которых мы только что говорили, решаются сами собой, с учетом этики, свойственной научной работе, и моральных обязательств ученых? Среди западных ученых нередко высказывается именно такая точка зрения, поэтому отрицается необходимость государственной и общественной регламентации науки. Сами дискуссии об этических проблемах науки объявляются тормозящими ее прогресс.

Такая точка зрения неверна. Наука не может регулироваться лишь на этическом уровне, так как этические принципы в науке не могут рассматриваться изолированно от других форм ее ценностной ориентации, прежде всего от социальных факторов, разных, а иногда и противоположных при капитализме и социализме [97]. Необходимо управление наукой со стороны общества и в этой этической сфере. Например, путем разработки этических кодексов (в будущем обязательно единых, наднациональных), которые относились бы к сфере научных исследований, затрагивающих жизненные интересы людей, в том числе и в сфере робототехники.

Обсудим еще один аспект, связанный с взаимодействием человека - носителя морали и робота, лишенного моральных установок. Отдавая указания роботу, человек всегда предполагает, подразумевает определенные моральные нормы, которые должны быть соблюдены при выполнении задания, в то же время робот свободен (или частично свободен) от этих норм. На серьезность возникающих при этом задач обращал внимание еще Винер: "Если вы ведете игру, соблюдая все правила, и настраиваете машину так, чтобы она играла на выигрыш, вы получите его - если получите что-либо вообще,- но при этом машина не обратит ни малейшего внимания на любые соображения, за исключением тех, которые согласно установленным правилам, приводят ее к выигрышу. Если вы ведете военную игру с некоторой условной интерпретацией победы, то победа будет достигнута любой ценой, даже ценой уничтожения вашей собственной стороны, если только сохранение ее жизнеспособности не будет совершенно четко запрограммировано в числе условий победы" [95, с. 70]. Однако и в более частных задачах желание человека всегда выражается неточно, и непонимание роботом того, что на самом деле имел в виду человек, каковы его истинные цели, может приводить к катастрофическим последствиям.

Каков же вывод из предполагаемой сложности "общения" человека с механическим существом, лишенным человеческой морали? Во-первых, такое "общение" потребует контроля человека над роботом во всех случаях, когда последний выполняет ответственное поручение. Какова бы ни была сложность задач, самостоятельно решаемых роботом, необходимость контроля не отпадает - она определяется, в частности, и моральными нормами, достаточно развитыми у человека. В противном случае может возникнуть соблазн отдать роботу указание, приводящее к цели, но нравственно неприемлемое - его не стал бы выполнять сознательный человек-исполнитель, но робот выполнит.

Значит, человеко-машинный социум предъявляет повышенные требования к нравственным качествам человека - эти качества должны сохраняться и развиваться, несмотря на отсутствие той активной "обратной связи", которая характерна для современного общества и проявляется как общественное осуждение.

Итак, роботизация связана с некоторыми "опасностями", реальными и, быть может, мнимыми. Однако не стоит преувеличивать страх перед этими опасностями, который возникал всегда при столкновении человека с новым, неприличным. Академик А. Н. Колмогоров писал по этому поводу: "Развитие науки многократно приводило к разрушению привычных для человека иллюзий, начиная с утешительной веры в личное бессмертие. На стадии полузнания и полупонимания эти разрушительные выводы науки становятся аргументами против самой науки, в пользу иррационализма и идеализма. Дарвиновская теория происхождения видов и павловское объективное изучение высшей нервной деятельности неоднократно изображались как принижающие высшие стремления человека к созданию моральных и эстетических идеалов. Аналогично в наше время страх перед тем, как бы человек не оказался ничем не лучше "бездушных" автоматов, делается психологическим аргументом в пользу витализма и иррационализма" [98].

Вместе с тем нельзя не учитывать, что каждое новое крупное достижение науки и техники подвергается фетишизации в общественном сознании. Этой участи не избежали вычислительные машины и роботы. При появлении мощных ЭВМ возникла уверенность, что они вот-вот решат проблему машинного перевода, станут играть в шахматы на уровне мастера и т. д. В свою очередь, это породило поток статей (рассчитанных на массового читателя), где описывались необыкновенные способности машин. И сейчас нередко можно прочесть, что робот научился понимать человеческую речь, что он вот-вот заменит человека на производстве, при проектировании изделий, их сборке по чертежам и т. д. Не приводит ли это к выводу, что человек постепенно освободится от труда, в том числе и умственного?

Это опасное заблуждение, так как возможность удовлетворения всех потребностей, не связанная с активной творческой деятельностью, неизбежно привела бы к духовному регрессу, вырождению личности. Как пишет И. Винер, "будущее оставляет мало надежд для тех, кто ожидает, что наши новые механические рабы создадут для нас мир, в котором мы будем освобождены от необходимости мыслить. Помочь они нам могут, но при условии, что наши честь и разум будут удовлетворять требованиям самой высокой морали. Мир будущего потребует еще более суровой борьбы против ограниченности нашего разума, он не позволит нам возлежать на ложе, ожидая появления наших роботов-рабов" [95, с. 80].

Роботы коренным образом изменяют форму и содержание трудовой деятельности человека, поднимают культуру труда, делают его более интересным и квалифицированным [99]. Но труд всегда будет органически свойствен человеку. Труд создал человека, и вне труда невозможно его полноценное существование.