9.4. Проблема инопланетян. Мышление роботов

Как-то после окончания одного из научных семинаров, когда все устали и каждому хотелось отвлечься, зашел один из неофициальных полунаучных разговоров, самых интересных из тех, которые иногда ведут ученые. Был затронут вопрос о том, смогли бы или нет инопланетяне, наблюдая издали за нашей планетой, определить, какие из движущихся предметов являются живыми существами, а какие - машинами. Кто-то высказал мысль, что по всем признакам автомобили были бы признаны живыми существами. Они питаются (бензином), в них происходит обмен веществ (сгорание бензина в двигателях и замена износившихся деталей новыми), они размножаются (на заводах, подобно тому, как люди в родильных домах). Они организованно снуют по улицам, и люди, которые им, по-видимому, подчиняются, уступают им дорогу. И тут ныне покойный профессор А. А. Ляпунов рассказал коротенькую историю.

"Представьте себе,- сказал он,- что Землю посетил инопланетный космический корабль и на нем находились космонавты. Завязались сношения, началось взаимное изучение, обмен научной информацией. Потом инопланетяне покинули землю и через некоторое время прибыл новый космический корабль с той же планеты. Сразу было видно, что новая экспедиция знакома с материалами предыдущей. Но чем-то новые космонавты отличались от предыдущих. И вот однажды они рассказали, что, не зная, пригодны ли для их жизни условия на земле, они в прошлый раз присылали роботов. После этого у наших ученых сразу же возник вопрос: кем же являются новые космонавты? Живыми существами или роботами?"

Кто-то спросил: а можно ли вообще вступить в контакт с инопланетянами? Ведь они могут и не быть сколько-нибудь похожи на людей, и средства обмена информацией у них могут быть не такие, как у нас. Например, вместо звуковой речи у них может быть какая-нибудь ультрафиолетовая сигнализация или, хуже того, сигнализация с помощью гравитационных волн, которых мы не воспринимаем своими органами чувств и о существовании которых еще ничего не знаем.

Задумаемся и мы об этом, привлекая на помощь наши знания из области кибернетики и теории роботов.

Рис. 9.3. Схема системы управления при контакте с инопланетянами

При вступлении в контакт с мыслящими существами нужно наладить обмен информацией с ними; а мы знаем, что информация как форма связи существует только в системах управления. Для того чтобы общаться, нужно создать систему управления, объединяющую коллектив инопланетян и коллектив жителей земли. Эквивалентная схема такой системы управления приведена на рис. 9.3, но такая система управления возникает не сразу, а на втором этапе, когда между двумя цивилизациями уже установлен контакт и уже происходит общение. Эта система управления имеет структуру очень сложную. Ее элементами являются земляне (члены контактной группы) и инопланетные пришельцы (члены экспедиции). И те и другие оснащены соответствующими техническими средствами, о которых я умышленно не говорю, так как их состав зависит от конкретных условий, которые мне неизвестны. Ближней внешней средой являются две цивилизации: человеческое и инопланетное общества (если допустить, что инопланетная цивилизация, подобно земной, является системой индивидуумов, что заранее не известно).

Рис. 9.4. Схема первого контакта двух систем управления; каждая из них является ближней внешней средой для других

На первом же этапе, когда два коллектива только узнают друг друга, картина иная (рис. 9.4). Имеются две системы управления, каждая из которых стала ближней внешней средой для другой и каждая из которых изучает другую. Когда и как происходит слияние двух систем управления в одну, это проблема в настоящее время не исследованная.

Рассмотрев кибернетическую сущность общения двух цивилизаций, мы легко поймем, сколь сложна эта проблема, не говоря уже о чисто технических трудностях, которые были упомянуты вначале.

На сколько же более сложной является проблема установления связи с инопланетной цивилизацией, если эта цивилизация и мы друг о друге ничего не знаем и не можем исследовать друг друга! Какие-то излучения, приходящие с расстояния, измеряемого сотнями световых лет, некоторые фантасты от науки принимают за сигналы и отвечают на них отправлением в космос сигналов, которые будут восприняты (если вообще будут восприняты) через сотни лет. При этом всерьез обсуждается вопрос о том, каким кодом и какие земные сведения нужно передавать для того, чтобы мыслящие ' инопланетяне догадались, что это сигналы и что отправлены они мыслящими существами. Например, рекомендуют передавать (и притом многократно!) короткие коды, означающие что-то вроде (2*2 = 4), (2*2 = 4), ..., или (3² + 4² = 5²), (3² + 4² = 5²),... Однако, во-первых, известно, что, чем короче текст на неизвестном коде, тем его труднее расшифровать, во-вторых, еще вопрос, мыслят ли инопланетяне такими категориями, как целые числа, в-третьих, надеются ли они вообще получить сигналы, в-четвертых, существуют ли они на таком расстоянии от нас, на которое можно нашими средствами передать радиосигналы ... и т. д. Я смотрю на эти затеи пессимистически.

Поднятые нами вначале вопросы близко соприкасаются с проблемой мышления роботов. Ведь началось все с истории о том, как под видом инопланетян на землю прибыла экспедиция инопланетных роботов (мы-то посылаем своих роботов на Луну, на Венеру, на Марс; почему бы и к нам не могли быть засланы роботы?), и наши ученые приняли их за мыслящие существа. Возможно ли это, если не сегодня, то в будущем (я говорю не о засылке роботов, а о создании роботов, которые мыслят)? Этот вопрос, давно интересующий ученых, подвергался исследованию и получил, в общем-то, благоприятные ответы.

Точка зрения на мышление, как на свойство, присущее только людям, предполагает заранее отрицательный ответ на вопрос о возможности мышления у роботов. Они ведь не люди. Но на чем основывается такая точка зрения? Известный ученый М. Тьюринг говорит, что она происходит от тезиса, что мышление - это свойство бессмертной души, которая бывает только у людей. Но мне приходилось слышать и другое обоснование этой точки зрения. Ссылаясь на Ф. Энгельса, говорят, что мышление - это высшая форма движения материи, происходящая в человеческом мозгу. Робот - не человек, значит, в его устройствах эта высшая форма движения происходить не может. Но в том-то и дело, что хотя высшая форма движения происходит в человеческом мозгу, но это не значит, что нигде больше она происходить не может. Такого Энгельс не утверждает. ;

Лично я не вижу никакого основания считать мышление привилегией человека, тем более, что среди людей имеются индивидуумы, которые безусловно не обладают способностью мышления (например, идиоты), т. е. явно лишены этой "привилегии".

Нельзя не согласиться с мнением, что ответ на вопрос о возможности мышления существенно зависит от того, что понимать под словом "мышление". Однако такие определения мышления, как "способность правильно отражать объективную действительность", слишком туманны для того, чтобы пытаться на их основе доказать возможность или, тем паче, невозможность мышления роботов. К тому же при мышлении происходит правильное отражение объективной действительности, но это же происходит и в роботах, например, поддерживающих постоянную температуру, хотя такие роботы явно не являются мыслящими.

В своей книге "Может ли машина мыслить?" [17] М. Тьюринг обходит этот вопрос, считая его слишком трудным. Вместо этого он предлагает сравнивать машину с человеком, в отношении которого не вызывает сомнения наличие способности мыслить. В качестве критерия, по которому производится сравнение, он предлагает применить частоту положительных исходов в некоторой игре.

Игра Тьюринга заключается в следующем. В ней участвуют трое: отгадчик, плохой и хороший. Отгадчик задает вопросы и по ответам должен угадать, первый или второй из его оппонентов является плохим. Ему известны лишь номера оппонентов, присвоенные им по жребию. Плохой своими ответами старается ввести отгадчика в заблуждение, а хороший - ему помочь. Игроки друг от друга изолированы и между собой незнакомы. Предполагается, что они играют добросовестно. Для сравнения сперва игру проводят с участием людей, вычисляют частоту правильных отгадываний, потом, не информируя отгадчика и хорошего, заменяют плохого машиной и снова определяют частоту правильных отгадываний. Если частота не изменилась или понизилась делают вывод, что машина обладает способностью мыслить.

Точка зрения Тьюринга была подвергнута критике американскими учеными К. Шенноном и Дж. Маккарти, которые считали ее недостатком то, что в ней не делается различия между операционным способом получения машинной ответов и (возможном при большом объеме запоминающих устройств) способе получения ответов по заранее заготовленной таблице-справочнику. Дескать, есть различие между решением задачи путем "размышления" и вы-В бором из таблицы готового ответа.

Советские ученые Д. А. Поспелов и В. Н. Пушкин [14] присоединяются к этой критике, исходя из того, что одинаковое внешнее поведение еще не означает тождественности структуры внутренних процессов, обуславливающих это поведение.

Мы с вами, читатель, не будем спешить и сразу высказывать свое мнение, В но все же возразим этим критикам. Первым двум я позволю себе сказать, В что в некоторых случаях поиск ответа в справочнике сложнее решения путем "размышлений", да и предварительное составление справочника тоже В нелегкое дело. Практика говорит, что необходима комбинация операционного и табличного способов и именно такая, которая делает решение задачи более простым. Но к этому мы еще вернемся. Что же касается вторых двух критиков, то их подход связан с тем, что они заняты именно анализом человеческого мышления, а не мышления вообще. Нельзя требовать, чтобы структура процессов в живой и чрезвычайно сложной системе управления была та же, что и в искусственной. И, конечно, встретив инопланетянина, мы не сможем вскрыть его "мозг", чтобы решить вопрос о том, мыслит он или В нет. Нам придется судить об этом по его поведению.

Попробуем, если не определить, что такое мышление, то определить некоторые его компоненты. Можно ли считать, что человек является мыслящим, В если он не способен ни к какому выводу следствий из посылок? Я думаю, В что способность производить логический вывод является необходимым атрибутом мышления. Мы знаем, что существуют программы, выполняя которые, ЭВМ производят вывод всевозможных теорем из аксиом или следствий из посылок. Значит, в принципе, и робот может обладать "способностью" логического вывода.

Определенный интерес для нас представляет мнение юристов о способности мышления. У них эта способность приобретает вид так называемой вменяемости. Человек называется вменяемым, если он способен-сознавать значение своих поступков и руководить ими. Под значением поступков юристы понимают их оценку в смысле соответствия законам. Это, конечно, сугубо ^профессиональный подход к проблеме, но кое-что из него можно извлечь и | для своих целей. Для того чтобы сознавать значение поступков, человек, во-первых, должен знать некоторое число законов, хотя бы в самом общем виде, а для этого необходимо иметь в памяти определенное количество сведений и уметь их извлекать из памяти. Значит, нужна память и средства доступа к ней. Но кроме того нужно сознавать свои поступки и видеть их результаты.

Нужно в памяти иметь модель среды и свою собственную модель. Мы знаем, что все эти компоненты мышления возможны у роботов соответствующей сложности.

Наконец, необходимо уметь решать некоторые задачи для конкретных условий. Именно этого и требует М. Тьюринг от машины, правда, в несколько своеобразной форме: он требует, чтобы машина была способна вводить в заблуждение не хуже, чем человек. Я считаю, что задача выбрана Тьюрингом несколько произвольно, можно мыслить и не умея быть ловким обманщиком, но, во всяком случае, Тьюринг заметил одну из существенных компонент мышления: умение решать задачи, требующие при наиболее примитивном подходе выполнения большого перебора вариантов и их оценки.

Наличие всех перечисленных компонентов безусловно необходимо для того, чтобы можно было утверждать, что способность мышления в наличии. Но достаточно ли этих компонентов, еще трудно сказать. Можно добавить, пожалуй, еще требование, чтобы все решения принимались системой (роботом) в реальном масштабе времени, т. е. чтобы реакция робота соответствовала состоянию внешней среды, а не отставала от нее. Но это имеет место всегда, когда система управления и робот конформны, т. е. это входит в определение понятия робота.

Итак, анализируя понятие мышления, мы не нашли никаких оснований утверждать, что мышление роботов в принципе невозможно.