Мои музыкальные проекты

 

   Ищу дистрибьюторов для распространения CD  

 

Кто вы, робот? 2/3

Источник: «Техника молодёжи», №3, 1968 год.

Сегодня мы продолжаем разговор о роботах, начатый в первом номере нашего журнала.

Как вы помните, мы предоставляли слово писателю-фантасту А. Миреру. Он рассказал об эволюции «железных гомункулусов». А инженер-конструктор С. Житомирский трезво подошёл к необычной проблеме и предложил вполне работоспособную схему производственного робота. По сути дела, эти статьи лишь прелюдия к интереснейшей дискуссии.

Сразу оговоримся: под термином «робот» мы подразумеваем сложные искусственные механизмы, которые действуют подобно живому существу (в том числе и человеку), которые в фантастическом, гротескном виде обрисованы Карелом Чапеком. Если бы представление о роботах ограничивалось только обычными автоматами, вряд ли нужно было бы спорить о будущем этих машин. На «плечи» роботов лягут непосильные человеку работы. Но некоторые из учёных – их можно условно назвать «ультракибернетиками» – пошли дальше: они утверждают, что роботы обретут способность мыслить. А залогом тому, говорят «ультракибернетики», современные электронные счётно-решающие машины. И вот придуманное писателями-фантастами выражение «электронный мозг» (иногда даже без кавычек) перекочевало в научно-техническую литературу. Случается, журналист, рассказывая о «чудесах» автоматики на промышленных предприятиях, не преминет упомянуть об «умных» приборах контроля, регулирования и управления. Безапелляционно утверждается возможность создания искусственного «разума». Это стало даже для кое-кого из учёных хорошим тоном, признаком смелого, оригинального мышления. А фантасты? Удивительное дело! Они усомнились в гипотезе, выдвинутой ими же раньше их внимание переключилось на человека – на тайны его психики, на гигантские ресурсы мозга. Как ни парадоксально, именно сопоставление с вычислительными машинами помогло понять неимоверную сложность человеческого организма, и хотя Артур Кларк в своей книге «Черты будущего» предсказывает появление через полсотни лет роботов, которые ещё через 50 лет станут умнее человека, несмотря на всё это, видимо, и к концу XXI века человек не уступит «пальмы первенства» и останется самой экономичной интеллектуальной «машиной». По крайней мере так считает известный писатель-фантаст А. Днепров, статью которого мы сегодня предлагаем вашему вниманию.

С мнением А. Днепрова можно поспорить. Американский профессор Уайт (интервью с ним мы тоже публикуем сегодня) придерживается иной точки зрения. На его взгляд, опасность таится не в том, что робот превзойдёт человека, а в том, что человек может стать таким же покорным и безвольным, как робот. Впрочем, это тема для другого разговора. К ней мы ещё вернёмся в будущем.

Мы приглашаем читателей активно участвовать в нашей дискуссии. В одном из следующих номеров мы постараемся опубликовать обзор присланных в редакцию писем о роботах.

 

РОБОТЫ СЕГОДНЯ И ЗАВТРА

А. Днепров, наш научный обозреватель

Почти десять лет назад под впечатлением выводов логической теории автоматов, особенно теоремы Макколаха и Питтса, о том, что из искусственных нейронов (то есть обычных реле) можно построить схемы, способные выполнить любые алгоритмы, я написал «Суэму». Это рассказ про машину, которая могла делать всё, что делает человек, в том числе мыслить, спорить и принимать решения. В некотором смысле машина оказалась умнее своего создателя, и это в конце концов становится причиной острого конфликта.

Прошло немного времени, и наша отечественная литература запестрела романами, повестями, рассказами, где одним из действующих героев был некий «кибер», автомат, робот, наделённый интеллектуальными способностями. Он не только решал математические уравнения, но и сочинял стихи, музыку, создавал научные теории, шутил, спорил, ненавидел и любил.

Некоторые писатели быстро причислили роботов к живым существам. «Ультракибернетики» подогревали фантазию научными доказательствами, а опубликованная в 1960 году книга английского математика А. Тьюринга «Может ли машина мыслить?», казалось, превратила этот драматический вопрос в тривиальное утверждение: «Да, может».

Как-то Росс Эшби, известный биолог и кибернетик, с негодованием заявил: «Нечего спрашивать о возможности создания разумных машин. Инженеры и конструкторы создают их уже сейчас!»

Что же получается: несколько подключённых к сети металлических шкафов, начинённых полупроводниковыми и вакуумными элементами, проволокой и «блоками памяти», мыслят уже сейчас?!

Понадобились усилия многих учёных, чтобы доказать спорность такого вывода, а саму проблему перевести из области чистой математической логики в область, где стыкуются математика, кибернетика, биология, психология и многие другие науки.

Проблема «мыслящего робота» оказалась куда сложнее, чем предполагалось.

Нужно сразу же вывести научно-фантастических роботов за пределы серьёзного исследования. По сути дела, это вовсе не искусственные «киберы», а литературные герои с характером, одновременно свойственным и несвойственным живым существам. Некоторые из таких роботов можно действительно создать, и их с увлечением конструируют и в школьных технических кружках и в серьёзных научных организациях. При этом «кибернетические игрушки» создаются и изучаются вовсе не для доказательства или опровержения мыслящего робота, а для изучения поведения сложного электронного механизма в различных ситуациях. Искусственные «мыши», «черепахи» и «андроиды» создаются для ответа на конкретный технический вопрос: «Что возможно и что невозможно в автоматах?»

Удивительные свойства кибернетических моделей и поразительное сходство их поведения с поведением живых существ гипнотизируют, хотя никто не поверит, что знаменитые рефлексы нервной системы, открытые И. Павловым, осуществляются в организме при помощи трёх электронных ламп и нескольких сопротивлений.

Сходство и тождественность – принципиально различные понятия. Конечно, при помощи электронной схемы можно воспроизвести какое-либо свойство живого организма. Робота можно заставить двигаться, работать, «питаться» (электроэнергией), избегать опасностей, препятствий и саморазрушения. Его можно сделать обучаемым, капризным, своенравным, но можно ли его сделать мыслящим?

Прежде всего стоит призадуматься над тем решительным «да», которое произнесли и повторяют «ультракибернетики».

Представим себе машину, состоящую из нескольких металлических барабанов (число их не имеет значения), на которых записаны ответы на тысячи «ходовых» вопросов. Например, вопрос: «Как ваше здоровье?» Ответы: «Ничего, спасибо», «Так себе» или «Неважно». Вопрос: «А где вы сейчас работаете?» Ответы: «В одном институте», «На заводе», «Ушёл на пенсию» и т. д. Поместим такие барабаны в ящик с электрическим двигателем, а затем построим несложное устройство, которое будет при заданном вопросе выбирать и прокручивать подходящий барабан.

Ящик с барабанами мы упрячем в закрытую комнату, с которой установим телефонную или телеграфную связь. Теперь вам предлагают узнать, ведёте вы беседу с живым человеком или с набором стальных барабанов.

Весь фокус в том, что барабанов может быть очень много, а разработанный сценарий типичной беседы сколь угодно сложным. Поэтому трудно определить, кто или что находится за стенкой. Равно успешно можно «смоделировать» мужчину или женщину, профессора математики или торговца сигаретами, Пабло Пикассо или Христофора Колумба – в общем, кого угодно. Беседа может оказаться столь интеллектуальной и интересной, что вы окажетесь перед серьёзной дилеммой: кто собеседник – человек или удачный набор магнитофонных записей? Доказывает ли этот опыт, что ящик с барабанами – мыслящее существо?

Конечно, нет. Утверждать обратное – значит, отождествлять живого Шаляпина с граммофонной пластинкой, на которой записан его голос.

А ведь именно такими аргументами оперируют «ультракибернетики», предлагая построить мыслящий мозг из искусственных нейронов. «Нет никаких средств убедиться в присутствии или отсутствии интеллекта у робота, кроме как по оценке интеллектуальности ею поведения при столкновении с внешней средой», – говорят они.

Нелепость такой постановки вопроса была осознана ещё в первой половине XIX столетия. Английский математик Беббидж построил арифмометр, названный им аналитической машиной. Механическое устройство могло выполнять арифметические действия. Поднялась дискуссия – «мыслят или не мыслят» находящиеся в ящике зубчатые колеса? По этому поводу сестра Джорджа Байрона, леди Левлейс писала:

«Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнять всё то, что мы умеем ей предписать».

Таким образом, тщательное выполнение предписанной программы, какой бы сложной она ни была, не может служить доказательством мышления, которое может создать «что-то действительно новое».

Тем не менее отождествление работы человеческого мозга с работой электронной счётно-решающей машины продолжается. «Конструкция мозга», «Мозг как вычислительная машина», «Вычислительные машины и мышление», «Перцептроны и теория механизмов мышления», «Искусственный интеллект» и пр. – заглавия недавних статей и монографий, посвящённых кибернетике.

Вот типичная постановка проблемы, сформулированная в сборнике статей американских учёных «Вычислительные машины и мышление». Итак, ещё раз: «Может ли машина мыслить?» – «Нет, – пишут авторы, – если определить мышление как нечто свойственное только и исключительно человеку. В этом случае любое поведение машины, напоминающее мышление, следует назвать лишь «мыслеподобным» (!) поведением. Нет – если постулировать, что в самой сущности мышления есть что-то непостижимое, таинственное, мистическое. Да – если признать, что этот вопрос должен быть решён путём эксперимента и наблюдения, путём сравнения поведения машины с поведением человека, с которым мы обычно связываем понятие «мышление». Как видно из цитированного абзаца, «игра в имитацию» – единственная опора сторонников создания искусственного интеллекта. Если отвергнуть тезис о таинственности и мистичности мышления, остаётся лишь одно – мышление свойственно только человеку, подражание мышлению является всего лишь «мыслелодобным» поведением.

И не удивительно, на свете много проблем, которые машины не могут и вряд ли смогут когда-нибудь преодолеть.

Вот некоторые из них.

Машины не владеют эвристическим методом решения задач. Эвристикой называют основанные на прошлом опыте методы, уловки, хитроумные упрощения, которые позволяют решить задачу (не только математическую) кратчайшим путём. При более глубоком анализе эвристическое решение может оказаться не самым лучшим, хотя в большинстве случаев оно достаточно хорошее.

Машины не могут пользоваться методом индукции. Они не могут логически обобщать выводы, полученные из анализа частных случаев.

Машины не понимают человеческого языка.

Машины не могут самостоятельно ставить себе задачи.

Машины совершенно беспомощны в создании оригинальных произведений науки и искусства. Они не способны к творчеству. Подобно зубчатым колёсам Бэббиджа, они покорно и пунктуально выполняют любые, самые утончённые бюрократические указания, которые формулируются операторами в виде программ и алгоритмов.

Из всего этого явствует: современный искусственный «мозг» так же далёк от человеческого, как игрушечный робот – от живого существа.

Когда «ультракибернетики» говорят о машинном мышлении, они совершают методологическую ошибку. Они молчаливо предполагают, что можно создать искусственный орган мышления сродни мозгу, отделённому от человеческого тела. А ведь говорить, что человек мыслит при помощи мозга, так же нелепо, как говорить, что он дышит при помощи лёгких. Биологическая целостность организма и сложные взаимосвязи между всеми органами лишают смысла всякие попытки заставить изолированный мозг работать.

Отделённая голова собаки может «жить» некоторое время. Однако её функции, ограниченные элементарными рефлексами, не имеют ничего общего с мышлением. Бывает, человек падает в обморок, то есть прекращает мыслить, не из-за повреждения мозга. Он может потерять сознание, иногда навсегда, от серьёзного ранения любого органа – и это доказывает неотделимость мышления от всего человеческого организма. У нас нет никаких прав отождествлять голову профессора Доуэля с самим профессором. Сознание – первый признак активного мышления, и одно без другого не существует.

Если мозг – биологическое явление, то мыслящий мозг – вершина биологической эволюции. Его основная функция – руководить поступками человека, которые гарантировали бы ему физическую целостность и равновесие в условиях меняющейся внешней среды. Процессы мышления, какими бы абстрактными и сложными они ни были, обеспечивают человеку наиболее комфортабельное и плодотворное существование в Природе и в Обществе. Без способности к мышлению он неизбежно вошёл бы в острый конфликт с внешней средой, и исход был бы роковым. Психиатрия полна примерами подобного рода. Таким образом, с биологической точки зрения мышление абсолютно необходимо человеку для того, чтобы жить.

Развитие форм мышления от простого к сложному – социальное явление. Вне человеческого общества человек не может научиться мыслить. Тому немало примеров – вспомним хотя бы ««лесных» детей, воспитанных волчьей стаей. Некогда в адрес писателей-фантастов был брошен иронический упрёк о «скудости» их фантазии – они, мол, не догадались написать о мыслящей плесени. Этот упрёк совершенно неправомерен. Большинство умных писателей-фантастов понимают, что плесени мышление ни к чему. Недаром, чтобы подчеркнуть убогое мировоззрение фашистов, Эйнштейн однажды сказал: «Им не нужен головной мозг. Им достаточно спинного».

Проблема мышления и сознания многие столетия волнует человечество. Идеалистическая философия старалась отделить мысль от человека, дух от тела, передав проблему из области науки в область религии. Ложность и обречённость этих попыток прекрасно понимали философы-материалисты, и в наше время наука накопила достаточно важных и интересных фактов, которые доказывают неотделимость мышления от организма. Благодаря тщательным экспериментальным исследованиям пока что установлены не столько внутренние механизмы мышления, сколько процессы, их сопровождающие. Изучена электрическая активность мозга, проанализирована деятельность отдельного живого нейрона, в некоторых случаях воспроизведены схемы реальных нервных процессов, протекающих в организме.

Теория информации позволила анализировать мышление «в целом». Это привело к необычному выводу – проблема мышления и сознания тесно связана с ядерной физикой.

В самой структуре мозга много непонятного. Почему он такой огромный? 10 млрд. клеток обеспечивают мозгу около 210 000 000 000 различных состояний. Это, наверное, самая большая цифра, которая вообще имеет смысл (так, число Эддингтона – число всех «элементарных» частиц во Вселенной – равно всего 10106)! У современных же электронных машин число состояний не превышает 210 000.

Является ли такой огромный резерв мозга случайной расточительностью, прихотью Природы, или же он совершенно необходим, чтобы возникло качественно новое биологическое явление – мышление?

Скорость электрохимических импульсов, переносящих информацию по нервной системе, слишком медленна – всего 100-200 м в секунду. Почему Природа не пошла по пути создателей электронно-вычислительных машин, в которых сигналы распространяются почти со скоростью света?

Как человеческий мозг может обходиться без органа памяти? Где находится то, что мы запоминаем? Существует или не существует в мозге «центральный пульт управления», который предписывал бы нам сейчас, например, думать о погоде, а через минуту составлять отчёт работы?

Таких вопросов можно набрать тысячи, и, пока они не решены, утверждать категорически о реализации искусственного мышления по крайней мере слишком смело. Более того, мне кажется, проблему мышления нельзя решить, не выяснив предварительно вопрос о возникновении жизни вообще.

Некоторые учёные – К. Тринчер в СССР, Г. Кастлер в США – ставят под серьёзное сомнение существующую теорию происхождения живой материи из неживой. Старший научный сотрудник института биохимии Академии наук СССР, доктор химических наук Карл Тринчер пришёл к выводу, что «живая материя представляет собой динамическую структуру, которая работает при температуре разрушения своей структуры». Анализируя термодинамику деятельности такой уникальной структуры, учёный доказал, что ничего подобного нельзя искусственно создать из неживой материи, что сама постановка проблемы синтеза жизни в «пробирке» в условиях лаборатории представляется более чем спорной.

Скорее всего на жизнь нужно смотреть, как на космическое явление. По-видимому, она возникла в настоящей форме одновременно с неживой материей примерно 2-5 млрд. лет назад. Это как бы ещё одно, «пятое», состояние вещества. Воспроизвести в лаборатории условия миллиардолетней давности – дело весьма сомнительное. Разве можно «перепрыгнуть» пропасть времени космического масштаба?

Профессор Колумбийского университета М. Таубе в книге «Вычислительные машины и здравый смысл» по поводу поборников «искусственного разума» писал: «...следует либо прекратить болтовню об этом, либо принять на себя серьёзное обвинение в том, что они (сторонники машинного интеллекта. – А. Д.) сочиняют научную фантастику с целью пощекотать читателям нервы и в погоне за лёгкими деньгами и дешёвой популярностью».

Эти слова, сказанные, может быть, слишком грубо, отражают беспокойство учёных, которые ясно видят глубокое отличие человеческого мышления от «мыслеподобного» поведения роботов.

Возвращаясь к заголовку статьи, я думаю, что «праправнуки» современных роботов будут вести себя всё более «человекоподобно», или, вернее, так, как это необходимо их создателям – людям. Будущая техника извлечёт максимум того, что можно извлечь из бурно развивающейся кибернетики, но этот процесс не имеет ничего общего с проблемой космического масштаба – с проблемой возникновения разума на Земле. 

 

РОБОТ С ЧЕЛОВЕЧЕСКИМ МОЗГОМ?

«На мой взгляд, более не существует разграничительной линии между наукой и научной фантастикой», – сказал американский профессор Уайт журналистке Орьяне Фаллачи. Профессор имел полное право на такое смелое заявление. Недавно впервые в истории медицины он сделал уникальную операцию – отделил мозг макаки Либби от черепной коробки, соединил перерезанные вены и артерии с кровеносной системой другой обезьяны и в течение четырёх с половиной часов исследовал изолированный живой мозг.

Этот дерзкий эксперимент приближает то время, когда люди научатся не только извлекать мозг, ко и управлять, «командовать» им. Невольно вспоминается фантастический роман Олдоса Хаксли «Лучший из миров», в котором рассказывается о том, как на гигантском заводе будущего серийно выращивают людей. Эти «гомункулусы» разбиты на касты и заранее предназначены для определённой работы (за 15 лет до Хаксли эту же идею описывал Ф.Ильин в своём романе «Долина Новой жизни» – прим. Demetrius). Каста «чёрного труда» заведомо лишена «добавочных» размышлений. С этой целью в колбы с зародышами добавляют алкоголь. Выращенные существа сохраняют человеческий облик. Но мозг их, доведённый до крохотного рудимента, застыл и подчинился вбитой «логике». Люди превратились в легко управляемых роботов.

Не такое ли жуткое будущее предвещает операция профессора Уайта? Имеем ли мы моральное право на подобные эксперименты? Видимо, эти вопросы волновали и журналистку. Вот что пишет она во французском еженедельнике «Нувель обсерватёр»:

«Я встретилась с профессором Уайтом в «Кливленд мэтрополитан госпитал», где он руководит отделением нейрохирургии и лабораторией, исследующей деятельность мозга.

– Не страшитесь ли вы последствий, которые могла бы иметь ваша работа?

– Сегодня существует опасность, какой не было лет двадцать назад. Становится возможным контролировать побуждения и действия человека после впрыскивания определённых химических веществ или введения электрода в часть его мозга. Не исключено, что данное научное открытие может попасть в руки людей, которые воспользуются им, чтобы выращивать человекороботов. Однако подавляющее большинство учёных сознают эту опасность и отнюдь не расположены предоставлять подобные завоевания в руки политиков. Руководство химических лабораторий американской армии столкнулось сейчас с большими трудностями: оно хочет добиться у исследователей согласия на работы, которые могут быть использованы в военных целях. В Пенсильвании в связи с этим разразился грандиозный скандал. Другими словами, если в настоящее время наука позволяет контролировать поведение человека, то мы ещё очень далеки от того, чтобы подвергать человека риску быть превращённым в домашнее животное, в робота.

И все-таки... все-таки это может случиться... Вдумайтесь в это: сейчас стало возможным пересадить голову с одних плеч на другие, отныне можно изолировать мозг человека и заставить его функционировать отдельно от тела.

ТРЕТЬЯ ЧАСТЬ






www.etheroneph.com

Facebook

ВКонтакте