Блокировка для Терминатора

Человеческое стремление к вершинам науки и техники неистребимо. Мысли об искусственном интеллекте, а также о кибернетическом организме - искусственном человеке, не только сокрушающем все и вся, но и принимающем решения - не оставляют головы людей.

Но нет-нет да и возникнут опасения, что наша цивилизация, управляемая, мягко говоря, «несовершенными» мозгами, и впрямь может быть покорена неким стройным рукотворным интеллектом. А то, что этот интеллект будет создан людьми же, со всеми их человеческими недостатками - в данном случае, не успокаивает. Человечество уже много раз получало весьма неприятные сюрпризы от своих творений.

Обыграть Каспарова — не самое трудное

Ведутся ли в нашей стране работы по искусственному интеллекту? Ответы, данные корреспонденту «Росбалта» в Институте прикладной математики Российской академии наук (ИПМ имени М.В. Келдыша РАН ) и в Высшей школе экономики, звучали крайне осторожно. Движение есть, и определенные достижения на этом пути есть. Но все это - дело будущего, в том числе и на Западе, где научное финансирование несопоставимо выше.

«Страхи по поводу искусственного интеллекта, который будет умнее человека, во многом надуманы. Может быть, раньше Солнце погаснет», - считает главный научный сотрудник ИПМ РАН Владимир Павловский.

Как напомнил ученый, «искусственным интеллектом» можно назвать такой, условно говоря, «мозг», который бы «начал принимать самостоятельные решения, не имея задания от какого-то источника, будь то человек или сложная система, и не подчиняясь этим заданиям». До решения этой задачи еще очень далеко.

«Определение искусственного интеллекта дал еще Алан Тьюринг, - отметил заведующий отделом ИПМ РАН Михаил Горбунов-Посадов. - Если вы разговариваете с кем-то, кого вы не видите, и при этом не можете отличить человека от системы, то да, это искусственный интеллект. Сейчас это достигнуто. Сейчас система IBM способна ввести в заблуждение: она никак не хуже. Однако человек же может не только разговаривать, но и делать, создавать что-то новое. Вот, этого пока нет».

Горбунов-Посадов и его коллега Юрий Бухштаб в молодости стояли у истоков отечественных работ по искусственному интеллекту, начатых в середине 1960-х гг. Тогда Горбунов-Посадов участвовал в работах по организации машинного перевода, а Бухштаб - в создании шахматных компьютеров.

«Современный переводчик, который «Гугл» использует, не основан на искусственном интеллекте: он достаточно лобовой, - рассказал Горбунов-Посадов. - А замысел-то был в том, чтобы понимать прагматику. Не просто каждую фразу механически перевести, запомнить и сохранить, а понять ее смысл и может быть, даже подтекст. Сейчас то, что работает, удобно. Но там не ставится даже близко задача понять смысл переводимого».

«В шахматах, как известно, продвинулись так, что выиграли у чемпиона мира Гарри Каспарова, - отметил Бухштаб. - Фундаментальная база под то, что успешно работает, была подведена. Но это очень узкая конкретная область с конкретными правилами. Распознавание образов и текстов».

Даже указанные выше конкретные успехи наглядно показывают, насколько далека еще наука от создания действительно искусственного интеллекта. Появление такой системы, которая сможет осознавать себя как некое «Я» по типу человеческого разума - задача, несопоставимая по сложности даже с шахматной игрой.

«Создание искусственного интеллекта - вполне реальная перспектива, - отметил корреспонденту «Росбалта» один из ведущих специалистов в данной области, нейробиолог Михаил Лебедев, много лет работающий в США в Университете Дюка. - Уже сейчас роботы и компьютеры становятся умнее и умнее. В некоторых задачах (например, быстро прочитать 100-томную энциклопедию и найти нужный ответ) они намного опередили возможности человеческого мозга, в других (распознавание изображений, распознавание и синтез речи) подтягиваются».

«Конечно, со многими задачами человеческий мозг справляется лучше (так называемое абстрактное мышление, или из области контроля движений - ходьба на двух ногах), но я думаю, что улучшение компьютеров и роботов в этих областях - лишь дело времени. С точки зрения вычислений, мозг не делает ничего такого, что бы ни смогла сделать машина, - отметил Лебедев. - Однако извечный вопрос - может ли компьютер обладать сознанием, чувствовать, испытывать эмоции - остается. Его разрешить нелегко».

В том-то и дело.

До муравья еще далеко

«Передним краем» науки, ближе всего подошедшей к искусственному интеллекту, а в особенности - к кибернетическому организму, является робототехника. Собственно, «программа-максимум», которой задавались писатели-фантасты и ученые, стремящиеся воплотить фантастику в жизнь - ни много ни мало, достижение бессмертия человека путем перемещения его «Я» в машинное тело.

«Вы знаете такой проект «Россия-2045?» У них была идея: давайте кибернетическими средствами подарим человечеству бессмертие, - рассказал Владимир Павловский. - Механическое тело, ультрасовершенный андроидный робот. Биологическая система управления, включая погружение туда мозга человека. Я там бывал и слышал эти теории, но думаю, что это все-таки спекуляции».

«Хотя теоретически «сживление» кибернетического и живого возможно, - отметил ученый. - Но мозг обладает необозримым числом связей. Даже муравей имеет около 1 млн нейронов. Разберитесь в них! А здесь, в человеческом мозгу, их миллиарды».

Сотрудники ИПМ РАН, которые как раз занимаются роботами, хорошо знают, как на самом деле трудно обучить робота даже простой двуногой ходьбе по образцу человека.

«Знаете японский робот «Азимо» - вот он еще как-то действительно ходит. А остальные все такие неуклюжие!» - заметил Владимир Павловский. Хотя успехи есть - Павловский с очень осторожным оптимизмом оценивает достижения в конструкции «экзоскелетов», призванных помочь ходить парализованным.

«Недавно у нас решалась задача для шестиногого робота, - рассказал Михаил Горбунов-Посадов. - На полу два шара. Роботу требуется взобраться на первый шар, подкатить его ко второму, перелезть на него и с него спуститься. Задача не только для человека - вообще для любого животного на Земле неподъемная: очень нетривиальный баланс».

«Есть такая постановка, как футбол роботов, - добавил Павловский. - Был клич: в 2050 году команда роботов должна переиграть сборную чемпионов мира по футболу. Они должны играть командой. Командное решение часто оказывается более продуктивным».

Обезьяна и интерфейс

Пока что эксперты подчеркивают положительный эффект, который могут принести роботы - и чем умнее, тем лучше. Наиболее часто звучит выражение «интерфейс мозг-компьютер», система взаимодействия, когда компьютер помогает мозгу и его обладателю.

«Михаил считывал из мозга обезьяны ее движения - по моторной коре можно понять, как ее ножки двигаются - и посылал этот сигнал роботу из Америки в Японию. И ее движения дублировались роботом за тысячи км», - рассказал коллега и близкий знакомый Михаил Лебедева, руководитель департамента психологии Высшей школы экономики Василий Ключарев.

Ближайший друг человека, обезьяна, используется в экспериментах последних лет, в том числе, для того чтобы отработать управление искусственной рукой с помощью мысли. Это нужно, чтобы помочь человеку парализованному себя обслуживать

«Обезьяне вживляется некоторое количество электродов, и она управляет искусственной рукой. Ее учат. Она за это получает сок, - рассказал Ключарев. - Некоторые моменты искусственного интеллекта используются, чтобы понять, что обезьяна хочет, транслировать в сигнал и управлять этой рукой. Парализованный человек тоже может ей управлять. Довольно много степеней свободы. Довольно сложные операции - и все это управляется напрямую из мозга».

Сработают ли моральные тормоза?

И все же, ученые не считают вопрос об опасности этих добрых машин чем-то лишним.

Горбунов-Посадов спрашивает: «Может ли взбесившийся робот начать творить жуткие безобразия - подумать: а не поработать ли на себя, а всех этих людишек, которые только мешают ему, прихлопнуть?»

Михаил Лебедев на вопрос, могут ли искусственный интеллект и кибернетический организм представлять некую опасность для человечества, ответил: «О, да! Но, конечно, не в ближайшей перспективе. Пока что даже самые продвинутые роботы полностью зависят от своих создателей, даже в таком банальном вопросе, как подача электроэнергии (или гидравлического привода)».

Как напомнил Владимир Павловский, в Нидерландах уже появился проект RoboEarth - интернет для роботов. Это «некий «облачный сервис», в который могут выходить роботы, оставлять там какие-то знания и через посредство этого «облачного сервиса» как-то между собой общаться и обмениваться уже не сообщениями, а знаниями».

«Эти роботы - больничные, поликлинические. Поэтому они сейчас обмениваются данными о пациентах, диагнозах и т. п., - рассказал Павловский. - Но исходя из анализа таких проектов, наверное, стоит сказать следующее. Конечно, специалисты по робототехнике, интеллекту должны уже сейчас задуматься о каких-то блокирующих механизмах, которые бы заблокировали появление той опасности, о чем мы говорим».

«Года три назад появилось направление - и по нему уже научные конференции пошли, - которое называется этика роботов. То есть, роботы должны понимать, что такое хорошо и что такое плохо, что можно и что нельзя во взаимодействии с людьми, - отметил Владимир Павловский. - Механизмы этого начинают обсуждаться, одна такая конференция будет в этом месяце в Китае. Этим направлением интересуется Сколково».

«В общем, бояться не надо, а задумываться о блокирующих механизмах уже пора, - считает Павловский. - Напомним, что такие механизмы есть, и они зародились в «Трех законах робототехники» Айзека Азимова».

«Всегда должна быть красная кнопка - возможность остановить робота, если он зашел не туда, - подчеркнул Василий Ключарев. - Есть ли опасность, что какой-то сверхумный сверхгибкий мега-интеллект начнет нами манипулировать и завоюет мир? Стоит включить в искусственный интеллект моральный модуль ограничения».

Леонид Смирнов

Материал опубликован в рамках проекта "Нобелевское измерение", посвященного проблемам модернизации страны и роли в этом процессе науки и научного сообщества.