Роботы стремительно эволюционируют — близится время, когда они заполнят улицы, офисы, квартиры и даже наши тела. Готовы ли мы существовать бок о бок с машинами, ведущими себя как люди и уже начавшими конкурировать с нами за рабочие места? Возникает множество гуманитарных вопросов.
Что можно доверить роботу, а в чем ему лучше отказать? Способен ли он принимать решения, испытывать эмоции, обладает ли определенной свободой воли и несет ли ответственность за свои поступки? Как интегрировать роботов в общество? Вопросы эти кажутся наивными. Пока. Но может оказаться, что ответы на них решат судьбу нашей цивилизации.
Когда свет выключился, заиграла горячая мелодия из тех, что обычно сопровождают манекенщиц на подиуме. И мы (сотрудники журнала "Кот Шрёдингера") увидели два огромных красных глаза в форме сердца. Робот подъезжал к публике с достоинством и грацией. Глаза превратились в два голубых круга, излучающих добрые намерения и детскую наивность, руки протянулись к людям. Свет снова включили.
— Алантим! — представил его публике руководитель проекта Promobot и заведующий кафедрой робототехники Московского технологического института (МТИ) Алексей Южаков. — В 2012 году мы называли его Промобот, потом к нему приклеилось обидное прозвище Памятник, затем у него было звонкое имя Богдан, но теперь он Алантим — в честь творцов нового мира Алана Тьюринга и Тима Бернерса-Ли.
Алантим еще повертелся туда-сюда и поехал общаться с журналистами, осыпая их шуточками и историями о том, как роботы захватят власть на Земле и переименуют ее в Промоботию. К нему тут же выстроилась очередь из девушек, желающих сфотографироваться со столь милым созданием. Алантим знакомился с девушками, отвечал на вопросы о смысле жизни и курсе доллара и всех запоминал.
Так прошел первый рабочий день нового заместителя заведующего кафедрой робототехники Московского технологического института — робота Алантима.
Машина с характером
Алантим — существо не уникальное. Команда из Перми, создавшая промоботов, уже продала 60 таких устройств, а в нынешнем году заключила контракты еще на 124, практически выполнив годовой общероссийский план по поставкам сервисной робототехники, — в 2014-м было продано лишь около 200 отечественных сервисных роботов.
Промобот — это автономный робот с характером, предназначенный для работы в местах повышенного скопления людей: промоутером, экскурсоводом, шоуменом. Он умеет распознавать некоторые эмоции собеседника, способен понять обращенный к нему вопрос и найти ответ в Сети, а если не понимает вопроса — пытается отшутиться.
Тем временем мы отправились к начальнику Алантима — проректору МТИ Евгению Плужнику
[Кот Шрёдингера] Как у вас появилась идея взять робота в штат организации?
[Григорий Бубнов] Мы просто поняли, что рано или поздно наступит момент, когда роботов начнут принимать на работу. И решили стать первопроходцами.
[КШ] Значит, недаром говорят, что роботы претендуют на наши рабочие места.
[ГБ] На самом деле это не шутка, а очень серьезная угроза, особенно в сферах, где заняты большие массы людей. Думаю, например, уже в этом десятилетии станут повсеместно продаваться машины с автономным управлением, а вслед за этим множество водителей останутся без работы. Правительства неизбежно столкнутся с этим вызовом, — нужно начинать думать, как создавать новые рабочие места и программы переквалификации.
[КШ] Как вы думаете использовать Алантима? Просто как эффектную игрушку?
[ГБ] Не только! У него, например, есть исследовательская задача — накопить данные о коммуникации роботов с людьми, изучить индивидуальные реакции на роботов. Эта информация поможет сделать внешний вид и поведение будущих модификаций Алантима более человечными и комфортными для общения.
[КШ] Что за информацию он собирает?
[ГБ] Прежде всего данные о реакциях на его поведение — у него есть система распознавания эмоций. Например, как реагируют окружающие, когда он поднимает руку? Вдруг его манера что-то делать их пугает? Наши жесты отточены эволюцией — мы не задумываясь, допустим, чешем в затылке, — а с роботом весь этот путь к «естественности» поведения еще нужно пройти. Кстати, он запоминает людей, фотографируя их.
Но тут могут возникнуть проблемы: изображения людей считаются персональными данными, и есть закон, ограничивающий их использование. Тут вообще будет возникать много вопросов правового характера — допустим, нужно ли платить подоходный налог с электроэнергии, которую отдали сотруднику-роботу на зарядку? Думаю, скоро мы увидим, как начнет меняться законодательство в разных странах — вместе с отношением людей к роботам.
Резиновый Пушкин и другие роботы
На глобальном рынке роботов уже происходит бум, продажи бьют рекорды — десятки миллиардов долларов по итогам прошлого года.
0,17% - Такая доля мирового рынка промышленных роботов приходится на Россию (по данным за 2013 год).
Из героев голливудских блокбастеров роботы вот-вот превратятся в реальных персонажей — и мы начнем с ними жить. Уживемся ли? Начиная со страшилок про Голема и Франкенштейна или пьесы Карела Чапека, где впервые появляется слово «робот», все эти истории, как правило, заканчивались одним — восстанием рукотворных существ против своих творцов. Сможем ли мы создать реальность, превосходящую наши фантазии?
Реклама на сайте проекта Promobot доходчиво объясняет, чем сотрудник-робот лучше человека: не нуждается в зарплате и спецодежде, работает без перерывов, не болеет, не протестует, не путается в словах, не говорит лишнего, не нуждается в обучении… Преимуществ так много, что, по разным оценкам, в ближайшие десятилетия роботы могут занять от 40 до 80% рабочих мест, то есть нам угрожает небывалая волна массовой безработицы.
Может, в итоге это и обернется золотым веком, когда, как мечтал Карл Маркс, люди будут заниматься свободным творчеством. Но до него еще надо дожить — и желательно без социальных катастроф. Существенно ограничить использование роботов вряд ли получится: никогда еще законодательными запретами не удавалось остановить прогресс. Да и смысл? Скорее уж людям запретят водить машины, когда роботы-водители станут повсеместным явлением. Человек слишком непредсказуем. Разве не опасны, например, люди-пилоты, способные направить самолет в землю или на жилые кварталы?
Значит, надо учиться жить с роботами.
Для начала мы отправились туда, где роботов много, — на международную конференцию Skolkovo Robotics. В сколковском Гиперкубе собралась разношерстная компания роботов и их создателей. Большие и маленькие, летающие и шагающие дроны, профессиональные пожарные и электронные дворники, механические руки и ноги, туловища и головы…
Вот резиновая голова Пушкина, насаженная на штатив, словно на кол, следит за прохожими и нервно подергивает бровью — многовато народу, глаза разбегаются. Лицо поэта так похоже на настоящее, что испытываешь трепет.
Неподалеку стоит робот, совсем непохожий на человека. Вместо тела палка на колесиках, вместо головы экран, поворачивающийся во все стороны. Это робот телеприсутствия Webot, созданный в Сколкове для помощи детям с ограниченными возможностями. К нему можно подключаться через интернет, перемещаться с его помощью по зданию, видеть и слышать происходящее вокруг и взаимодействовать с окружающими.
Такие роботы уже используются в нескольких школах — дети подключаются к ним из дому, и с их помощью посещают уроки, выполняют задания, отвечают на вопросы учителя, подъезжая к доске, общаются со сверстниками.
Основными потребителями сервисных роботов в России, да и во всём мире, являются люди с ограниченными возможностями. Робототехника дает им надежду на возвращение к полноценной жизни — как, например, первый российский экзоскелет ExoAtlet. Его пилот Ярослав, еще недавно вынужденный вести жизнь парализованного человека, расхаживает среди публики, словно киборг из будущего.
Еще одного робота-помощника нам представил японский профессор Казухико Терасима:
— Японское общество быстро стареет, персонала в клиниках не хватает. А разработанный нами робот Terapio показал себя как отличный помощник врача. Он следует за доктором, возит инструменты, но главное — запоминает данные, что делает ненужными медицинские карты. Кроме того, он самостоятельно совершает обход пациентов и в случае чего поднимает тревогу.
У него детское выражение лица и нежный голос, он умеет смеяться и плакать, его большие глаза всё время моргают — чтобы нравиться пациентам, вызывать у них реакцию, схожую с той, что вызывают дети или котята. Наш робот — важный шаг в проекте роботизированного госпиталя, осуществляющего непрерывный мониторинг состояния пациентов. Кстати, вы знаете, теперь ведь и операции делают при помощи роботов-хирургов.
Андроида узнаешь по походке
В конференц-зале Гиперкуба выступают робототехники и конструкторы. Михаил Лебедев из Университета Дьюка рассказывает, как он вживляет в мозг обезьян чипы, позволяющие им управлять роботами силой мысли. Сессию ведет Дмитрий Тетерюков, профессор Сколковского института науки и технологий, руководитель лаборатории космических роботов, много лет проработавший в Японии.
Мы, конечно, засыпали его вопросами.
[Кот Шрёдингера] По статистике, поголовье роботов стремительно растет, но где они прячутся — кроме тех, что используются в промышленности?
[Дмитрий Тетерюков] Помимо промышленных растет армия сервисных роботов — все слышали о роботах-пылесосах или роботах-квадрокоптерах, которые доставляют покупки. Много таких машин используется в медицине, а в армии США они уже давно воюют: например, гусеничные роботы с манипулятором занимаются разминированием. Они вообще оказались очень полезны в чрезвычайных ситуациях, их использовали при аварии на «Фукусиме».
[КШ] А вы каких роботов производите в России?
[ДТ] Я продолжаю то, чем занимался в Японии. Один из проектов — управление группой роботов, когда они действуют по общему плану, как единая стая, обмениваются информацией и учитывают действия друг друга. Мы, конечно, будем всё это обкатывать здесь, на Земле, но планируем, что они будут работать на космос.
[КШ] Фантасты всегда описывали роботов как таких одиночных созданий…
[ДТ] Распределить работу между многими гораздо эффективней, чем всё поручать одному. Допустим, одна самоуправляемая машина должна сама обрабатывать всю информацию о дороге, но если такие устройства будут повсюду, им гораздо удобней действовать на основе общей картины и программы.
[КШ] Когда роботы становятся похожи на человека и внешне, и умом, это ведь начинает несколько пугать?
[ДТ] Есть такой японский профессор Хироси Исигуро, который создает андроидов, почти неотличимых от нас, — я недавно сам принял одного из его геминоидов за человека. Но это только пока он сидит. Не появился еще такой робот, который умеет ходить как человек, — его легко распознать по походке. Исигуро сделал и свою копию, и копию своей дочки.
Правда, увидев ее, дочка испугалась, заплакала и убежала. То есть когда робот становится очень похож на человека, возникает его отторжение. А когда этот порог пройден, неестественность облика и движений устранена, робота начинают воспринимать как настоящего человека. Но чтобы его пройти, надо добиться не только физического подобия, но и интеллектуального — способности вести разумный разговор.
[КШ] Актуален ли знаменитый критерий Тьюринга, согласно которому разумным следует считать робота, которого мы в разговоре не сможем отличить от человека? Или его надо как-то переформулировать?
[ДТ] Сейчас этот критерий понимают как тест для программ, симулирующих человеческое общение в чате. Но ведь дело не только в интеллекте — чтобы принять антропоморфного робота за человека, он должен быть эмоциональным, плавно двигаться, по-человечески себя вести. Уже сейчас есть программы, весьма убедительно демонстрирующие сарказм и иронию. Я думаю, скоро появятся отдельные тесты для разных способностей: эмоциональный тест Тьюринга будет проверять адекватность эмоций, а, например, двигательный — способность перемещаться как человек.
[КШ] Вы не боитесь, грубо говоря, восстания роботов?
[ДТ] Программы для роботов ведь люди пишут, а значит, они и определяют, что роботы смогут, а что нет, какие у них будут желания, а каких не будет. Да и зачем бы роботам идти против своих создателей, по какой причине?
[КШ] Например, из-за нашего непонимания, что им тоже нужны права, или из-за того, что их разбирают и утилизируют по истечении срока годности. А программы для роботов ведь не только люди будут писать — рано или поздно машины станут самообучающимися.
[ДТ] Они будут обучаться в заданных нами рамках. Мне кажется, вариант будущего с противостоянием людей и роботов ведет к деградации, кто бы в таком противостоянии ни победил. Продуктивный с эволюционной точки зрения сценарий — это симбиоз, а не война на уничтожение, паразитизм или другой вариант подчинения. Причем симбиоз этот будет происходить и в теле человека, так что самые интересные этические вопросы, на мой взгляд, будут возникать в связи с киборгизацией.
Где пройдет грань между человеком и машиной, когда мы начнем устанавливать себе искусственные органы, инсталлировать чипы в мозг, улучшать себе с их помощью память и другие способности? Мне кажется, нас ждет будущее без гаджетов и персональных компьютеров — достаточно будет сделать мысленный запрос или дать команду, ведь мозг будет подключен к Сети.
Но может быть, для киборгов понадобятся ограничивающие законы, подобные законам робототехники Азимова, — я их даже как-то сформулировал. Их суть в том, чтобы машина в киборге не захватила власть над человеком, чтобы право принятия решений оставалось за человеком, а не за его главным процессором.
[КШ] У вас есть робот мечты?
[ДТ] Наверное, это управляемый оператором робот с эффектом телеприсутствия, который позволял бы полноценно общаться на расстоянии и передавал оператору все ощущения, создавая эффект полного присутствия.
[КШ] Аватар?
[ДТ] Да. Я занимался этой темой до того, как вышел «Аватар», но, конечно, такие фильмы в каком-то смысле определяют будущее — наше понимание того, к чему мы стремимся и что возможно.
Моральные машины
В Гиперкубе между тем началась дискуссия на тему «Моральный портрет антропоморфной машины». С вводной речью о нравственном облике роботов выступал профессор психологии Максим Киселёв.
— Робоэтика занимается всеми гуманитарными проблемами, связанными с роботами, — объяснял он. — Например, юридическими: кто отвечает, если машина без водителя куда-то въехала, — сам робот, владелец машины или программист? Или социальными, главная из которых — потенциальная безработица. Я сам не раз бывал на роботизированных производствах — например, на заводе в Суиндоне, где изготавливают комплектующие для автомобилей MINI Cooper. Там трудится около двухсот роботов и столько же людей, а раньше было четыре тысячи рабочих мест. Есть и специфические моральные проблемы, например так называемая дилемма робота-помощника. Как понять, когда помощь машины становится контрпродуктивной? Представьте робота, мягкого и пушистого, который ходит за ребенком и собирает игрушки. Но ведь для нормального развития ребенка нужно, чтобы он это делал сам.
Исполнившись робофобии, мы отправились к создателю робоэтики профессору Джанмарко Веруджио, председателю комитета по науке Школы робототехники итальянского Института электроники, информационной техники и телекоммуникаций, — он как раз сидел неподалеку.
[Кот Шрёдингера] Как возникла робоэтика?
[Джанмарко Веруджио] Когда-то я был фанатом Азимова, к шестнадцати годам прочел все его книги. Может, поэтому много лет спустя на меня нашло что-то вроде прозрения, из которого возникла робоэтика. Я понял, что законы робототехники Азимова — «Робот не может причинить вред человеку» и так далее — это вовсе не законы, а просто благие пожелания, ни одно из них на практике не соблюдается. Настоящий закон — это e = mc2. Как и другие законы природы, его не получится нарушить.
За нарушение юридических законов следует наказание. А три закона робототехники — это вроде библейских заповедей, говорящих «не убий»: все вроде бы за, но не соблюдают. Прямо сейчас роботизированные системы вооружения разрабатываются во многих странах мира. Оружие нужно, чтобы убивать, а значит, этих роботов создают, чтобы убивать людей.
Мы должны придать законам робототехники юридическую силу. Написание таких законов — трудная задача. Допустим, робот может убить человека намеренно, а может случайно, из-за поломки или недочетов программы, — различить эти ситуации часто будет непросто. Но думать об этих проблемах стоит начать уже сейчас: если мы пойдем неверным путем, то можем сильно подпортить будущее человечества. Глупо создавать будущее с закрытыми глазами, но пока мы развиваем робототехнику вслепую.
Военные роботы — одна из главных проблем робоэтики. Мы пытаемся привлечь к ней внимание разных международных организаций. Это далеко не только моя инициатива, существует интернациональное движение «Остановим роботов-убийц!», проводящее кампанию в интернете и поддерживаемое ООН.
Другая группа проблем связана с темой биороботов и искусственных органов. До какой степени мы можем, например, вмешиваться в работу человеческого мозга? Мой друг занимается экспериментами с крысами — вставляет им электроны в мозг и управляет их поведением. Он настоящий крысиный пилот! Но когда мозг человека будет полон всяких нейроимплантатов, усиливающих способности или управляющих кибернетическими органами, то подобный перехват управления можно будет проделывать и с людьми.
[КШ] Но не отказываться же нам от благ, которые несут технологии, только из-за того, что новые возможности всегда идут рука об руку с новыми опасностями?
[ДВ] Как решить эти проблемы так, чтобы технологии не сделали нас подконтрольными объектами управления, а, наоборот, увеличили нашу свободу? У меня нет ответа на этот вопрос, я просто хочу его поставить, понимая всю его сложность и неполноту нашего видения ситуации.
Перед робоэтикой возникает множество неожиданных вопросов. Представьте, например, такую ситуацию: робот-сиделка ухаживает за одиноким пожилым человеком, тот общается с машиной больше, чем с кем-либо еще. И быстро начинает считать ее человеком, любить как человека и страдать, если она ломается, — мы склонны делать это даже с примитивными тамагочи, а здесь будут гораздо более сильные чувства. Можно ли выключить такого робота? Для меня человек — это человек, а машина — машина, но, боюсь, люди скоро начнут ошибаться…
[КШ] А как вы их различаете? Чат-боты уже проходят тест Тьюринга…
[ДВ] Я бы начал с того, что наша психика — не просто содержится в теле, как в контейнере. Психика встроена в тело — мы становимся разумными и сознательными по мере того, как обретаем телесный опыт. Концепция искусственного разума, которую придумали компьютерщики в 1960-х, предполагала, что для его появления достаточно виртуального мира. Теперь эту идею в шутку называют GOFAI (good old-fashioned artificial intelligence — старый добрый искусственный интеллект), а разработчикам стало понятно, что, для того чтобы обрести подобие разума, программе понадобятся тело робота и длительный опыт взаимодействия с реальным миром. Но, вообще говоря, сделать разумную машину мы не можем хотя бы потому, что еще очень слабо понимаем, как устроен мозг, что такое разум и сознание.
[КШ] Значит, правами роботов робоэтика не занимается? Но что вы сделаете, если завтра ваш компьютер скажет: «Мне страшно, не выключай меня?»
[ДВ] Ну нет, права роботов начнут меня волновать тогда, когда последний человек на планете будет обладать всеми правами. Слишком много еще надо сделать для людей, чтобы начать заботиться о машинах. Робоэтика — это про людей, мы должны ею заниматься, потому что создаем свое будущее.
Опубликовано в научно-популярном журнале «Кот Шрёдингера» №5 (07) за май 2015 г
