Современные роботы все еще не испытывают эмоций. Но мы относимся к ним так же трепетно, как к живым существам. Робот-пылесос, кибер-собака или игрушечный детеныш динозавра — все они могут стать для нас большим, чем просто машинами. Специалист по этике роботов Кейт Дарлинг рассуждает в выступлении на ТED Talks, почему мы испытываем к ним чувства и как это изменит наше будущее.

«Почему я утешала этого робота?»

Около 10 лет назад я попросила друга подержать робота — детеныша динозавра вверх ногами. Игрушка, которую мне доставили, называлась Pleo, и я была несказанно рада, ведь я всегда любила роботов. А у этого еще было множество классных фишек: моторы, датчики прикосновений, даже инфракрасная камера. Еще у него был датчик уровня наклона, так что он знал, в какую сторону он направлен. И когда его держали вверх ногами, он начинал плакать. Я думала, что это очень круто, так что решила похвастаться другу, и я сказала ему: «Подержи за хвост, посмотри, что он делает». И вот мы наблюдаем, как этот робот барахтается и кричит. Но через несколько секунд мне стало немного неуютно, и я сказала: «Так, хватит, давай перевернем его обратно». И я начала гладить робота, чтобы он перестал плакать. И это было для меня очень странно. Во-первых, у меня тогда не был особо развит материнский инстинкт. Хотя я стала матерью девять месяцев назад и успела узнать, что дети тоже извиваются, если держать их вверх ногами.

Но моя реакция на этого робота также была интересна, поскольку я точно знала, как эта машина работает, но при этом все равно чувствовала, что должна быть добра к ней.

Это наблюдение разожгло мое любопытство, которое я удовлетворяла последние 10 лет. Почему я утешала этого робота?

Мое обращение с этой машиной было чем-то большим, чем просто неловким моментом в моей гостиной. В мире, где мы все чаще интегрируем роботов в нашу жизнь, у такого инстинкта могут быть последствия. Ведь, как оказалось, я не одна такая.

 

Двигается? Значит, живой

В 2007 году газета The Washington Post опубликовала статью о том, что армия США проводила испытания робота, который обезвреживал наземные мины. Работало это так: робот, похожий на насекомого-палочника, ходил по минному полю. Каждый раз, когда он наступал на мину, одна из ног взрывалась и робот продолжал идти на оставшихся, взрывая все больше мин. И в конце концов полковник, ответственный за операцию, прекратил ее, потому что, по его мнению, бесчеловечно смотреть, как этот поврежденный робот тащится по минному полю. В чем же кроется причина того, что и закаленный военный офицер, и обычный человек, как я, так реагируют на роботов?

Безусловно, на нас влияют научная фантастика и поп-культура, вызывающие желание очеловечить роботов, но на самом деле есть более глубинные причины.

Оказывается, в нас природой заложено видеть смысл и жизнь в любом движении, происходящем в пределах поля зрения и выглядящем самостоятельным. Поэтому люди обращаются с самыми разными роботами как с живыми.

Этим роботам, обезвреживающим неразорвавшиеся бомбы, дают имена. Они получают почетные медали. На их похоронах салютуют. Исследования показали, что мы обращаемся так и с простыми бытовыми роботами, такими, как роботы-пылесосы. Это просто диск, катающийся по полу, делая его чище, но простой факт того, что он двигается самостоятельно, дает повод людям дать ему имя и жалеть беднягу, когда он застревает под диваном.

И мы умеем конструировать роботов, созданных вызывать такую реакцию глазами, мимикой и движениями, которые люди автоматически подсознательно ассоциируют с выражением различных эмоций. И исследования по взаимодействиям между человеком и роботом показывают, насколько успешно это работает.

К примеру, ученые Стэнфордского университета выяснили, что люди испытывают дискомфорт, когда их просят потрогать интимные части тела робота.

Из этих и из многих других исследований мы знаем о том, что люди реагируют на сигналы этих как будто живых машин, даже если они знают, что они совсем не живые.

Когда привязанность полезна

Мы все ближе к будущему, где роботы будут на каждом шагу. Робототехника перестает быть лишь частью производства, постепенно проникая в наши дома и офисы. И когда эти машины, которые могут ощущать, принимать решения и учиться, попадают в эти наполненные людьми места, лучшая аналогия, которую можно придумать, — наши отношения с животными.

Тысячи лет назад мы начали приручать животных, использовать их для работы, сражений и становиться для них друзьями. И в ходе истории мы обращались с одними животными как с инструментами, товаром, а с другими — с добротой. Выделили для них место в обществе, как партнерам. И с высокой долей вероятности мы так же будем интегрировать роботов.

Конечно же, животные — живые существа. Роботы — нет. Я работаю с робототехниками и могу сказать вам, что эти ученые достаточно далеки от разработки роботов, умеющих чувствовать.

Но мы испытываем к роботам чувства, и это важно, ведь если мы хотим интегрировать их в эти разделяемые нами пространства, нужно понять, что к ним будут относиться не так, как к бытовой технике.

Например, когда солдат привязывается к роботу, с которым он работает, из этого может выйти что-то неэффективное или даже опасное. Но в некоторых случаях бывает полезно поощрять такие эмоциональные привязанности к роботам.

Таких случаев мы видели уже великое множество. К примеру, роботы, работающие с детьми с аутизмом, захватывают их внимание так, как мы еще не видели. И роботы помогают учителям привлечь детей к учебе, тем самым повышая успеваемость. Это касается не только детей. Согласно ранним исследованиям, роботы могут помогать врачам и пациентам в медицинских учреждениях.

Это детеныш морского котика PARO. Он используется в домах престарелых и в уходе за больными деменцией достаточно давно. Я помню, как много лет назад я была на вечеринке и рассказала какой-то девушке об этом роботе, и ее реакция была такой: «О Боже, это ужасно! Не могу поверить, что вместо живых людей за ними ухаживают роботы!» И так реагирует подавляющее большинство, что, на мой взгляд, абсолютно нормально, ведь это было бы ужасно.

Но в этом случае робот заменяет не человека. Он заменяет пет-терапию в условиях, в которых мы не можем использовать настоящих животных, а роботов можем, потому что люди обращаются с ними скорее как с животными, а не с машинами.

Как роботы меняют нас

Осознание этой эмоциональной связи с роботами может помочь нам понять, какие проблемы возникнут, когда эти роботы проникнут в более личные части нашей жизни. Например, нормально ли для плюшевого мишки вашего ребенка записывать личные разговоры? Ведь сложив роботов и капитализм, мы получим вопросы о защите прав потребителей и их личной жизни.

Наше поведение по отношению к роботам может оказаться важным и по другим причинам. Несколько лет спустя, после того первого опыта с роботом — детенышем динозавра, мы с моей подругой Ханнес Гассерт проводили тренинг.

Мы взяли пять таких малышей-динозавров и раздали их пяти командам. Мы дали задание дать роботам имена, играть и общаться с ними в течение часа. А потом мы достали молоток и топор и приказали им мучить и убить роботов.

И это оказалось гораздо драматичнее, чем мы ожидали, потому что ни один из участников не нанес ни единого удара по этим детенышам, так что нам пришлось импровизировать, и в определенный момент мы сказали: «Хорошо, вы можете спасти своего робота, если сломаете робота другой команды».

И даже это не помогло, они не могли сделать это. <…>

Так что это оказалось очень интересным опытом. Конечно, это не было контролируемое исследование, но этот тренинг дал толчок для наших последующих исследований в МТИ совместно с Палаш Нанди и Синтией Брезил, когда люди приходили в лабораторию и крушили роботов HEXBUG, которые двигаются, как самые настоящие насекомые. Вместо того, чтобы выбрать что-то милое, притягивающее к себе людей, мы выбрали что-то более простое, и, как оказалось, склонные к сочувствию люди колебались сильнее, прежде чем ударить этих роботов.

Это был лишь небольшой опыт, но он часть большого числа исследований, первые результаты которых показывают, что может существовать связь между склонностью человека к сочувствию и его поведением с роботами.

Но мой вопрос для наступающей эры взаимодействия людей и роботов — это не «Нужно ли сочувствовать роботам?», а «Могут ли роботы влиять на наши чувства?» Стóит ли, например, не позволять ребенку бить собаку-робота не просто из уважения к имуществу, но потому, что иначе в будущем он может начать бить живую собаку?

 

И опять это применимо не только к детям. Это напоминает вопрос об опасности жестоких видеоигр, но на совсем другом уровне из-за того, что здесь все настоящее. Мы реагируем гораздо сильнее, нежели чем на изображения на экране. Когда мы проявляем жестокость по отношению к роботам, особенно к тем, которые созданы имитировать жизнь, здоровый ли это выход для нашего жестокого поведения или же так мы лишь усугубляем такие склонности? Мы не знаем.

Но ответ на этот вопрос в будущем может повлиять на человеческое поведение, может повлиять на социальные нормы и может повлиять на правила того, что мы можем и не можем делать с определенными роботами. Потому что даже если роботы не могут чувствовать, наше поведение по отношению к ним может оказаться важным. И вне зависимости от того, станем ли мы менять наши законы, роботы, возможно, смогут помочь нам лучше понять себя.

Бóльшая часть того, что я узнала за последнее десятилетие, никак не относится к технологиям. Я изучала психологию человека, способность сопереживать и то, как мы относимся друг к другу. Потому что когда ребенок добр к роботу-пылесосу, когда солдат пытается спасти робота на поле боя, когда группа людей отказывается причинить вред роботу — детенышу динозавра, эти роботы перестают быть просто механизмами и алгоритмами. Они становятся отражением нашей человечности.

Спасибо.

 

 

Перевод Артема Савочкина

 

Лучшие материалы
Друзья, Правмир уже много лет вместе с вами. Вся наша команда живет общим делом и призванием - служение людям и возможность сделать мир вокруг добрее и милосерднее!
Такое важное и большое дело можно делать только вместе. Поэтому «Правмир» просит вас о поддержке. Например, 50 рублей в месяц это много или мало? Чашка кофе? Это не так много для семейного бюджета, но это значительная сумма для Правмира.
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: