Как роботы изменят будущее

Почему создание роботов для стариков — это лицемерие? Как быть с тем, что Siri — первый предвестник смерти частной жизни? Кого пощадит волна автоматизации и роботизации?

Джон Саллинс III, PHD, профессор философского факультета университета Сонома (Калифорния, США), специализируется на философии технологии, философских вопросах, касающихся искусственного интеллекта, инженерной и компьютерной этики:

Сейчас в Японии все сильно увлеклись созданием роботов для домов престарелых — там большое количество пожилых граждан и очень мало молодежи. Хотя на самом-то деле намного дешевле было бы нанимать сиделок из Филиппин. Тем более что желающих хватает: там полно обученного персонала, и они все готовы перебираться в Японию. Но вместо этого Япония идет другой дорогой. Я думаю, что основная причина в том, что люди там не хотят иметь дела с другими людьми. С роботом общаться намного проще, чем с человеком. Как пишет профессор социологии Массачусетского университета Шерри Теркл в своей книге «Одинокие вместе», мы окружаем себя разнообразными технологиями, которые изолируют нас от всех тех сложностей, что возникают при общении с другим человеком.

Пока что роботы знают только о наших покупках, которые мы совершаем онлайн. То есть отношения с роботами пока довольно поверхностные — как с продавцом за прилавком. Но не за горами день, когда в домах появятся дети-роботы и звери-роботы. Эти роботы будут жить в вашем доме, знать ваш распорядок дня. Исследования показывают, что человек способен испытывать эмоциональную привязанность к роботу. А значит, вы будет нежны со своим ребенком-роботом, зверем-роботом. А он в свою очередь будет проникать все глубже к вам под кожу. Вы с ним будете общаться уже не как с продавцом за прилавком, а как с членом семьи, а значит, и рассказывать все свои секреты.

Я сейчас совместно с Институтом инженеров электротехники и электроники (IEEE), международной НКО, которая занимается разработкой стандартов по радиоэлектронике и электротехнике, разрабатываю свод рекомендаций на этот счет. Для меня основной вопрос: по мере того, как роботы будут все глубже проникать в нашу жизнь, кто позаботится о нашей частной жизни? Сейчас мы встречаемся с «умными» системами по большей части на работе и в общественных местах, но в недалеком будущем они начнут проникать и в наши дома. У всей бытовой техники скоро появится ум, даже у вашего тостера.

Потом возникает другой вопрос: отнимут ли роботы у нас работу? На эту тему существует две концепции. Согласно одной, технологическая революция приведет к катастрофе, другая же утверждает, что после каждой такой революции дела постепенно налаживались и человечество шло дальше. Первая концепция предполагает, что роботы помогут повысить количество производимых товаров, а значит, фабрик станет еще больше, а значит, и рабочих мест станет еще больше. Да, на каждой фабрике будет меньше рабочих мест, чем сегодня, зато самих фабрик станет больше.

Согласно второй концепции, корпораций останется столько же, но они начнут сокращать количество людей, которых принимают на работу. Сторонники второй концепции — большие алармисты. Они говорят, что мы осознанно заменяем себя роботами и это все обернется тем, что места бухгалтеров, менеджеров, сотрудников бирж и даже CEO займут роботы, что волна автоматизации пройдет по всем социоэкономическим уровням и не пощадит никого.

Определить сегодня, насколько реалистичны опасения, что роботы заберут всю нашу работу, тяжело. Об этом будет проще говорить лет через десять, когда у нас будут какие-либо примеры перед глазами, например, исчезновение водителей в Uber.

Джейсон Миллар, профессор Карлтонского университета (Оттава, Канада), сотрудничает со Стэнфордским университетом в исследовательском проекте «Этическое программирование беспилотных машин»:

Я провожу много исследований по теме антропоморфизма — изучаю наше желание общаться с неодушевленными предметами как с одушевленными. Например, вы играете в видеоигры и относитесь к персонажам игры, как будто они настоящие, как будто у них есть собственные намерения и желания. Создается много роботов, которые с вами говорят и вам улыбаются — Siri, например. И мы антропоморфизируем Siri, потому что у нее есть голос и она такая миленькая. И в контексте этого возникает вопрос, как можно манипулировать людьми при помощи антропоморфизма? Запросто. Купите человеку робота, который улыбается, подождите, пока он начнет доверять роботу как своему другу, а потом просто собирайте записи из робота — там будут все секреты этого человека. Исследования показывают, что люди очень даже готовы делиться информацией с милыми роботами.

Чтобы робот мог общаться с миром, ему понадобится встроенная камера, микрофон и обратный адрес, по которому он будет мгновенно отправлять записанное. Каждый раз, когда домашний робот будет заходить к вам в комнату, он будет записывать вас, в каком бы виде вы ни были. И отправлять в базу данных. Основной спор идет о том, что делать с этими данными. Приемлемо ли пускать робота в дом? Как безопасно хранить такую информацию? Необходимо ли ее сразу уничтожать? Если робот узнал кого-то в доме, может ли он доложить об этом в полицию? Это стандартные современные вопросы, касающиеся безопасности частной жизни, но с развитием новых технологий появляются все новые вопросы для дискуссий.

И есть исследования, которые касаются пожилых людей. В Японии, например, изобрели маленького тюленя Paro, и его используют в терапевтических целях в домах престарелых. И тюлененок издает милые звуки и дрыгается, когда вы его гладите. И у тех, кто с ним общается, поднимается настроение. Поэтому от таких роботов в домах престарелых может быть и польза. Но остаются вопросы. Могут ли роботы дать старикам необходимое внимание? Могут ли они целиком заменить людей? Хотим ли мы, чтобы такое произошло? Не слишком ли мы полагаемся на технологии?

Часто люди не задумываются над этими проблемами и просто считают так: здравоохранение — это дорого, нанимать персонал — дорого. Почему бы нам не закупить технологии и не решить эту проблему раз и навсегда?

Кэйтлин Ричардсон, старшый научный сотрудник, департамент Этики Роботов, Университет Де Монтфорт (Лестер, Великобритания):

Нет, старикам нужны люди. Они не хотят роботов, они никогда не просили роботов. Если вы спросите самих стариков, чего они хотят, они вам скажут, что хотят человеческого общения и тепла. Но это дорого, конечно. И государство, чтобы не тратиться на дома для престарелых, придумало новый нарратив: старикам совершенно не нужны люди, они будут счастливы общаться с роботами.

У нас тут в Великобритании экономические сложности, и это все сказывается на стариках. И никто их не слушает. И через 10 лет, ровно потому что никто их не слушает, выйдет приказ: все дома престарелых снабжаем роботами. Но спрос на роботов идет не от самих стариков — это идея, выдуманная предводителями роботоиндустрии. Людям нужны люди; это не опция, это необходимость — мы социальные животные. Дайте в конце концов старикам домашних животных, так и то будет лучше.

Питер Асаро, профессор, департамент философии науки, технологии и медиа в Новой школе (Нью-Йорк, США):

Сейчас много говорят о дронах, которые разрабатываются в военных целях, но никто не подумал о том, что все эти шпионские аппараты плавно перейдут и в мирную жизнь. Те же Amazon в ближайшее время запустят дроны, которые будут отвечать за доставку своих товаров. Дроны будут летать над городами, домами людей и записывать все происходящее на ходу. И вопрос в том, у кого будет доступ к этим записям? Если они попадают в руки корпораций или, например, правоохранительных органов, то возникает целый ряд этических вопросов.

И здесь нужно говорить о природе общественного пространства. По крайней мере в США, законодательство позволяет записывать людей в общественных местах, но не позволяет проникать в дом. В дом пока можно проникать, только если человек нарушил закон, вместе с ордером на арест.

Но что станет с общественным пространством, когда камеры будут везде? То есть, казалось бы, мы можем анонимно передвигаться, но какая же это анонимность, когда каждый наш шаг будет записан? С новыми технологиями общественное пространство уже не такое безопасное. Со временем дроны станут более развитыми, их оснастят сенсорами, которые будут видеть сквозь стены. Опять же это военная разработка, но в ближайшее время она перекочует и в мирную жизнь.

Появятся роботы для развития детей и те, которые будут помогать старикам. А значит, они уже будут в вашем доме, в вашем частном пространстве. Они будут записывать ваши личные разговоры. В каком-то смысле они уже это делают: та же Siri записывает вас и ваши разговоры на кухне и отправляет это все разработчикам. Дальше эти разработчики анализируют всю эту информацию, чтобы вырабатывать паттерны, которые будут помогать роботам определять, когда человек задает вопрос.

Что происходит с вашей частной жизнью, когда вы окружены всеми этими записывающими приборами? Кто владеет всей информацией? У кого может быть к ней потенциальный доступ? Может ли к вам прийти полиция и сказать: «А мы знаем, о чем вы говорили сегодня на кухне». Никакого толкового законодательства, ограничивающего это все, пока что нет.

Источник:
Сноб