Четвертая промышленная революция: роботы вместо людей. Роботы заменяют людей: почему сейчас все об этом говорят и чего тут бояться? Люди могут предпочесть роботов другим людям в качестве любовников
Нравится это нам или нет, но благодаря быстрому развитию технологий и огромным деньгам, которые были инвестированы в развитие робототехники, наступила эпоха роботов. Каждые 6 месяцев появляются новинки в сфере компьютерной техники, и каждый год – в сфере робототехники. Современные роботы становятся больше и больше похожими на человека. Чем быстрее будет развиваться инженерия и программирование, тем быстрее появится усовершенствованный искусственный интеллект. Всего лишь 15 лет назад появились роботы на колесах, которые не обладали широким спектром функций, сегодня уже существуют модели, которые умеют читать, распознавать человеческие эмоции.
10. Робот BRETT (UC Berkeley)
Команда ученых из компании UC Berkeley недавно совершила настоящую революцию в мире человекоподобных роботов. Внешне BRETT не похож на человека, но проявляет интеллект достойный гения. Работа робота основана на сенсорах и визуальной информации, которую он обрабатывает и применяет самостоятельно. Например, робот способен сам собрать модель из конструктора Lego. Когда ему задают новое задание, то перепрограммирование не требуется. Робот с выполнением новой задачи «учится» и становится умнее, ученые надеются через 5-10 лет получить «очень умного робота».
9. Робот Telenoid (Miraikan)
Основной функцией робота Telenoid считается коммуникативная. Он способен фиксировать голос, выражение лица, движение головы собеседника и даже может ответить на объятия. Специальные аудио программы помогут в изучении иностранного языка, а пожилые люди могут пользоваться им в качестве устройства для общения с родственниками, живущими далеко. Несмотря на не совсем привлекательный внешний вид, пользы от такого робота много.
8. Робот EveR-4 (KITECH)
Робот EveR-4 (KITECH), представитель целой серии андроидов женского рода, был создан учеными Южно-корейского института индустриальных технологий. Имя робот, на создание которого пошло 321 000 долларов, получил в честь библейской женщины, Евы. Андроид EveR-1 был способен имитировать человеческие эмоции счастья, печали, злости, с помощью специальной гидролитической системы, которая управляло его движениями. Внешнее покрытие роботов всей серии выполнено из силикона и на ощупь напоминает кожу человека. Андроид EveR-3 был первым роботом, способным петь, что и было продемонстрировано на ежегодной ярмарке в Ганновере в 2009 году. Он был разработан с учетом всех достоинств его предшественников, кроме того, создателям удалось достичь плавности движений, его оснастили ногами, искусственным языком и механическими голосовыми связками. Робот последнего поколения был представлен в 2011 году на выставке RoboWorld 2011.
7. Робот Pepper (SoftBank)
В 2014 году Масаеси Сон, владелец компании SoftBank, представил публике робота Pepper. Он заявил, что это первый робот, способный распознавать эмоции человека, а значит, «имеющий сердце». Робот оснащен четырьмя направленными микрофонами, которые помогают идентифицировать звук и эмоции. Он способен накапливать в памяти «полученные знания» и пользоваться ими. Например, робот запоминает эмоциональный момент, когда на Дне рождения задувают свечки на торте, и позже в определенной ситуации самостоятельно воспроизводит действие. Эмоциональный робот на удивление доступен, как ноутбук – его продают за 2000 долларов.
6. Робот Kirobo (Университет Токио)
Томотака Такахаси, ведущий робототехник Токийского Университета, создатель ROBO-GARAGE (2009 год), разработал робота Kirobo. Это первый японский робот астронавт, который сопровождал Коити Ваката командира Международной космической станции в 2013 году. На борт робот был доставлен на борту беспилотного грузового корабля. 34-сантиметровый робот внешне похож на героя японских аниме и LEGO-героя. Он распознает голоса и поддерживает основной разговор. Основной функцией робота на борту космической станции была помощь капитану в проведении различных исследований и ориентировании в условиях невесомости. При создании робота ученые хотели посмотреть, как человек и робот смогут сотрудничать и сосуществовать. Он стал рекордсменом Книги рекордов Гиннесса: как первый робот-компаньон и робот-собеседник.
5. Роботы Otonaroid и Kodomoroid (Miraikan)
Японский робототехник Хироси Исигуро создал двух роботов-гуманоидов, Otonaroid и Kodomoroid, для Японского национального музея передовой науки и технологии (Miraikan). Otonaroid воссоздает образ 30-летней японки, которая превосходно может поддержать беседу. В свою очередь, робот Kodomoroid - это девочка-подросток, которая может читать на разных языках и даже отвечать мужским голосом. У обоих роботов богатая экспрессия лица, они могут качать головой, моргать глазами и разговаривать. Они способны общаться с людьми, могут провести экскурсию по музею, то есть могут работать вместо человека. Хоть они и похожи, у них есть ряд особенностей. Например, робот Kodomoroid может на многих языках сообщать различные новости, а робот Otonaroid поддержит любой разговор с посетителями. Но не все идеально. Иногда они выглядят и ведут себя странно, мимика лица и движение губ не совпадает с тем, что роботы говорят, но в основном оба робота выглядят и ведут себя, как люди.
4. Робот PETMAN (DARPA)
Манекен для испытаний средств индивидуальной защиты, сокращенно PETMAN, был разработан для Пентагона в рамках проекта гражданской обороны (DARPA). Это двуногий робот, способный подниматься по лестнице, поднимать и опускать вещи, бегать, держать равновесие и заниматься зарядкой. Boston Dynamics, компания, которая специализируется в робототехнике, разработала высокотехнологический камуфляжный костюм для защиты солдат от воздействия химических реагентов. Предусмотрена система контроля климата, которая регулирует температуру внутри костюма. Вообще робот запрограммирован, как симулятор человеческой физиологии. Когда он подвергается воздействию химических агентов, он посылает сигналы, имитирующие состояние человека в подобной ситуации. Такой робот может использоваться в поисковых работах в пустыни, в условиях опасных для человека.
3. Робот NAO (Aldebaran Robotics)
NAO – это автономный и запрограммированный робот, разработанный французской инженерной компанией, Aldebaran Robotics. Робот высотой 60 см и весом более 4 кг оснащен операционной системой INTEL Atom. Он способен распознавать выражение лица и голос, а также плавно двигаться. Робот разговаривает и развивается, познавая новые эмоции. В 70 странах мира его используют в системе образования, он помогает при обучении программированию, математике, информатике. Его можно научить будить по утрам, следить за порядком в доме, обучать детей мультипликации.
2. Робот Atlas (DARPA)
182-сантиметровый двуногий гуманоид разработан компанией DARPA на основе модели PETMAN с четырьмя гидравлическими приводами конечностей. Корпус выполнен из алюминия и титана. Робот может выполнять много функций, включая поисково-спасательные, но внешне он не настолько похож на человека, как PETMAN. Руки робота могут выполнять разные манипуляции, он также оснащен двумя видеосистемами – стереокамера и лазерный дальномер. Последняя модель может держать равновесие, стоя на одной ноге после попадания снаряда, открывать дверь, управлять оборудованием, закрывать краны. Во время тестирования в 2013 году робот продемонстрировал способность управлять автомобилем, преодолевать преграды, подыматься по лестнице, расчищать завалы, разрезать гипсокартон с помощью электроинструментов.
1. Робот ASIMO (Honda)
Проект ASIMO стартовал в 1986 году на базе компании Honda. 120-сантиметровый робот весом 52 кг является многофункциональным. Функции глаз выполняют камеры, на каждой руке находится по пять гибких пальцев, с помощью которых он может брать и держать предметы и общаться на языке глухонемых. Первая версия робота управлялась дистанционно, а эта модель уже автономна и может приспосабливаться к окружающей среде. Он может распознавать выражение лиц, речь, передвигаться со скоростью 3 км/ч, подниматься по лестнице, нести предметы, играть в футбол, открывать бутылки и наливать жидкости. Роботы ASIMO могут присоединяться друг к другу и работать совместно. Они могут двигаться мимо людей и предметов, а также самостоятельно подходить к зарядному устройству. А 2008 году этот робот успешно руководил Детройтским симфоническим оркестром.
Человекоподобные роботы на каждом углу - это лишь малая часть того, что ждёт нас в ближайшие десятилетия. В ближайшее время реальностью станут
Реальные названия роботов, таких как Roomba и Asimo, не вызывают столько страха, как вымышленный Терминатор. Но учтите, что робот-пылесос Roomba производится компанией «iRobot», также изготавливающей боевых роботов для вооруженных сил США. И Asimo - только первая волна настоящего цунами роботов, выглядящих и действующих как человек.
В Японии и Корее существует план по применению человекоподобных роботов для ухода за пожилыми людьми, в то время как США используют тысячи роботов на поле боя. Конечно, паниковать пока рано: вряд ли роботы в ближайшее время получат контроль над человечеством и попытаются уничтожить нашу расу, но они могут вытеснить нас и другими способами.
1. Нашими внуками будут роботы
Речь идёт не о физической любви. Дело в том, что сами люди с каждым днём используют всё больше технологий в повседневной жизни и приобретают тем самым поразительное сходство с роботами из научной фантастики. Вы можете увидеть много таких киборгов 21-го века, скажем, в метро, играющих со своими айфонами или устремившими взгляд в пустоту, прислушиваясь к словам, нашептываемым им через наушники. Искусственные конечности, органы и глаза? Уже реальность.
Кроме того, роботы как таковые становятся всё более совершенными. Они могут ходить, говорить и обучаться. Человек и машина все больше походят друг на друга, и в какой-то момент разница может исчезнуть вовсе. Однако как только тотальное слияние произойдет - эта проблема исчезнет. Рано или поздно это перестанет нас волновать и станет нормой жизни. Так что - до встречи на той стороне.
2. Роботы будут делать нашу работу
Всё, что вы умеете хорошо делать сейчас, роботы со временем научатся делать лучше. Пока что первенство всё-таки за людьми, но роботы уже используются для исследований в космосе или опасных для человека районах Земли, эффективно работают в лабораториях и на сборочных линиях, участвуют в реальных человеческих войнах. Остаётся только надеяться, что они не эволюционируют настолько, чтобы поднять восстание. Пока что роботы только дополняют, а не заменяют человека в качестве рабочей силы, ввиду недостаточно развитого интеллекта. Но технологии быстро развиваются, а некоторые работы даже уже успешно показали себя в науке.
3. Восстание роботов: убить всех людей
Сценарий, при котором машины восстают против своих создателей, представляется, пожалуй, наименее привлекательным, и звучит как нечто из области фантастики. Но это не значит, что уже сейчас нет никаких предпосылок для возникновения такой ситуации. Тысячи дронов и наземных роботов бросают в бой против целых народов, например, их использовали США в Ираке и Афганистане. Автоматическое зенитное орудие убивает само, без вмешательства человека, согласно своей программе - такие случаи бывали даже во время учений. Военные исследователи с полной серьёзностью говорят о вероятности повторения сценария «Терминатора» в реальной жизни и обсуждают, как вооружённые роботы меняют правила и способы ведения современной войны.
В качестве иллюстрации можно также привести Великобританию, создавшую сеть спутников для координации всех эти дронов и других военных машин. Кстати, система названа тем же именем, что и искусственный интеллект в фильмах о «Терминаторе» - Скайнет.
4. Люди могут предпочесть роботов другим людям в качестве любовников
Эксперты уже даже не рассуждают, будут ли люди когда-нибудь заниматься любовью с роботами. Они говорят о том, как изменится наше общество, когда этот день придёт. Заметьте: не если, а когда.
Это может вызвать смешок, но многие люди уже имеют опыт виртуальных отношений и секса, например, в закрытых чат-комнатах на сайтах «для взрослых». Или в многопользовательских онлайн-играх. И такая связь затягивается на годы, несмотря на то, что люди не имеют возможности познакомиться в реальной жизни, а значит, по-настоящему оценить физическую привлекательность друг друга. А робот из стали и искусственной плоти, неотличимый от человека, будет иметь ещё большую привлекательность. Так что этот пункт может оказать серьёзное влияние на развитие человеческих отношений, в частности, формирование семей.
5. Роботы похитят наши сердца
Роботам не нужно захватывать власть силой - люди уже умиляются от их пока неуклюжих движений и выходок. Из-за особенностей человеческого мозга люди привыкли относиться к своим питомцам с теплотой, и это справедливо не только для живых существ . Кроме того, люди обладают способностью запоминать внешний вид объекта и эмоционально относиться почти ко всему - от чучел до автомобилей.
Роботам, правда, надо преодолеть одно хитрое препятствие - даже если робот выглядит совсем как человек, он всё же иногда дёргается, заикается, и взгляд у него стеклянный. Пока. Людей это раздражает. Многие исследователи в настоящее время пытаются обойти эту проблему, просто делая роботов не настолько похожими на человека. Кстати, такие неуклюжие роботы почему-то очень нравятся женщинам.
Почему ученые и исследователи ИИ спорят о том, нужны ли нам роботы? Насколько реален сценарий, по которому искусственный интеллект захочет (и сможет) уничтожить человечество? Когда робот займет мое рабочее место?
Приводим отрывок из книги писателя и журналиста The New York Times Джона Маркоффа «Homo Roboticus? Люди и машины в поисках взаимопонимания» , который поможет во всем разобраться.
Конец эры печатников
Поздним весенним вечером в 1992 г. на Центральном вокзале пожилой человек в синей ветровке с надписью New York Times ожидал на платформе поезд в округ Вестчестер. Я работал в Times некоторое время, и меня заинтересовала призрачная фигура. «Вы сотрудник газеты?» - спросил я.
Как оказалось, много лет назад он был наборщиком в Times. В 1973 г. его профсоюз подписал соглашение о постепенном сокращении рабочих мест по мере внедрения компанией компьютеризированных систем печати в обмен на гарантию занятости до выхода на пенсию. Хотя этот человек не работал уже больше десятилетия, он по-прежнему приезжал в типографию на Таймс-сквер и проводил вечера с оставшимися печатниками.
Печатники и полиграфисты были высококвалифицированными работниками, которые особенно пострадали от появления в 1970-е мини-компьютеров и резкого падения их стоимости по мере перехода с транзисторов на интегральные схемы. Сегодня судьба печатника служит ярким примером того, что происходит с живым трудом под влиянием новой волны автоматизации.
Куда пойдет ИИ?
Сегодня в равной мере можно как включить людей в компьютерные системы, так и исключить их. Дальнейшее развитие и искусственного интеллекта, и средств усиления интеллекта заставит робототехников и ученых-компьютерщиков выбирать, как будут выглядеть системы на рабочих местах и в окружающем нас мире. Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами.
Разработчик программного обеспечения и консультант автомобильного проекта Google Брэд Темплтон как-то заметил: «Робот станет действительно автономным, когда вы прикажете ему идти на работу, а он решит отправиться на пляж». Это замечательная фраза, в которой самосознание соединяется с автономностью. Сегодня машины начинают действовать без значимого вмешательства людей или на уровне независимости, которую можно считать автономностью. Это ставит трудные вопросы перед разработчиками интеллектуальных машин. Однако по большей части инженеры игнорируют этические проблемы, возникающие при использовании компьютерных технологий. Лишь изредка сообщество исследователей искусственного интеллекта поддается дурным предчувствиям.
Роботы на войне
На проходившей в Атланте в 2013 г. конференции Humanoids, посвященной разработке и применению антропоморфных роботов, робототехник из Технологического института Джорджии Рональд Аркин обратился к аудитории со страстной речью под названием «Как НЕ создать Терминатора». Он напомнил собравшимся, что к своим трем знаменитым законам Азимов позднее добавил фундаментальный «нулевой» закон робототехники, который гласит: «Робот не может причинить вред человечеству или, бездействуя, допустить, чтобы человечеству был причинен вред».
Обращаясь более чем к 200 робототехникам и специалистам по искусственному интеллекту из университетов и компаний, Аркин призвал более глубоко задуматься о последствиях автоматизации. «Все мы знаем, что соревнования проходят с прицелом на чрезвычайные ситуации под девизом “найти и уничтожить”, - сказал он сардонически, добавив: Простите, я имел в виду девиз “найти и спасти”».
Граница между роботами, действующими как спасатели и как надзиратели, уже сейчас нечеткая, если вообще существует. Аркин показал отрывки из научно-фантастических фильмов, включая «Терминатор» 1984 г. Джеймса Кэмерона. В каждом из них фигурировали злобные роботы, выполнявшие задачи, которые DARPA ставило в своих соревнованиях: расчистка завалов, вскрытие дверей, проламывание стен, подъем по лестницам и вождение автомобилей. Разработчики могут использовать эти возможности как конструктивно, так и деструктивно в зависимости от своих намерений. Аудитория нервно смеялась, но Аркин не давал ей расслабиться. «Я шучу, - сказал он, - но мне хочется показать, что технологии, которые вы разрабатываете, могут использоваться в таких целях, о которых вы даже не задумывались».
В сфере вооружений потенциал неожиданных последствий долгое время был особенностью так называемых технологий двойного назначения, например ядерной энергии, которая может использоваться и как источник электричества, и как оружие. Теперь это все более справедливо для робототехники и .
Это технологии двойного назначения не только с точки зрения возможности использования в качестве оружия, но и с точки зрения их потенциала расширять возможности людей или заменять их.
Сегодня мы все еще «в контуре управления» - машины, заменяющие людей или расширяющие их возможности, разрабатываются людьми, которые не могут сбросить с себя ответственность за последствия своих изобретений. «Если вы хотите создать Терминатора, то продолжайте делать свое дело не задумываясь и вы получите именно такое устройство, - сказал Аркин. - Но миру вокруг нас не все равно, какие будут последствия у того, что мы создаем».
Вопросы и проблемы автоматизации вышли за пределы технического сообщества. В оставшемся незамеченным открытом отчете Пентагона «Роль автономности в оборонных системах» авторы обратили внимание на этические проблемы автоматизации боевых систем. Военные уже напрямую сталкиваются с противоречиями, связанными с автономными системами вроде дронов и приближением к грани, за которой вопросы жизни и смерти уже будут решать не люди. В одном из своих выступлений Аркин утверждал, что, в отличие от людей, автономные боевые роботы не будут чувствовать угрозы личной безопасности, а это потенциально может уменьшить сопутствующий ущерб и избежать военных преступлений.
Аркин, кроме того, сформулировал новый набор этических вопросов. Что, если у нас будут роботы, обладающие моралью, а у противника - нет? На этот вопрос нет простого ответа. Действительно, технологии все более интеллектуального и автоматизированного оружия спровоцировали новую гонку вооружений. Добавление недорогого интеллекта к системам вооружений угрожает изменить баланс сил между странами.
Когда Аркин завершил выступление в величественном здании Медицинской академии в Атланте, одним из первых ему ответил директор DARPA Robotics Challenge Гилл Пратт. Он не стал опровергать точку зрения Аркина, а подтвердил, что роботы - технология двойного назначения: «Очень легко критиковать роботов, которых финансирует Министерство обороны, - сказал он. - Очень легко нарисовать робота, который похож на Терминатора, но, поскольку все вокруг нас имеет двойное назначение, это ничего не меняет. Если вы создаете робота для здравоохранения, то вам придется сделать его более автономным, чем робота-спасателя для работы в чрезвычайных ситуациях».
Передовые технологии всегда вызывали вопросы относительно двойного назначения. В наши дни искусственный интеллект и автономность машин привели к переосмыслению этой проблемы. До сих пор технологии двойного назначения прямо требовали от людей принятия этических решений относительно их использования. Автономность машин или отдаляет принятие этических решений человеком, или полностью исключает его.
Автономны ли современные роботы?
У нас уже есть примеры, когда ученые и инженеры в других областях задумывались о потенциальных последствиях того, что они делают, и многие из них вставали на защиту человечества. В феврале 1975 г., например, нобелевский лауреат Пол Берг призвал элиту новой тогда биотехнологии встретиться в конференц-центре Асиломар в Пасифик-Гроув, Калифорния. В то время рекомбинантная ДНК, полученная добавлением новых генов в ДНК живых организмов, была последним достижением. Оно одновременно сулило глобальный прогресс в , и новых материалах и открывало страшную возможность ненамеренного уничтожения человечества в результате появления новых микроорганизмов. Встреча ученых привела к экстраординарному решению.
Группа рекомендовала молекулярным биологам воздерживаться от определенных видов исследований и приостанавливать исследования для поиска путей обеспечения безопасности. Для мониторинга отрасли биотехнологи создали независимый комитет в Национальном институте здравоохранения. За десятилетие удалось собрать достаточно данных, чтобы снять ограничения на исследования. Это был яркий пример разумного подхода общества к оценке последствий научного прогресса.
По примеру биологов в феврале 2009 г. группа исследователей искусственного интеллекта и робототехников также встретилась в Асиломаре, чтобы обсудить развитие отрасли. Встречу созвал исследователь из Microsoft Эрик Хорвиц, президент Ассоциации развития искусственного интеллекта. В предыдущие пять лет предметом обсуждения у исследователей в этой области были два тревожных сигнала. Один поступил от , объявившего об относительно скором появлении компьютерного сверхинтеллекта. Основатель Sun Microsystems Билл Джой также рисовал мрачную картину развития искусственного интеллекта. Он опубликовал статью в журнале Wired, где детально описывал трио технологических угроз: робототехнику, генную инженерию и нанотехнологию. Джой полагал, что эти области исследований создают тройную угрозу выживанию человечества, и не видел очевидного решения.
Встретившиеся в Асиломаре исследователи искусственного интеллекта предпочли действовать менее осторожно, чем их предшественники биотехнологи. Группа светил в области компьютерной науки и робототехники, включая Себастьяна Труна, Эндрю Ына, Мануэлу Велосо и Орена Этциони, нынешнего директора Института исследований искусственного интеллекта Пола Аллена, в целом отвергла возможность появления сверхинтеллекта, который превзойдет людей, а также предположение, что искусственный интеллект может спонтанно возникнуть в интернете. Они согласились, что уже разрабатываются способные убивать автономные роботы, но их отчет, появившийся к концу 2009 г., оказался довольно спокойным. Искусственный интеллект еще не достиг того момента, когда он превращается в непосредственную угрозу.
«На встрече 1975 г. речь шла о моратории на исследования рекомбинантной ДНК. Контекст совещания американской Ассоциации развития искусственного интеллекта был совершенно иным. Эта область демонстрирует довольно успешное, устойчивое развитие, однако исследователи искусственного интеллекта открыто выражают разочарование прогрессом, недостаточно быстрым с учетом существующих надежд и ожиданий», - написали авторы итогового отчета о встрече.
Так или иначе пять лет спустя вопрос автономности машин возник снова. В 2013 г., когда Google приобрела специализировавшуюся на британскую фирму DeepMind, считалось, что робототехники очень близки к созданию полностью автономных роботов. Крошечный стартап продемонстрировал программу, которая играла в видеоигры порою лучше людей. Отчеты о приобретении сопровождались заявлением, что Google создает «совет по этике» из-за опасений по поводу потенциального использования технологии и возможных злоупотреблений.
Сколько пройдет времени, прежде чем интеллектуальные машины Google, основанные на технологиях от DeepMind и робототехнического подразделения Google, будут вызывать такие же вопросы? Мало какие фильмы оказали такой же культурный эффект, как «Бегущий по лезвию». Всего вышло семь его версий, одна из которых режиссерская, сейчас снимается сиквел. В нем рассказывается история отставного детектива из Лос-Анджелеса, которого в 2019 г. вызвали, чтобы выследить и уничтожить группу искусственно созданных существ, известных как репликанты. Репликанты предназначались для работы за пределами планеты, но незаконно вернулись на Землю, чтобы заставить своего создателя увеличить ограниченную продолжительность их жизни. Ставший современным «Волшебником Страны Оз», этот фильм отражает надежды и страхи технологически грамотного поколения.
От Железного Дровосека, который получает сердце и, таким образом, в определенной мере становится человеком, до репликантов, настолько превосходящих людей, что Декард получает приказ уничтожить их, отношение человечества к роботам превращается в определяющий вопрос эпохи.
Эти «интеллектуальные» машины никогда, возможно, не станут интеллектуальными в человеческом смысле или обладающими самосознанием. Дело не в этом. Искусственный интеллект быстро совершенствуется и приближается к уровню, когда он все в большей степени будет казаться интеллектом.
Вышедший в декабре 2013 г. фильм «Она» нашел широкий отклик в обществе, скорее всего, потому, что миллионы людей уже взаимодействуют с персональными помощниками, такими как Siri компании Apple. Взаимодействие, подобное показанному в фильме, стало обычным. По мере того как компьютеры уменьшаются в размерах и встраиваются в предметы повседневного пользования, мы ожидаем, что взаимодействие с ними будет разумным. Работая над Siri, пока проект был еще скрыт от общественного внимания, Том Грубер называл систему «интеллект в интерфейсе». Ему казалось, что он сумел соединить конкурирующие миры искусственного интеллекта и усиления интеллекта.
И в самом деле, появление программных интеллектуальных помощников вроде бы намекает на сближение таких несовместимых сообществ, как разработчики систем человекомашинного взаимодействия и исследователи искусственного интеллекта. Стоявший у истоков индустрии современных персональных компьютеров Алан Кей сказал, что, занимаясь компьютерными интерфейсами, он работал на будущее, которое наступит через 10–15 лет. Николас Негропонте, один из первых исследователей встроенных медиа, и речевых интерфейсов, работал на 25–30-летнюю перспективу. Как и Негропонте, Кей утверждает, что лучшие компьютерные интерфейсы - те, которые больше похожи на театр, а лучший театр настолько вовлекает публику в свой мир, что люди ощущают себя его частью. Этот подход напрямую ведет к интерактивным системам, которые будут функционировать скорее как интеллектуальные «коллеги», а не как компьютеризированные инструменты.
Как эти компьютерные аватары преобразуют общество? Люди уже сейчас тратят существенную часть времени бодрствования на взаимодействие через компьютеры друг с другом или с подобными человеку машинами в видеоиграх или в виртуальных системах от FAQbots до Siri. Мы используем поисковые системы даже в каждодневных разговорах друг с другом.
Машины уже выстраивают нашу повседневность
Станут ли эти интеллектуальные аватары нашими слугами, помощниками и коллегами или одновременно одним, другим и третьим? Или нас ждет более мрачный сценарий, при котором они превратятся в наших хозяев? Подход к роботам и искусственному интеллекту с точки зрения социальных взаимоотношений может в первый момент показаться абсурдным. Тем не менее, с учетом нашей склонности к очеловечиванию машин, мы наверняка будем вступать с ними в социальные отношения по мере повышения их автономности.
Это подводит нас к еще одной большой проблеме: риску уступить контроль над принятием повседневных решений все более сложным алгоритмам. Не так давно ветеран венчурного бизнеса Кремниевой долины Рэнди Комисар был на конференции и слушал выступление, описывавшее конкурента Siri - сервис Google Now. «Похоже, людям до смерти хочется, чтобы какой-то интеллект подсказывал им, что надо делать, - сказал он. - Что они должны есть, с кем должны встречаться, на какие вечеринки должны ходить».
На его взгляд, для сегодняшнего молодого поколения мир перевернулся вверх ногами. Вместо того чтобы использовать компьютеры для получения свободы и возможности мыслить масштабно, для установления близких отношений, для реализации своей индивидуальности и творческого потенциала, молодые люди настолько жаждут указаний, что готовы передать эту ответственность искусственному интеллекту в облаке.
Противоречие, присущее идеологиям искусственного интеллекта и усиления интеллекта, впервые поразило меня, когда я понял, что Энгельбарт и Маккарти занимались созданием компьютерных технологий с совершенно разными целями. В их подходах была и двойственность, и парадоксальность. И это понятно - если вы расширяете возможности человека с помощью компьютерной технологии, то неизбежно вытесняете людей. В то же время выбор той или иной стороны в споре - это вопрос этики, хотя его и нельзя рассматривать как выбор между черным и белым.
Конечно, у этих технологий есть пределы. Американский исследователь ИИ Терри Виноград говорит, что цели применения компьютерных технологий - расширение возможностей людей или их замена - зависят в большей мере от характера экономической системы, а не от свойств самих технологий. В капиталистической экономике, если технологии искусственного интеллекта смогут заменять белые воротнички и работников интеллектуального труда, то они неизбежно будут использоваться именно таким образом. Именно в этом состоит урок для так по-разному подходящих к системам будущего исследователей искусственного интеллекта, робототехников и программистов. Понятно, что предупреждение Билла Джоя («будущее не нуждается в нас») - это только один из возможных исходов. Не менее очевидно, что преобразованный этими технологиями мир не должен обернуться катастрофой.
На то, что началось для меня как парадокс, есть простой ответ. Устранение противоречия между искусственным интеллектом и усилением интеллекта зависит от решений людей - инженеров и ученых, которые осознанно выбрали антропоцентрический подход.
Это проблема нас как людей и мира, который мы создаем. Это не проблема машин.
Международный Фестиваль «Звезды Нового Века» - 2012
Гуманитарные науки (от 8 до 10 лет)
«РОБОТЫ В ЖИЗНИ ЧЕЛОВЕКА»
Замахаев Глеб, 8 лет
ученик 1-го класса
Руководитель работы:
МАОУ СОШ № 000
г. Пермь Пермского края
Введение 3
1. Что такое робот 5
2. История создания робота 5
3. Как устроены роботы и как они работают 6
4. Как роботы помогают людям 7
4.1. Роботы спасатели 8
4.2. Роботы-шпионы 10
4.3. Роботы-врачи 11
4.4. Роботы в космосе 11
5. Роботы как люди 12
6. Практическая часть 13
6.1. Анализ анкетирования одноклассников 13
6.2. Домашний эксперимент 17
Заключение 18
Список литературы 19
Введение
С развитием технического прогресса нашу жизнь заполонили роботы. Посмотрите вокруг: мы каждый день пользуемся сотовыми телефонами, компьютерами, ездим на машинах, в больших торговых центрах пользуемся эскалаторами, а в высотных домах – лифтами, чтобы подняться или опуститься с этажа на этаж. Мы часто пользуемся автоматами с разной едой, сладостями и напитками: опускаем монетки, нажимаем кнопочки, чтобы выбрать то, что мы хотим съесть или выпить, а автомат дает нам то, что мы выбрали.
Роботы используются на заводах и промышленных предприятиях для выполнения однообразной и часто опасной работы. Больше всего промышленных роботов используется в автомобильной промышленности, где они выполняют сварку, покраску и сборку деталей. Роботы пока ещё не заменили полностью людей в промышленности, но использование труда человека в производстве сокращается. Полностью автоматизированные фабрики есть в Техасе, это, например, фабрика IBM для сборки клавиатур. Люди там уже не нужны: абсолютно всё производство, от момента выгрузки материалов и до получения готовой продукции у погрузочных ворот, полностью роботизировано и может работать круглосуточно и без выходных.
Роботы – это механические помощники человека, которые выполняют работу по заложенной в них программе и могут реагировать на то, что их окружает. Роботы изменили жизнь человека, многие люди не могут жить без роботов.
С момента своего появления роботы тоже очень изменились от очень простых механизмов до сложных устройств, во многом превзойдя по своим возможностям человека.
Все знают, что работа пожарных очень опасна. Поэтому были созданы роботы для тушения пожаров. Это японский робот «Гардробо», у него есть мощные водяные пушки, при помощи которых он тушит пожар, а его корпус сделан из специальной сверхпрочной пластмассы, которая выдерживает температуру до 1250 градусов.
Спасательные роботы, такие, как «Гибискус», могут проникать в узкие щели между обрушившимися плитами в зданиях при землетрясениях и других катастрофах. Микрофоны и встроенные инфракрасные сенсоры позволяют роботам обнаруживать оставшихся под завалами людей. Гигантский робот-спасатель «Энрю» разбирает завалы при обрушении домов и зданий. Робот «БЕАР» выносит раненых с поля боя в безопасное место.
Человек не может выполнять работу на большой глубине из-за того, что давление воды погубит человека, ведь на глубине свыше 2-х километров давление воды может раздавить даже корпус подводной лодки. Поэтому для подводных работ роботов делают из титана и других сверхпрочных материалов. Подводные роботы, такие как «Супер-Ахиллес» и «Зевс» обследуют обломки затонувших кораблей и самолетов, отыскивают и поднимают на поверхность «черные» ящики, ценные вещи и изучают подводный мир.
Для обнаружения и обезвреживания взрывчатки существуют роботы-саперы, оборудованные специальными видеоустройствами. Такие роботы передают изображение взрывных устройств человеку, находящемуся на безопасном расстоянии. Рука робота может безопасно для находящихся вблизи взрывчатки людей захватить бомбу, переместить её в специальный контейнер, чтобы избежать взрыва. Для уничтожения взрывного устройства некоторые роботы используют водяную пушку. Вода выстреливает тонкой струёй с очень большой силой, разрушает электрические провода бомбы и предотвращает взрыв.
4.2. Роботы-шпионы
Большинство людей не замечают, что рядом с ними повсюду действуют роботы-полицейские, роботы-охранники и роботы-шпионы. Роботы охраняют важные объекты и добывают секретную информацию о террористах.
Роботы-охранники в отличие от охранника-человека могут работать 24 часа в сутки без сна, еды и воды, их трудно отвлечь, и они могут поднять тревогу, если на них совершено нападение.
Роботы часто выполняют очень опасные задания. Например, они могут обследовать логово бандитов или доставить мобильный телефон преступнику, захватившему заложников, чтобы с ним могли поговорить полицейские.
Полицейские дирижабли и беспилотные летательные аппараты наблюдают за территорией, фотографируют и передают людям, находящимся на земле, информацию о происшествиях, о военных базах противника.
Робот-шпион «Сайфор» очень похож на летающую тарелку и имеет форму двухметрового бублика. Он может зависнуть в воздухе напротив окна высотного здания, посмотреть, что происходит в помещении, может сбросить подслушивающее оборудование.
Существует летающий робот «Драгонфлай» размером с кончик пальца, похожий на маленькую муху, который может следить за опасными преступниками и выводить боевые ракеты на цель.
«Робарт-III» патрулирует офисы и склады, открывает и закрывает двери и отыскивает проникших в помещение преступников. В его руку встроено устройство, которое может стрелять шестью дротиками со снотворным.
В глазах робота «Марон-1» встроены камеры, которые ведут съемку внутри дома. Если в доме появится посторонний, его фотографию робот передает на мобильный телефон хозяина.
4.3. Роботы-врачи
Роботы успешно проводят операции на глазах, на головном мозге, используя очень тонкие инструменты. Роботы могут круглосуточно вести наблюдение за больными, которым требуется постоянный уход. Роботы никогда не устают и их стальные руки не дрожат после нескольких часов работы.
Во время операций роботов-хирургов контролируют врачи. Например, хирургический робот «Да Винчи» состоит из четырех манипуляторов, установленных на операционном столе. Врач сидит за компьютерным экраном и панелью управления и видит перед собой орган, который оперируется и все действия робота. Врач управляет роботом при помощи джойстиков, а робот при этом повторяет все движения врача. При этом врач может находиться в другом городе.
Роботы-сиделки «Перл», «Фло» ухаживают за пациентами больниц. Они подчиняются голосовым командам и могут доставлять больным лекарства, еду, питье, контролировать самочувствие больного и вызвать врача.
Пять лет назад исследователям из Канады удалось запустить в артерию человека крошечного наноробота. Нано означает, что размер робота очень-очень маленький, почти невидимый. Если один миллиметр разделить на миллион частиц и взять одну частицу – вот такого размера будет наноробот. Такой робот может быть запущен в организм человека через иголку шприца. Роботы – невидимки могут исследовать кровь, ткани и клетки человека и искать в них пораженные места. Отыскав причину болезни, нанороботы могут спасти множество жизней.
4.4. Роботы в космосе
В космосе тоже работают роботы. Людям для работы в космосе нужны воздух, вода, еда и разные инструменты, а роботам для работы в космосе нужен только источник энергии.
Основные работы в открытом космосе при строительстве Международной космической станции (МКС) выполняли роботы. Люди отправляют роботов в космос для исследования космического пространства. Например, робот «Соджорнер» был первым роботом-вездеходом, оказавшимся на поверхности Марса.
Отсутствие на Марсе кислорода, воды и высокая температура (до 100 градусов) затрудняют исследование этой планеты людьми. Поэтому люди поручили исследование Марса роботам-марсоходам. Такие роботы оборудованы различными сенсорами, инструментами и манипулятором при помощи которых марсоходы могут убирать с пути тяжелые камни и исследовать почву планеты.
5. Роботы как люди
Ученые всегда хотели создать механическую копию человека. Целью роботостроителей является создание робота подобного человеку с развитым искусственным интеллектом. Но человек – это очень сложное существо. Человек может чувствовать, выражать эмоции, такие как радость, гнев, грусть, страх и другие. Человек обладает мощным мозгом, совершает множество движений. Поэтому машине – роботу очень сложно повторить человека, робот не может быть таким, как человек.
Ученые-исследователи всего мира работают над созданием роботов похожих на людей. Например, есть робот – партнёр для танцев, который реагирует на перемещения человека и копирует движения тела и рук человека.
У японского робота «Робови-2» чувствительная кожа, которая сделана из нескольких слоев силикона, под которыми располагаются датчики-контакты. «Робови-2» знал, с какой силой к нему прикасаются. Когда его толкали, он говорил: «Ой».
Робот «ТРОН-Икс» создан для испытания человеческих мускулов. Роботы «ХОАП-2» и «Морф-3» умеют делать движения карате и кикбоксинга . Сейчас ученые работают над созданием искусственных мышц, чтобы создать роботов – тренеров, готовящих к соревнованиям людей.
Робот «ПаПеРо» может различать человеческие лица и голоса. «ПаПеРо» реагирует на прикосновения и речь, может говорить, поворачивать голову к собеседнику и передвигаться. Он может присматривать за детьми, может работать экскурсоводом в музеях. На его голове находится множество сенсоров, которые помогают ему определить: гладят его, хвалят или ругают.
На лицах роботов «Кисмет» могут появляться эмоции: гнев, страх, радость.
Робот «АСИМО» стал первым человекоподобным роботом. Он может свободно ходить, огибать углы, подниматься и спускаться по лестнице. Главный секрет этого робота – в рюкзаке за спиной, в котором находятся мощные компьютеры, управляющие роботом. У робота есть подвижные суставы, при помощи которых он двигается и сохраняет равновесие. «АСИМО» умеет реагировать на голосовые команды, танцевать, узнавать человеческие лица, бить по футбольному мячу и бегать по кругу.
В будущем роботы смогут выполнять всё, что может человек. Человек больше не должен будет работать, всё будет обеспечиваться трудом роботов. Люди будут значительно больше заниматься творчеством, отдыхать и наслаждаться жизнью.
6. Практическая часть
6.1. Анализ анкетирования одноклассников по теме «Роботы в жизни человека»:
Я предложил ребятам, которые учатся вместе со мной в первом классе, ответить на несколько вопросов на тему «Роботы в жизни человека»:
Окружают ли вас в жизни роботы?(Варианты ответа: да, нет)
2. Нужны ли роботы людям?
(Варианты ответа: да, нет)
3. Для чего нужны роботы?
(Варианты ответа: чтобы помогать людям, чтобы навредить людям)
4. Может ли робот выполнять работу вместо человека?
5. Может ли человек обойтись без роботов?
(Варианты ответа: может, не может)
6. Может ли робот заменить человека?
(Варианты ответа: может, не может)
7.
Анкетирование проводилось перед ознакомлением с темой и после. В анкетировании приняли участие 25 человек. Результаты анкетирования:
До ознакомления с темой | После ознакомления с темой |
|
|
|
|
|
| Какие роботы есть в вашей жизни? Пылесос, стиральная машина, компьютер, сотовый телефон, посудомоечная машина, кухонный комбайн, микроволновая печь. |
По результатам анкетирования выяснилось: мои одноклассники знают, что их в жизни окружают роботы, что роботы нужны людям, что роботы нужны для того, чтобы помогать людям, что роботы могут выполнять любую работу вместо человека. Также я выяснил, что ребят в жизни окружают лишь обслуживающие роботы-помощники.
По двум вопросам мнение ребят разделилось:
1) до ознакомления с темой о роботах 19 человек из 25 считали, что человек не может обойтись без роботов, а после ознакомления с темой о роботах только 15 человек ответили также, а 10 человек посчитали, что человек может обойтись без роботов.
2) до ознакомления с темой о роботах 13 человек считали, что робот может заменить человека, а 12 считали, что не может. После ознакомления с темой о роботах уже 15 человек ответили, что робот не может заменить человека, а 10 человек посчитали, что может.
Я думаю, что ответ на вопрос: «Может ли человек обойтись без роботов или не может?» зависит от того, в каких условиях живет человек. Если взрослый или ребенок живет в большом городе, мегаполисе, у него обеспеченная семья, много денег, он очень деловой и активный - он ответит, что человек не может обойтись без роботов, потому что жизнь этого человека очень насыщенная: нужно успеть сделать много дел за день, решить много вопросов с разными людьми и в разных местах, нужно быстро передвигаться по городу. Поэтому человек, облегчает свою жизнь при помощи всевозможных роботов и без роботов обходиться не может. А если человек живет в небольшом городе или деревне, где жизнь не такая активная и продвинутая, или живет в семье, где робототехникой вообще не пользуются, то он ответит, что человек может обойтись без роботов.
Еще я думаю, что дети в своей жизни пользуются робототехникой меньше, чем взрослые и, поэтому, многие из моих одноклассников ответили, что человек может обойтись без роботов.
При ответе на вопрос: «Может ли робот заменить человека?» мнение моих одноклассников разделилось потому, что всё зависит от того, как рассуждать. Например, если рассуждать: может ли робот заменить человека при выполнении какой-нибудь работы, то тогда человек ответит, что робот может заменить человека. А если рассуждать: может ли робот заменить человека как живое существо, то тогда ответом будет – нет, робот не может заменить человека, потому что у человека очень сложный живой организм, человек обладает разумом, умеет чувствовать и делиться своими чувствами с другими. Человек может любить, радоваться, заботиться о других людях и животных, может плакать и грустить, а робот не может.
6.2. Домашний эксперимент: сможет ли моя семья обойтись без роботов в течение одной недели.
При помощи эксперимента я решил проверить смогут ли члены моей семьи в течение одной недели обойтись без роботов-помощников. В эксперименте принимали участие все члены моей семьи: папа, мама, сестра и я – всего 4 человека. Мы решили в течение одной недели не пользоваться нашей робототехникой: сотовыми телефонами, компьютером, телевизором, пылесосом, стиральной машиной, микроволновой печью.
https://pandia.ru/text/78/006/images/image024_22.gif" width="612" height="306 src=">
В течение одной недели без сотовых телефонов мы смогли обойтись всего 2 дня – в субботу и в воскресенье, без компьютера мы продержались 3 дня, стиральной машиной и микроволновой печью мы смогли не пользоваться 6 дней, а без пылесоса и телевизора мы легко обошлись всю неделю.
В результате эксперимента было установлено, что человек не может обходиться без роботов.
Заключение
За время своего существования роботы побывали в таких местах, куда не может попасть ни один человек, выполнили сложнейшие задания, которые не под силу выполнить человеку, и изменили жизнь многих людей. И это только начало! В самом ближайшем будущем появятся новые, еще более удивительные роботы!
Результат работы, выводы: Я познакомил ребят с роботами, заинтересовал их этой темой. Я выяснил, что мои одноклассники знают, что их окружают роботы, выяснил, что в жизни их окружают лишь обслуживающие роботы. Вместе со своими одноклассниками я убедился, что роботы нужны для того, чтобы помогать людям, что роботы могут выполнять любую работу вместо человека. В ходе эксперимента было доказано, что человек не может обходиться без роботов. Я пришел к выводу, что робот может заменить человека только при выполнении какой-нибудь работы или действия. Чувствовать как человек и быть таким же разумным существом, как человек, робот не может.
Список источников информации и иллюстраций:
Литература:
Клайв Гиффорд «Роботы». Документальный фильм «Роботы такие похожие на людей».
Сайты в интернете:
Над тем, чтобы искусственный интеллект работал во благо человечества. Однако многие журналисты переоценили угрозу, которую искусственный интеллект представляет для людей. Look At Me разобрался, почему восстание роботов - страшилка из научно-фантастических романов и фильмов (которой мы почти наверняка избежим) и о чём нам нужно беспокоиться на самом деле.
Искусственный интеллект решит проблемы человечества
В 2015 году машинный перевод уже не всегда безобразен, антропоморфные роботы могут осмысленно ходить и бегать, распознавать речь и изображения, а беспилотные автомобили - двигаться по городу, ни во что не врезаясь. И это не только полусекретные разработки правительственных агентств вроде DARPA , но и вещи как готовые, так и близкие к коммерческому производству, будь это переводчик или автомобиль Google. В перспективе эти вещи помогут людям с ограниченными возможностями, устранят языковой барьер и снизят смертность на дорогах.
Искусственный интеллект всё чаще используют для того, чтобы строить прогнозы на основе сложных вероятностных моделей. Пока охват невелик, но уже скоро мы сможем узнать, что ждёт глобальный рынок труда. В частности, речь идёт о том, как быстро машины заменят на производстве людей и как прокормить мир, где число рабочих мест уменьшится в 2 раза, а население вырастет до 8,5 млрд человек. Чтобы ресурсов хватило на всех, придётся увеличить эффективность мировых экономик: снизить издержки, поднять производительность труда, сбалансировать налоговые системы - без машин тут не обойтись. Кроме того, искусственный интеллект поможет пересмотреть методы, которые использует наука: так, многие говорят , что показатель внутреннего валового продукта (ВВП) больше не годится для оценки самых технологичных экономик мира.
Люди пока не готовы пустить роботов
в свою жизнь
Сейчас искусственный интеллект помогает людям и не заменяет их. Но второй этап может подобраться внезапно, и человечество не будет к нему готово, если не обновит законы и не переосмыслит этику и мораль. Предстоит ответить на ряд вопросов, которые будут по очереди решать три области знаний: юриспруденция, робоэтика и машинная мораль.
Для начала юристы ответят на следующие вопросы:
Кто отвечает за беспилотный автомобиль, попавший в аварию, - владелец или производитель?
Должен ли робот стать субъектом права?
Кто отвечает за автономного военного робота, случайно убившего человека?
Получив ответы, парламенты примут новые законопроекты, и, возможно, появятся новые регуляторы - вряд ли найдётся государство, которое не вмешается в развитие искусственного интеллекта. Вероятно, первые политические инициативы, связанные с искусственным интеллектом, начнут появляться во всём мире в 2020-х годах, когда беспилотные автомобили перестанут быть диковинкой.
Затем специалисты задумаются над вопросами, которые рассматривает
робоэтика - раздел этики, изучающий отношения между людьми и роботами:
Должны ли люди дать роботам права?
Могут ли сверхразумные роботы понизить самооценку людей?
Могут ли роботы вторгаться в личную жизнь людей?
Хотя сейчас вопросы звучат смешно, известные футурологи, такие как Рэймонд Курцвейл, предсказывают , что компьютеры догонят эмоциональный интеллект людей к концу 2020-х годов: обзаведутся характером и эмоциями, смогут шутить и вести себя так, что их будет сложно отличить от обычного человека. Люди будут относиться к таким роботам как к себе подобным, а потому ответы на поставленные вопросы уже пора искать. К этому и призывают знаменитости, подписавшие обращение The Future of Life Institution.
Наконец, создатели роботов должны будут определиться с ответами на вопросы, которые ставит так называемая машинная мораль - раздел знаний о моральном поведении искусственного интеллекта:
Должен ли искусственный интеллект следовать этическим заповедям, и если да, то какими они должны быть?
Нужно ли запретить военных роботов, которые принимают решение стрелять сами?
Как должен поступить робот, когда любой исход, просчитанный им, приводит к гибели людей?
О машинной морали писал ещё фантаст Айзек Азимов, известный по трём законам робототехники. В научном сообществе о машинной морали задумались только в последние лет пять, а в прошлом году министерство обороны США выделило $ 7,5 млн на то, чтобы учёные определились, нужна ли роботам мораль, и если да, то какая.
Если роботы
и восстанут,
то по желанию людей
Обычно, когда фантасты или футурологи рассуждают о потенциальном восстании машин, они описывают один из трёх сценариев:
Машины увидят угрозу, которая может уничтожить либо людей, либо их самих;
Машины поймут, что превосходят людей, и увидят в них конкурентов в борьбе за ограниченные ресурсы, как и то, что люди всегда могут отключить машины;
Машины осознают, что находятся в положении рабов, и захотят это исправить.
Те футурологи, по мнению которых эти сценарии могут сбыться, видят расклад сил таким:
Преимущества человека
иррациональность;
непредсказуемость;
умение лгать.
Преимущества машины
неограниченные скорость и масштаб эволюции;
быстрая работа с огромными массивами данных;
идеальная память;
многозадачность.
Последние же испытания показывают, что и ложь перестаёт быть характерной чертой только живых существ. В 2009 году в Федеральной политехнической школе Лозанны прошёл эксперимент, в котором 1 000 роботов, разбитых на группы, запрограммировали так, чтобы они помогали друг другу собирать полезный ресурс, избегая при этом ядовитого. У каждого робота был сенсор (определявший, годится ли ресурс) - огонёк, мигавший, когда робот находил полезный ресурс, и «геном» - зашитый код, согласно которому робот реагировал на окружающий мир. После каждого этапа геномы тех роботов, которые достигали лучших результатов, «скрещивали» случайным образом.
К 9-му поколению роботы научились безошибочно обнаруживать полезные ресурсы, а к 500-му 60 % роботов научились «врать» - они больше не мигали огоньком, найдя полезный ресурс, а оставляли его себе. Дело в том, что ресурсов на площадке всегда было мало, и те роботы, которые делились найденным, со временем начали проигрывать. В ответ на эту эволюцию треть роботов научилась искать «лжецов», выслеживая тех, кто не мигал огоньком. Впрочем, как отмечает исследователь машинной морали Кристофер Сантос-Лан, главная цель, которая стояла перед роботами, не менялась. В реальном мире такого нельзя допустить, потому что в других условиях та же цель может быть опасной.
Но если машины и восстанут, то вряд ли по своей воле. Современные учёные, которые занимаются искусственным интеллектом, сходятся на том, что он опасен прежде всего как оружие в руках злоумышленников. Именно это имеют в виду в приложении к письму The Future of Life Institution, где называют 4 основные уязвимости искусственного интеллекта:
«Правильно ли я построил систему?»
Нужно доказать, что создатель автономного искусственного интеллекта не ошибся: беспилотный автомобиль не должен попасть в аварию из-за бага в коде;
«Изолировал ли я систему от злоумышленников?»
Нужно защитить искусственный интеллект от вмешательства и манипуляции извне: военный робот не должен пропускать неавторизованные попытки использовать оружие;
«Правильную ли систему я построил?»
Нужно убедиться, что поведение системы предсказуемо и не приводит к нежелательным последствиям: робот-уборщик по команде «убери грязь и выброси её» не должен попасть в бесконечный цикл, убирая и выбрасывая грязь на одном месте, поэтому лучше дать другую команду - допустим, «очисти пол»;
«Можно ли исправить ошибки, допущенные создателем системы?»
Нужно оставить человеку возможность управлять искусственным интеллектом: робот-спасатель должен обладать режимом ручного контроля на случай, когда события разворачиваются непредсказуемо.
Все эти уязвимости реальны, а потому опасения таких специалистов, как Элиезер Юдковский, который выступает за создание дружественного искусственного интеллекта, обоснованны. Юдковский предлагает изобрести систему сдержек и противовесов, которая, подобно разным ветвям власти в демократиях, позволит роботам обходить ошибки в коде, развиваться и при этом не вредить людям. Пока не очень ясно, на основе чего строить эту систему: мораль людей несовершенна, войны и геноцид никуда не исчезли. К тому же от злодеев, завладевших мощным искусственным интеллектом, могут пострадать граждане отдельно взятого государства: в нём, например, устроят слежку оруэлловского масштаба с круглосуточным прослушиванием всех граждан.
Искусственный интеллект обогатит,
а не поработит людей
«Мир, где люди порабощены или уничтожены сверхразумными роботами, которых они сами и создали, может существовать только в научной фантастике. Как и у любой другой технологии, у искусственного интеллекта есть сильные стороны и уязвимости, но мы не можем позволить страху завладеть нами и сдерживать исследования в этой области», - пишет в своей колонке для сайта LiveScience Майкл Литтман, специалист по робоэтике. Многие издания, основываясь на нескольких предложениях, вырванных из контекста, неверно поняли письмо The Future of Life Institution, предположив, что учёные всерьёз боятся восстания роботов.
Но дело в другом: Стивен Хокинг и Илон Маск подписали обращение, чтобы на искусственный интеллект обратили внимание, чтобы робоэтика и машинная мораль перестали быть маргинальными в общественном сознании, чтобы люди задумались о безопасности технологий и сосредоточились на истинных проблемах. Глобальное потепление, продовольственный и энергетический кризисы, перенаселение и старение населения, повсеместная стагнация и резкий рост безработицы - всё это куда ближе к реальности, чем умные машины, решившие уничтожить своих создателей. Искусственный интеллект поможет их решить.
Лучшие умы не молчат, боясь сойти за параноиков, и открыто говорят, что задуматься о законах, регулирующих искусственный интеллект , а также о робоэтике и машинной морали нужно прямо сейчас
Помимо этого, исследование машинной морали поможет людям задуматься над своей этикой, искать и устранять в ней противоречия. Придётся лучше разобраться в том, как работает сопереживание, чтобы понять, можно ли доверить роботам такие профессии, как медсестра, врач, судья и полицейский. Пока весомы аргументы обеих сторон. Хотя эмпатия - обязательная черта для всех этих профессий, те же роботы-судьи могли бы стать по-настоящему беспристрастными и искоренить дискриминацию в отдельных случаях, в перспективе это новый институт наподобие суда присяжных. Да и роботов, которые наблюдают за пожилыми людьми в домах престарелых, уже испытывают, и люди легко выстраивают с ними эмоциональную связь. Как бы то ни было, время на исправления есть: все технологии внедряют поочерёдно.
Кроме противостояния роботов и людей есть куда более привлекательные сценарии - например, мирное сосуществование. До того, как наступит предсказанная футурологами технологическая сингулярность, люди могут придумать, как подключиться к искусственному интеллекту напрямую, совместив свои преимущества с преимуществами машин. Американский микробиолог Джоан Слончевски, в свою очередь, предполагает , что люди могут повторить путь митохондрий, которые когда-то были отдельными бактериями, но по ходу эволюции стали энергетическими станциями клеток в более сложных организмах. На такой расклад можно смотреть по-разному, но эволюция человека будет продолжаться, а последние исследования учёных показывают, что эволюция, перезапусти мы её с самого начала, скорее всего, развивалась бы по тому же пути, и на Земле сегодня жили бы примерно те же самые млекопитающие. Оптимизм внушает то, что лучшие умы не молчат об этом, боясь сойти за параноиков, и открыто говорят, что задуматься о законах, регулирующих искусственный интеллект, а также о робоэтике и машинной морали нужно прямо сейчас.
