Может ли робот убить человека. Стоит ли бояться нашествия роботов-убийц? Девять солдат из Южной Африки

С максимальной нагрузкой 200 кН (20000 кгс).

Состоит из собственно машины (рис. 2.1 слева) и пульта управления (рис. 2.1 справа).

Кинематически машина представляет собой две сопряженные рамы – неподвижную и подвижную. Неподвижная рама состоит из основания 1 и траверсы 8, соединенных двумя колоннами 4.

Подвижная рама состоит из траверсы 5 и поперечины 10, связанных двумя тягами 9. Рабочий ход подвижной траверсы осуществляется гидравлическим приводом . Для установки образца нижний захват имеет механический привод, управляемый кнопочной станцией на правой колонне машин.

Механизм привода нижнего захвата состоит из электродвигателя и червячной передачи (на схеме не показаны), винт 3 которой после установки образца дополнительно фиксируется контргайкой 2.

Подвижная траверса 5 в нижней части снабжена универсальной захватывающей головкой для установки приспособлений при испытании на разрыв и является верхним захватом.

Верхняя часть подвижной траверсы служит столом, на котором устанавливаются приспособления для испытания образцов на сжатие и изгиб.

Гидравлический привод подвижной траверсы состоит из рабочего цилиндра 6 и поршня 7, на который опирается подвижная рама

В сторону пульта управления от рабочего цилиндра выведены маслоприводы:

1. маслопривод 13 соединяет рабочий цилиндр с насосом;
2. маслопривод 14 соединяет рабочий цилиндр с цилиндром маятникового силоизмерителя;
3. маслопривод 11 сливной, служит для слива утечек масла через зазор в рабочей паре в бачок насосной установки.

Масло насосом нагнетается в рабочую полость цилиндра и вызывает поступательное движение поршня вверх, а при спуске масла вся система подвижных частей машины опустится вниз под действием собственного веса.

В пульте управления размещены:

1. насосная установка с централизованным управлением;
2. силоизмеритель – динамометр.

Насосная установка установлена на раме пульта, остовом ее является бачок 19, заполненный маслом. Внутри на боковой стенке бачка закреплен насос, на наружной стенке укреплен электродвигатель. Механизм управления насосной установки смонтирован на крышке бачка и имеет на пульте рукоятки для тонкой и грубой настройки насоса.

Силоизмерительное устройство представляет собой динамометр маятниково-гидравлического типа, имеющий четыре диапазона измерения усилий: 0-25; 0-50; 0-100 и 0-200 кН (0-2500, 0-5000, 0-10000 и 0-20000 кгс). Принятые диапазоны измеряемых усилий выражены четырьмя шкалами на циферблате (соответственно шкалы А, Б, В и Г).

Изменение давления в рабочем цилиндре машины передается плунжерному силоизмерителю 18 через трубопровод 14. Плунжер, воспринимая давление в системе и перемещаясь, вызывает через рычаг 17 поворот штанги маятника 20 со сменными грузами (для различных шкал нагрузок) и приводит в движение рейку 16. На одном конце рейки закрепляется самописец диаграммного аппарата 15, а на другом — зубчатая пара , перемещающая стрелку шкалы нагрузок 12.

Барабан самопишущего диаграммного аппарата приводится во вращение нитью, пропущенной через ряд роликов и соединенной с подвижной траверсой 5.

Второй конец нити перекинут через одну из двух круговых проточек на левом торце барабана и натянут подвешенным грузиком. Масштаб записи деформации равен 1:1 при передаче вращения через большую проточку барабана и 5:1 при передаче вращения через малую проточку.

Масштаб усилий на диаграмме зависит от диапазона измерения нагрузок. При шкале А, Б, В и Г цена 1 мм соответственно равна: 125, 250, 500 и 1000 Н (12,5; 25; 50 и 100 кгс).

Внутри пульта управления имеется также стабилизатор давления, служащий для автоматического поддержания заданной нагрузки при длительных испытаниях.

Для проведения работы на изгиб на верхней опорной поверхности подвижной траверсы крепятся нижние роликовые опоры . Расстояние между опорами устанавливается вручную по линейкам, укрепленным по бокам траверсы. После установки опоры крепятся шпильками к подвижной траверсе. В отверстие торца рабочего цилиндра вставляется хвостовик верхнего нажимного ролика.

Подводную змею-робота создали инженеры японского научно-исследовательского института NEDO . Механическая рептилия ACM-R5 в длину 2 метра, ее вес всего 8 кг. Литий-ионный аккумулятор позволяет змее автономно работать в течение 30 минут. Управлять им приходится по радио. Следуя командам, ACM-R5 может менять высоту, скорость и направление движения. Перемещается змея, как и ее биологический аналог, извиваясь всем телом.

Свое местоположение робот определяет с помощью гиросенсоров и цифровой камеры, данные обрабатываются 32-битным микропроцессором. Змея умеет не только плавать, но и двигаться по дну. Робот сконструирован не ради демонстрации высоких технологий, а для практических нужд. Змеи с более емкими аккумуляторами смогут обследовать океаническое дно для предупреждения землетрясений и прокладывать или ремонтировать оптоволоконные кабели.

Робот-трансформер

На девятой по счету выставке Robo-One в Токио изобретатели представили множество разнообразных роботов. Внимание посетителей привлек RAYERD-X , создатель которого - инженер Асурада А. Машина заняла всего лишь 24 место, но зато получила специальный приз. Уникальный дизайн робота позволяет ему превращаться в шагающего паука, башню, карусель и, конечно же, принимать «боевую» гуманоидную форму. При необходимости робот может трансформировать руки в ноги, чтобы продолжать сражение. В общем, способностям RAYERD-X позавидует любой автобот или десептикон.

Рост трансформера 50 см, а вес 4 кг. Управляет роботом оператор посредством беспроводного интерфейса. Игрушка обошлась создателю в 3 тысячи долларов (около 80 тысяч рублей). Кстати говоря, подобные трансформеры могут использоваться в военных и промышленных целях.

Летающий терминатор

Основной закон роботов нарушен! Робот может убить человека! Компания Neural Robotics Incorporated выпустила в продажу беспилотный вертолет AutoCopter с автоматическим дробовиком Auto Assault-12. Летающая машина размером с телевизор предназначается для охраны дома. AutoCopter оснащен навигационной системой со сложными алгоритмами, что позволяет ему летать самостоятельно, без указаний человека. Машина, следуя заданной программе, поднимется в воздух и станет, к примеру, патрулировать территорию.

Управлять AutoCopter можно по радио или с помощью модуля спутниковой навигации GPS через компьютер. Если вертолет потеряет связь, он вернется туда, где контакт еще оставался. Робот следит и за уровнем топлива - как только оно подойдет к концу, раскроется специальный парашют. В вертолет встроена защита от дурака: если пилот отдает команды, грозящие роботу паданием, машина откажется их выполнять.

Аппарат развивает скорость 75 км/час и выстреливает до 300 патронов в минуту. Оборудованный видеокамерой с инфракрасным режимом и мощным компьютером, робовертолет станет грозным оружием против воров. Стоимость смертельной машины составляет 2,6 млн рублей. Пока неясно, кто будет нести ответственность за убийство роботом человека.

Выпей метанола...

Два типа искусственных мускулов, из алюминия и углеродных нанотрубок, изобрели ученые Техасского университета . Рукотворные волокна работают на метаноле и смогут однажды, как надеются техасцы, стать полноценной заменой обычным мышечным тканям. Искусственные мышцы вырабатывают энергию так же, как и уже известные топливные элементы. Небольшое количество топлива содержится прямо в тканях, остальное подводится по системе циркуляции. Химическая энергия переходит в тепло, которое и заставляет мышцы сокращаться.

Бросить мячик рука с новыми волокнами не позволит, зато роботы смогут поднять груз весом до 500 кг, не расходуя при этом заряд литий-ионных аккумуляторов! Применяться мышцы станут и в экзоскелетах - специальных усиливающих костюмах для грузчиков, военных, космонавтов. Очевидный плюс технологии - малая энергоемкость. Реализация изобретения на практике - дело ближайших лет, оптимистично считают ученые.

Развитие робототехники и автоматизации, безусловно, необходимы для перехода человечества на новый технологический уровень. Но, как и в любой другой высокотехнологичной сфере, здесь есть свои риски. И ставка в этих рисках может быть самой высокой – ваша жизнь. В этом мы убедились на примере недавнего инцидента с беспилотным автомобилем Uber, в котором погиб пешеход. Проблема усугубляется тем, что нынешний уровень развития ИИ не позволяет бездушным машинам быстро и адекватно определять уровень опасности, а следовательно, и понимать - находится ли перед ним человек или материал, с которым робот был запрограммирован работать.

Пример трагедии, в результате которой под колесами беспилотника Uber погибла женщина, далеко не единственный. Для беспилотных автомобилей – один из, но не для производственной среды, где людям приходится работать бок о бок с опасными машинами каждый день. В критически опасных ситуациях, когда холодная сталь сталкивается с живой плотью, последняя всегда остается в проигрыше.

Сегодня мы поговорим о десяти случаях гибели людей от «рук» роботов. Некоторые примеры содержат весьма неприятные подробности, поэтому перед тем, как вы начнете это читать, советуем убрать от экрана детей. То же самое, если вы являетесь довольно мнительным человеком – лучше закройте эту страницу и поберегите нервы. Мы предупреждали!

Джошуа Браун

Джошуа Браун стал первым человеком, погибшим в результате аварии с участием беспилотного автомобиля. Трагедия случилась 7 мая 2016 года, когда двигавшийся по дороге американского городка Уиллистон электромобиль Tesla Model S, оснащенный системой беспилотного управления, не смог определить, что перед ним находится – чистое небо или поворачивающая направо 18-колесная грузовая фура. Автомобиль Брауна влетел под центральную часть тягача как нож в масло и через мгновение вышел с другой стороны. Машина со срезанной крышей вылетела с дороги, пролетела через два забора, а затем врезалась в столб.

После внутреннего расследования Tesla заявила, что в софте автомобиля не было обнаружено никаких ошибок, и сразу же попыталась оградить себя от любого обвинения в этой аварии. При этом об инциденте публично было объявлено лишь 30 июня, то есть фактически через месяц после аварии. В опубликованном отчете говорилось, что автомобили модели Model S проехали уже более 210 миллионов километров и до сих пор не было ни одной аварии со смертельным исходом, когда для обычных автомобилей этот показатель в среднем составляет 150 миллионов километров. Компания также указала, что система автопилота ее автомобилей на момент аварии не была идеальной (полноценной), а потому правила четко требовали от водителя постоянного внимания и наличия рук на руле. За время этой 37-минутной поездки Браун только на 25 секунд убрал руки с руля. Они и оказались для него последними в его жизни.

Расследование Национального совета по безопасности на транспорте (NTSB) показало, что ни Браун, ни система автопилота перед столкновением не задействовали систему торможения автомобиля. Подушки безопасности электрокара не раскрылись до тех пор, пока автомобиль не вылетел с дороги и проехал через кусты, расположенные на частном участке. Медицинские эксперты заявили, что Браун, вероятнее всего, погиб сразу после того, как автомобиль попал под тягач.

Водитель тягача заявил, что Браун смотрел фильм о «Гарри Поттере» в момент аварии. Проверка NTSB действительно показала наличие microSD-карты с фильмом о «Гарри Поттере», но не смогла точно сказать, действительно ли Браун был отвлечен просмотром фильма на лэптопах Asus или Chromebook, также обнаруженных в автомобиле.

Роберт Уильямс

Роберт Уильямс стал первым человеком в истории, убитым роботом. Инцидент произошел на фабрике Ford в городе Флэт-Рок, штата Мичиган 25 января 1979 года. Уильямс погиб от роботизированной руки весом в 1 тонну, которая его ударила, когда он пытался самостоятельно достать новую изготовленную деталь.

Задача роботизированной руки заключалась в перекладке новых деталей с одного места на другое. Однако накопившиеся ошибки в ПО, указывающие неправильную информацию о количестве деталей, находившихся в тот момент на стеллаже, заставили Уильямса самостоятельно подняться по лестнице и достать нужную деталь. В этот момент машина его и убила. Расследование показало, что причиной гибели человека стала очень слабая техника безопасности на предприятии, и в том числе отсутствие предупреждающих звуковых сигналов, которые говорили бы об опасном присутствии человека. Компания выплатила семье погибшего 10 миллионов долларов.

Девять южноафриканских солдат

В результате инцидента, произошедшего в 2007 году, погибло девять южноафриканских солдат и еще 14 получили серьезные ранения. В этот раз сбой дала установка противовоздушной обороны, которая открыла неконтролируемый огонь во все стороны. Убийцей стало автоматическое компьютеризированное зенитное орудие Эрликон GDF-005. Оно управлялось системой, предназначенной для автоматического поиска, захвата и атаки противника без участия человека. Орудие даже имело систему самостоятельной перезарядки, что в нашем случае могло сделать его еще смертоноснее.

Солдаты проходили тренировку на одной из баз Северо-Капской провинции ЮАР, когда зенитное орудие сначала заклинило, потом, по словам очевидцев, в нем что-то взорвалось, а затем зенитка открыла неконтролируемый огонь, выпустив из двух своих стволов двести пятьдесят 35-мм фугасных снарядов в людей, находившихся рядом с ним.

В числе предполагаемых причин «бунта» зенитного орудия назывались и сбой в программном обеспечении, и механические неисправности. Согласно комментариям представителей некоторых компаний, занимающихся производством оружия, подобный инцидент был далеко не единственным, и им уже приходилось сталкиваться с аналогичными ситуациями. Просто этот случай оказался первым, когда в таком инциденте погибли люди.

Мика Джонсон

7 июля 2016 года в американском городе Даллас произошла стрельба со смертельным исходом. На почве гнева по поводу недавних убийств полицейскими нескольких темнокожих жителей, прокатившихся волной в различных городах США, Мика Джонсон застрелил пять полицейских и ранил еще девятерых, двое из которых были гражданскими. Первых трех полицейских он убил около 9 вечера, во время еще мирных на тот момент протестов. После этого он попытался скрыться в колледже в Эль-Центро, где на входе убил еще одного офицера полиции и занял выжидающую позицию, чтобы убить еще несколько полицейских.

В течение последующих пяти часов полиция безрезультатно пыталась вести с Джонсом переговоры, однако тот не желал сдаваться и угрожал взорвать несколько бомб. В конечном итоге терпение у полиции закончилось, и офицеры предложили Джонсону два выбора: либо он сдается и выходит наружу с поднятыми руками, либо остается внутри и в таком случае полиция готова применить силу. Убийца решил выбрать второй вариант.

Вскоре преступник понял, какую силу имели в виду полицейские, когда те прицепили брикет взрывчатки C4 к руке робота и отправили последнего в подземную парковку колледжа, где прятался убийца. Машина, «пожертвовав» собой, забрала в ад и Джонсона. Это был первый случай, по крайней мере в полицейской практике, когда для устранения преступника использовался робот. Ирония еще и в том, что сам робот предназначался для разминирования.

Полиция и до этого инцидента иногда использовала роботов для обезвреживания преступников. Правда в таких случаях, как правило, речь шла о светошумовых и дымовых гранатах, чтобы преступника можно было взять живьем. Кроме того, работе с роботами обучают и спецподразделения SWAT, которым чаще приходится иметь дело с террористами. В то же время американские войска еще во время Иракской войны пользовались аналогичными тактиками борьбы с повстанцами.

Кендзи Урада

Кендзи Урада стал второй жертвой робота в истории, а также первой и далеко не единственной жертвой, погибшей от руки робота, в Японии. Инцидент произошел в 1981 году на заводе компании Kawazaki Heavy Industries в городе Акаси, когда Урада производил ремонт одного из роботов. Как выяснилось позже, робот в нужный момент выключен не был, хотя должен был. Механическая рука столкнула бедного инженера в дробилку, где мужчина и погиб. Фактически это первый случай, когда машина убила человека с помощью другой машины. Спасти бедолагу не удалось – подоспевшие к месту трагедии коллеги Кендзи просто не знали, как выключить дробилку.

После долгих разбирательств инспекторы пришли к выводу, что Урада не забыл выключить технику – нужный тумблер он все-таки нажал. Однако после этого он сам же случайно зацепил тумблер, тем самым активировав только что отключенное устройство. Судя по тому, что Кендзи не остановила защитная решетка – которая должна опускаться автоматически, если робот находится во включенном режиме, – тумблер был включен уже после того, как Урада пролез через ограду. После случившегося производители сделали определенные выводы и еще больше усилили защитные системы роботов.

Неизвестный

Трагедия произошла в 2015 году на заводе автоконцерна Volkswagen в немецком городе Баунаталь. Неназываемый 21-летний молодой человек входил в команду инженеров, разработавших робота и занимавшихся его установкой. Машина убила своего создателя, проломив тому грудную клетку, после того как схватила и швырнула о металлические пластины. От полученных травм, несовместимых с жизнью, человек скончался в больнице.

СМИ сообщали, что робот-убийца должен был использоваться на линии по производству двигателей. Как и положено по технике безопасности, робот находился внутри защитной клетки. В то же время в ней находился и инженер, занимавшийся установкой и настройкой машины. В своем заявлении Volkswagen предположила, что установка могла двинуться по сигналу другого рабочего, который находился в тот момент с внешней стороны. Вследствие ошибки робот и убил несчастного.

Ванда Холбрук

В июле 2015 года крупно не повезло 57-летней Ванде Холбрук, сотруднице завода Ventra Ionia Mains в Детройте, производящего автозапчасти (бамперы и прицепы для грузовиков). На заводе Холбрук занималась мониторингом неисправностей на линиях. Тогда никто и подумать не мог, что трагическое происшествие внезапно оборвет ее жизнь, а причинной ее смерти станет сбой в механизме робота, который своими «руками» раздробит Ванде голову.

Как правило, сборочная линия на заводе разделена на несколько секций, в каждой из которых находятся роботы, занимающиеся своей частью сборки и предположительно не способные дотянуться до другой секции. Мы говорим «предположительно» потому, что один робот каким-то образом все-таки это сделал.

Как писалось в отчете комиссии, расследовавшей эту трагедию, «рука робота неожиданно схватила Ванду, дотянувшись до секции, где она работала. После этого, ударив и раздавив голову Ванды между сцепками сборки, попыталась поместить ее голову в специальное приспособление-зажим».

Рабочее место Ванды занимало площадь 800 квадратных футов, в котором роботы брали бамперы грузовиков и приваривали к ним металлические пластины. В документах писалось, что она работала как бы в клетке в тот момент, когда рука робота проникла на ее территорию и прижала ее голову к арматуре.

То, что произошло ЧП, другие сотрудники Ventra заметили лишь после того, как некоторые обычные операции перестали функционировать привычным образом. Именно после этого они направились в секцию Ванды Холбрук и решили выяснить, что произошло. Холбрук была найдена коллегами в бессознательном состоянии и умерла через 40 минут после аварии.

Рука робота фактически пыталась установить голову Ванды в специальный зажим для детали, что само по себе показалось крайне невероятным, поскольку зажим не может удерживать сразу две детали одновременно – на момент инцидента деталь уже находилась в зажиме.

Муж погибшей подал иски против пяти компаний, участвовавших в производстве этого робота.

Ана Мария Витал

В 2009 году роботом-паллетизатором компании Golden State Foods на заводе в промышленном районе Лос-Анджелеса была убита 40-летняя Ана Мария Витал. Машина использовалась в процессе установки упаковки (коробок) на палету (поддон).

В какой-то момент одна из коробок застряла внутри робота, и Мария вошла в его клетку для того, чтобы восстановить ход упаковки. Так как машина все это время была включена (зачем нам техника безопасности?), робот схватил Ану Марию, как одну из упаковок, с которыми он работал, а затем просто раздавил ее тело, несмотря на попытки механиков ее освободить.

Рамжи Лал

В 2015 году 24-летний Рамжи Лал, работавший загрузчиком металла, был заколот до смерти одним из роботов завода компании SKH Metals в индийском городе Манса. Задача робота сводилась к перемещению сваренных между собой металлических листов. Один из таких листов оказался неправильно расположен, и Рамжи попытался его поправить. Правда, оказался недостаточно расторопным, и рука робота заколола его острым краем листа в живот. Сообщалось также, что погиб он от удара током.

На самом деле Лал умер не сразу. Очевидцы произошедшего вызвали скорую, и человека привезли больницу, где через 20-30 минут он и скончался. Вскрытие показало, что его ребра и брюшная полость превратились в настоящее месиво, а умер он от обширного внутреннего кровотечения. При этом никаких признаков поражения током патологоанатомы не нашли. Однако у полиции на этот счет, видимо, оказалось свое мнение. В официальном отчете говорилось, что причиной смерти явилось смертельное поражение электрическим током.

Регина Эльза

В июне 2016 года, за две недели до собственной свадьбы, от «руки» робота погибла Регина Эльза. Ей было всего 20 лет. Несчастный случай произошел на фабрике Ajin USA, занимающейся производством деталей для автомобилей компаний Hyundai и Kia.

В тот судьбоносный день Эльза с коллегами пыталась починить вышедшего из строя робота. На самом деле они не должны были этого делать, однако многочисленные звонки в ремонтный отдел эффекта не возымели. Там просто никто не брал трубку. В итоге их решение попробовать починить робота самостоятельно оказалось роковым для одного из сотрудников. Робот неожиданно перезагрузился и очень сильно толкнул Эльзу в другую машину, нанеся ужасные травмы. Сотрудницу фабрики сначала доставили в медицинский центр Восточной Алабамы, а затем вертолетом отправили в травматологический центр в Бирмингеме. К сожалению, травмы оказались очень серьезные, и на следующее утро девушка скончалась.

Инцидент привлек повышенное внимание властей. Было установлено, что руководство фабрики Ajin USA, стремясь повысить прибыль, нарушило сразу несколько протоколов безопасности. Всего за две недели до инцидента Министерство труда США выдвинуло предприятию иск в размере 2,7 миллиона долларов за нарушение 27 различных правил безопасности. Проверка также показала, что сотрудники Ajin USA часто перерабатывали. Иногда руководство требовало от них работать 7 дней в неделю без выходных и часто подначивало самостоятельно ремонтировать вышедших из строя роботов.

Сподобався матеріал? Сміливо поділися
ним в соцмережах через ці кнопки

Вы, вероятней всего, уже смотрели видео, где один из последних четвероногих творений Boston Dynamics - SpotMini, открывает дверь, несмотря на неоднократные попытки сотрудника компании .

Компания Boston Dynamics известна тем, что вызывает волнение и страх в социальных сетях после выпуска очередного видео с участием своих роботов.

Nicholas King создал пародию на документальный фильм "Planet Earth" (Планета Земля), где продемонстрировано, как стадо SpotMini захватывает планету.

Робот стал настолько популярным, что снялся даже в последнем сезоне сериала "Black Mirror" (Черное зеркало) в качестве средства для преследования и уничтожения цели. По сюжету у жертвы не было шанса. Даже, несмотря на то что у машины села батарея, она таки нашла свою цель и уничтожила.

Исходя из всего этого, стоит ли бояться нашествия роботов-убийц?

Возможно, восстание роботов не произойдет в ближайшее время, но нам стоило бы беспокоиться на этот счет. В нашем воображении роботы представляются как автономные, вооруженные и готовые убивать машины. Но не все так страшно.

Автономия

Автономия - способность субъекта действовать на основании установленных принципов. На базовом уровне автономия может представлять собой возможность перемещения из точки А в точку Б без вмешательства человека.

Видеоролики, подобные демонстрации SpotMini, напомнили мне интервью с профессором механического и гражданского строительства в Caltech (Калифорнийский технологический институт) Аароном Эймсом, который работает над ИИ-роботами. Наша дискуссия неизбежно привела к обсуждению видео Boston Dynamics, где . Эймс отметил, что это не так много, если говорить об автономности, - говорит Сэм Черрингтон (основатель CloudPulse Strategies).

Поведение робота является "запланированным", ведь он не знает, где блоки находятся относительно него. Скорее всего разработчики помещают эти препятствия в память компьютера, планируют его поведение, а потом проводят кучу экспериментов, пока не получат желаемый результат, - считает Аарон Эймс.

Другими словами, инженерам предстоит еще очень много работы, прежде чем роботы будут уверенно себя чувствовать в реальном мире.

Возможные сценарии с участием роботов-убийц

Можно придумать несколько угрожающих сценариев с участием роботов:

• Робот действует исходя из своих личных предубеждений, решив, что конкретный человек заслуживает наказания. Это подразумевает наличие у робота общего интеллекта, целенаправленности и внутренней мотивации. На данный момент мы очень далеки от достижения такой ступени искусственного интеллекта. Поэтому преждевременно беспокоиться об этом не стоит.
• Робот убивает человека, следуя инструкции, созданной человеком. Такой вариант развития событий является более пугающим. А очередные разработки в области ИИ постепенно приближают нас к такой действительности.
• Робот убивает человека, что является следствием задач, поставленных человеком. Этот сценарий является наиболее вероятным, поэтому мы должны беспокоиться о возможности его реализации больше всего.

Пока робот - это оружие, которым управляет человек. Исходя из этого, в обозримом будущем большую опасность представляет сам человек, а не робот.

Так ли опасны ИИ-роботы?

Несчастные случаи, когда робот причинял вред человеку, в конце концов, сводятся к тому, что он выполнял свою задачу, не задумываясь над тем, что его действия являются пагубными. Вспомним инцидент, который произошел на автомобильном заводе Volkswagen, где в результате несчастного случая погиб рабочий. Во время настройки роботизированной установки робот ударил рабочего в грудь и придавил к металлической пластине.

Гораздо большую опасность представляют военные роботы. Правительства разных стран изучают перспективу этого вопроса.

По данным Statista, глобальные расходы на военную робототехнику в 2015 году составили $6,9 млрд, и к 2025 году ожидается их увеличение до $15 млрд.

Угроза таится в другом - когда человек использует роботов в качестве оружия для убийства. Поэтому наша задача - не допустить масштабного производства роботов военного назначения.

Хорошо, когда это понимают представители ИИ-отрасли, сферы технологий и ученые. Многие организации уже бьют тревогу и требуют запретить использовать роботов в качестве оружия. Среди ярых противников роботов-убийц Human Rights Watch (неправительственная организация, осуществляющая мониторинг, расследование и документирование нарушений прав человека более, чем в 70 странах мира), International Committee for Robot Arms Control (Международный комитет по контролю за роботами военного назначения), некоммерческая организация Future of Life Institute. Среди противников ИИ-роботов был недавно скончавшийся Стивен Хокинг, к ним принадлежит Илон Маск и другие.

К примеру, Стивен Хокинг утверждал, что однажды роботы захотят избавиться от человека:

Боюсь, ИИ может стать заменой человеку. Если сейчас люди разрабатывают ПК-вирусы, то в будущем кто-то создаст ИИ, который сможет улучшать и воспроизводить самого себя. Это станет новой формой жизни.

А Илон Маск уверен, что соперничество стран за разработку ИИ может стать причиной для Третьей мировой войны.

Но вернемся к вопросу, которым мы задались в начале статьи: стоит ли бояться нашествия роботов-убийц?

Пожалуй, нет. Шансы того, что кого-то из тех, кто читает данный материал, убьет робот, ничтожно малы. Но это не значит, что мы не должны думать о роботах, а также о возникающих вследствие этого многих моральных проблемах.

По материалам Sam Charrington - основателя Cloud Pulse Strategies.

Еще недавно ученые утверждали, что даже самый совершенный компьютер никогда не будет обладать способностью самостоятельно мыслить и рассуждать, ведь по большому счету это всего лишь набор микросхем, которые позволяют устройству производить сложные, но стандартные операции, заложенные в него людьми.

Никто, разумеется, не станет закладывать в компьютер программу уничтожения человечества. Хотя чисто теоретически… возможно все.

Пока ни в одной стране мира еще не существует технологий, которые могли бы функционировать без контроля со стороны человека. Тем не менее подобные разработки ведутся. Так, специалисты из Технологического института Джорджии разработали особую программу, которая научит роботов… лгать. Правда, только друг другу.

Подобная тактика может быть использована для роботов, охраняющих военные склады или боеприпасы на полях сражений, — сообщают авторы проекта. — Это поможет им обмануть врага и выиграть время до подхода подкрепления.

Известная компания Google применяет в своем программном обеспечении алгоритмы так называемого глубокого обучения (deep learning), которые имитируют деятельность нейронов в коре головного мозга. Это позволяет программам распознавать те или иные закономерности в звуках, изображениях и других виртуальных данных.

Команде исследователей во главе с профессором химии из Университета Калифорнии Джеймсом Гимзевски при поддержке DARPA (Агентства передовых оборонных исследовательских проектов) удалось разработать технологию, которая позволяет создавать полностью автономных роботов, способных «думать» как человек. Они будут работать не на привычных нам микросхемах, а на нанопроводниках, образующих миллиарды соединений аналогично нейронам человеческого мозга.

Это поможет им запоминать и анализировать полученную информацию так же, как люди. Таким роботам не понадобится человеческий контроль. К примеру, самолеты, оснащенные этими системами, будут изучать местность и прокладывать маршруты без участия живого пилота.

Глава компании Palm Computing Джефф Хокинс, автор книги «Об интеллекте» (2004), в свою очередь, разрабатывает систему машинного обучения, предсказывающую закономерности потребления энергии и вероятность поломки различных устройств. Впрочем, он считает, что машинный интеллект никогда не сможет развиться до уровня человеческого, так как даже глубокое обучение не позволит ему, скажем, испытывать эмоции.

Предположим, система сможет легко распознать такой объект, как кошка, но не поймет, когда это животное делает что-то забавное, а когда просто сидит на месте… Но, возможно, главная опасность воздействия искусственного интеллекта на людей как раз и заключается в отсутствии человечности.

Кампания против роботов

В последнее время набирает обороты мировая кампания «Остановить роботов-убийц». Ее сторонники убеждены, что развитие искусственного интеллекта грозит человечеству уничтожением. Во главе кампании стоит Джоди Уильяме, основательница Международного движения за запрет противопехотных мин, в 1997 году удостоенная Нобелевской премии мира.

Эксперты утверждают, что всего через 20-30 лет армии будут состоять не из людей, а из высокоорганизованных роботов. Новые технологии сделают военные конфликты практически бескровными, во всяком Ф % случае помогут свести число человеческих жертв к минимуму. Однако Джоди Уильяме считает, что производство таких «машин смерти» является нарушением основных принципов гуманизма и прав, человека.

Не хочу, чтобы меня уничтожила запрограммированная машина, — говорит она.

Думаете, это не более чем необоснованная истерия? Возьмем совсем недавний случай с хирургическим роботом «да Винчи», детищем компании Intuitive Surgical. Эта модель сегодня установлена в клиниках по всему миру. Считается, что изобретение значительно облегчило работу врачей-хирургов, которым порой приходится выполнять сложные многочасовые операции, не отходя от операционного стола…

«Да Винчи» оснащен четырьмя механическими руками, набором режущих инструментов и мини-телескопом. Управляют роботом живые медики при помощи специальной консоли, ориентируясь на выводимое на монитор трехмерное изображение оперируемого органа.

Робот запрограммирован так, чтобы делать миниатюрные разрезы, что снижает потерю крови, уменьшает риск кровотечения, а также сокращает общий период восстановления после операции. Устройство активно применяется при таких операциях, как пересадка органов, восстановление митрального клапана, желудочное шунтирование, удаление желчного пузыря и предстательной железы, и многих других.

Поначалу врачи были в восторге от кибернетического «коллеги», который действительно во многом упростил их нелегкий труд. Но в последнее время ряд инцидентов, связанных с использованием «да Винчи», заставил медиков насторожиться. Так, под ножом робота умерли два человека: один — в результате случайного пореза роботом кровеносных сосудов, другой — после операции на селезенке. Также были зафиксированы перфорация толстой кишки во время операции на простате и захват внутренних тканей в ходе ректальной операции.

Мы должны были полностью отключить систему, чтобы разжать захват аппарата, — рассказывает врач, наблюдающий за операциями.

Кроме того, во время операции по гистерэктомии (удалению матки) робот нанес пациентке удар одной из своих механических конечностей. В итоге хирургу пришлось отказаться от «услуг» аппарата и оперировать самостоятельно.

Результаты исследований показывают, что риски, связанные с использованием робота, существенно занижены, — заявил хирург Мартин Макарий из Университета Джонса Хопкинса. — Быстрое внедрение аппарата «да Винчи» было сделано без оценки его возможностей. Нам известны случаи катастрофических осложнений, возникших после операций, проведенных при помощи механических рук.

Почти живые

Тем не менее роботы уже настолько прочно вошли в нашу жизнь, что мы часто воспринимаем их так, как если бы они были живыми существами.

Зарубежные исследователи попытались определить, как взаимодействие с роботами влияет на людей на эмоциональном и неврологическом уровне. Так, добровольцам продемонстрировали два видеоролика. В одном из них маленького робота-динозавра обнимали и щекотали, в другом над ним же издевались — били и бросали на пол. Затем специалисты оценивали уровень физиологического возбуждения испытуемых после просмотра, фиксируя проводимость их кожи. Ведь когда мы испытываем сильные эмоции, то больше потеем и наша кожа лучше проводит электричество.

Участники эксперимента отметили у себя негативные эмоции, полученные в результате просмотра видео с роботом,

над которым совершалось насилие. При этом уровень проводимости их кожи значительно вырос, указывая на пережитое состояние стресса.

В другом исследовании мозг участников сканировали при помощи функциональной магнитно-резонансной томографии (MPT). На этот раз им показывали ролики, в одном из которых в качестве объекта насилия выступал человек, а в другом — робот. Например, в одном ролике мужчина пытался задушить женщину полиэтиленовым пакетом, в другом то же самое проделывали с роботом.

Если добровольцам предлагали наблюдать за человеком и роботом, с которыми обращались ласково, сканирование выявляло сходную нейронную активность. Если же над объектом издевались, то испытуемые больше сочувствовали человеку, а не роботу. — Мы полагаем, что жестокое обращение с роботом вызывает практически такую же эмоциональную реакцию, как и издевательства над человеком, — прокомментировала результаты руководитель исследования Астрид Розенталь фон дер Пютен из Университета Дуйсбург-Эссен (Германия). — Однако к человеку у нас пока сочувствия больше.

То, что человек проявляет сочувствие к роботу, — это неудивительно, потому как роботы выглядят и ведут себя как люди или животные, — утверждает робототехник Александр Ребен.

Исследователи отмечают, что проявление сочувствия к роботам встречается в самых различных ситуациях и контекстах. Скажем, эмоциональную связь с роботами демонстрируют солдаты на поле боя. Правда, чем более реалистичными кажутся искусственные создания, тем большую степень сочувствия к ним можно наблюдать. Хотя это не работает, если роботы слишком уж похожи на людей. Инстинктивно нас отторгают наши искусственные «копии»…

Ида ШАХОВСКАЯ