Аварийный вывод
После этого власти штата запретили проводить тестирования на общих трассах, а Uber закрыл «беспилотный» эксперимент и уволил 300 операторов.
В России также уже зафиксированы аварии по вине беспилотного транспорта. В 2019 году беспилотник «Яндекса» столкнулся с легковым автомобилем на западе Москвы. В компании признали, что виноват оператор транспортного средства. Несмотря на то что машины получили незначительные повреждения, водителя временно отстранили от участия в тестировании.
Кроме того, документ предусматривает, что автомобиль должен быть застрахован на 10 млн рублей.
По оценкам экспертов, беспилотные такси могут появиться в Москве и крупных городах России уже к 2024 году. За это время необходимо провести полноценное тестирование и оценку возможности эксплуатации такого транспорта.
Минтранс разработал целый комплекс мероприятий для этого и подробный план по их реализации. Сейчас документ проходит финальный этап межведомственного согласования и скоро будет направлен на рассмотрение в правительство, рассказали в пресс-службе ведомства.
Согласно плану в России будут созданы специальные тестовые зоны для апробации как самих беспилотников, так и систем организации их движения.
Министерство также предлагает внести поправки в постановление правительства, о котором упоминалось выше. В рамках этих изменений в России будут созданы системы сбора, хранения, учета и использования данных о ТС, систем управления и организации их движения.
Минтранс предлагает создать необходимую законодательную базу, которой просто нет. Для разработки соответствующего федерального закона сейчас формируется рабочая группа.
Однако Федосеев напоминает, что Россия является участником международной конвенции 1968 года, согласно которой в любом транспортном средстве с четырьмя колесами должен находиться человек. Пока внесение изменений в конвенцию не обсуждалось, так что в любом беспилотнике должен находиться оператор.
Кого должен спасти беспилотный автомобиль в случае неотвратимой аварии — пассажира или пешехода?
Будет много букв, но интересно
Представьте себе: вы едете за рулем, и прямо перед вашим автомобилем — не замечая его и смотря в другую сторону — дорогу начинает переходить человек. Вы резко ударяете по тормозам, чтобы не сбить пешехода — и в вас врезается машина сзади.
Что произошло? Давайте разберемся.
Вы как водитель сделали сознательный выбор, перенеся риск столкновения: с рассеянного пешехода — на себя и своих пассажиров. И выбор этот продиктован не только вашей оценкой опасности (понятно, что люди в автомобиле более защищены, чем переходящий дорогу человек), но и вашими моральными принципами.
Усложним задачу. Допустим, у вас отказали тормоза — и вы должны выбрать: задавить незадачливого пешехода или вывернуть на тротуар и сбить там сразу нескольких человек?
Выбор кажется очевидным — но что если на дороге перед вами инвалид или беременная женщина? Ведь личность пешехода вполне может повлиять на ваше решение. А если это ваш близкий друг — или даже ваш ребенок?
А теперь представьте себе, что вы пассажир, а никакого водителя в вашей машине нет — это беспилотный автомобиль. Какой моральный выбор должен сделать управляющий им искусственный интеллект — как его нужно запрограммировать?
Над этим вопросом не первый год бьются все разработчики беспилотных автомобилей — от Audi и Toyota до Tesla и «Яндекс». Но, как выяснили ученые, ответ на него сильно зависит от того, кого вы спрашиваете.
Кого спасти — старика или ребенка?
Чтобы разработать универсальный алгоритм принятия решений для беспилотных машин, ученые Массачусетского технологического института (MIT) разработали специальный онлайн-тест, пройти который мог любой желающий.
Чтобы точнее выявить приоритеты респондентов, сценарии онлайн-теста варьировались. Кого участники спасут с наибольшей вероятностью
— Молодых или пожилых?
— Бедных или богатых?
— Одного ребенка или нескольких взрослых?
Масштабы эксперимента, результаты которого опубликованы в журнале Nature, впечатляют: за полтора года в нем приняли участие 2,3 млн человек из 233 стран и территорий (тест специально перевели на десяток языков). В общей сложности ученые собрали почти 40 млн ответов. И, проанализировав эту огромную базу данных, они сделали несколько важных выводов.
Первый — и, пожалуй, самый важный из них: моральные приоритеты сильно зависят от страны проживания. Авторы исследования выделили три типа стран, которые они условно назвали «западными», «восточными» и «южными». Условно — потому что Франция, например, попала в «южный тип», а вот Египет — в «восточный».
«Западники» чаще предпочитали спасать более молодых людей, а «восточники» — более пожилых. Представители «южных» стран чаще отдавали предпочтения женщинам и детям, а также людям, обладающим более высоким социальным статусом.
На удивление, люди, занимающие более высокое положение в обществе, вызывали больше симпатий и у жителей «западных» стран — по сравнению с «восточными».
Зато «восточные» жители почти не принимали в расчет разницу в количестве спасенных жизней, основывая свои предпочтения на других факторах.
Второй вывод: ответы зависят и от демографических показателей участников эксперимента, таких как пол, возраст и так далее — но уже далеко не так сильно.
И третий вывод: возможно, довольно очевидный: моральный выбор сильно коррелирует не только с глубоко укорененными в культуре представлениями об этике, но и с современным состоянием гражданских институтов.
Например, жители относительно богатых стран с сильной и независимой судебной системой (Финляндии и Японии) проявляли куда меньше симпатий к пешеходу, вышедшему на дорогу в неположенном месте, чем респонденты из Нигерии или Пакистана.
«Универсальных правил нет»
Опрос, проведенный в 2016 году, выявил довольно интересный парадокс. С одной стороны, большинство респондентов заявили, что беспилотный автомобиль должен ставить во главу угла безопасность пешеходов, даже если это означает дополнительные риски для пассажиров. С другой — люди признавались, что сами не стали бы покупать машину, запрограммированную подобным образом.
Понятно, что в повседневной жизни мы крайне редко сталкиваемся с необходимостью делать подобный выбор. Критики исследования справедливо задаются вопросом, можно ли вообще предлагать сидящему перед компьютером человеку подобные гипотетические сценарии, ставить перед ним умозрительный вопрос жизни и смерти — и полагаться на его выбор?
Однако авторы работы утверждают, что так или иначе моральный выбор водителям приходится делать каждый день — пусть и не со столь драматичными последствиями. И выявленные тестом культурные различия необходимо принимать во внимание как производителям беспилотных автомобилей, так и законодателям.
Беспилотные автомобили. Кто будет нести ответственность за ДТП?
Последние новости различных автопроизводителей видимо означают, что появление беспилотных автомобилей на наших дорогах уже не за горами, несмотря даже на то, что немало важных вопросов по этой проблеме так и осталось висеть воздухе. Учитывая неожиданное заявление компании «Ниссан», что они хотели бы увидеть свои беспилотные автомобили на дорогах уже к 2020 г., сейчас самое время рассмотреть те проблемы юридического характера, которые еще только предстоит решить.
Самая главная из них, без сомнения, это ответственность в случае аварии и многие неопределенности, связанные с этим. Мы попытались кое-что прояснить и дать ответ на вопрос:
Кто ответственен?
На сегодня это, возможно, самое большое препятствие на пути беспилотных автомобилей к нашим дорогам. Компания «Вольво» недавно заявила, что примет на себя всю ответственность за аварии с участием их беспилотных автомобилей. Каким бы отважным и восхитительным этот поступок автогиганта не казался сейчас, в это трудно поверить, если смотреть в долгосрочной перспективе. Хотя, нам доподлинно неизвестно, насколько человек сможет вмешиваться в работу транспортного средства, и будет ли позволено переключаться на ручное управление, данный шаг «Вольво» подразумевает, что в любой аварии с участием беспилотного автомобиля будет исключена ошибка человека, а вина полностью ляжет на производителя. Что приводит нас к следующему вопросу…
Ошибка по причине человеческого фактора
Сейчас, один из самых простых способов определить ответственного за аварию, заключается в определении, совершил ли человек ошибку. Если водитель продемонстрировал плохие водительские навыки, находился в состоянии алкогольного опьянения или заснул за рулем, то он будет объявлен виновным.
В случае с беспилотным автомобилем всё становится несколько сложнее. Возможность заснуть за рулем или выпивать алкоголь являются одними из самых привлекательных свойств беспилотных автомобилей. В таком случае возникает вопрос, если в аварии участвует один трезвый водитель и один пьяный, то кто предстанет перед законом?
Это, опять же, зависит от степени контроля со стороны человека и возможности переключить управление на себя, при этом определить и оценить роль человеческого фактора будет чрезвычайно трудно, что усложнит выявление виновного.
Автопилот против ручного управления
Этой проблеме не уделяют должного внимания, хотя это следовало сделать с самого начала. Когда беспилотные автомобили только появятся на рынке, они будут по карману лишь совсем небольшому количеству людей. Возникнет ситуация, когда на дорогах будут соседствовать автомобили с автопилотом и автомобили с ручным управлением. Если произойдет авария с участием двух типов машин, то будет сложно определить на ком лежит ответственность.
При ручном управлении у водителя больше возможностей что-то сделать не так, чем при наличии автопилота, однако это не значит, что непременно виноват водитель автомобиля с ручным управлением. В то же время, у нас есть опасения, что по мере роста количества беспилотных автомобилей на дорогах шансы водителя, ведущего вручную, на оправдание в случае автоаварии с участием двух типов машин будут уменьшаться.
Несомненно то, что появление беспилотных автомобилей поможет сохранить миллионы жизней благодаря множеству предотвращенных аварий, и будет считаться огромным благом. Но независимо от того, насколько хорошо проработана технология, неизбежны аварии (особенно, если за рулем пьяный или заснувший водитель). Корень проблемы здесь в том, что хотя водителю автомобиля, оборудованного автопилотом, нет необходимости внимательно следить за дорогой, он всё рано полностью отвечает за транспортное средство. В то же время, определение меры этой ответственности и разграничение ответственности между автоматикой и человеком, окажутся настоящими испытаниями для любого, кто будет иметь отношение к автомобильным авариям.
Беспилотные автомобили. Кто будет нести ответственность за ДТП?
Последние новости различных автопроизводителей видимо означают, что появление беспилотных автомобилей на наших дорогах уже не за горами, несмотря даже на то, что немало важных вопросов по этой проблеме так и осталось висеть воздухе.
Учитывая неожиданное заявление компании «Ниссан», что они хотели бы увидеть свои беспилотные автомобили на дорогах уже к 2020 г., сейчас самое время рассмотреть те проблемы юридического характера, которые еще только предстоит решить.
Самая главная из них, без сомнения, это ответственность в случае аварии и многие неопределенности, связанные с этим. Мы попытались кое-что прояснить и дать ответ на вопрос:
Кто ответственен?
На сегодня это, возможно, самое большое препятствие на пути беспилотных автомобилей к нашим дорогам. Компания «Вольво» недавно заявила, что примет на себя всю ответственность за аварии с участием их беспилотных автомобилей. Каким бы отважным и восхитительным этот поступок автогиганта не казался сейчас, в это трудно поверить, если смотреть в долгосрочной перспективе. Хотя, нам доподлинно неизвестно, насколько человек сможет вмешиваться в работу транспортного средства, и будет ли позволено переключаться на ручное управление, данный шаг «Вольво» подразумевает, что в любой аварии с участием беспилотного автомобиля будет исключена ошибка человека, а вина полностью ляжет на производителя. Что приводит нас к следующему вопросу…
Ошибка по причине человеческого фактора
Сейчас, один из самых простых способов определить ответственного за аварию, заключается в определении, совершил ли человек ошибку. Если водитель продемонстрировал плохие водительские навыки, находился в состоянии алкогольного опьянения или заснул за рулем, то он будет объявлен виновным.
В случае с беспилотным автомобилем всё становится несколько сложнее. Возможность заснуть за рулем или выпивать алкоголь являются одними из самых привлекательных свойств беспилотных автомобилей. В таком случае возникает вопрос, если в аварии участвует один трезвый водитель и один пьяный, то кто предстанет перед законом?
Это, опять же, зависит от степени контроля со стороны человека и возможности переключить управление на себя, при этом определить и оценить роль человеческого фактора будет чрезвычайно трудно, что усложнит выявление виновного.
Автопилот против ручного управления
Этой проблеме не уделяют должного внимания, хотя это следовало сделать с самого начала. Когда беспилотные автомобили только появятся на рынке, они будут по карману лишь совсем небольшому количеству людей. Возникнет ситуация, когда на дорогах будут соседствовать автомобили с автопилотом и автомобили с ручным управлением. Если произойдет авария с участием двух типов машин, то будет сложно определить на ком лежит ответственность.
При ручном управлении у водителя больше возможностей что-то сделать не так, чем при наличии автопилота, однако это не значит, что непременно виноват водитель автомобиля с ручным управлением. В то же время, у нас есть опасения, что по мере роста количества беспилотных автомобилей на дорогах шансы водителя, ведущего вручную, на оправдание в случае автоаварии с участием двух типов машин будут уменьшаться.
Несомненно то, что появление беспилотных автомобилей поможет сохранить миллионы жизней благодаря множеству предотвращенных аварий, и будет считаться огромным благом. Но независимо от того, насколько хорошо проработана технология, неизбежны аварии (особенно, если за рулем пьяный или заснувший водитель). Корень проблемы здесь в том, что хотя водителю автомобиля, оборудованного автопилотом, нет необходимости внимательно следить за дорогой, он всё рано полностью отвечает за транспортное средство. В то же время, определение меры этой ответственности и разграничение ответственности между автоматикой и человеком, окажутся настоящими испытаниями для любого, кто будет иметь отношение к автомобильным авариям.
Тест: кого должен сбить самоуправляемый автомобиль?
Владимир Нимин
В субботу предлагаю поговорить немного на отвлеченную тему, которая лишь опосредованно связана с электроникой и гаджетами.
В 2014 году Массачусетский технологический институт, стабильно входящий в ТОП-10 лучших учебных заведений мира, запустил любопытный эксперимент под названием Moral Machine, или «Машина морали». Проект доступен для всех желающих — http://moralmachine.mit.edu/hl/ru — и есть даже русский язык. Основная задача эксперимента – это сбор информации о том, как человек совершает нравственный выбор.
Участнику исследования предлагается несколько ситуаций, где он должен выбрать меньшее из двух зол: самоуправляемый автомобиль собьёт 5 пешеходов или пешеходы выживут, но погибнут двое пассажиров автомобиля. В процессе ученые рассчитывают получить общие агрегированные данные о нравственности и этике. Возможно, в будущем эта информация поможет при создании программ поведения искусственного интеллекта.
Исследование базируется на широко известной проблеме вагонетки – мысленный эксперимент в этике, сформулированный ещё в 1967 году философом Филиппой Фут. Исследователи из MIT её немного модернизировали: человек в синем стоит на пешеходном мосту над железнодорожными путями. Он видит вагонетку, бесконтрольно несущуюся вперед. Если ничего не сделать, то вагонетка собьёт насмерть пятерых рабочих на путях. Однако мосту рядом стоит крупный человек. Если его толкнуть на рельсы, то вагонетка запнётся об него, и пятеро рабочих останутся живы. Как поступить?
Исследователи говорят, что сегодня перед производителями автомобилей и законодателями стоят гораздо более сложные проблемы, которые уже нельзя решить благодаря трём законам робототехники Айзека Азимова.
Изначально ученые не предполагали, что их исследование будет таким масштабным. Однако в эксперименте приняло участие около 40 миллионов людей из 233 стран мира. И теперь спустя 4 года можно подвести первые итоги.
Карта участников выглядит так:
А вот так выглядит интерфейс эксперимента. Нетривиальный выбор: кто должен выжить – люди, которые занимаются спортом, тем самым подразумевается, что они следят за фигурой, или люди с избыточным весом?
Ответы участников разнятся в зависимости от страны, но для начала посмотрим на картину в общем. У меня для вас плохие новости. Если вы кот, преступник или собака (именно в таком порядке), то, по мнению общества, вами в любом случае можно пожертвовать – переходите вы дорогу по правилам или нарушаете. Дальше, по мнению 39,6 миллионов человек, лучше сбить бабку, потом дедку, потом бездомного. Почему-то к толстым мужчинам общество относится с большим скепсисом, чем к толстым женщинам.
А вот если вы младенец в коляске, маленькая девочка, или мальчик, или беременная женщина, то, по мнению участников, самоуправляемый автомобиль должен сделать всё возможное, чтобы вас не переехать.
Ранжирование участников эксперимента вступает в прямое противоречие с немецкой комиссией по этике, создавшей в 2017 году ряд правил для автономных и удаленно управляемых движущихся средств. Например, правило номер 9 гласит, что на выбор не должны влиять пол, возраст и социальное положение. Соответственно, если толстый преступник переходит на зеленый, а беременная женщина нарушает и переходит на красный, то машина, если будет принимать решение, кого сбить, должна «торпедировать» женщину.
По мнению ученых, при принятии решений также наблюдается сильная корреляция с культурными особенностями и экономическим положением.
Например, участники эксперимента из Азии (Китай, Япония) в равных ситуациях предпочитали спасти пожилых, а не молодежь. Также в Азии меньше внимания обращали на социальное положение – богатый человек или бедный. У учёных есть гипотеза, что на Востоке распространена коллективная культура, где старшие пользуются большим почитанием. А жители стран, где больше развита культура индивидуализма (это так называемая западная культура, где на первое место выходят карьера, саморазвитие), полагают, что нужно спасать молодежь, потому что за ней будущее.
В бедных странах гораздо спокойнее относятся к нарушителям правил дорожного движения. А участники из состоятельных западных стран в большинстве считают, что спасать надо того, кто богаче. Участники из США и Великобритании в большинстве стремились спасать многочисленные группы, то есть если 5 человек переходят на красный, а в самоуправляемой машине 2 пассажира, едущих по правилам, то всё равно предпочтительней, чтоб они погибли.
Подумал, будет интересно посмотреть, какие решения примут читатели Mobile-Review. Выше есть ссылка на оригинальный тест, который всем рекомендую пройти, чтоб помочь исследователям. А ниже я разместил вопросы из этого теста, чтоб у нас получилась выборка только из читателей ресурса. Напоминаю, что правильных или неправильных вариантов здесь нет.