На главную страницу
 
Главная
О нас
Новости
Обсуждения
Обьявления
База знаний
Поиск
Карта сайта
Комментарии
Интервью
Аналитика
Рейтинги
Поиск по сайту

Обсуждения / Аналитика / Аналитика

Кого должен спасти робокар в случае неотвратимой аварии – пассажира или пешехода? Ответ неочевиден

Версия для печати Версия для печати
26.10.2018 

Представьте себе: вы едете за рулем, и прямо перед вашим автомобилем – не замечая его и смотря в другую сторону – дорогу начинает переходить человек. Вы резко ударяете по тормозам, чтобы не сбить пешехода – и в вас врезается машина сзади.

Что произошло? Давайте разберемся.

Вы как водитель сделали сознательный выбор, перенеся риск столкновения: с рассеянного пешехода – на себя и своих пассажиров. И выбор этот продиктован не только вашей оценкой опасности (понятно, что люди в автомобиле более защищены, чем переходящий дорогу человек), но и вашими моральными принципами.

Усложним задачу. Допустим, у вас отказали тормоза – и вы должны выбрать: задавить незадачливого пешехода или вывернуть на тротуар и сбить там сразу нескольких человек?

Выбор кажется очевидным – но что если на дороге перед вами инвалид или беременная женщина? Ведь личность пешехода вполне может повлиять на ваше решение. А если это ваш близкий друг – или даже ваш ребенок?

А теперь представьте себе, что вы пассажир, а никакого водителя в вашей машине нет – это беспилотный автомобиль, робокар. Какой моральный выбор должен сделать управляющий им искусственный интеллект – как его нужно запрограммировать?

Кто виноват в смертях под колесами беспилотных автомобилей?

Заменят ли нас машины, и в чем мы незаменимы

Готовы ли вы летать на беспилотных самолетах?

Над этим вопросом не первый год бьются все разработчики беспилотных автомобилей – от Audi и Toyota до Tesla и "Яндекс". Но, как выяснили ученые, ответ на него сильно зависит от того, кого вы спрашиваете.

Кого спасти – старика или ребенка?

Чтобы разработать универсальный алгоритм принятия решений для беспилотных машин, ученые Массачусетского технологического института (MIT) разработали специальный онлайн-тест, пройти который мог любой желающий.

Каждому участнику опроса предлагалась дюжина гипотетических дорожных ситуаций – вроде тех, что приведены выше, – в которых водителю необходимо сделать моральный выбор, неизбежно влекущий за собой смертельный исход. Например, насмерть сбить трех пожилых пешеходов на автостраде – или направить машину в бетонный забор, убив находящихся в ней троих пассажиров.

Чтобы точнее выявить приоритеты респондентов, сценарии онлайн-теста варьировались. Кого участники спасут с наибольшей вероятностью – молодых или пожилых? Бедных или богатых? Одного ребенка или нескольких взрослых?

Масштабы эксперимента, результаты которого опубликованы в журнале Nature, впечатляют: за полтора года в нем приняли участие 2,3 млн человек из 233 стран и территорий (тест специально перевели на десяток языков). В общей сложности ученые собрали почти 40 млн ответов. И, проанализировав эту огромную базу данных, они сделали несколько важных выводов.

Первый – и, пожалуй, самый важный из них: моральные приоритеты сильно зависят от страны проживания. Авторы исследования выделили три типа стран, которые они условно назвали "западными", "восточными" и "южными". Условно – потому что Франция, например, попала в "южный тип", а вот Египет – в "восточный".

Западники чаще предпочитали спасать более молодых людей, а "восточники" – более пожилых. Представители "южных" стран чаще отдавали предпочтения женщинам и детям, а также людям, обладающим более высоким социальным статусом.

На удивление, люди, занимающие более высокое положение в обществе, вызывали больше симпатий и у жителей "западных" стран – по сравнению с "восточными".

Зато "восточные" жители почти не принимали в расчет разницу в количестве спасенных жизней, основывая свои предпочтения на других факторах.

Второй вывод: ответы зависят и от демографических показателей участников эксперимента, таких как пол, возраст и так далее – но уже далеко не так сильно.

И третий – возможно, довольно очевидный: моральный выбор сильно коррелирует не только с глубоко укорененными в культуре представлениями об этике, но и с современным состоянием гражданских институтов.

Например, жители относительно богатых стран с сильной и независимой судебной системой (Финляндии и Японии) проявляли куда меньше симпатий к пешеходу, вышедшему на дорогу в неположенном месте, чем респонденты из Нигерии или Пакистана.

Более подробную карту и график расхождения в приоритетах можно посмотреть на сайте журнала.

Универсальных правил нет

Опрос, проведенный в 2016 году, выявил довольно интересный парадокс. С одной стороны, большинство респондентов заявили, что беспилотный автомобиль должен ставить во главу угла безопасность пешеходов, даже если это означает дополнительные риски для пассажиров. С другой – люди признавались, что сами не стали бы покупать машину, запрограммированную подобным образом.

Именно это сподвигло ученых MIT на создание онлайн-теста Moral Machine, в разработке которого приняли участие психологи, антропологи и экономисты со всего мира.

Люди, размышляющие о машинной этике, исходят из того, что можно создать для роботов какой-то идеальный набор правил. Но наши данные показывают, что никаких универсальных правил нет, – утверждает один из авторов исследования Ияд Рахван.

Сам Рахван родился в Сирии, окончил университет в Австралии, а теперь работает в США. Впрочем, по результатам эксперимента все эти три страны попали в "западный" кластер.

Понятно, что в повседневной жизни мы крайне редко сталкиваемся с необходимостью делать подобный выбор. Критики исследования справедливо задаются вопросом, можно ли вообще предлагать сидящему перед компьютером человеку подобные гипотетические сценарии, ставить перед ним умозрительный вопрос жизни и смерти – и полагаться на его выбор?

Почему роботам трудно увидеть то, что видим мы

10 главных проблем, которые встанут перед человечеством к 2050 году

Однако авторы работы утверждают, что так или иначе моральный выбор водителям приходится делать каждый день – пусть и не со столь драматичными последствиями. И выявленные тестом культурные различия необходимо принимать во внимание как производителям беспилотных автомобилей, так и законодателям.

Как отмечает Nature, представители Audi уже согласились с тем, что результаты теста помогут им в обсуждении проблем, стоящих перед разработчиками беспилотных машин.

Остальные компании, тестирующие беспилотные автомобили, в том числе Toyota и Uber, от комментариев отказались.

Автор:  Николай Воронин
Источник:  BBC News
URL статьи:  https://www.bbc.com/russian/features-45942333

«« Вернуться на первую страницу раздела



Администрация сайта не всегда разделяет мнение авторов чьи статьи размещены на ресурсе.
При использовании материалов сайта гиперссылка www.insurancebiz.org обязательна.
© 2006–2009 Ассоциация Страховой Бизнес