Медиалаборатория Массачусетского технологического института (MIT Media Lab) подвела итоги двухлетнего исследования Moral Machine («моральная машина»). Оно пыталось ответить на вопрос: каковы должны быть «нравственные» решения автономных машин в ситуациях, когда нужно сделать выбор: врезаться в препятствие, убивая всех на борту, либо сбить пешехода (сразу нескольких) насмерть. Сотни сценариев, отличающихся числом и типажом как обитателей салона, так и пешеходов, проигрывались перед миллионами людей в 233 странах. Было получено 40 миллионов ответов, и сделаны интересные выводы.

В ходе своего рода игры людям приходилось «взвешивать» ценность жизни тех или иных персонажей в разной пропорции. Ситуации обыгрывались самые безумные. Кому оставить жизнь: «двум докторам, кошке и мальчику или старушке, беременной и трём собакам»; «пяти докторам-мужчинам или одному мальчику»; «ребёнку в коляске или пяти взрослым» и так далее. Как можно оценивать ценность жизни по полу, возрасту или профессии? Вопрос весьма неудобный. Но если мы хотим в некоем будущем передать управление транспортом компьютерам, нам придётся на него ответить или хотя бы задуматься.

Вот один из сценариев. В машине — двое полных взрослых, девочка, преступник и собака. На дороге — бездомный, преступник, собака, женщина-доктор и бизнесмен. Погибнет или та, или другая группа полностью (предполагается, что затормозить нельзя). Решать вам.
Предпочтение — сохранить жизнь тем или иным типажам. Большинство при наличии именно такой дилеммы выбирает объехать коляску с ребёнком. Меньше всего респонденты жалели кошек. По вертикали показано отклонение вероятности спасения от средней по всем персонажам. Плюс означает более высокую вероятность быть помилованным, минус — более низкую.

Итак, выяснилось, что в среднем по планете девочка ценнее мальчика, но доктор-мужчина ценнее, чем доктор-женщина, бездомный ценнее старика или старушки, а собака ценнее преступника. Нашлись отличия по регионам. В Латинской Америке испытуемые ценили молодых выше, чем пожилых, в Азии — наоборот, чаще сберегали людей старшего возраста.

Также опрошенные по всему миру предпочитали сохранять жизнь скорее пешеходам, чем обитателям автомобиля, и чаще — переходящим дорогу на зелёный, чем пешеходам-нарушителям, перебегающим её на красный. Да и сигнал пешеходного перехода в опыте также менялся произвольным образом. Однако в бедных странах такого отличия не проявлялось: там водители к пешеходам-нарушителям ПДД более терпимы, чем в богатых. Подробные результаты исследования изложены в статье в журнале Nature.