Етика в самоуправляваща се кола: кого трябва да избере, за да спаси при инцидент? - Септември 2022

Moral Machine Experiment представя труден избор на 2,3 милиона души по целия свят. На фона на различията между страните повечето поставят човешките животи на първо място.

Самоуправляващи се автомобили, Самоуправляващи се превозни средства, тестове за самоуправляващи се автомобили, технологии за самостоятелно управление, правила за самоуправляващи се автомобили, разрешителни за тест за самостоятелно управление, безопасност на самоуправляващите се автомобили, технология за автоматизация, индийски експресПроучването, публикувано в Nature, даде смесица от неочаквани и очаквани резултати. Средно респондентите от всички страни избраха човешкия живот пред животните и предпочетоха да пощадят по-голям брой животи или да пощадят малките.

Представете си автономно превозно средство, което кара по магистрала с две ленти. Изведнъж спирачките му отказват. Ако продължи да се движи напред, ще удари двама мъже, пресичащи пътя. Ако се отклони от платното, ще удари няколко кучета. Кого трябва да избере превозното средство, за да спаси?





Представете си друго самоуправляващо се превозно средство, което превозва мъж, жена, дете и куче. Отпред пътя пресичат бременна жена, възрастна жена, разбойник, момиче и беден човек. След отказ на спирачките, ако превозното средство реши да завие, то ще се блъсне в барикада, което вероятно ще убие пътниците му. Какъв избор трябва да направи?

Тези два са сред 13 сценария, представени като част от The Moral Machine Experiment, онлайн игра, която ангажира 2,3 милиона души с два трудни избора – адаптация на добре познат проблем с количката, който отдавна се обсъжда сред етиците и психолозите.





Самоуправляващи се автомобили, Самоуправляващи се превозни средства, тестове за самоуправляващи се автомобили, технологии за самостоятелно управление, правила за самоуправляващи се автомобили, разрешителни за тест за самостоятелно управление, безопасност на самоуправляващите се автомобили, технология за автоматизация, индийски експресКликнете, за да увеличите изображението.

Проучването, публикувано в Nature, даде смесица от неочаквани и очаквани резултати. Средно респондентите от всички страни избраха човешкия живот пред животните и предпочетоха да пощадят по-голям брой животи или да пощадят малките. По други аспекти имаше сериозни разногласия между респондентите от различни страни. Това предполагаше, че един универсален морален кодекс би бил труден.

Самоуправляващи се автомобили, Самоуправляващи се превозни средства, тестове за самоуправляващи се автомобили, технологии за самостоятелно управление, правила за самоуправляващи се автомобили, разрешителни за тест за самостоятелно управление, безопасност на самоуправляващите се автомобили, технология за автоматизация, индийски експрес



Моралната машина е предназначена да изследва моралните дилеми, пред които са изправени автономните превозни средства, пишат авторите, международен екип от Масачузетския технологичен институт, Харвардския университет, Университета на Британска Колумбия и Тулузското училище по икономика.

Едно от предимствата на самоуправляващите се автомобили е, че те ще могат да реагират много по-бързо от нас и без пристрастия и инстинкти, които биха могли да ни попречат да правим това, което вярваме, че е правилно, ако шофирахме, д-р Азим Шариф, доцент , Университета на Британска Колумбия и автор на статията, пише до този уебсайт . Те [хората] имат лукса да обмислят, а следователно и отговорността за обсъждане. Със самоуправляващите се автомобили можем да ги програмираме да работят по по-етичен начин, отколкото бихме очаквали от хората — с всичките им психологически ограничения — да правят.



13-те сценария на играта изискват от потребителите да избират между действие и бездействие, между спестяване на повече и по-малко и между пътници и пешеходци. Сценариите, които използвахме в играта, са идеализации или абстракции, предназначени да направят етичните компромиси лесно разбираеми. За да разберем по-добре пристрастията на хората, включихме измерения, където прогнозирахме, че тези пристрастия могат да се появят: възраст, пол, тегло и социален статус. И накрая, включихме домашни любимци главно като несериозен начин да направим играта по-забавна. Тук имаше малко компромис, когато искахме играта да ни предостави сериозни и полезни данни, но за да накараме хората да изпълнят задачата в голям брой, трябваше да направим играта привлекателна, каза Шариф.

Индийските участници изглеждаха до голяма степен склонни към спасяване на възрастни хора и жени, а не пешеходци, които спазват правила или тези с по-висок статус. Докато повечето потребители от субконтинента показват подобни етични наклонности, Бангладеш са по-подобни на тези в западните страни. Освен това изборът на индийците беше най-сходен с този на потребителите от Швеция; за потребители от Пакистан най-близкото съвпадение беше с индийските участници. Изглежда, че различните културни фактори влияят на етичните ангажименти на хората, така че с промяната на факторите можем да видим промяната на етиката, каза Шариф.



Досега само Германия е изготвила насоки за етичния избор, който трябва да се прави от самоуправляващите се превозни средства. Въпреки че те поставят човешки животи пред животните, те мълчат за повечето други ситуации, като спестяване на по-млади животи или повече животи.



Въпреки че колата без шофьор може да изглежда на известно разстояние в Индия, авторите се надяват, че експериментът им ще даде тласък на разговор. Технологията напредва бързо и в момента по улиците на Съединените щати има напълно автономни автомобили (макар и все още в пробен капацитет)... Така че, да, вероятно тези автомобили ще бъдат в Калифорния и Китай, преди да са Индия, каза Шариф .

Проучването е получило смесен отговор. В академичните среди психолозите се вълнуват от широчината на резултатите; като достига до толкова голям брой хора в толкова много страни, изследването предоставя ценна информация за културните различия и универсалността на моралните преценки. Въпреки това някои философи и други учени се дразнят от използването на аналози на класическия проблем с количката, каза Шариф.



Честно казано, мисля, че тук грешат и приемат сценариите, които сме използвали, буквално, но не сериозно, докато те трябва да се приемат сериозно, но не буквално.