Кого має переїхати безпілотний автомобіль: дитину чи бабусю? Це залежить від країни

Сумнозвісна «дилема вагонетки» (trolley problem), вперше сформульована в 1967 році британським філософом Філіпою Фут, була закладена в основу глобального дослідження, в якому брали участь мільйони людей. Це дослідження показало, наскільки моральні та етичні норми відрізняються в різних країнах.

У 2014 році вчені з лабораторії MIT Media Lab розпочали експеримент під назвою Moral Machine (Моральна машина). Ідея полягала в тому, щоб створити онлайн-платформу, подібну до ігрової, яка б зібрала думки людей про те, як безпілотні автомобілі повинні визначати, кого саме рятувати в різних варіаціях «дилеми вагонетки». Передбачалось, що це дослідження дозволить краще зрозуміти колективні етичні пріоритети різних культур.

Дослідники не прогнозували, що експеримент стане вірусним. Та через чотири роки після старту мільйони людей у 233 країнах та територіях залишили 40 мільйонів відповідей, що зробило це дослідження одним з найбільших серед тих, що виконувались в глобальному масштабі.

Новий матеріал, опублікований в журналі Nature, представляє аналіз цих даних і показує, наскільки міжкультурна етика розрізняється в залежності від культури, економіки та географічного розташування країни.

Нагадаємо, що «дилема вагонетки» сформульована наступним чином: важка некерована вагонетка мчить по рейках. На шляху її проходження знаходяться п’ять чоловік, які прив’язані до рейок. На щастя, ви можете перемкнути стрілку — і тоді вагонетка поїде по іншому, запасному шляху. Та на запасній колії знаходиться одна людина, також прив’язана до рейок. Які ваші дії? Нічого не робити й дозволити загинути тим п’ятьом, чи все ж таки перемкнути стрілку і вбити одного, але врятувати п’ятьох?

В основі Moral Machine лежить приблизно та ж сама ідея, але збільшена кількість варіацій: чи повинен безпілотний автомобіль надавати пріоритет людині над домашніми тваринами, пасажирам над пішоходами, більшій кількості людей над меншою, жінкам над чоловіками, молодим над старими, здоровим над хворими, людей з вищим соціальним статусом над нижчим, законослухняним громадянам над порушниками ПДР? І, нарешті, чи повинен автомобіль взагалі робити певні активні дії чи просто тримати курс (тобто уникати будь-яких проблематичних рішень)?

Приклад питання, поставленого перед учасниками дослідження Moral Machine

Приклад питання, поставленого перед учасниками дослідження Moral Machine

Але дослідники пішли далі, і замість того, щоб створювати прості порівняння, комбінували їх у більш складні питання. Наприклад, чи повинна машина рухатися просто прямо і збити трьох літніх пішоходів чи відвернути в сторону і врізатися в стовп, вбивши трьох молодих пасажирів.

Вчені виявили, що думки в різних країнах сильно відрізняються між собою, а ще вони також потужно корелюють з культурою та економікою. Наприклад, учасники опитування з колективістських культур, таких як Китай та Японія, менш схильні рятувати молодих людей замість старих — можливо з тієї причини, вважають дослідники, що в тих країнах старим приділяється надзвичайно велика повага.

В країнах з більш індивідуалістичними культурами, швидше за все, будуть рятувати молодих

Порівняння думки людей щодо алгоритмів керування безпілотних автомобілів в різних країнах: якщо стовпчик наближається до 1, респонденти вважають більш правильним порятунок життя молодих; якщо стовпчик ближче до -1, респонденти надають перевагу порятунку життя старого; 0 — загальний середній показник

Порівняння думки людей щодо алгоритмів керування безпілотних автомобілів в різних країнах: якщо стовпчик наближається до 1, респонденти вважають більш правильним порятунок життя молодих; якщо стовпчик ближче до -1, респонденти надають перевагу порятунку життя старих; 0 — загальний середній показник

Так само, учасники дослідження з бідних країн з менш усталеними правовими нормами більш толерантні до пішоходів-порушників на противагу тим пішоходам, що дотримуються правил ПДР. У свою чергу учасники дослідження з країн з високим рівнем економічної нерівності продемонстрували великий розрив у відношенні до осіб з високим та низьким соціальним статусом.

Крім того, дослідники з’ясували, що чисельність людей, які можуть постраждати від ДТП, не завжди була переважним чинником у виборі того, яку групу треба рятувати. Результати показали, що респонденти з індивідуалістичних культур, таких як Великобританія та США, приділяли більше уваги збереженню більшої кількості життів, але враховували та всі інші варіанти — можливо, на думку авторів, внаслідок того, що в цих країнах більше розповсюджена антропоцентрична культура.

В країнах з більш індивідуалістичними культурами, швидше за все, будуть намагатися врятувати більшу кількість життів

 

Порівняння думки людей щодо алгоритмів керування безпілотних автомобілів в різних країнах: якщо значення наближається до 1, респонденти надають перевагу порятунку більшого числа життів; якщо значення ближче до -1, респонденти приділяють менше уваги збереженню кількості життів; 0 — загальний середній показник

Порівняння думки людей щодо алгоритмів керування безпілотних автомобілів в різних країнах: якщо значення наближається до 1, респонденти надають перевагу порятунку більшого числа життів; якщо значення ближче до -1, респонденти приділяють менше уваги збереженню кількості життів; 0 — загальний середній показник

Країни, розташовані в безпосередній близькості один від одного, також продемонстрували приблизно однакові результати опитування, до того ж можна було виділити три основних кластери на Заході, Сході та Півдні.

Дослідники визнають, що результати можуть бути дещо необ’єктивні, оскільки учасників опитування не відбирали по якихось критеріях, а вони самі виявили бажання взяти участь в експерименті. До того ж це були люди з високим соціальним статусом, тісно пов’язані з інтернетом та технічно підковані. Але ж ті, хто зацікавлені в експлуатації самохідних машин, скоріш за все, матимуть аналогічні характеристики.

Дослідження має цікаві наслідки для країн, які зараз випробовують безпілотні автомобілі, оскільки зібрані думки можуть відіграти певну роль у створенні конструкції та законодавчих норм для таких транспортних засобів. Автовиробники, наприклад, можуть виявити, що китайські споживачі надають перевагу самохідним автомобілям, в яких більш пріоритетним є захист пасажирів над пішоходами.

Як в різних країнах роблять вибір, кого рятувати: пішоходів чи пасажирів

Якщо значення ближче до 1, респонденти надають перевагу турботі про пішоходів; якщо значення ближче до -1, респонденти вважають більш важливою турботу про пасажирів; 0 - загальний середній показник

Якщо значення ближче до 1, респонденти надають перевагу турботі про пішоходів; якщо значення ближче до -1, респонденти вважають більш важливою турботу про пасажирів; 0 – загальний середній показник

Втім, автори дослідження підкреслили, що результати опитування не мають на меті диктувати, як повинні діяти різні країни. Навіть більше, у деяких випадках автори вважали, що технологи та політики не повинні прислухатися до громадської думки. Едмон Увад (Edmond Awad), автор статті, в якості прикладу  навів результати опитування щодо соціального статусу.

«Схоже, що у деяких країнах вважається за нормальне, коли у випадку ДТП треба віддавати перевагу порятунку людей з більш високим соціальним статусом», — сказав він. Тому тут розробникам важливо заявити: «Ми можемо лише оцінити кількість людей на дорозі [а не їх соціальний статус]».

Результати опитування, за його словами, мають використовуватися представниками індустрії та органів влади як основа для розуміння того, як громадськість буде реагувати на етику різних конструкторських та регуляторних рішень. Увад сподівається, що результати дослідження також допоможуть технологам більш глибоко задуматися про етику штучного інтелекту (AI) за межами безпілотних машин.

«Ми використовували дилему з вагонеткою, оскільки це дуже хороший спосіб зібрати потрібні дані, але ми сподіваємось, що обговорення етичних норм не залишиться в межах лише цієї теми. Дискусія має перейти до аналізу ризиків — про те, хто більше чи менше в зоні ризику — замість того, щоб обговорювати хто в підсумку загине, а також про те, які спостерігаються тренди ».

Але яким чином результати опитування здатні вплинути на формування більш етичного підходу при створенні штучного інтелекту — це питання, яке треба вивчити в майбутньому.

За словами Увада, протягом останніх 2-3 років все більше людей обговорюють етику АІ. І все частіше вони усвідомлюють, що AI може мати різні етичні наслідки для різних груп людей. Але сам факт, що люди почали цікавитися такою тематикою, є важливим та багатонадійним.

ЧИТАЙТЕ ТАКОЖ:

Джерело: TechnologyReview