Этика беспилотного автомобиля
Оригинал статьи на английском в Ethics Blog.
Перевод: Павел Иноземцев.
Самоуправляемые роботы-автомобили контролируются компьютерными программами с применением большого количества ПДД. Но, в условиях уличного движения, не всё случается строго в соответствии с правилами. Внезапно выбегает на дорогу ребенок. Два человека помогают попавшему в дорожное происшествие велосипедисту. Мотоциклист пытается развернуться на узкой улице, застревает и преграждает путь.
Предполагая, что программы способны категоризировать дорожную ситуацию посредством визуальной информации, поступающей с камер автомобиля, они должны выбрать подходящее поведение беспилотного транспортного средства. Позволительно ли им нарушить важное дорожное правило, например, выехав на тротуар?
Скриншот видео работы автопилота Tesla.
Усложним ситуацию. Предположим, на тротуаре стоит взрослый человек. Можно ли пожертвовать жизнью взрослого ради ребенка? Или для спасения велосипедиста и двух помогающих ему людей?
Перед создателями беспилотников стоит нелёгкая задача. Они должны запрограммировать машины на выбор варианта поведения в этически сложных ситуациях, которые мы называем непредвиденными, но при этом инженеры вынуждены предвидеть далеко вперёд. Уже на стадии производства им нужно определить, как модель автомобиля будет вести себя при возникновении «неожиданной» дорожной ситуации в будущем. Возможно, лет через десять. (Я исхожу из предположения, что ПО при этом не будет обновлено, хотя даже после обновления робот должен предвидеть то, что мы нормально считаем непредвиденным).
На социальном уровне создателю беспилотника следует определиться с моральными принципами о том, как будущий робот должен поступать в драматичной дорожной ситуации, когда невозможно обойтись без ущерба или фатального исхода. Например, комиссия, созданная при Министерстве транспорта Германии, предлагает всегда исходить из необходимости в первую очередь спасти пассажиров беспилотника, даже если ДТП приводит к большему числу жертв среди остальных его участников.
И действительно, кто станет приобретать автомобиль, который запрограммирован пожертвовать его жизнью? Кто будет пользоваться таким такси? Правда, как водители, мы можем в конечном итоге пожертвовать собой в непредвиденной ситуации. Некоторые исследователи решили изучить вопрос. С их исследованиями можно ознакомиться здесь, а статью об этом прочитать здесь.
Для наглядного моделирования этически сложных дорожных ситуаций исследователи использовали технологию виртуальной реальности. Они изучили, какие варианты поведения выбирали участники эксперимента. Было обнаружено, что участники оказались готовы пожертвовать собой ради других. Но при этом они принимали во внимание возраст потенциальной жертвы и были готовы выехать на тротуар для минимизации количества жертв ДТП. Это не соответствует таким общепринятым нормам, как идея о недопустимости возрастной дискриминации и неприкосновенности жизни невинных людей.
Короче говоря, люди склонны к неполиткорректности при вождении автомобиля!
Почему это исследование проводилось? Насколько я могу судить, потому что актуальная дискуссия о моральных принципах не принимает в расчёт эмпирические данные о том, как реальные водители склонны поступать в этически сложных ситуациях на дороге. Беспилотник может выбрать вариант поведения, который не удовлетворил бы его владельца. Морально не удовлетворил бы!
Ученые не настаивают на том, что беспилотный автомобиль должен делать трудный выбор подобно живому человеку. Но всё же, дискуссия об этике беспилотного автомобиля должна принимать в расчет данные о том, как предпочитают вести себя люди в дорожных ситуациях, когда невозможно избежать несчастного случая.
Позвольте мне дополнить эмпирические выводы некоторой философской рефлексией. Когда я читаю об этике беспилотников, меня поражает факт исчезновения «непредвиденного» как реальности жизни. Живой водитель, оказавшийся в неожиданной ситуации, очевидно руководствуется сиюминутной случайностью. Беспилотник же принимает решения на автомате, предопределенно, как если бы это была любая другая ситуация, будь то остановка на красный сигнал светофора или что-то ещё. Этика беспилотного автомобиля – это всего лишь дополнительное ПО, которым машина оснащена на фабрике (или после обновления ПО).
Каковы же последствия?
Живой водитель, оказавшийся в трудном положении, сталкивается, как я уже сказал, лицом к лицу с сиюминутной случайностью. Водитель, возможно, до конца своих дней будет нести ответственность за совершённое им в этот напряженный момент. Даже если он пожертвует одной жизнью ради спасения десяти, бремя одной смерти ляжет на его плечи; мысли о ней будут преследовать его всегда. И в то же время, если в результате глупого решения погибнет больше людей, чем спасётся, водитель может с этим смириться, потому как ситуация была неожиданной.
Однако, это не соотносится с беспилотной машиной, которая была запрограммирована в соответствии с принципами дорожных органов страны. Мы должны бы сказать, что робот обязан быть настроен сберечь жизнь нашей сестры, невинно оказавшейся на тротуаре. Управляй при этом автомобилем человек, мы бы разозлились на него в случае гибели сестры. Но спустя время мы бы смирились с таким его поведением. Ведь ситуация была непредвиденной, и водитель сам страдает из-за своих действий.
Но окажись на его месте беспилотник, идеально отработавший на основе заводской программы и государственных рекомендаций, мы бы устроили скандал, что машина была запрограммирована выехать на тротуар, где стояла наша сестра.
Один из аргументов за беспилотные автомобили состоит в том, что, минимизировав человеческий фактор, они могут снизить количество несчастных случаев на дорогах. Возможно, это так. Но может оказаться, что для нас будет неприемлемо то, как они запрограммированы действовать в этически сложных ситуациях. Дело не только в том, что ПО беспилотного транспортного средства нивелирует «непредвиденность» как реальность. А ещё в том, что робот не несёт ответственность, которую живые участники дорожного движения вынуждены нести даже за их разумные решения.
Что ж, мы, возможно, найдем способы осуществить и принять использование беспилотных автомобилей. Но другой вопрос всё ещё волнует меня. Если настоящий момент исчезнет как живая реальность из этического программного обеспечения машин, не исчезнет ли он и из морали, которая определяет правильное и неправильное для нас, живых людей?
Пэр Сегердаль, редактор Ethics Blog, доцент философии Центра изучения этики и биоэтики при Университете Упсалы (Швеция).
Рубрика: Разное. Метки: компьютеры, автомобили, робот, безопасность.