Отечественные взаимоотношения с электронными автомобилями не всегда удаётся свести к цифрам. Коллизии, появляющиеся в пограничных областях IT, довольно часто имеют и нравственный нюанс: вспомните проблему людской отношения к роботам, феномен апскирта либо осложнения, вызываемые лёгкостью копирования информации в цифровом виде. И этим перечень, само собой разумеется, не исчерпывается. Сейчас уже разумеется, что не сейчас на следующий день нам предстоит столкнуться с ещё одной задачей, где технологическая грань противостоит моральной. В центре её — робоавтомобиль и простой помой-му вопрос: в случае если столкновение с другими участниками перемещения неминуемо, но имеется возможность совершить последний манёвр, как обязан поступить бортовой компьютер?
Вообразите следующую дорожную обстановку. Вы катите по хайвею в новеньком робокаре – и внезапно выясняетесь в безнадёжном положении, в то время, когда аварии не избежать. Увы, какой бы идеальной ни была электронная и механическая часть, такое случается: хотите вы того либо нет, кинетическую энергию нужно будет гасить в следующие доли секунды. И – нужно же такому случиться – у вас (правильнее, у вашего робоавто) имеется выбор: выкрутить баранку влево и врезаться в относительно тяжёлый джип или выкрутить вправо и ударить довольно лёгкий «компакт». Для простоты предположим, что движутся они в том же направлении, что и мы; отечественная масса средняя, и оцениваем мы лишь энергию удара, не вспоминая о пассажирах.
Водители из крови и плоти в подобные обстановки, конечно, также попадают, но человек действует тут интуитивно — и обвинять его, что в последние миллисекунды он поступил так, а не в противном случае, никому и в голову не приходит: мы физически не успеваем продумать воздействие. Иное дело компьютер. Он не ограничен несколькими ответами в секунду, не страдает от туннельного зрения в критические моменты, избавлен от страха. Он видит картину во всей полноте и имеет возможность выбирать, куда направить колёса. Соответственно, будет функционировать так, как его запрограммируют конструкторы.
Что ж, последствия столкновения возможно угадать с достаточной точностью. Массы транспортных средств известны, скорости – также (в то время, когда же «произойдёт» общий V2V, обращение отправится кроме того не о приблизительных оценках, а о правильных цифрах, плюс дополнительно будет известно, какое ТС оснащено лучшими средствами защиты, и другое подобное), а физика диктует, что при столкновении с телом большей массы энергия перемещения будет погашена действеннее. Вывод? Тормозить необходимо о джип.
Не торопитесь показывать на очевидный просчёт. Да, вы совсем правы: согласно данным статистики отечественные шансы умереть по окончании столкновения с джипом в разы выше, чем по окончании столкновения с «компактом». Но повторю: отечественный мысленный опыт очень сильно упрощён, это собственного рода сферический конь в вакууме, необходимый, дабы проиллюстрировать появляющуюся принципиально новую проблему. Сущность её вот в чём. Если бы мы руководили автомобилем самостоятельно, возможности подвергнуться удару с отечественной стороны для компакта и «внедорожника» были бы (статистически) равны. В противном случае говоря, бал правила бы случайность. А вот для робопилота джип оказывается предпочтительной целью. Понравится ли такая «дискриминация» производителям внедорожников? Понравится ли она их пассажирам и покупателям?
Усложнение опыта — путём трансформации добавления участников и состава движения в уравнение людских судеб — повлияет на стратегию робокара, но не устранит дискриминацию. Скажем, в случае если робопилот волнуется за жизни собственных пассажиров, будет логично бить машину меньшей массы. И, получается, конструкторы робоавто умышленно заложат в собственные продукты идею убийства менее защищённых участников перемещения.
Ещё более неприглядной картина выходит, в случае если заменить компакт и «внедорожник» мотоциклистами: один пускай будет в шлеме, второй – без него. Бить, конечно, лучше того, что в шлеме — но тогда получается, что само по себе ношение шлема увеличивает риск попасть под колёса!
А представьте, что перед робокаром был случайный пешеход. Сбить его и точно убить – либо тормозить о другие автомобили и бордюр, рискуя судьбой людей в салоне?
Эту головоломку возможно крутить и без того и эдак, но какой бы стороной мы её ни развернули, в итоге возьмём одинаковый вопрос: кто дал конструкторам робоавто право решать, кем и чем пожертвовать? Тему эту поднял пару дней назад в издании Wired исследователь из америки, занятый, например, робоэтикой. Но поднималась она и до него, так что к настоящему моменту накопилась хорошая подборка доводов за и против. Основной контраргумент: исходить необходимо не из этических мыслей, а лишь и только из правил дорожного перемещения.
Логика в этом имеется: раз уж автомобиль имеет возможность манёвра, он обязан в первую очередь соблюсти правила, запрещающие, например, выезд на левую полосу, в то время, когда она занята. К сожалению, в обстановках, аналогичных рассмотренным выше, ориентироваться на правила будет нехорошей идеей. Что в случае если, оценив все мгновенные факторы, робопилот примет решение, что наилучшим с позиций минимизации вреда будет вариант, требующий нарушения правил? Разве возможно будет конструкторов за это осудить?
Такое рассуждение ведет к пониманию, что действия робоавтомобиля в критических обстановках, вероятнее, будут диктоваться математикой — в частности ответом совокупности уравнений, с поиском точки минимальных повреждений для техники и людей. Но это только подтверждает ранее сделанный вывод: финал дорожно-транспортного происшествия с участием робокара не будет случайным! Кто-то из его участников неизбежно окажется в систематически менее удачном положении по сравнению с другими.
И тогда… Мотоциклиста без шлема (из примера выше) возможно будет обвинить в провоцировании смерти либо увечий мотоциклиста в шлеме (и всё равняется надёжнее начнёт ездить без шлемов). Программистов, писавших софт для робокара, что затормозил о «компакт», обвинят в преднамеренном убийстве пассажиров «компакта». В случае если же робоавтомобили будут предпочитать биться о более тяжёлые и лучше защищённые авто, смогут пострадать продажи внедорожников и ультрабезопасных седанов, потому что пропадёт стимул к их формированию.
Всего этого возможно избежать, в случае если запретить робопилоту принимать «осознанные» ответы перед столкновением. Но при таких условиях не будут продаваться уже сами робокары: кто же приобретёт автомобиль, что не ценит жизнь собственных пассажиров, не ставит её выше чужих?
В статье использованы иллюстрации Lore Denizen, Soumyadeep Paul, Becky Stern.