Чем опасен робомобиль?

Вообще-то слово «автомобиль» дословно означает «движущийся сам». И в течение всей своей более чем столетней истории автомобили эволюционировали именно в сторону максимального отстранения человека от процесса управления. Когда-то ведь даже заводить мотор нужно было заводной рукояткой, позднее появились автоматическая коробка передач, круиз-контроль, автоматическое торможение…

И вот теперь в нашу жизнь стремительно входят автомобили, которые ездят полностью сами, вообще без участия водителя. С аппаратной точки зрения, кстати, ничего сложного и суперсовременного в них нет. Те же колеса, моторы, рулевое управление и тормоза, а также сервоприводы для управления всем, чем можно управлять, давно присутствуют и в обычных машинах.

Камеры, следящие за разметкой и за другими машинами вокруг, тоже не то чтобы новинка. Системы распознавания дорожных знаков и навигаторы с подробными картами уже встречаются даже в бюджетных моделях. И неровности дороги обычные машины давно научились распознавать: на основе этих данных некоторые «Мерседесы» регулируют подвеску так, чтобы в момент проезда неровности как бы приподнимать колесо, и в итоге машина практически летит над асфальтом.

Остается, казалось бы, всего ничего: сделать программную часть, которая будет управлять всеми системами, заменяя водителя. И вот тут возникает много вопросов далеко не технического толка. Первая жертва «робомобиля» уже есть: в США Tesla из-за ошибки системы распознавания не заметила приближающийся к ней грузовик, в то время как ее владелец спокойно сидел, уткнувшись в свой смартфон. Кого в данном случае считать виновным в трагедии? Владельца? Но он не управлял автомобилем. Производителя? Но он вроде как тоже не управлял автомобилем.

Беспилотные автомобили и завтрак за рулем https://t.co/9auIlnvKpU pic.twitter.com/64LcX22JEm

— Евгений Касперский (@e_kaspersky_ru) December 16, 2014

Или, скажем, другая ситуация: допустим, ДТП неизбежно, и компьютер это понимает — на дорогу из-за угла внезапно выбежал двухлетний малыш. Правила дорожного движения в аварийной ситуации требуют применить экстренное торможение, не меняя направление движения. То есть следующий формальным правилам робомобиль собьет малыша. При этом большинство людей предпочли бы нарушить ПДД — и резко свернуть в столб, потому что шансов выжить у водителя и пассажиров машины с подушками безопасности больше, чем у пешехода. А саму машину потом восстановят по страховке.

Или возьмем другую ситуацию: выбегающий неожиданно на дорогу лось. Если следовать ПДД, это приведет к неминуемому столкновению с лосем и серьезным травмам пассажиров. Живой водитель попробовал бы на практике «лосиный тест» с резким перестроением и возвратом обратно: в идеале поехал бы дальше, при менее удачном стечении обстоятельств машина опрокинулась бы или съехала в кювет, но без серьезных последствий.

Хорошо, можно сделать систему более интеллектуальной и научить ее распознавать образы, сопоставлять множество разных условий и в конечном итоге решить часть проблем. То есть если выбегает животное лось, а на встречке никого нет, то анализируем траекторию и скорость животного лось — и маневрируем. Если выбегает ребенок, а вокруг не видно других пешеходов, но есть столб, едем в столб и втыкаемся в него максимально безопасно для пассажиров. Казалось бы, проблема решена: продумать все алгоритмы, и можно ездить. Но все не так однозначно…

Формирование этики роботов: https://t.co/MAt7MSNbll. Опрос от разработчиков беспилотного «Камаза». pic.twitter.com/yBNLtkOj56

— Гиктаймс (@GeekTimes_ru) December 17, 2015

Рассмотрим, например, результаты опроса, проведенного компанией Cognitive Technologies, которая как раз и занимается разработкой автоматизированных систем управления для автомобилей. Что особенно характерно, это не какие-то абстрактные люди, а 80 тысяч человек из 47 регионов России, то есть это те, кого мы видим вокруг каждый день.

Так вот, в случае если на дорогу выбегает пешеход, а по встречке движется другой автомобиль, лишь 59% опрошенных предлагают съезжать в кювет, чтобы не сбить пешехода. 38% считают, что лучше сбить пешехода, видимо, потому, что «ну а че он»! Около 3% предпочтут лобовое столкновение — вероятно, в расчете на то, что встречный автомобиль испугается и сам уедет в кювет или на пешехода.

Если пешеходов несколько, то в кювет бы съехали 71% опрошенных, а 26% все равно считают, что нужно ехать прямо и всех сбивать. Интересно, что был вариант, когда на дорогу выбегает собака, а не пешеход: в этом случае ее бы сбили 55% участников опроса. Более того, в вопросе с собакой можно было выбрать экстренное торможение, при котором вас догонит движущийся сзади автомобиль. Несмотря на то что формально виновен в ДТП будет в этом случае именно он, а не беспилотник, такой алгоритм выбрали бы только 40% человек.

People want other people’s self-driving cars to keep pedestrians safe https://t.co/RgAlgEup7r by @RoheeniSax

— Ars Technica (@arstechnica) June 23, 2016

Другой опрос, проведенный американскими исследователями, показал еще более интересную картину. По его результатам люди в целом склонны считать правильным такое поведение робомобиля, когда он спасает пешехода или тем более группу пешеходов ценой жизни пассажира. И чем больше в группе пешеходов — тем большее количество опрошенных давало положительный ответ. Например, если в группе 10 пешеходов, то 76% участников опроса, или подавляющее большинство, считают, что спасать нужно их.

Однако, когда от абстрактного «общего блага» дело дошло до максимально конкретных формулировок, а именно «Купили бы лично вы такой робомобиль, который может убить одного из ваших близких ради снижения общего числа жертв аварии?», количество ответивших положительно резко упало до 19%.

Чуваки, хакнувшие Jeep Cherokee ровно год назад, взломали его еще разок, посерьезнее: https://t.co/MlEgj0CPcn pic.twitter.com/X6sWGU45pZ

— Kaspersky Lab (@Kaspersky_ru) August 11, 2016

То есть абстрактно люди согласны, что иногда автомобилю следует пожертвовать чьей-то жизнью для спасения других людей, но явно предпочитают, чтобы это были жизни каких-то незнакомцев.

Что делать в такой ситуации производителю? Не все будут согласны с решением, заложенным в автомобиль на заводе, что наверняка приведет к шквалу судебных исков после аварий, адресованных разработчикам. Если же дать возможность владельцу автомобиля самому программировать алгоритмы, то с большой вероятностью он что-нибудь сделает не так и автомобиль натворит бед. Да и для хакеров такая система станет куда уязвимее.

Поэтому, скорее всего, робомобили будущего (а за ними, безусловно, будущее) вообще сделают существование личного автомобиля бессмысленным. Беспилотники будут принадлежать таксомоторным компаниям, а вызвать ближайший свободный можно будет через мобильное приложение вроде Uber.

В Сингапуре запустили бесплатное беспилотное #таксиhttps://t.co/GY1Is8UKN3#транспорт #беспилотники #ВестиНаука pic.twitter.com/DbkSZaexqH

— Вести.Наука (@Vesti_Nauka) August 25, 2016

Это, в свою очередь, существенно снизит количество автомобилей, требующихся для перемещения того же количества населения, по сравнению с личным транспортом и решит множество проблем, в первую очередь с парковками и пробками, а во вторую очередь — с таксистами и их «дорогу покажешь?», шансоном и стойким запахом дешевых папирос в салоне.

Пешеходов же можно будет оснастить датчиками-маячками (как сейчас, например, в Европе все обязаны носить светоотражающие значки в темное время суток), и тогда автомобиль будет знать обо всех пешеходах в округе заблаговременно, и сбивать в большинстве экстренных случаев будет просто некого. И летающий «ДеЛореан» изобретать не придется.