Алекс Дэвис написал очень хорошую статью на Wired.com о Неизбежной глупости заставлять людей обучать самоуправляемые автомобили. В нем обсуждается снижение бдительности, которое является естественной тенденцией людей становиться менее бдительными с течением времени, особенно когда им мало чем заняться, например, когда они наблюдают за поведением беспилотного автомобиля, который очень редко совершает ошибки. ошибки, и, следовательно, вызывает скуку и самодовольство.

В настоящее время многим автомобилям с автоматическим управлением по закону требуется присутствие человека, который может взять на себя управление, когда все становится слишком много для программного обеспечения для самостоятельного вождения, и в этот конкретный момент научить программное обеспечение для самостоятельного вождения, как именно должна быть эта ситуация. обрабатываются правильно. Кажется, что это подход, который во многих случаях может создать больше проблем, чем решить. В частности, два из них заключаются в том, что беспилотный автомобиль может «сам» попасть в ситуацию, из которой не может легко выйти даже опытный водитель-человек, что не обязательно научит беспилотный автомобиль не попадать в эту ситуацию в первую очередь. место, и вышеупомянутая проблема снижения бдительности, когда человек просто не готов взять на себя управление и сделать то, что нужно сделать, чтобы исправить ситуацию, потому что он смотрит в свой смартфон, наблюдая, как сельская местность мягко проплывает через боковые окна. или вздремнуть «мысленно».

Возможно, было бы лучше, пока беспилотные автомобили все еще находятся на пути к совершенству, если бы вместо того, чтобы требовать, чтобы водитель-человек брал на себя управление в доли секунды, когда что-то идет не так, чтобы водитель-человек постоянно контролировал транспортное средство, и периодически ненавязчиво переключать управление с этого человека-водителя на программное обеспечение для самостоятельного вождения. Цель здесь состоит в том, чтобы беспилотный автомобиль имитировал действия человека-водителя настолько точно, чтобы водитель-человек не мог сказать при нормальных обстоятельствах, когда он / она контролировал автомобиль или когда программное обеспечение для беспилотного вождения было отключено. под контролем. В такой ситуации вам нужен человек-водитель с исключительными навыками вождения, чтобы беспилотный автомобиль учился у лучших из лучших (так что никаких мальчиков-гонщиков!). В моменты, когда беспилотный автомобиль не справился с управлением, он должен попытаться предсказать, что будет делать дальше человек-водитель, основываясь на всех имеющихся в его распоряжении электронных данных, а затем сравнить свой прогноз с реальностью. Когда есть разница, программное обеспечение для самостоятельного вождения затем «узнает», что оно должно было сделать, пока в конечном итоге оно не сможет управлять автомобилем так же, если не лучше, чем самый лучший водитель-человек. Очевидно, что в ситуации, когда автомобиль может взять на себя управление в любой момент, у водителя должен быть способ указать программному обеспечению беспилотного вождения, что управление человеком не должно прерываться, потому что именно в этот момент водитель-человек предпринимает чрезвычайно важные действия. решительный маневр, и что это должно стать обучающим моментом для программного обеспечения для самостоятельного вождения. По мере того, как «уверенность» водителя в программном обеспечении для самостоятельного вождения возрастает, использование непрерывного человеческого контроля должно естественным образом уменьшаться, позволяя программному обеспечению для самостоятельного вождения делать больше, но водитель ни в коем случае не сможет расслабиться и стать простым пассажиром. . Первоначально может быть довольно заметная разница между стилями вождения человека-водителя и программного обеспечения для самостоятельного вождения, но со временем эта разница должна стать почти незаметной, поскольку программное обеспечение для самостоятельного вождения учится точно имитировать человека-водителя.

Почему этот подход был бы особенно ценным, так это то, что водитель-человек тогда, насколько он мог бы судить, постоянно контролировал транспортное средство, и это помогло бы держать водителя полностью вовлеченным, избежать проблемы снижения бдительности и быть готовым в любой момент. моментальное уведомление, как и большинство хороших водителей, чтобы справиться с непредвиденными ситуациями, которые могут возникнуть в любой момент. Человек-водитель всегда будет водителем, а не пассажиром, которому в непредсказуемые моменты может быть предложено стать водителем, и что это будет значительным шагом вперед в обеспечении безопасности беспилотных автомобилей до тех пор, пока им действительно можно будет доверять в управлении. без постоянного присмотра человека.

ОБНОВЛЕНИЕ №1: В этом новостном отчете подробно описывается метод машинного обучения на основе подкрепления, который использовался для обучения беспилотного автомобиля удерживать полосу движения. Это немного похоже на то, что я описал в своем эссе. Вы можете легко представить, что программное обеспечение для самостоятельного вождения и водитель-человек могут работать более тесно вместе, как в моем эссе, так что не будет очевидно, кто на самом деле управляет в любой момент времени, и когда программное обеспечение для самостоятельного вождения совершает ошибку. ошибка в том, что она была немедленно исправлена ​​водителем-человеком.

ОБНОВЛЕНИЕ № 2: Здесь — это новостная статья об усовершенствованной системе помощи водителю Джорджа Хотца с открытым исходным кодом (ADAS), которая активно отслеживает человека-водителя, чтобы определить, обращает ли этот водитель внимание на то, что делает ADAS. делается. Если водитель-человек не обращает внимания, система ADAS отключается, требуя от водителя-человека полного контроля над автомобилем. Такой подход решает проблему снижения бдительности, гарантируя, что ADAS всегда контролируется водителем-человеком, когда он задействован. Тем не менее, это ставит человека-водителя в ситуацию, когда ему необходимо быстро перейти от пассивного мониторинга ADAS (своего рода облегченное вождение без помощи рук?) к активному вождению транспортного средства, когда ADAS совершает недопустимую ошибку. . Такой переход может пройти гладко, а может и нет. Честно говоря, любая система помощи при вождении, которая требует от человека-водителя быстрого перехода от пассивного мониторинга к активному вождению, кажется проблематичной, потому что люди очень хороши в вождении, когда они активно ведут машину, и очень хороши в том, чтобы быть бездумными пассажирами, когда это не так, но они действительно плохо контролируют работу машин в течение значительного периода времени, отсюда и проблема снижения бдительности. Итак, либо у нас есть беспилотные автомобили, которые управляют сами собой, в которых люди являются просто пассажирами, либо у нас есть автомобили, которыми активно управляют люди-водители. Все остальное кажется верным путем к катастрофе.