Могут потребоваться десятилетия исследований и компьютерной эволюции, прежде чем у нас появится что-нибудь даже напоминающее автономное вождение человека.

Человек - медлительный, небрежный и блестящий мыслитель; компьютеры быстрые, точные и глупые. - Джон Пфайффер

Илон Маск хвастался в недавнем подкасте, что автомобили Tesla будут полностью автономными к концу 2020 года. Под этим он имел в виду, что человек сможет буквально спать за рулем, пока его машина везет его к месту назначения. Кто-то может вспомнить, что Маск сделал аналогичный прогноз в прошлом году, за год до этого и за год до этого. Фактически, он говорил, что полное самоуправление произойдет в следующем году еще в 2014 году, и каждый раз ошибался. Это последнее предсказание также окажется неверным, потому что искусственный интеллект, или ИИ, который лежит в основе технологии автопилота Tesla, все еще находится в зачаточном состоянии.

Большая часть того, что сегодня называют «ИИ», представляет собой семейство довольно примитивных алгоритмов, называемых искусственными нейронными сетями или для краткости ИНС. Хотя они могут показаться волшебными, на самом деле ИНС - это не что иное, как простые математические функции, которые умножают входные данные на полученные веса для получения выходных данных. Важно отметить, что это «обучение» не похоже на обучение, которое происходит в биологических нейронных сетях, таких как мозг. Скорее, это гораздо менее эффективный механизм обучения на основе градиентного спуска, известный как обратное распространение.

Обратное распространение - это рабочая лошадка всех современных ИНС - это то, что уточняет их веса, чтобы их прогнозируемые результаты приближались к желаемым. Этот метод обучения смехотворно неэффективен, часто требуя абсурдного количества обучающих данных и вычислительных ресурсов, чтобы выучить тривиальные задачи, которые дети могут выучить с помощью всего лишь нескольких воздействий. Кроме того, он хрупкий и глупый, часто ломается, когда сталкивается с входными данными, которые даже незначительно отличаются от входных данных, используемых при обучении, - огромная проблема безопасности в случае беспилотных автомобилей.

Автопилот Теслы, предположительно обученный на миллиардах миль данных о вождении человека, является прекрасным примером того, что я имею в виду. Он в первую очередь полагается на данные камеры, анализируемые ИНС, чтобы оставаться в центре своей полосы движения. Эта технология хорошо работает на идеальных шоссе с четкой разметкой полос. Однако при движении по дорогам, где разметка полос нечеткая или немного изменена, автопилот легко запутается.

Это было продемонстрировано в недавнем исследовании, опубликованном Keen Labs, в котором исследователи изобрели простой трюк, который заставлял управляемую автопилотом Tesla выезжать на встречную полосу движения. Они сделали это, как вы можете подумать, не взломав бортовую вычислительную систему автомобиля, а просто создав фальшивую полосу движения. Как показано ниже, исследователи разместили на дороге три небольших разметки. Автопилот обнаружил их как линию, указывающую на смещение полосы движения влево. В результате автопилот слепо повернул в этом направлении. Это очевидная ошибка, которую никогда бы не совершил нормальный водитель-человек.

К сожалению, такая глупость характерна не только для Автопилота. Другие современные системы автономного вождения столь же плохи, если не хуже. Было показано, что они совершают всевозможные серьезные ошибки, например, принимают знак остановки с граффити за знак ограничения скорости или принимают простой узор из желто-черных полос за школьный автобус. Я сам построил, обучил и протестировал тысячи ИНС, и могу заверить вас, что они остаются уязвимыми к этим ошибкам даже при явном обучении их избегать - и это подтверждается многочисленными хорошо цитируемыми исследованиями, такими как это одно и это Один и этот один.

Проще говоря, беспилотные автомобили, которые у нас есть сегодня, - это машины-смертники, которые с трудом перемещаются по простым шоссе, не говоря уже о сложных перекрестках и перегруженных парковках. Эти машины не обладают четким пониманием своего окружения и не обладают гибкостью, чтобы быстро адаптироваться к новым ситуациям. Маловероятно, что вы сможете просто изучить этот материал, используя ИНС на основе обратного распространения ошибки. Вероятно, нам понадобятся алгоритмы получше, возможно, те, которые более точно имитируют нейронную архитектуру мозга. Однако, учитывая, как мало мы знаем о мозге, такие достижения могут стать возможными как минимум через многие десятилетия.

Это проблема для Tesla, потому что ее автопилот позиционируется как будущее автономного вождения. Поскольку это будущее оказалось гораздо более далеким, чем обещалось, спрос на автомобили компании, который резко упал в последние месяцы, может упасть еще больше. Не будем также забывать, что безопасность была ключевым аргументом в пользу этой технологии. Учитывая недавний всплеск аварий, вызванных автопилотом, и рост числа судебных исков, этот аргумент оказался - как справедливо выразились группы защиты прав потребителей - обманчивым и вводящим в заблуждение.