AI не оправдывает ожиданий
История ИИ показывает, что попытки внедрить человеческое понимание в компьютеры редко срабатывают. Напротив, большая часть прогресса в этой области произошла за счет комбинации постоянно увеличивающейся мощности компьютеров и экспоненциального роста доступных данных. По сути, способность использовать все более грубые вычислительные ресурсы для решения проблем, связанных с большими наборами данных, дает все большую полезность. Но его ограничения также подчеркнуты резче, чем когда-либо. Горький урок состоит в том, что фактическое содержимое человеческого разума чрезвычайно и непоправимо сложно ... Это не то, что следует встраивать в машины.
Машинное обучение не оправдывает ожиданий. Это не настоящий искусственный интеллект, как какой-нибудь C-3PO. Это сложный инструмент сопоставления с образцом.
Жизнь и смерть существуют по краям. Это ситуации уникальные и необычные. По сути, события «толстого хвоста», которые определяют успех или неудачу, а иногда и жизнь или смерть. Люди лучше справляются с такими странностями, потому что они могут использовать рассуждения «сверху вниз» о том, как устроен мир, чтобы направлять их в ситуациях, когда «восходящие» сигналы от их органов чувств неоднозначны или неполны. Системам искусственного интеллекта в основном не хватает такой способности, и они в некотором смысле работают только с половиной мозга. Несмотря на то, что они компетентны в своей зоне комфорта, даже незначительные изменения могут быть проблематичными. Из-за отсутствия способности рассуждать и обобщать компьютеры оказываются в плену тех же данных, которые в первую очередь заставляют их работать. Эти системы в основе своей хрупки и всегда выходят из строя по краям, где производительность важна, а последствия гораздо более ужасны.
Биологический мозг учится на гораздо более богатых наборах данных, чем машины. Модели искусственного языка обучаются исключительно на больших объемах текста или речи. Но ребенок может полагаться на звуки, тон голоса или отслеживание того, на что смотрят его родители, а также на богатую физическую среду, которая поможет ему закрепить абстрактные концепции в реальном мире. Это переходит в старую идею исследования искусственного интеллекта под названием «воплощенное познание», согласно которой, если умы хотят правильно понимать мир, они должны быть полностью воплощены в нем, а не ограничиваться абстрактным существованием в виде импульсов электричества в центре обработки данных. .
Биология предлагает и другие идеи. В нынешнем поколении ИИ есть модели, которые начинаются с чистого листа, без подсказок, созданных вручную их создателями. Но все животные рождаются со структурой в мозгу. Это инстинкт, и он способствует развитию, суждениям и эффективному принятию решений гораздо более эффективно - и выходит за рамки возможностей систем искусственного интеллекта и машинного обучения.
Проблема в том, что подходы к глубокому обучению являются в основном статистическими, связывая входные данные с выходными способами, указанными в их обучающих данных. Это оставляет их неспособными справиться с крайними случаями - необычными обстоятельствами, описанными выше, которые не характерны для этих обучающих данных. Многие приложения из реальной жизни полны таких необычных обстоятельств, особенно вождение, которые могут быть полны странных явлений - от внезапного появления человека до странных погодных условий, размывающих зрение. С такими странностями люди легко справляются, но могут стать непреодолимой проблемой для систем машинного обучения. Есть много потенциальных приложений, которые могут быть эффективными и полезными инструментами. Они просто намного менее амбициозны, чем можно было бы назвать нынешней шумихой, но они также гораздо более реалистичны.
