Как известно, машины плохо поддаются классификации, но и люди тоже.
Классификация - это топливо для мозга, которое поддерживает поведение. Люди часто предпочитают называть это более грандиозными именами - идентификация, суждение, предубеждение, заключение - но каким бы ни был аналог, человеческий мозг редко делает сознательный шаг, не применив его заранее.
Неудивительно, что такую глубоко укоренившуюся умственную операцию оказалось трудно передать изобретениям, таким как А.И. и беспилотные автомобили, например. Мировоззрение машины - ее контекстуальная система отсчета - настолько сложно довести до человеческого масштаба, что мы обнаруживаем, что они классифицируют пешеходов как велосипеды и рекламу как пешеходов. Возможно, практический А. в конце концов, не готов к жизни в реальном мире.
Или, возможно, реальный мир не так легко классифицировать, как мы думаем.
Рассмотрим пример рекламы у обочины и зададим относительно простой вопрос: это пешеход?
Алгоритм без четкого мировоззрения может действительно игнорировать контекст и классифицировать его как пешехода, если это явно просто печатная реклама пешехода. Но это не так.
Это изображение рекламы пешехода, и это ни в коем случае не вопрос семантики. То, что мы видим в наших веб-браузерах, - это контекстный фрейм, и все, что происходит вне этого фрейма, выходит за рамки нашего собственного мировоззрения, что может привести к серьезной неправильной классификации. То, что мы уверенно классифицируем как фотографию наружной рекламы, является подделкой, существующей только на экране. Алгоритм был бы лучше известен, основываясь только на пикселях.
Разница между людьми и машинами не в том, что мы лучше умеем классифицировать, а в том, что мы больше заинтересованы в уверенности, чем в точности.
Различие между людьми и машинами не в том, что мы лучше умеем классифицировать, а в том, что мы больше заинтересованы в уверенности, чем в точности. Такой подход создает свою долю дорожно-транспортных происшествий, особенно в сценариях, когда пешеходы появляются вне контекста. В этом смысле можно утверждать, что водители-люди будут изо всех сил пытаться совершить одну поездку, если будут придерживаться тех же необоснованных стандартов производительности, что и А.И. с участием.
Такая ошибочная расстановка приоритетов не сулит нам ничего хорошего, поскольку мир становится все более цифровым, и в какой-то момент мы можем полагаться на ИИ. отличать реальность от вымысла.
Конечно, можно не обращать внимания на влияние ограниченного цифрового мировоззрения, поскольку кажется тривиальным узнать, что половина нашего вида неверно классифицировала цвет платья и отказалась признать это. Но контекстный барьер наших экранов также сыграл роль в выборе мировых лидеров, поскольку мы присоединились к идеям, генерируемым ботами и манипуляторами, маскирующимися под авторитетные источники новостей и сограждан. Тем не менее, как и в случае с платьем, многие из нас предпочитают сохранять уверенность, а не точность, даже несмотря на доказательства обратного.
Возможно, нам следует пересмотреть борьбу ИИ в более широком, более здоровом контексте, поскольку классификация сложна, и люди справились с ней, только срезая углы и игнорируя последствия. Если у нас есть шанс перенастроить мозг, мы могли бы преуспеть в том, чтобы обуздать высокомерие.
Изначально опубликовано в Forbes.
