Искусственный интеллект

Почему ИИ сложнее, чем мы думаем

Обзор взлетов и падений искусственного интеллекта до сих пор и того, как далеко мы продвинулись к общей разведке

У скольких из вас был приличный разговор с чат-ботом?

Привет! Добро пожаловать назад! Сегодня мы рассмотрим статью Почему ИИ сложнее, чем вы думаете », опубликованную Мелани Митчелл из Института Санта-Фе.

Дадим определение двум словам, используемым в статье:

AI Spring - периоды оптимистичных прогнозов и крупных инвестиций.

AI Winter - периоды разочарований, потери уверенности и сокращения финансирования.

В этой статье утверждается, что циклы весны ИИ и зимы ИИ возникают из-за того, что люди делают слишком самоуверенные прогнозы, а затем все рушится. Митчелл привел примеры случаев, когда люди делали слишком самоуверенные прогнозы, и обрисовал четыре ошибки, которые делают исследователи.

Я нашел эту статью интересной и поделился ею с вами.

Весна и зима

С момента своего появления в 1950-х годах ИИ столкнулся со многими циклами весны ИИ и зимы ИИ. Даже с учетом современных быстроразвивающихся технологий некоторые возможности, такие как беспилотные автомобили, жилые роботы и собеседники, далеки от реальности. В своей статье Митчелл рассказал о многих случаях, когда исследователи становились слишком самоуверенными в отношении будущего ИИ и делали прогнозы, которые еще не сбылись. Я делюсь несколькими ключевыми заявлениями исследователей и предпринимателей о будущем ИИ. Эти заявления сделаны после некоторых прорывов в этой области.

Когда в 1958 году был изобретен перцептрон, газета New York Times сообщила, что «сегодня флот выявил зародыш электронного компьютера, который, как они ожидают, сможет ходить, говорить, видеть, писать, воспроизводить себя и осознавать свое существование». [1].

В 1960 году Герберт Саймон заявил, что «в течение двадцати лет машины будут способны выполнять любую работу, которую может выполнять человек» [2].

Клод Шеннон повторил это предсказание: «Я с уверенностью ожидаю, что в течение 10-15 лет из лаборатории появится что-то, что находится недалеко от известного робота в жанре научной фантастики» [3].

Марвин Мински прогнозировал, что «в течение одного поколения… проблемы создания« искусственного интеллекта »будут существенно решены» [4].

В опросах исследователей ИИ, проведенных в 2016 и 2018 годах, средний прогноз опрошенных давал 50-процентную вероятность того, что ИИ человеческого уровня будет создан к 2040–2060 гг. [5].

Стюарт Рассел, соавтор широко используемого учебника по ИИ, предсказывает, что «сверхразумный ИИ», «вероятно, появится при жизни моих детей» [6].

Сэм Альтман, генеральный директор компании OpenAI, занимающейся искусственным интеллектом, предсказывает, что в течение десятилетий компьютерные программы «сделают почти все, в том числе будут делать новые научные открытия, которые расширят нашу концепцию« всего »» [7].

Шейн Легг, соучредитель Google DeepMind, предсказал в 2008 году, что «ИИ человеческого уровня будет передан в середине 2020-х годов» [8].

Генеральный директор Facebook Марк Цукерберг заявил в 2015 году, что «Одна из целей [Facebook] на следующие 5–10 лет состоит в том, чтобы в основном превзойти человеческий уровень во всех основных чувствах человека: зрении, слухе, языке, общем познании» [ 9].

Это некоторые из заявлений исследователей и предпринимателей. и Эти утверждения или мнения являются единственными источниками финансирования. Я упомянул здесь только AI Springs, так как все знают, стали ли эти вещи реальностью на сегодняшний день или нет. Больше источников и зим можно найти в газете.

Автор заявляет, что прогнозы о вероятной временной шкале ИИ человеческого уровня отражают наши собственные предубеждения и непонимание природы интеллекта. И вот четыре заблуждения в нашем представлении об ИИ, которые приводят к этим слишком самоуверенным прогнозам.

Заблуждение 1. Узкий интеллект находится в континууме с общим интеллектом

Прогресс в решении конкретной задачи ИИ часто описывается как первый шаг к более общему ИИ. Любые улучшения в наших программах, какими бы незначительными они ни были, считаются прогрессом в направлении общего ИИ. Какой бы прогресс мы ни добились, мы рассматривали его как шаг к общему ИИ.

Пример: Deep Blue провозгласили первым шагом революции в области искусственного интеллекта. Мы можем реализовать это, используя дерево поиска min-max и несколько правил ручной работы. Возможно, это не настоящий интеллект. Но мы не можем с уверенностью сказать, что это не шаг к общему интеллекту, потому что мы не очень ясно понимаем общие принципы ИИ. Он также может использовать некоторые тривиальные алгоритмы для принятия решений.

Заблуждение 2. Легкие вещи - легкие, а сложные - трудные

Мы предполагаем, что сложные проблемы для людей трудны для компьютеров, и то же самое касается простых проблем. Когда мы решаем сложные проблемы, мы думаем: «Ух ты! компьютер должен быть супер-умным, потому что только супер-умный человек может это делать ». Действительно ли эти проблемы сложны для компьютеров? Задачи, которые нам кажутся очень простыми, могут оказаться очень сложными для компьютеров. У скольких из вас был приличный разговор с чат-ботом?

Пример: исследователи из Google DeepMind, рассказывая о триумфе AlphaGo, описали игру в го как одну из «самых сложных областей» [10]. Сложно для кого? Возможно, для людей. Психолог Гэри Маркус отметил, что есть области, в том числе игры, которые, хотя и просты для людей, намного сложнее, чем системы Go для ИИ. Одним из примеров являются шарады, которые «требуют актерских навыков, лингвистических навыков и теории разума», способностей, которые намного превосходят все, что AI может сделать сегодня [11].

Заблуждение 3: соблазн мнемоники желаемого за действительное

Это о том, как мы называем вещи или говорим о системах ИИ. Вот аргумент: основным источником простоты в программах ИИ является использование мнемоник, таких как «ПОНИМАТЬ» или «ЦЕЛЬ», для обозначения программ и структур данных [12]. Мы используем такие слова, как цель, думает, понять, выиграть, и приписываем этим системам человеческие склонности или человеческие желания / потребности.

Пример: соучредитель DeepMind Демис Хассабис говорит нам, что «цель AlphaGo - побеждать лучших игроков-людей, а не просто имитировать их». А ведущий исследователь AlphaGo Дэвид Сильвер так описал одно из совпадений программы: «Мы всегда можем спросить AlphaGo, насколько хорошо он думает во время игры. … Только ближе к концу игры AlphaGo думала, что выиграет »[13].

Заблуждение 4: весь интеллект находится в мозгу

Это о воплощенном познании. Предположение о том, что все интеллект находится в мозгу, привело к предположению, что для достижения ИИ человеческого уровня нам просто нужно масштабировать машины, чтобы они соответствовали «вычислительной мощности» мозга, а затем разработать соответствующее «программное обеспечение» для этого сопоставления мозга ». аппаратное обеспечение". Но ученые-когнитивисты утверждают, что представление концептуального знания зависит от тела: оно мультимодальное…, а не амодальное, символическое или абстрактное.

Пример: Пионер глубокого обучения Джеффри Хинтон предсказал: «Чтобы понять [документы] на человеческом уровне, нам, вероятно, потребуются человеческие ресурсы, и у нас есть триллионы связей [в нашем мозгу] . … Но самые большие сети, которые мы построили, имеют всего миллиарды подключений. Так что мы на несколько порядков меньше, но я уверен, что специалисты по аппаратному обеспечению это исправят »[14]. Другие предсказывают, что «аппаратное исправление» - скорость и объем памяти, чтобы наконец сделать возможным ИИ человеческого уровня - появятся в форме квантовых компьютеров [15].

Заключение

Четыре заблуждения, приведенные автором, могут вызвать ряд вопросов у исследователей искусственного интеллекта. Эти заблуждения кажутся мне разумными, хотя я в некоторой степени не согласен с тем, что я инженер искусственного интеллекта;) Есть случаи, когда я думаю, что для достижения прогресса требуется оптимизм. Если мы думаем, что это излишняя самоуверенность и что мы мало что можем сделать, мы не можем приложить все усилия. Главное в любом исследовании - это финансирование. Возможно, мы далеки от ИИ в целом, но пока мы добились значительного прогресса. А это было бы невозможно, если бы мы не были оптимистами.

Автор также высказал некоторые мысли о том, как достичь общего ИИ, вы можете просмотреть статью, чтобы узнать об этих деталях в разделе заключения.

использованная литература

  1. Новое устройство ВМФ учится на практике. New York Times, 1958. URL https://tinyurl.com/yjh3eae8
  2. Х. А. Саймон. Выдающиеся лекции Форда, Том 3: Новая наука принятия управленческих решений. Харпер и братья, стр. 38, 1960.
  3. Столетие Шеннона: 1100100 лет битам. Https://www.youtube.com/watch?v=pHSRHi17RKM, 1961 г.
  4. М. Л. Минский. Вычисления: конечные и бесконечные машины. Прентис-Холл, стр. 2, 1967.
  5. К. Грейс, Дж. Сальватье, А. Дефо, Б. Чжан и О. Эванс. Когда ИИ превзойдет человеческие возможности? Свидетельства экспертов по искусственному интеллекту. Журнал исследований искусственного интеллекта, 62: 729–754, 2018.
  6. С. Рассел. Совместимость с человеком: искусственный интеллект и проблема контроля. Пингвин, стр. 77, 2019.
  7. Https://moores.samaltman.com, 2021 год.
  8. J. Despres. Сценарий: Шейн Легг. Будущее, 2008. URL https://tinyurl.com/hwzna364
  9. Х. Маккракен. Изнутри смелого плана Марка Цукерберга относительно будущего Facebook. Fast Company, 2015. URL www.fastcompany.com/3052885/mark-zuckerberg-facebook.
  10. D. Silver et al. Освоение игры в го без человеческого знания. Природа, 550 (7676): 354–359, 2017.
  11. Г. Маркус. Врожденность, Alphazero и искусственный интеллект. arXiv: 1801.05667, 2018.
  12. Д. Макдермотт. Искусственный интеллект встречается с естественной глупостью. Бюллетень ACM SIGART, (57): 4–9, 1976.
  13. Смешанные взгляды на матч между человеком и ИИ. Korea Herald, 2016. URL https://tinyurl.com/zb3ywabe.
  14. Дж. Паттерсон и А. Гибсон. Глубокое обучение: подход практикующего. O’Reilly Media, стр. 231, 2017
  15. Г. Мюссер. Первое задание для квантовых компьютеров: развитие искусственного интеллекта. Журнал Quanta, 2018. URL https://tinyurl.com/2k8fw628.

Надеюсь, вам понравилась эта дискуссия так же, как и мне. Дайте мне знать, согласны вы с автором или нет в комментариях. Спасибо!