Название серии: Стюарт Рассел: долгосрочное будущее ИИ (9 декабря 2018 г.)

Источник: искусственный интеллект | Лекс | ИИ Массачусетского технологического института

Слушайте подкаст или смотрите на YouTube

Гости: Лекс Фридман, исследователь и ведущий из Массачусетского технологического института, Стюарт Рассел, профессор компьютерных наук Калифорнийского университета в Беркли и автор бестселлеров по искусственному интеллекту.

ВВЕДЕНИЕ

Лекс Фридман взял интервью у профессора Рассела, одного из отцов искусственного интеллекта, в своей основополагающей книге. Профессор Раселл делится своими опасениями по поводу ИИ и советами, как избежать катастрофы! ИИ захватывает мир..

3 ОСНОВНЫХ ПУНКТА

  1. Искусственный интеллект следует регулировать. Профессор Рассел придерживается твердого мнения о применении искусственного интеллекта в технологиях и приложениях, влияющих на население планеты, таких как Facebook. Нам нужен аналог Управления по санитарному надзору за качеством пищевых продуктов и медикаментов для искусственного интеллекта и машинного обучения.
  2. Исследовательское сообщество ИИ отрицает риски, связанные со сверхразумом ИИ. Несмотря на то, что много усилий и ресурсов тратится на следующий прорыв в области ИИ и глубокого обучения, очень немногие задумываются о том, как инновации будут влиять на общество и культуру.
  3. Теория игр может помочь ИИ лучше взаимодействовать с людьми. Позволив системе найти решение, она может изобрести более разумное поведение, более адаптированное к взаимодействию с людьми.

УРОКИ ВЫУЧЕНЫ

Три основных вопроса об ИИ сегодня:

  • ИИ не всегда может ответить. Это БОЛЬШАЯ проблема в некоторых случаях использования, таких как автономные транспортные средства, где отключение системы ИИ может привести к аварии со смертельным исходом.
  • ИИ преследует цели, которые не совпадают с задачами человека. Системы ИИ — это машины, созданные для оптимизации: мы ставим перед собой какую-то цель, а затем она оптимизирует. ****(например, максимизируя взаимодействие в социальных сетях до предела, алгоритмы ИИ распространяют бесполезный контент, такой как фейковые новости)
  • Данные — это не новая нефть, это «змеиное масло». Накопить кучу данных, не думая о проблеме, которую вы хотите решить, или о цели более высокого уровня — это просто пустая трата денег, в этом нет никакой ценности.

НАШИ ПРЕДЛОЖЕНИЯ