Название серии: Стюарт Рассел: долгосрочное будущее ИИ (9 декабря 2018 г.)
Источник: искусственный интеллект | Лекс | ИИ Массачусетского технологического института
Слушайте подкаст или смотрите на YouTube
Гости: Лекс Фридман, исследователь и ведущий из Массачусетского технологического института, Стюарт Рассел, профессор компьютерных наук Калифорнийского университета в Беркли и автор бестселлеров по искусственному интеллекту.
ВВЕДЕНИЕ
Лекс Фридман взял интервью у профессора Рассела, одного из отцов искусственного интеллекта, в своей основополагающей книге. Профессор Раселл делится своими опасениями по поводу ИИ и советами, как избежать катастрофы! ИИ захватывает мир..
3 ОСНОВНЫХ ПУНКТА
- Искусственный интеллект следует регулировать. Профессор Рассел придерживается твердого мнения о применении искусственного интеллекта в технологиях и приложениях, влияющих на население планеты, таких как Facebook. Нам нужен аналог Управления по санитарному надзору за качеством пищевых продуктов и медикаментов для искусственного интеллекта и машинного обучения.
- Исследовательское сообщество ИИ отрицает риски, связанные со сверхразумом ИИ. Несмотря на то, что много усилий и ресурсов тратится на следующий прорыв в области ИИ и глубокого обучения, очень немногие задумываются о том, как инновации будут влиять на общество и культуру.
- Теория игр может помочь ИИ лучше взаимодействовать с людьми. Позволив системе найти решение, она может изобрести более разумное поведение, более адаптированное к взаимодействию с людьми.
УРОКИ ВЫУЧЕНЫ
Три основных вопроса об ИИ сегодня:
- ИИ не всегда может ответить. Это БОЛЬШАЯ проблема в некоторых случаях использования, таких как автономные транспортные средства, где отключение системы ИИ может привести к аварии со смертельным исходом.
- ИИ преследует цели, которые не совпадают с задачами человека. Системы ИИ — это машины, созданные для оптимизации: мы ставим перед собой какую-то цель, а затем она оптимизирует. ****(например, максимизируя взаимодействие в социальных сетях до предела, алгоритмы ИИ распространяют бесполезный контент, такой как фейковые новости)
- Данные — это не новая нефть, это «змеиное масло». Накопить кучу данных, не думая о проблеме, которую вы хотите решить, или о цели более высокого уровня — это просто пустая трата денег, в этом нет никакой ценности.
НАШИ ПРЕДЛОЖЕНИЯ
- читать Проблема искусственного интеллекта и скрепки
- Прочтите старинную, но все еще очень эффективную книгу Профессор Рассел — Искусственный интеллект: современный подход.