Проклятие ИИ

Оглавление

  1. "Введение"
  2. Повсеместное распространение ИИ
  3. ИИ в принятии решений
  4. Отрасли, использующие ИИ
  5. Абсолютная зависимость ИИ от данных
  6. Наличие недостоверных или предвзятых данных
  7. Снижение предвзятости от системы ИИ
  8. "Вывод"
  9. "Использованная литература"

Введение

Эта статья начинается с введения в ИИ и того, как он быстро становится всепроникающим. Затем следует рассмотрение все более важной роли, которую ИИ играет в принятии решений, после чего следует подробный раздел всех секторов, так или иначе зависящих от ИИ. Затем он рассматривает, как ИИ зависит от данных для каждого решения, и как чаще всего существуют ошибочные данные, которые влияют на производительность ИИ, внося предвзятость. Затем в предложении рассматриваются некоторые способы смягчения предвзятости.

Повсеместное распространение ИИ

Искусственный интеллект по определению относится к моделированию человеческого интеллекта в машинах, которые запрограммированы думать как люди и имитировать их действия. Этот термин также может применяться к любой машине, которая демонстрирует черты, связанные с человеческим разумом, такие как обучение и решение проблем. Наши возможности по созданию таких артефактов возрастают, а вместе с ними и влияние, которое они оказывают на наше общество. Появление смартфонов в начале 2000-х годов привело к накоплению огромного количества персональных данных в цифровой форме. После этого важность ИИ росла в геометрической прогрессии, поскольку существование больших данных означало, что мы могли передавать эти данные в алгоритмы, и в достаточном количестве, чтобы алгоритмы действительно извлекали уроки из данных и делали относительно надежные прогнозы на будущее. Индустрия искусственного интеллекта относится к большим данным так же, как нефтехимическая промышленность относится к сырой нефти. К другим факторам, обуславливающим незаменимость ИИ, относятся скорость инфраструктуры, доступность и ее масштабы, которые позволили алгоритмам ИИ работать с совершенно новой скоростью и приносить результаты. Таким образом, важность синтетического интеллекта возросла благодаря его способности учиться на постоянно растущем объеме данных. Его распространенность также увеличилась, и сегодня ИИ проник почти во все аспекты человеческой жизни, в разные страны, профессии, культуры и образ жизни. Я думаю, можно с уверенностью сказать, что ИИ проникает во все аспекты человеческой жизни и влияет на важные решения и устанавливает курс действий благодаря своим прогнозам и результатам.

ИИ в принятии решений

Использование ИИ в организациях, правительствах, системах безопасности, управлении энергетикой и природными ресурсами стремительно растет. Есть четкие показатели, указывающие на то, что все больше людей признают решения, которые технологии приносят каждый день. Усилия большинства разработчиков ИИ направлены на создание и обучение моделей ИИ, которые могут адекватно и ответственно заменить человеческие усилия. Эта потребность возникает в результате признания недостаточности трудовых усилий человека, которые характеризуются неточностью, неэффективностью и другими неудачами, а также облегчения жизни человека за счет уменьшения количества труда. Виртуальные помощники ИИ, повышение эффективности трудозатрат с гарантированным соответствующим результатом, снижение эксплуатационных расходов — вот лишь некоторые из причин, по которым мы можем предположить, что ИИ скоро будет формировать нашу жизнь и решения более важными способами, чем когда-либо прежде.

Отрасли, использующие ИИ

ИИ может проникнуть в основные отрасли и потенциально изменить способ управления и выполнения операций. Вот некоторые из секторов -

  1. Здравоохранение. Интеллектуальные медицинские устройства со встроенным искусственным интеллектом могут изменить функциональность здравоохранения, сократив расходы и улучшив качество обслуживания пациентов.
  2. Строительство. На рабочих площадках может быть полезен мониторинг в режиме реального времени с помощью дронов и интеллектуальных камер; эта технология может устранить задержки проекта и предотвратить потери материалов.
  3. Логистика и дистрибуция. Интеллектуальные складские роботы могут эффективнее выполнять задания, сокращать время получения и многое другое.
  4. Транспорт. ИИ проникает в транспорт с помощью автономных транспортных средств, которые могут постепенно отказаться от парковок и заправочных станций.
  5. Сельское хозяйство. Распылители гербицидов с искусственным интеллектом, камерами и компьютерным зрением могут сократить расходы, а также сократить использование гербицидов впустую.
  6. Энергия. Интеллектуальные ветряные турбины, оснащенные датчиками, могут получать информацию об изменяющихся условиях ветра и при необходимости регулировать его скорость и угол наклона лопастей.
  7. Безопасность. Камеры видеонаблюдения со встроенным искусственным интеллектом могут помочь полиции идентифицировать лица и быстро обнаруживать подозрительную активность в режиме реального времени.

Помимо этого, существуют сотни вариантов использования ИИ в бизнесе, торговле, финансах, образовании, развлечениях, обороне и оптимизации тюремного пространства. Все больше и больше полагаются на ИИ для принятия решений, которые прямо или косвенно влияют на наши основные права как людей. Например, использование ИИ на слушаниях по условно-досрочному освобождению может напрямую повлиять на права заключенного, если ИИ принимает неверные или предвзятые решения.

Абсолютная зависимость ИИ от данных

Несмотря на то, что мы называем это искусственным интеллектом, ИИ сегодня не принимает решения точно так же, как человек. Хотя есть исследования, показывающие, что нейронные сети чем-то напоминают процесс принятия решений человеческим мозгом, ИИ полностью зависит от уже существующих данных, чтобы делать значимые выводы. В то время как другие факторы, такие как скорость и масштабируемость, помогли улучшить производительность и осуществимость ИИ в сценариях использования, именно появление больших данных действительно сделало ИИ массовым явлением. Таким образом, чем больше данных, тем более обоснованные решения мы можем ожидать от ИИ. При наличии достаточного количества качественных данных методы искусственного интеллекта легко превосходят традиционные человеческие возможности. Но следует отметить, что данные являются преобладающим фактором, стоящим за всеми решениями, принимаемыми ИИ.

Наличие недостоверных или предвзятых данных

Данные, которые собираются и хранятся, создаются людьми и могут содержать ошибки и другие несоответствия. Помимо этого, данные также могут быть окрашены с точки зрения человека, вводящего данные. Например, если один человек вводит данные о том, какие напитки полезны, а какие нет, и у него есть склонность к Coca Cola, то существует высокая вероятность того, что любые решения, принимаемые ИИ с использованием этих данных, будут предвзятыми в отношении Coca Cola. . Таким образом, человеческие предпочтения и мышление влияют на собираемые данные и, следовательно, на решения, принимаемые алгоритмами ИИ на основе этих данных. Данные также могут отражать историческое или социальное неравенство, даже если исключить такие чувствительные переменные, как пол, раса или сексуальная ориентация. Нерепрезентативные данные об обучении определенных меньшинств также могут привести к более высокому уровню неправильных решений. Более опасные и действенные результаты этого эффекта, если расовые, гендерные или другие идеологические предубеждения каким-то образом проникают в данные, что приводит к решениям ИИ, которые могут быть катастрофическими по своему характеру, противоречащими основным принципам прав человека. Алгоритмы ИИ хороши настолько, насколько хороши данные, используемые для их обучения. Эти данные и сам процесс обучения могут способствовать систематической ошибке. Таким образом, существует острая необходимость в изобретении способов смягчения систематической ошибки в данных, используемых для обучения алгоритмов ИИ, учитывая, что ИИ медленно, но верно полностью берет на себя принятие решений. Если для принятия решений используются ошибочные данные, это может привести к неправомерным суждениям, потере возможностей трудоустройства, неправомерному предотвращению лечения, снижению способности людей участвовать в экономике и обществе и снижению потенциала ИИ для бизнеса и общества, поощряя недоверие. и дает искаженные результаты.

Это абсолютно большая проблема. Та же проблема теперь представлена ​​на бумаге и в цифрах, а не в межличностных взаимодействиях».
— Брент Киркпатрик.

Устранение предвзятости системы ИИ

Есть несколько способов гарантировать, что предвзятость в реальном мире не повлияет на решения, принимаемые ИИ. Это делается не путем обеспечения объективности данных, а путем обеспечения достаточного количества разнообразных и надежных данных для устранения систематической ошибки. Вот несколько способов сделать это:

  • Одной из самых больших гарантий против предвзятости ИИ является прозрачность — открытие черного ящика, традиционно связанного с ИИ, чтобы дать организациям и командам разработчиков больше информации о том, как принимаются решения. Прозрачность может иметь большое значение для смягчения предвзятости.

Люди должны знать, что это не волшебство — в коробке не феи, говорящие вам, какие акции выбрать.
— Льюис Бейкер

  • Установите серию проверок для выбора данных и убедитесь, что у разработчиков нет возможности вводить свои собственные предубеждения.

  • Убедитесь, что команда разработчиков ИИ разнообразна, чтобы они понимали, когда наборы данных и модели искажаются в сторону непреднамеренной предвзятости. Например, если команда разработчиков искусственного интеллекта состоит исключительно из белых мужчин, шансы на то, что в проекте проскользнет предвзятый взгляд на белых мужчин, становятся экспоненциально выше.
  • Я думаю, что одним из самых сложных шагов является понимание и измерение «справедливости». Исследователи разработали технические способы определения справедливости, такие как требование, чтобы модели имели одинаковую прогностическую ценность для разных групп, или требование, чтобы модели имели одинаковые показатели ложноположительных и ложноотрицательных результатов для разных групп. Однако это медленная и утомительная задача.

В конце концов, мы люди, и мы не можем думать обо всем.
— Дэйв Шубмель.

  • Другой многообещающий метод — «контрфактическая справедливость», который гарантирует, что решения модели будут одинаковыми в контрфактическом мире, где атрибуты, считающиеся чувствительными, такие как раса, пол или сексуальная ориентация, были изменены.
  • Учитывая, как люди и машины могут работать вместе, чтобы смягчить предвзятость, некоторые системы «человек в курсе» дают рекомендации или предоставляют варианты, которые люди перепроверяют или могут выбирать.
  • Руководители и руководители высшего звена могут бороться с предвзятостью и повышать справедливость, следя за текущими жизнеспособными практиками в области искусственного интеллекта. Они могут установить ответственные процессы, которые могут смягчить предвзятость, такие как использование портфеля технических инструментов, а также операционные методы, такие как внутренние «красные команды» или сторонние аудиты.
  • Наконец, что наиболее важно, нужно больше инвестировать, предоставлять больше данных и применять междисциплинарный подход к исследованию предвзятости при соблюдении конфиденциальности, чтобы продолжать развивать эту область.

Заключение

ИИ имеет много потенциальных преимуществ для бизнеса, экономики и решения самых насущных социальных проблем общества, включая влияние человеческих предубеждений. Но это будет возможно только в том случае, если люди будут доверять этим системам в получении беспристрастных результатов. Выявление и устранение предвзятости в системах искусственного интеллекта имеет важное значение для укрепления доверия между обучающимися людьми и машинами. По мере того, как системы ИИ находят, понимают и указывают на человеческие непоследовательности в принятии решений, они также могут выявить наши пристрастные, расистские и когнитивные предубеждения, побуждая нас принимать более беспристрастные и справедливые взгляды. В процессе признания наших предубеждений и обучения машин нашим общим ценностям мы можем улучшить больше, чем ИИ. Мы могли бы просто улучшить себя.

Ссылки

  1. Информационный век
  2. ТехМаяк
  3. Гарвард Бизнес Ревью
  4. ИБМ Исследования
  5. Открытый разум
  6. Абельсон Х., Андерсон Р., Белловин С.М., Беналох Дж., Блэйз М., Диффи В., Гилмор Дж., Грин М., Ландау С., Нойманн П.Г., Ривест, Р.Л., Шиллер, Дж.И., Шнайер, Б., Спектер, М.А., и Вайцнер, Д.Дж., 2015 г. «Ключи под половицами: обязательное отсутствие безопасности путем требования доступа правительства ко всем данным и коммуникациям». Журнал кибербезопасности
  7. Боден М., Брайсон Дж., Колдуэлл Д., Даутенхан К., Эдвардс Л., Кембер С., Ньюман П., Парри В., Пегман Г., Родден Т., Сорелл Т., Уоллис М., Уитби Б. и Уинфилд А. 2011 г. «Принципы робототехники», Совет по исследованиям в области инженерных и физических наук Соединенного Королевства (EPSRC).
  8. Бостром, Н. 2012. «Сверхразумная воля: мотивация и инструментальная рациональность в передовых искусственных агентах». Разум и машины.