Текущие большие вопросы
В настоящее время в сообществе информационных систем (ИС) в последнее время обсуждаются некоторые важные вопросы. Одним из наиболее известных является использование машинного обучения (МО) в нашей повседневной жизни. Не нужно много времени, чтобы понять, что машинное обучение присутствует почти во всем, с чем мы сегодня взаимодействуем в цифровом виде.
Искусственный интеллект, глубокое обучение, машинное обучение — что бы вы ни делали, если вы этого не понимаете — учитесь. Потому что иначе через 3 года вы превратитесь в динозавра — Марк Кьюбан.
Я уверен, что вы слышали клише — Данные — это новая нефть!. Это в некоторой степени понятно, поскольку это одна из движущих сил всего, что трансформирует современные технологии. Беглый взгляд на капитальные затраты крупных технологических компаний в настоящее время показывает, что они действительно становятся более заметными, чем когда-то всемогущие нефтяные гиганты. Тем не менее данные бесполезны без машинного обучения, и именно машинное обучение обеспечит некоторые из самых значительных прорывов в ближайшем будущем, но не верьте мне на слово…
Прорыв в машинном обучении стоил бы десяти Microsoft — Билл Гейтс.
Машинное обучение: сама технология
Поиск термина «машинное обучение» в Google Trends дает первое свидетельство растущего интереса, который в настоящее время уделяется машинному обучению. Но что делает ML, спросите вы?
На фундаментальном уровне (я извиняюсь перед экспертами по машинному обучению, которые будут рвать на себе волосы из-за этого простого объяснения), машинное обучение выполняет четыре функции:
(1)ML оптимизируется для достижения измеримого результата;
(2)использует входные данные, которые требуют предварительной обработки, т. е. очистки данных;
(3) модели машинного обучения взвешивают неясные параметры;
(4) и, наконец, обратная связь, т. е. производительность модели машинного обучения.
Но все ли слишком хорошо, чтобы быть правдой?
Ну да, может быть. Недавно я наткнулся на статью в журнале Management Information Systems Quarterly (MISQ) премиум-класса в области информационных систем управления. Эта статья заставила меня много задуматься, и эта статья на Medium написана с намерением поделиться этим опытом с вами, читателем, и попытаться привлечь других к размышлениям о таких темах и о том, как они себе это представляют. их будущее с ML.
Будет ли машинное обучение подавлять человечество в будущем?
Свобода мысли — вы можете этого не осознавать, но большинство приложений, систем принятия решений и персональных носимых устройств постоянно фильтруют информацию с помощью моделей машинного обучения. Например, когда вы заходите на свой любимый новостной сайт, медиа-платформу или сайт онлайн-покупок, они предоставляют вам индивидуальную услугу. Модели ML стоят за продвижением этой новостной статьи о вашей любимой политической партии в топ, этой новой песни от вашего любимого исполнителя в топ и рекомендованного нового летнего костюма, который вам просто не нужен, но который вам нужен для лета наверх.
Вы когда-нибудь задумывались о моем решении? Модели машинного обучения с фильтрацией информации ограничивают способность пользователей мыслить, контролируя и ограничивая информацию, которую вы можете видеть, и, таким образом, удаляя количество и тип информации, с которой пользователь может работать для принятия обоснованного решения. Что я могу сделать? Легче сказать, чем сделать, и поверьте мне, я сам виноват в этом, но постарайтесь уйти от рекомендаций; вместо того, чтобы нажимать на первое, что появляется на экране, попробуйте выполнить поиск по ключевому слову. Например, какая горячая проблема сейчас, поищите ее, посмотрите, какие результаты выйдут? Иногда разрушение стереотипов — это первый шаг к поиску чего-то нового и захватывающего, что может бросить вызов вашему мировоззрению. Вы можете найти нового исполнителя, который вам понравится, или одежду, о которой вы никогда не подозревали, что она вам может понравиться!
Свобода действий — другие модели машинного обучения, встроенные в приложения, почти полностью устранили потребность в людях. Подумайте о системах планирования, торговых ботах на фондовых биржах или новичках в этом блоке, крипто-ботах. Когда мы пишем это, мы все еще пытаемся справиться с пандемией, и это заставило многих людей переоценить свои финансы. Это было особенно заметно среди меньшинств в США, где анализ, проведенный Чарльзом Швабом и Ариэльшоусом, показал, что 30% чернокожих инвесторов моложе 40 лет впервые вышли на рынок в 2020 году. из всех слоев общества получают свободу в том, как использовать свои финансы. Но что, если бы я сказал вам, что вы сражаетесь с алгоритмами, которые могут получать информацию, обрабатывать информацию и, наконец, проводить транзакцию за то время, которое вам нужно, чтобы моргнуть. ML, который автоматизирует действия, означает, что пользователь навсегда проиграет.
А как насчет пользователя? Эти приложения машинного обучения выполняют рутинные действия от имени пользователя (как правило, учреждений, создающих такие системы) и в конечном итоге решают лишить пользователя свободы действий. Отличным примером опасностей этого является внезапный крах фондового рынка в 2010 году, вызванный не жадными инвесторами и не каким-то финансовым пузырем, а на самом деле бунтующими торговыми алгоритмами на основе машинного обучения. Никто не знал, как остановить это, исправить и, что еще хуже, понять, почему оно началось и в конечном итоге восстановилось. Это должно напугать вас, если вы только что инвестировали. Что я могу сделать? Сложнее предложить решения этой проблемы. В конечном счете сила этих систем машинного обучения находится в руках нескольких крупных организаций, которые могут позволить себе их создание, и поэтому, я думаю, все, что вы можете сделать, это попытаться избежать конкуренции с ними. Эти примеры, вероятно, настолько далеки от опыта повседневного человека, что в настоящее время они не имеют значения, но думают об автономном вождении. Насколько мы готовы доверять такой системе, когда она станет полноценной в обществе. Сколько свободы действий будет предоставлено пользователю? Это важные вопросы для настоящего и будущего.
Свобода принадлежать — этот последний тип модели ML отражает инструменты принятия решений, созданные для определенных ролей, которые содержат неявные предубеждения, которые видят создатели этих моделей ML. Интересным моментом в этом деле был бот машинного обучения, созданный для онлайн-охоты за потенциальными талантами. Проект стартовал в 2014 году, когда группе инженеров Amazon было поручено механизировать процесс поиска сотрудников компании. Эта программа прочесывала Интернет в поисках достойных кандидатов на работу, которых можно было бы привести в Amazon для работы. В начале 2015 года Amazon понял, что программа ориентирована на таланты мужчин с более техническим образованием. По сути, система Amazon научила себя тому, что кандидаты-мужчины предпочтительнее. Как обсуждалось ранее в моей разбивке ML по четырем пунктам: «(4) и, наконец, обратная связь, т. е. эффективность модели ML», эта модель ML приучила себя наказывать резюме, содержащее слово «женщины» в нем.
Это только против женщин? Если бы это было так, эту проблему было бы легко исправить. К сожалению, модели машинного обучения отражают все врожденные предубеждения, которые есть у всех людей, такие как политические, социальные, культурные и даже расовые, если их научить. Недавним примером этого стал бот по имени tay, выпущенный Microsoft. За 24 часа обучения через человеческое общение в Твиттере она превратилась из невинной девочки-подростка в сочувствующую нацистам. Как говорит Джерри в твите ниже, будущее беспокоит. Что я могу сделать? И снова мы с вами мало что можем сделать. Предубеждения в основном исходят от создателей, поэтому лучшим решением будет выявить предубеждения там, где вы их видите, и способствовать этичному развитию программ ОД. Реальность такова, что это больше работа для академиков и правительства.
Социальная дилемма: пример использования машинного обучения крупными технологиями
Если вы еще не видели его, я настоятельно рекомендую вам посмотреть Социальную дилемму на Netflix, а для всестороннего анализа на Medium я указываю вам на историю Basems ниже. Хотя машинное обучение во благо используется на платформах социальных сетей для таких вещей, как перевод и чат-боты, из этой программы также ясно, что машинное обучение и искусственный интеллект используются для удержания людей в зависимости от них и по другим гнусным причинам. Эта программа освещает реальное использование машинного обучения, чтобы лишить вас и меня свободы, и дает представление о некоторых создателях этой технологии. Я оставлю вам несколько цитат, и, пожалуйста, спросите себя: пугает ли вас машинное обучение? Как вы думаете, это будет угнетать вас в будущем?
«Если вы не платите за продукт, то вы и есть продукт».
«Они соревнуются за ваше внимание. Итак, Facebook, Snapchat, Twitter, Instagram, YouTube — компании, подобные этой, их бизнес-модель заключается в том, чтобы удерживать внимание людей на экране. Давайте выясним, как привлечь как можно больше внимания этого человека. Сколько времени мы можем заставить вас потратить? Какую часть вашей жизни мы можем заставить вас отдать нам?»
Чего ожидать во второй части (скоро)
Во второй части я планирую углубиться в технические вопросы и углубиться в некоторые из ключевых вопросов, обсуждаемых в настоящее время в академических кругах, и обсудить теоретические решения, выдвинутые на основе теории дизайна. Я также планирую закончить эту серию из двух частей, обсудив некоторые положительные стороны машинного обучения и потенциальные выгоды, которые в конечном итоге появятся благодаря достижениям машинного обучения в ближайшем будущем.
Фрэнсис Джозеф Костелло (Francis Joseph Costello) — аспирант кафедры информационных систем управления в Университете Сонгюнгван в Сеуле, Южная Корея. Хотя его работа заключается в исследовании тем в области MIS, он также интересуется онлайн-этикой, использованием социальных сетей и взаимодействием людей на этих платформах. Он публиковал статьи в таких журналах, как Journal of Business Research и других. Подпишитесь на него на Medium, Twitter и общайтесь на ResearchGate.
