Это часть серии статей о моем стремлении узнать как можно больше об ИИ. Чтобы узнать, почему я это делаю, ознакомьтесь с моим первым постом.
В аспирантуре я в основном изучал древнегреческую философию. В основном Платон. Единственное мое опубликованное академическое исследование посвящено его мифу об Атлантиде.
Но сейчас я работаю в технологической компании и пишу об искусственном интеллекте - предмете, который меня очень интересует, но о котором я мало что знаю.
Тем не менее, знание того, что я делаю с Платоном - и того, что Платон написал о своем знаменитом учителе Сократе, - оказывается единственным преимуществом, которое у меня есть для меня.
Позволь мне объяснить.
Проблема знаний ИИ
Есть много шумихи вокруг преимуществ ИИ. Недавнее Стэнфордское исследование было направлено на то, чтобы развеять опасения по поводу потенциальных скайнетов и антиутопий, подобных матрице. Вместо этого он подчеркнул множество достижений ИИ в таких областях, как транспорт, здравоохранение, образование, общественная безопасность.
Но даже если злые машины маловероятны, это не значит, что нет причин для беспокойства по мере развития ИИ.
Оказывается, при всем обещанном ИИ интеллекте реальные знания машины были и могут оставаться очень реальной проблемой.
Вы спросите, в чем разница между интеллектом и знаниями?
Вот тут-то и появляется Платон.
Согласно Платону, можно быть умным, но практически ничего не знать о мире или, что более важно, о себе.
И в этом нет ничего плохого.
Фактически, как я расскажу через минуту, знать, что вы не обладаете достаточными знаниями, Платон считал признаком чрезвычайно развитого интеллекта. Вот почему он посвятил большую часть своих ранних работ своему знаменитому учителю Сократу.
(Примечание: Сократ не писал никаких сочинений. Многие из того, что мы понимаем о нем, исходит от его ученика Платона, который часто изображал Сократа главным героем своих диалогов. Поэтому я и буду говорить о нем. и Платон, и Сократ.)
Однако для большинства людей интеллект считается доказательством того, что они чрезвычайно осведомлены. Проблема в том, что этому основному предположению следует множество других предположений о мире.
И что еще хуже, когда вы начинаете подвергать сомнению эти предположения, вы видите, что многие из них почти не имеют под собой реальных оснований.
Вот почему большинство людей в Афинах ненавидели Сократа.
Он любил останавливать своих сограждан на улице или на вечеринках и задавать им множество надоедливых вопросов о природе и значении определенных идей, таких как справедливость или добро. За относительно короткий период времени вопросы Сократа показали, что эти люди, которые думали, что знают, что означают эти концепции, никогда не думали о них и, как таковые, на самом деле ничего о них не знали. . Их знание этих важных концепций было наполнено всевозможными бесспорными предположениями.
ИИ сталкивается с подобной проблемой, в первую очередь потому, что машины обучаются людьми, многие из которых - как древние афиняне и большинство из нас сегодня (в том числе ваш покорный слуга) - имеют неоспоримые представления о мире.
И вот как такого рода неоспоримые предположения могут привести к непредвиденным проблемам.
Материнская плата сообщила, что несколько месяцев назад искусственный интеллект под названием Beauty.ai, разработанный исследователями из России и Гонконга (при поддержке Microsoft и Nvidia), провел онлайн-конкурс красоты, в котором приняли участие 600 000 мужчин и женщин со всего мира. мир отправил селфи. ИИ оценивал участников на основании симметрии лица, морщин и возраста. Затем он выбрал 44 победителя, которые посчитал самыми привлекательными. Почти все они были белыми.
ProPublica опубликовала похожую историю в мае прошлого года. На этот раз речь шла о предвзятости программного обеспечения для оценки рисков, которое судьи используют для вынесения приговоров по уголовным делам. У подсудимых афроамериканцев на 77% больше шансов быть идентифицированными как имеющих более высокий риск будущих преступлений, чем у белых подсудимых. Эта оценка была основана на 137 вопросах, заданных подсудимым. И хотя ни в одном из вопросов не упоминалась расовая принадлежность, конечным результатом было расовое предубеждение в пользу белых подсудимых.
Эти недавние новости указывают на совершенно очевидный факт об ИИ. Как пишет Натан Коллинз: Так же, как мы узнаем о своих предубеждениях из окружающего нас мира, ИИ узнает о своих предубеждениях от нас.
Bloomberg сообщил в июне этого года, что большинство исследователей ИИ - мужчины, и привел два набора статистических данных. Во-первых, только 17% выпускников компьютерных специальностей сегодня - женщины. Во-вторых, на главной конференции AI 2015 года только 13,7% участников составляли женщины. Маргарет Митчелл, исследователь Microsoft, сказала, что у ИИ есть море парней, и это проблема. Как отмечается в статье: Если все, кто учат компьютеры вести себя как люди, являются мужчинами, то машины будут иметь узкое представление о мире по умолчанию и, возможно, предвзятое благодаря обработке наборов данных.
Как мы можем избежать этой проблемы в будущем?
Что ж, здесь снова возвращается Платон.
Почему Платон писал, что Сократ был самым мудрым человеком в Греции
Платон сообщает нам, что раздражающие вопросы Сократа достигли своего предела в 399 г. до н.э., когда его судили, а затем (предупреждение о спойлере) впоследствии приговорили к смертной казни. Хотя официальное обвинение против него заключалось в «развращении афинской молодежи», почти все, включая Платона, знали, что это произошло потому, что Сократ заставил почти каждого, с кем он встречался, чувствовать себя идиотом.
На суде Сократ решил не умиротворять своих критиков и вместо этого избрал другой подход.
Он объявил себя самым мудрым человеком во всей Греции.
Но этот ярлык, сказал он своим собратьям-афинянам, не применялся самим собой. Его дал ему Оракул в Дельфах, который был крупным делом в Древней Греции.
Долгое время Сократ говорил, что не хочет верить, что он самый мудрый человек в Греции. Он не мог. Хотя он любил расспрашивать других на сложные темы, Сократ постоянно признавал, что сам ничего не знал.
Именно тогда в его голове загорелась лампочка (или факел, если быть исторически точным).
Он был самым мудрым человеком в Греции, потому что знал, что ничего не знает.
Для Платона признание Сократом своих ограниченных знаний изменило правила игры. Это было доказательством того, что его интеллект намного превосходил его современников - прежде всего потому, что у него было то, чего не было у них: перспектива.
Но как ИИ попадает в то же самое место?
Он начинается с самих исследователей и того, как они получают доступ к знаниям и распространяют их.
Открытость и прозрачность как путь вперед
В декабре 2015 года Илон Маск попал в заголовки газет из-за своего решения присоединиться к другим известным инвесторам в поддержку OpenAI - некоммерческой исследовательской инициативы, сфокусированной на использовании ИИ в рамках философии открытого исходного кода. Огромные инвестиции Маска были охарактеризованы многими СМИ как его попытка предотвратить Скайнет.
Но, как отмечает Грег Брокман, соучредитель и технический директор OpenAI, OpenAI - это гораздо больше, чем просто предотвращение злодейских машин, это создание ИИ, который принесет пользу человечеству.
И способ сделать это - сделать это открыто, чтобы другие могли видеть и комментировать.
В каком-то смысле - и не слишком распространять аналогию - исследователи ИИ открываются перед потенциальным Сократом. Какой-нибудь другой исследователь или группа, которые могут взглянуть на то, что они сделали, и найти неоспоримые предубеждения, которые ускользнули.
Судя по недавней волне проектов ИИ с открытым исходным кодом - как от крупных частных корпораций, так и от небольших стартапов - кажется, что большинство исследовательских проектов относятся к такому подходу.
С моей стороны, мне еще предстоит пройти долгий путь к пониманию того, что происходит в этих исследовательских проектах. Тем не менее, обсуждение Сократа Платоном помогло мне немного легче добраться до этой точки.
Хотя я не знаю того, что знают исследователи ИИ, я знаю кое-что из того, чего не знают они.
И это помогает. По крайней мере, немного.
Примечание: пожалуйста, бросьте на меня бомбы знаний в комментариях ниже. Скажите, что я получаю правильно. И, что более важно, скажите мне, в чем я ошибаюсь, но, пожалуйста, также скажите мне, почему. Спасибо.
