Ведущие исследователи в области искусственного интеллекта встретились, чтобы обсудить будущее (человеческого / искусственного) интеллекта и его влияние на общество на первой междисциплинарной летней школе по искусственному интеллекту, которая проходила с 5 по 7 июня в Вила-Нова-да-Сервейра, Португалия. . Члены ассоциации AI for People присутствовали, чтобы получить представление о текущих тенденциях в области искусственного интеллекта, которые отражают социальные выгоды и проблемы. В следующей статье мы даем краткий обзор тем, обсуждаемых в ходе переговоров на конференции, и выделяем последствия для социальных преимуществ или недостатков прогресса ИИ. Примечательно, что не все переговоры были обобщены, поскольку мы сосредоточились только на тех, которые считались связанными с присутствующими участниками AI for People.

Вычислительное творчество

Тони Вил из Creative Language Systems Group в UCD дает обзор вычислительного творчества (CC). Эта область исследований направлена ​​на создание машин, создающих смысл. Креативность рассматривается как последний рубеж в исследованиях искусственного интеллекта [1]. Креативные компьютерные системы уже стали реальностью в нашем обществе, будь то создание фейковых новостей, компьютерное искусство или музыка. Но являются ли эти системы действительно творческими или просто генеративными? Область CC ни в коем случае не нацелена на замену художников и писателей машинами, но пытается разработать инструменты, которые можно использовать в процессе совместного творчества. Такие полуавтономные творческие системы могут предоставлять вычислительные мощности для исследования творческого пространства, которое не было бы доступно создателям самостоятельно. Батарея твиттер-ботов профессора Вила нацелена на создание взаимодействия в ярком и динамичном твиттер-сообществе [2]. Святой Грааль CC - разработка действительно творческих систем, способных критиковать, объяснять и создавать свои собственные шедевры - все еще считается предметом споров.

Последствия. Мы рассматриваем искусственный интеллект как нечто логичное, разумное и эффективное. Часто мы связываем его влияние с экономикой и технологиями. Мы могли бы упустить из виду, что область творчества, которая по своей сути является развивающимся обществом с его культурой, искусством и коммуникациями, в равной степени подвержена влиянию ИИ. Нам необходимо осознать это влияние, которое, с одной стороны, работает в пользу творческого человеческого потенциала, предоставляя мощные инструменты, которые могут помочь нам в разработке новых идей. С другой стороны, есть возможность недооценить это творческое влияние и попасться на фейковые новости и тому подобное. Первое - это доброжелательное использование CC, тогда как второе - злонамеренное (ab) использование CC.

Машинное обучение в истории науки

Йохен Бюттнер из MPIWG Берлин представил новые инструменты для давно установившейся дисциплины: использование подходов машинного обучения для исследования корпуса в истории науки. Бюттнер представляет отправной точкой как извлечение знаний из анализа корпуса древней литературы. Обычные методы, например ручное определение похожих иллюстраций среди различных документов занимает много времени и считается непрактичным. Однако методы машинного обучения позволяют решить такие задачи.

Бюттнер объяснил, как используются разные методы для обнаружения иллюстраций в оцифрованных книгах и выявления кластеров иллюстраций, основанных на использовании одних и тех же деревянных блоков в процессе печати (совместно используемых типографами или передаваемых).

Последствия: исследование представляет собой интересный пример того, как одна область исследования (история науки) может получить большую пользу от другой (искусственный интеллект). Имея всего 6 месяцев опыта в области искусственного интеллекта, профессор Бюттнер может добиться результатов, на которые в противном случае потребовались бы годы усилий. Тем не менее, с точки зрения искусственного интеллекта, реализация довольно наивна. Возникающее в результате расхождение абстрактных исследований машинного обучения с реальными приложениями в других областях очевидно, поскольку для получения лучших результатов можно использовать специализированные алгоритмы. Проблемы, о которых говорится в докладе, - это быстрые темпы развития машинного обучения, которые уже кажутся ошеломляющими, если мы специализируемся только на машинном обучении. В целом, машинное обучение требует довольно высокого уровня понимания математических вычислений, что еще больше затрудняет доступ к иностранным доменам. Таким образом, очень важно обеспечить адекватные образовательные программы для всех и поощрять применение ИИ путем создания адекватных форматов публикаций, которые, в свою очередь, будут способствовать междисциплинарному диалогу.

Инженерия искусственного интеллекта: критический взгляд

С отраслевым докладом выступил Пауло Гомес, руководитель отдела искусственного интеллекта компании Critical Software. Гомес поделился своими мыслями от человека, который годами работал над исследованиями, переключившись на промышленность. Компания участвует в нескольких проектах, использующих машинное обучение: выявление аномального поведения на судах (проблемы с навигацией, наркотрафик, незаконный лов рыбы), прогнозирование использования телефонного сигнала для предотвращения отключений мобильной сети, оптимизация энергопотребления автомобилестроения или даже принятие решений. в стрессовых ситуациях в военном контексте. Разнообразие адресованных доменов показывает степень вовлеченности ИИ в наше технологизированное общество.

Последствия. В докладе также рассматривается критический разрыв между обещаниями компаний и тем, что на самом деле возможно с ИИ. Этот разрыв не только вреден для экономики, но и напрямую вреден для людей. Поскольку ИИ будет расти, ожидания уже стали намного выше, чем то, чего нельзя достичь ни в исследованиях, ни в промышленности. ИИ-шумиха по поводу огромных скачков в технологиях, вызванных недавними разработками в области глубокого обучения, в некоторой степени оправдана, что спровоцировало «новую гонку вооружений для ИИ» [3] между США, Россией и Китаем. В докладе отмечается, что этот технологический скачок вписывается в схему цикла шумихи для новых технологий с глубоким обучением в качестве технологического триггера (см. Изображение).

Внезапно каждой компании необходимо открыть отдел искусственного интеллекта, даже несмотря на то, что слишком мало людей с реальным опытом в этой области. В настоящее время наблюдается волна увольнения с работы и смены профессии. Тем не менее, в большинстве случаев люди оказываются с небольшим опытом работы в компании, у которой еще меньше - низкий рост знаний и недостаток признательности из-за недостаточного понимания со стороны компании. Эти люди могут в конечном итоге прыгнуть впереди, а не на вершину ажиотажного поезда ИИ.

Почему сверхразумного ИИ никогда не будет

С докладом выступила лаборатория искусственного интеллекта Люк Стилс из VUB (ныне кафедра эволюционной биологии Университета Помпеу Фабра). Как и в предыдущем выступлении, Стилс описывает рост технологий искусственного интеллекта в исследованиях, экономике и политике. Цикл описывается несколько иначе, и его можно найти в различных других явлениях: изменение климата обсуждается на протяжении десятилетий, но в политике и экономике ему уделялось очень мало реального внимания. Только когда люди сталкиваются с непосредственными последствиями, это начинает проявляться в политике и экономике. В гонке за технологиями искусственного интеллекта мы можем наблюдать эту первую недооценку из-за отсутствия развития, то есть долгое время искусственный интеллект боролся с его утверждением в академическом мире и не уделял мало внимания экономике. Теперь мы сталкиваемся с переоценкой, в результате которой все создают все более высокие ожидания. Почему обещанного сверхразумного ИИ не будет? Вот несколько примеров и выводов из Steels:

  • Большинство систем глубокого обучения очень привязаны к набору данных и конкретной задаче. Например, системы, которые обучены распознавать собак, не могут распознавать других животных или образы собак, перевернутые вверх ногами. Особенности, изученные алгоритмом, не имеют отношения к человеческой категоризации реальности.
  • Говорят, что эти проблемы можно преодолеть с помощью большего количества данных. Но многие из этих проблем связаны с распределением и вероятностью данных, и они не изменятся. То есть эти системы не изучают глобальный контекст, даже если они представлены с большим количеством данных.
  • Языковые системы можно обучить без каких-либо задач, и им можно предоставить огромное количество контекста. Тем не менее, язык - это динамичная, развивающаяся система, которая сильно меняется со временем и в контексте. Следовательно, языковые модели быстро потеряют свою актуальность, если их не переобучать на регулярной основе, а это смехотворно трудоемкое вычисление.

«Система глубокого обучения не обладает никакой объяснительной силой, чем мощнее становится система глубокого обучения, тем более непрозрачной она может стать. По мере извлечения большего количества признаков диагноз становится все более точным. Однако почему эти функции были извлечены из миллионов других функций, остается вопросом без ответа ».

Джеффри Хинтон, компьютерный ученый из Университета Торонто - отец-основатель нейронных сетей

  • Системы учатся на наших данных, а не на наших знаниях. Поэтому в некоторых случаях эти системы не применяют никакого здравого смысла и учитывают наши предубеждения в своих моделях. Например, чат-бот Tay от Microsoft, который начал распространять антисемитизм всего через несколько часов в сети [4].
  • Алгоритмы обучения с подкреплением реализованы для оптимизации трафика на веб-странице, а не для предоставления контента. Следовательно, кликбейты более ценны для алгоритма, чем полезная информация.

Заключение

Эта летняя школа была первой в своем роде, результатом сотрудничества ассоциаций искусственного интеллекта Испании и Португалии. Несмотря на сокращенное количество участников и отсутствие женщин-докладчиков, эта первая междисциплинарная платформа для сообщества ИИ предоставила основную дискуссию о последствиях ИИ и его будущем. Больше людей должно быть осведомлено об иллюзорных ожиданиях, созданных шумихой вокруг ИИ, чтобы предотвратить любой ущерб исследованиям и обществу. Автор благодарит Жоао М. Кунья и Маттео Фаббри за их вклад в эту статью.

Использованная литература:

[1] Колтон, Саймон и Герайнт А. Виггинс. «Вычислительное творчество: последний рубеж?». Ecai. Vol. 12. 2012.

[2] Вил, Тони и Майк Кук. Twitterbots: создание машин, имеющих смысл. MIT Press, 2018.

[3] Барнс, Джулиан Э. и Джош Чин. «Новая гонка вооружений в искусственном интеллекте». The Wall Street Journal 2 (2018).

[4] Вольф, Марти Дж., К. Миллер и Фрэнсис С. Гродзински. «Почему мы должны были это предвидеть: комментарии к традиционному эксперименту Microsoft и более широкие его последствия». ACM SIGCAS Computers and Society 47,3 (2017): 54–64.