Twitter стал средой для многих активных членов сообщества машинного обучения. Изначально я думаю, что целью было создать социальную сеть, чтобы продвигать вашу собственную работу, знать о работах других исследователей, участвовать в неформальных обсуждениях с другими и обмениваться идеями. Хотя мне нравится общая идея, я нахожу несколько недостатков в текущем состоянии ML-Twitter.

Во-первых, внутри сообщества существует проблема неравномерного распределения мощности. Многие выдающиеся исследователи могут продвигать свою работу безумно быстро и универсально. Хотя поначалу это может показаться не таким уж плохим, последствия могут быть такими. Предположим, что известная фигура ML с десятками тысяч последователей, делится препринтом до / во время периода обзора конференции. Затем многие другие известные деятели могут похвалить / поставить лайк / ретвитнуть статью, и, следовательно, есть большая вероятность, что эта статья будет распространена в Твиттере и достигнет рецензентов. Что ж, очевидно, это создаст предвзятость. Рецензент будет рассматривать статью предвзято, особенно если рецензент младший и менее уверенный. Кто-то может возразить, что рецензенты несут ответственность за то, чтобы не проверять Твиттер, но я думаю, что это в лучшем случае непрактично. Этой теме, наверное, посвящу еще один пост.

Проблема

Вторая проблема заключается в том, что некоторые люди становятся влиятельными лицами в сообществе. Они чувствуют себя популярными, и тогда их можно разделить на 3 группы:

  • 1. Те, кому наплевать на свою популярность. Они остаются в основном бездействующими, если не произошло чего-то важного.
  • 2. Те, кто хочет радоваться своей славе, писать все больше и больше о своем личном мнении и больше участвовать.
  • 3. Те, кто чувствует, что должны использовать эту популярность, чтобы продвигать какие-то планы. Повестка дня может быть чисто научной (например, глубокое обучение) или другими важными вопросами (например, этика, предвзятость, разнообразие и инклюзивность и т. Д.). Это не обязательно плохо; Дело в том, что для того, чтобы добиться таких больших перемен, нужно повысить ставки, а иногда это может быть опасно.

Примерами первой группы могут быть Челси Финн и Джеффри Хинтон. Для второй группы я думаю, что Дэниел Рой и Захари Липтон будут хорошими примерами. Мне нравится, когда они присутствуют в моей ленте!

Теперь остановимся на третьей группе. Как я уже упоминал, ставки для этой группы выше, и если мы посмотрим на предыдущие разногласия, мы увидим, что в них часто участвует эта группа.

Чтобы назвать несколько примеров, я бы упомянул Жемчужину Иудеи, которая продвигает причинный вывод. Ян ЛеКун, продвигающий глубокое обучение, Гэри Маркус, который продвигает нейросимвольные системы, выступая против глубокого обучения, Анима Анандкумар, которая выступает за разнообразие и инклюзивность, и Тимнит Гебру, кто продвижение этичного ИИ и справедливости.

Я сказал, что люди в этой группе поднимут ставки. Но внутри группы одни поднимаются выше, чем другие. Также у каждого из них своя стратегия.

Стратегия, которую используют Анима Анандкумар и Тимнит Гебру, состоит в том, чтобы обострить ситуацию, чтобы сделать ее вирусной. Я не говорю о неэтичном и неправомерном увольнении Гебру из Google. Я говорю об общем обсуждении в Твиттере.

Хотя я поддерживаю дело Анимы Анандкумар, меня часто шокирует ее язык. Я много думал о ее поведении, чтобы понять, почему она делает то, что делает. Я обнаружил, что люди используют ту же стратегию этического обращения с животными (PETA) в другой сфере. Если вам интересно, прочтите, пожалуйста, этот пост в блоге. Суть общего принципа состоит в том, что чем более спорным является что-то, тем больше будет обсуждаться. Другими словами, распространяются только спорные моменты.

В результате Anima & Timnit находится в центре многих горячих дискуссий в Твиттере, а это означает, что многие люди будут говорить о женщинах в строгом смысле слова, сексизме, расизме, справедливости и так далее. Но за то внимание, которое она привлекает, приходится платить: большая часть внимания негативна. Я знаю близкую подругу, которая оказалась очень активным членом сообщества Женщины в машинном обучении (WiML). Несколько дней назад она выразила мне свое разочарование поведением Анимы в Твиттере. Что ж, сходство между ее комментариями и этим изображением стало для меня очень очевидным:

Но есть компромисс: вы можете убедить всех в принципе согласиться с тем, что сексизм / расизм - это плохо. Цена? никто не обратит на это внимания. С другой стороны, вы можете заставить всех обратить внимание на сексизм / расизм, но многие люди, которые в противном случае поддержали бы вас, будут так зол на то, как вы их представляете. Цена? вы потеряете доверие.

Давайте проанализируем стратегию Anima в Twitter:

  • Во-первых, она использовала очень резкий и оскорбительный тон и ставила на другой конец плохой ярлык (например, женоненавистник, патриарх, сторонник превосходства белой расы, фанатик, хулиган).
  • Затем она приглашает союзников на обсуждение, чтобы распространить информацию и обострить ситуацию. Кроме того, вовлеките в обсуждение интуицию и компании и подтолкните их к реакции.
  • Затем она нанесет последний удар, чтобы забанить / отменить / бойкотировать человека в сообществе.

Я не могу не подчеркнуть, что это не обязательно плохая стратегия. Анима только что выбрала другой конец спектра, возможно, потому, что она убеждена, что таким образом ожидаемая выгода для ее дела будет выше.

Анализ дела [Анандкумар против Домингоса]

Есть много дел, ЛеКун против Гебру, Анандкумар против Домингоса. Давайте обсудим первое. Сначала я буду спорить, почему Домингос так неправ, а затем вернусь к языку Анандкумара и ранее упомянутому компромиссу.

1- Более широкое влияние

Все началось с того, что, насколько мне известно, Домингос начал атаковать раздел «Расширенное влияние» конференции NeurIPS. Что ж, я думаю, что он ошибается. Как автор, который публикует работу, которая может привести к этому примеру, я думаю, вам следует посвятить часть своей статьи хотя бы обсуждению таких случаев:

Здесь модель явно предвзята против чернокожих, и если кто-то воспользуется вашей моделью в своей системе, это предубеждение будет распространяться.

Однако дискуссия пошла дальше, и на обсуждение вышли Gebru v. Google и смена конференции NeurIPS.

2- Гебру против Google

Домингос сказал, что Гебру был уволен из Google. Его аргумент? «Тимнит сказал, что если вы этого не сделаете, я уйду в отставку. Google этого не делал, и, следовательно, по логике, мы можем заключить, что он подал в отставку ».

Боюсь, это неправильно. Почему? Потому что она не ушла в отставку. Возможно, она намеревалась уйти в отставку, но это не будет считаться отставкой. Кто-то также сослался на аналогичное дело, когда суд решил, что намерение об отставке не будет считаться отставкой. Вы можете прочитать электронные письма в Интернете.

3- Изменение названия NeurIPS

Наконец, название изменилось. Раньше NeurIPS назывался NIPS, и аргументом в пользу изменения названия конференции были… ну… кляксы.

Домингос утверждает, что имя непоследовательно и людям трудно его произносить. Думаю, время решило проблему несогласованности. За короткое время сообщество двинулось дальше, и теперь по умолчанию используется NeurIPS. Что касается произношения, я просто не понимаю, честно!
Давайте перейдем к тому, о чем Педро Домингос не знает или предпочел проигнорировать: инклюзии. Я сам не знал, что люди на одной из самых престижных конференций в мире могут даже думать о преследовании других с помощью имени NIPS. Я предположил, что хорошо образованные люди не имеют такого поведения / убеждений и не принадлежат к академическим кругам. Что ж, я не знал о многочисленных случаях преследования в академических кругах. Теперь я знаю. Надеюсь, другие тоже попробуют.

А как насчет языка Анандкумара?

По крайней мере, для меня не было вопроса о том, кто прав, а кто виноват. Педро Домингос был абсолютно неправ во всех этих трех аспектах.

Я не понял, почему Анандкумар такой агрессивный? Честно говоря, ее тон напоминает правые СМИ.

Но, как я упоминал ранее, я предполагаю, что это сделано намеренно, и она выбрала эту стратегию, поскольку считает, что это эффективно. Она привлекает внимание в обмен на доверие. Давайте рассмотрим ее стратегию:

(1) Агрессивный удар:

(2) Увеличьте, чтобы привлечь больше внимания:

(3) Последний удар: запрет / бойкот

Теперь она попросила удалить Педро Домингоса из каталога UW.

Вывод

Что ж, вы можете догадаться, почему Анима такая агрессивная и злая: обмен внимания на ее авторитет.

Со вчерашнего дня почти все в сообществе машинного обучения знают об этом обсуждении. Я полагаю, что большая часть общества меньше уважает Педро Домингоса, чем вчера.

Но как насчет Анимы Анандкумар?