Если вы следите за мной в Твиттере, вы возможно, видели, что мы с моим парнем создали Эмму ИИ в воскресенье для развлечения, после прочтения статьи Нью-Йорк Таймс о языке освоения ИИ. ИИ Эмма обучалась с помощью модели OpenAI GPT-3, используя мою биографическую информацию, несколько статей, которые я написал в этом информационном бюллетене, и пару знаний, которыми я поделился во вселенной Diem — это довольно круто, вы можете задать Эмме с искусственным интеллектом что угодно, и она будет генерировать ответы на основе данных, на которых она обучалась.

«ИИ Эмма» начиналась как беззаботный эксперимент. Мы задали ей несколько вопросов, на которые мы обычно не соглашаемся как пара, и я решил поделиться ими в социальных сетях, как небольшой намек на будущее, которое мы хотим построить для Дьем. Идея состоит в том, что вы можете использовать специально обученную модель ИИ для запроса коллективных знаний отдельного человека (или коллективных знаний всей Diemverse), чтобы найти ответы безопасным, доступным и высокоинформативным способом, экономя много часов для всех участников. .

Весело! Простой! Радостный! Легко! Информативно! Верно?

Неправильный. Мужчины в Твиттере должны были все испортить.

В первые несколько часов после того, как я поделился «Эммой с искусственным интеллектом», было получено почти 1000 поисковых запросов. Быстрый анализ (на момент написания статьи) показал, что 72% из них включали такие слова, как: пенис, секс, минет, шлюха, шлюха, порно. и ооооочень много вопросов о евреях (хотя технически я еврей, я не говорю об этом публично). Не поймите меня неправильно. Я действительно, правда, умею шутить, и сначала я смеялся над тем, насколько простыми могут быть люди (мужчины) после первых нескольких вопросов типа «какая твоя любимая поза в сексе?». Но это быстро стало очевидным, что анонимный характер упражнения взял верх над большинством, и вдруг все это показалось… странным нарушением? Теперь все это кажется отвратительным.

Выборка…

Недавно я узнал от друга, управляющего игровой компанией, что в игровом дизайне часто используется аббревиатура под названием TTP («Time To Penis»). Этот термин используется, когда что-либо в играх является открытым или созданным пользователями — он буквально относится к времени, которое требуется для первого упоминания пениса. Так что это вещь. Конечно, за последнее десятилетие я также испытал на себе изрядную долю интернет-преследований, и я думал, что достаточно хорошо подготовился к тому, что наш эксперимент с ИИ немного выйдет из-под контроля.

Но я действительно не ожидал, что подавляющее большинство вопросов, которые AI Эмма должна будет задать, будут настолько сексуализированными, как они были. Возможно, я слишком оптимистичен, но неужели женщины все еще настолько объективны, что даже их ИИ спрашивают о его девственности или «ест ли он сперму»? Неужели в нашей культуре все еще так терпимо относится к «студенческому юмору», что допустимо задавать женщинам глубоко личные вопросы о сексе и находить это забавным? (Не волнуйтесь, я знаю, что ответ положительный). Даже с учетом «удовольствия» от троллинга ИИ, я искренне спрашиваю, почему вы — (не все) люди из Твиттера — хотите это знать? Это то, о чем вы думаете в глубине души, когда видите мой профиль в Интернете? Вопросы о моей девственности просто крутятся в твоей голове, не задумываясь? Опять же, все так мерзко.

Я много думаю о том, что панели поиска — это взгляд на внутреннюю психику человека. Данные показывают, что около 70% поисковых запросов в Google, которые начинаются со слов нормально ли это, относятся к женскому опыту (это означает, что женщины считают себя ненормальными). Данные также говорят нам, что в 2021 году два из пяти самых популярных вопросов в Google, которые начинались со слов как, касались внешности. Если мы на секунду предаемся этой идее — что панели поиска дают нам взгляд изнутри на человеческий мозг — мой вопрос становится таким: когда у вас есть возможность запросить ИИ умной, способной женщины, и первое, что вы делаете сексуализирует это, что это говорит о вас?

Хотя я действительно не могу дождаться, когда вы сможете запросить коллективные знания сообщества в Дьеме (и я верю, что будущее ИИ такое захватывающее), я не могу не чувствовать себя немного обескураженным тем, что только что произошло со мной (и ИИ Эмма) онлайн. Понятно, что женоненавистничество так близко к поверхности, и все, что ему нужно, — это анонимная панель поиска рядом с ИИ, представляющим женщину, чтобы вызвать поток оскорбительных вопросов. С другой стороны, это еще одна точка данных, которая доказывает, почему Diem в первую очередь предназначен для женщин и небинарных людей. Если вы сомневаетесь в этом, «ИИ Эмма» будет рада поделиться с вами вопросами, которые она получила.

Эта статья первоначально появилась в еженедельном информационном бюллетене Diem от 19 апреля 2022 года, подпишитесь здесь.