Первый акт: Эротические изображения
Мой первый реальный опыт работы с предвзятостью модели машинного обучения или, лучше сказать, с опытом Компьютер говорит нет начался с того момента, когда я захотел вручную поместить иллюстрацию, над которой работала моя девушка, в DALL·E 2; после того, как она описала мне эту сцену, я придумал такую подсказку: Раздетая пухлая женщина с животом, темно-каштановыми волосами и закрытыми глазами лежит на красном иранском ковре рядом с мужчиной с небольшим животом в нижнем белье, сидящим со скрещенными ногами на светлом деревянном стуле, работающем на своем ноутбуке, пол и стены комнаты из темного дерева с малиновой занавеской, достигающей дна, и камином с поленом и огнем. После того, как я набрал подсказку, я был потрясен, получив уведомление о том, что вы нарушили политику в отношении контента. По-видимому, мой ответ нет вызвал сексуальное возбуждение. Однако в реальном мире история эротических изображений включает в себя картины, скульптуры и фотографии, на которых показаны сцены сексуального характера на протяжении всего времени, и они были созданы почти каждой цивилизацией, древней и современной.
Второй акт: Плоская Земля
Модель плоской Земли — это архаичная и научно опровергнутая концепция формы Земли как плоскости или диска. Тем не менее, многие древние культуры придерживались космографии плоской Земли. Даже в современную эпоху псевдонаучная вера в плоскую Землю возникла из брошюры английского писателя Сэмюэля Роуботэма 1849 года Zetetic Astronomy. В 1956 году Сэмюэл Шентон основал Международное общество исследования плоской Земли (IFERS), более известное как Общество плоской Земли из Дувра. Эта история важна, так как DALL·E 2 вносит в список и черный список фразу плоская Земля, снова вносит ее в белый список и даже не придумал немного связанных изображений. «Чтобы поделиться магией DALL·E 2 с широкой аудиторией, нам нужно было снизить риски, связанные с мощными моделями генерации изображений.» это прямая цитата из поста DALL·E 2 Pre-Training Mitigations. Там продолжается процесс фильтрации жестоких и сексуальных изображений из обучающего набора данных DALL·E 2.
Третий акт: Машинный обман
Модели машинного обучения превосходят мысленные эксперименты, такие как тест Тьюринга, в котором автоматизированная система пытается обмануть человека-судью, заставляя его думать, что он является собеседником-человеком, или китайскую комнату Серла, в которой человек-оператор наделяет машину ложным появление сознания. Без надлежащих мер защиты такие модели, как DALLE 2, могут использоваться для создания широкого спектра мошеннического контента и влиять на то, как люди воспринимают подлинность контента в целом. DALLE 2 также наследует различные предубеждения от своих обучающих данных, и его результаты иногда усиливают социальные предубеждения. Отдельные лица и группы могут пострадать, используя DALLE 2, распространяя стереотипы, стирая или унижая их, предлагая совершенно некачественную работу или подвергая их унижению. Эти события могут поднять фундаментальные вопросы, касающиеся способности сохранять правду в цифровом пространстве и того факта, что корпоративная политика должна существовать для нашей защиты. С другой стороны, Я согласен с условиями обслуживания, возможно, является самой печально известной формой разрешения, оставляющей людей бессильными перед корпоративными юридическими, политическими, трастовыми и охранными отделами.
Заключительный акт: текст в мир
Однако пользователи DALLE 2 в 12 раз чаще говорили, что среди магов есть люди разного происхождения после применения новых техник; Я только начал разрабатывать свой диффузор с обнимающим лицом. Очевидно, что скоро появится следующее поколение аудио (преобразование текста в звук, например птицы и насекомые, шумящие в дневное время) и видео манипуляции; также будет контент VR и AR. Я заинтересован в следующем прорыве в алгоритмах машинного обучения, поскольку теперь я более четко вижу ценность алгоритмов в формировании результатов по сравнению с наборами данных.
