Многие люди обращаются ко мне за рекомендациями по чтению. Я решил, что начну делиться любыми статьями/публикациями по ИИ, интересными книгами, видео и т. д., которые попадаются мне каждую неделю. Некоторые из них будут техническими, другие не очень. Я добавлю любой контент, который я нашел действительно информативным (и я вспомнил в течение недели). Это не всегда будут самые свежие публикации — только те, на которые я обращаю внимание на этой неделе. Без лишних слов, вот интересные чтения/просмотры за 07.06.2023. Если вы пропустили чтения прошлой недели, вы можете найти их здесь.
Статьи / статьи об ИИ
0) Замена рабочих мест искусственным интеллектом — это не компетентность, а сила
Ссылка- https://twitter.com/random_walker/status/1665700125572726786
Профессор Принстона и критик искусственного интеллекта Арвинд Нараянан провел в Твиттере отличную ветку о том, что замена рабочих мест искусственным интеллектом — это не только политическое лоббирование, но и сама работа. Рабочие места с сильной лоббистской базой смогут переждать волну, в то время как низкооплачиваемые рабочие места (которые легче заменить с политической точки зрения) могут быть заменены, поскольку у них нет сильной базы (даже если ИИ, который появляется, не работает). т это хорошо).
Любимая цитата: люди, увольняющие рабочих и пытающиеся заменить их ИИ, похоже, даже не особенно заботятся о том, хорош ли ИИ в своей работе. Поэтому я думаю, что вопрос о том, какие категории должностей будут затронуты, в первую очередь касается власти, а не самой технологии.
1) Важность гуманизации ИИ: использование поведенческой линзы для преодоления разрыва между людьми и машинами.
Ссылка- https://link.springer.com/article/10.1007/s44163-022-00030-8
Аннотация. Одной из самых больших проблем в разработке и применении искусственного интеллекта (ИИ) является недостаточное внимание к усовершенствованию человека как краеугольному камню его операционализации. Не существует и общепризнанного подхода, определяющего передовой опыт в этой области. Тем не менее, наука о поведении предлагает способы развития устойчивых и обогащающих отношений между людьми и интеллектуальными машинами. В этом документе представлена трехуровневая (микро-, мезо- и макро) структура того, как гуманизировать ИИ с целью улучшения человеческих качеств и опыта. В нем утверждается, что гуманизация ИИ поможет сделать интеллектуальные машины не только более эффективными, но и сделает их применение более этичным и ориентированным на человека. Делаются предложения политикам, организациям и разработчикам о том, как реализовать эту структуру, чтобы исправить существующие проблемы в ИИ и создать более симбиотические отношения между людьми и машинами, движущимися в будущее.
Спасибо Жасмин С. Бриджес за эту рекомендацию.
2) 🤖 ИИ не «галлюцинирует». Мы галлюцинируем.
Интересный взгляд на ответственность и на то, кто отвечает за модели ИИ и их результаты. Хотелось бы побольше поговорить с Чарли (автором), прежде чем я скажу вам, полностью ли я согласен с аргументами, но я думаю, что статья достаточно интересна, и я думаю, что люди должны ее прочитать.
Цитата, которую я любил -
Мы должны признать, что сложность взаимодействия между инженером, пользователем и техническим специалистом не освобождает всех от ответственности за ошибки и вред. Как пишет Ниссенбаум, «вместо того, чтобы идентифицировать одного человека, чьи ошибочные действия вызвали травмы, мы обнаруживаем, что должны систематически распутывать беспорядочную паутину взаимосвязанных причин и решений». Правильно, мы можем начать распутывать эти системы и возлагать частичную вину и ответственность на соответствующего заинтересованного лица. … Но первым шагом на этом пути является преодоление разрыва между нашими собственными ожиданиями относительно того, что LLM могут сделать, и тем, что они делают на самом деле. Они не галлюцинируют — мы галлюцинируем.
Автор — Чарли Джонсон
3) FrugalGPT: как использовать большие языковые модели при снижении затрат и повышении производительности
Ссылка- https://arxiv.org/abs/2305.05176
Аннотация. Быстро растет число больших языковых моделей (LLM), которые пользователи могут запрашивать за плату. Мы рассматриваем стоимость, связанную с запросом популярных API-интерфейсов LLM, например. GPT-4, ChatGPT, J1-Jumbo и обнаружили, что эти модели имеют неоднородную структуру ценообразования, а сборы могут различаться на два порядка. В частности, использование LLM для больших коллекций запросов и текстов может быть дорогостоящим. Руководствуясь этим, мы выделяем и обсуждаем три типа стратегий, которые пользователи могут использовать для снижения затрат на вывод, связанных с использованием LLM: 1) быстрая адаптация, 2) аппроксимация LLM и 3) каскад LLM. В качестве примера мы предлагаем FrugalGPT, простую, но гибкую реализацию каскада LLM, которая изучает, какие комбинации LLM использовать для разных запросов, чтобы снизить стоимость и повысить точность. Наши эксперименты показывают, что FrugalGPT может соответствовать производительности лучшего отдельного LLM (например, GPT-4) при снижении затрат до 98% или повысить точность по сравнению с GPT-4 на 4% при тех же затратах. Представленные здесь идеи и результаты закладывают основу для устойчивого и эффективного использования LLM.
Авторы - Линцзяо Чен, Матей Захария, Джеймс Цзоу
4) Бот или человек? Обнаружение самозванцев ChatGPT с помощью одного вопроса
Ссылка- https://arxiv.org/abs/2305.06424
Аннотация. Большие языковые модели, такие как ChatGPT, недавно продемонстрировали впечатляющие возможности в понимании и генерации естественного языка, позволяя использовать различные приложения, включая перевод, написание эссе и болтовню. Однако существует опасение, что они могут быть использованы в злоумышленных целях, таких как мошенничество или атаки типа отказ в обслуживании. Поэтому крайне важно разработать методы для определения того, является ли сторона, участвующая в разговоре, ботом или человеком. В этой статье мы предлагаем платформу под названием FLAIR, Поиск подлинности модели большого языка с помощью одного запроса и ответа, для обнаружения диалоговых ботов в режиме онлайн. В частности, мы нацелены на сценарий с одним вопросом, который может эффективно отличать пользователей-людей от ботов. Вопросы делятся на две категории: простые для людей, но сложные для ботов (например, подсчет, подстановка, позиционирование, фильтрация шума и ASCII-графика), и те, которые просты для ботов, но сложны для людей (например, запоминание). и вычисления). Наш подход демонстрирует разные сильные стороны этих вопросов в их эффективности, предоставляя поставщикам онлайн-услуг новый способ защитить себя от недобросовестных действий и гарантировать, что они обслуживают реальных пользователей. Мы разместили наш набор данных с открытым исходным кодом на этом URL-адресе https и приветствуем вклад сообщества для обогащения таких наборов данных обнаружения.
5) Водяные знаки в виде годичных колец: невидимые и надежные отпечатки пальцев для диффузных изображений.
Документ: https://arxiv.org/abs/2305.20030
Аннотация. Нанесение водяных знаков на результаты генеративных моделей является важным методом отслеживания авторских прав и предотвращения потенциального вреда от контента, созданного ИИ. В этой статье мы представляем новую технику, называемую водяными знаками Tree-Ring, которая надежно фиксирует выходные данные модели распространения. В отличие от существующих методов, которые выполняют апостериорные модификации изображений после выборки, водяные знаки Tree-Ring тонко влияют на весь процесс выборки, в результате чего отпечаток модели невидим для людей. Водяной знак встраивает шаблон в исходный вектор шума, используемый для выборки. Эти паттерны структурированы в пространстве Фурье, поэтому они инвариантны к сверткам, обрезкам, растяжениям, переворотам и вращениям. После создания изображения сигнал водяного знака обнаруживается путем инвертирования процесса диффузии для извлечения вектора шума, который затем проверяется на наличие внедренного сигнала. Мы демонстрируем, что этот метод может быть легко применен к произвольным моделям диффузии, включая стабильную диффузию с текстовым условием, в качестве подключаемого модуля с незначительными потерями в FID. Наш водяной знак семантически скрыт в пространстве изображения и гораздо более надежен, чем альтернативные водяные знаки, которые используются в настоящее время. Код доступен по этому адресу https.
Авторы: Юйсин Вэнь, Джон Кирхенбауэр, Йонас Гейпин, Том Гольдштейн
Если вы ищете разбивку этой статьи, у Янника Килчера есть хорошая:
6) RWKV: новое изобретение RNN для эпохи трансформеров
Статья: https://arxiv.org/abs/2305.13048
Аннотация: Трансформеры произвели революцию почти во всех задачах обработки естественного языка (NLP), но страдают от памяти и вычислительной сложности, которые масштабируются квадратично с длиной последовательности. Напротив, рекуррентные нейронные сети (RNN) демонстрируют линейное масштабирование в памяти и вычислительных требованиях, но с трудом достигают той же производительности, что и Transformers, из-за ограничений в распараллеливании и масштабируемости. Мы предлагаем новую архитектуру модели Receptance Weighted Key Value (RWKV), которая сочетает в себе эффективное распараллеливаемое обучение Transformers с эффективным выводом RNN. Наш подход использует механизм линейного внимания и позволяет нам сформулировать модель либо как преобразователь, либо как RNN, который распараллеливает вычисления во время обучения и поддерживает постоянную вычислительную сложность и сложность памяти во время логического вывода, что приводит к первой нетрансформаторной архитектуре, масштабируемой до десятков миллиардов параметров. Наши эксперименты показывают, что RWKV работает наравне с трансформаторами аналогичного размера, что позволяет предположить, что в будущем эта архитектура может использоваться для создания более эффективных моделей. Эта работа представляет собой важный шаг на пути к согласованию компромиссов между вычислительной эффективностью и производительностью модели в задачах обработки последовательностей.
Янник Килчер был очень занят на этой неделе. Он сделал еще одну большую разбивку бумаги здесь-
7) Более быстрые алгоритмы сортировки, обнаруженные с помощью глубокого обучения с подкреплением.
Ссылка- https://www.nature.com/articles/s41586-023-06004-9
Аннотация. Фундаментальные алгоритмы, такие как сортировка или хеширование, используются триллионы раз в любой заданный день 1. По мере роста спроса на вычисления для этих алгоритмов стало критически важным быть максимально производительными. В то время как в прошлом 2 был достигнут значительный прогресс, дальнейшее повышение эффективности этих процедур оказалось сложной задачей как для ученых-людей, так и для вычислительных подходов. Здесь мы показываем, как искусственный интеллект может выйти за рамки современного уровня техники, открывая неизвестные до сих пор процедуры. Чтобы реализовать это, мы сформулировали задачу поиска лучшей процедуры сортировки как игру для одного игрока. Затем мы обучили нового агента глубокого обучения с подкреплением, AlphaDev, играть в эту игру. AlphaDev с нуля открыла небольшие алгоритмы сортировки, которые превзошли ранее известные человеческие тесты. Эти алгоритмы интегрированы в стандартную библиотеку сортировки C++ LLVM 3. Это изменение в этой части библиотеки сортировки представляет собой замену компонента алгоритмом, который был автоматически обнаружен с помощью обучения с подкреплением. Мы также представляем результаты в дополнительных областях, демонстрируя универсальность подхода.
S/o Эдуардо Сезару Гарридо Мерчану за находку.
8) Как векторные базы данных обеспечивают генеративный ИИ
Ссылка- https://codinginterviewsmadesimple.substack.com/p/how-vector-databases-enable-generative
Краткое введение в базы данных Vector и почему это новое пространство уже стоит миллиард долларов. Рассказывает, что такое векторные БД, почему они хороши для ИИ и многое другое. Написано вашим покорным слугой (Деванш Деванш).
В центре внимания читателей
ByteBrief: получайте порцию новостей об искусственном интеллекте, технологиях и бизнесе прямо на свой почтовый ящик. Единственный информационный бюллетень для вас, чтобы оставаться на вершине Ai, Tech и Biz. Присоединяйтесь к более чем 22 000 читателей прямо сейчас.
Получите это бесплатно в свой почтовый ящик прямо сейчас
Если вы занимаетесь интересной работой и хотите, чтобы о ней рассказали в центре внимания, просто оставьте свое представление в комментариях или свяжитесь со мной. Здесь нет никаких правил — вы можете рассказать о написанной вами статье, интересном проекте, над которым вы работали, о какой-то личной задаче, над которой вы работаете, о своей платформе контента или о чем-либо еще, что вы считаете важным. Цель состоит в том, чтобы лучше узнать вас и, возможно, связать вас с интересными людьми в сообществе
Другие интересные чтения
1) Шесть способов выстрелить себе в ногу с помощью медицинских проверок
Ссылка- https://philbooth.me/blog/six-ways-to-shoot-in-the-foot-with-healthchecks
Резюме. Довольно часто мне приходится носить шляпу де-факто консультанта по devops. И с этой шляпой я был удивлен тем, сколько раз мне удавалось прерывать производство с помощью, казалось бы, безобидных настроек проверки работоспособности. На данный момент мне удалось сделать это шестью различными способами, поэтому я перечисляю их здесь в надежде, что другие могут учиться на моих ошибках.
Автор - Фил Бут
2) Образовательный побочный проект
Резюме. Как выглядит отличный побочный проект, который помогает изучать новые технологии, а также помогает выделиться при поиске новой работы? Анализ приложения-симулятора Uber, созданного с нуля.
Автор- Гергей Орош
Классные видосы-
Как HR стал править корпоративной Америкой
Starbucks зарабатывает 200 миллионов долларов на неиспользованных подарочных картах — Спенсер Корнелия
Java стремительно возвращается —Fireship Tech
Как выигрыш в лотерею может изменить вас! Патрик Бойл
Питер Сингер — обычные люди злые — Джеффри Каплан из Университета Северной Каролины в Гринсборо.
Я поймаю вас всех с большим количеством этих на следующей неделе. А пока, если вы хотите найти меня, вот мои социальные ссылки-
Свяжитесь со мной
Воспользуйтесь ссылками ниже, чтобы ознакомиться с другим моим контентом, узнать больше о репетиторстве, связаться со мной по поводу проектов или просто поздороваться.
Ознакомьтесь с другими моими статьями на Medium. : https://rb.gy/zn1aiu
Небольшие фрагменты о технологиях, искусственном интеллекте и машинном обучении здесь
Информационный бюллетень ИИ- https://artificialintelligencemadesimple.substack.com/
Любимый технический бюллетень моей бабушки — https://codinginterviewsmadesimple.substack.com/
Мой Ютуб: https://rb.gy/88iwdd
Свяжитесь со мной в LinkedIn. Подключаемся: https://rb.gy/m5ok2y
Мой Инстаграм: https://rb.gy/gmvuy9
Мой Твиттер: https://twitter.com/Machine01776819
Первоначально опубликовано на https://www.linkedin.com.
