Я узнаю больше о LLM и решил, что буду записывать полезные ссылки по ходу дела. Буду признателен за любые дополнительные предложения.
На данный момент я подхожу к этому как к разным слоям:
- Оперативная разработка. Точка зрения опытного пользователя.
- Обучение/настройка собственных LLM. Точка зрения разработчика приложений.
- Как работают LLM. Понимание того, как работает базовая технология.
- Более широкая стратегия/темы.
Быстрый инжиниринг
- ChatGPT Prompt Engineering для разработчиков от DeepLearning.AI
- Введение в подсказку от Microsoft
- Быстрые инженерные приемы от Microsoft
- Учимся подсказывать
- Prompt Engineering в ChatGPT: комплексный мастер-курс от The Prompt Artisan
- Prompt Engineering Course — Master Prompt Engineering от Prompt Engineering Institute
- f/awesome-chatgpt-prompts: этот репозиторий включает куратор подсказок ChatGPT для лучшего использования ChatGPT. (github.com)
- СудоЛанг. SudoLang — это псевдоязык, разработанный для взаимодействия с LLM. Он предоставляет удобный интерфейс, сочетающий выражения на естественном языке с простыми конструкциями программирования, что упрощает его использование как новичками, так и опытными программистами.
Обучение/настройка собственных LLM
- Точная настройка крупноязыковых моделей с Hugging Face и DeepSpeed, Шон Оуэн, Databricks
- Точная настройка 20-миллиардных LLM с RLHF на потребительском графическом процессоре 24 ГБ, Hugging Face
- xturing стохастическим ИИ.
xturingобеспечивает быструю, эффективную и простую точную настройку LLM, таких как LLaMA, GPT-J, Galactica и других.
Как работают LLM
- Как ChatGPT работает технически | Архитектура ChatGPT видео от ByteByteGo
- Сэмюэл Р. Боуман, Восемь вещей, которые нужно знать о моделях больших языков.
- Практические руководства для больших языковых моделей Тщательно обновляемый (все еще активно обновляемый) список практических руководств для LLM.
- Трансформеры с нуля Брэндона Рорера
- Обзор больших языковых моделей (arxiv.org)
- Использование возможностей LLM на практике: обзор ChatGPT и не только (arxiv.org)
Более широкая стратегия/темы
- «Эра больших моделей ИИ закончилась | Альберто Ромеро | апрель 2023 г. | Середина"
- Погуглите «У нас нет рва, как и у OpenAI (semianalysis.com)»
