[stepik] Делаем свой AI-продукт на базе ChatGPT или других LLM моделей (Александр Миленькин)

​

Чему вы научитесь

• Получать максимальный результат от использования больших языковых моделей за счёт грамотного промптинга.
• Использовать фреймворк LangChain и создавать базы знаний под свои задачи.
• Доводить свою идею до минимально рабочего прототипа на StreamLit.

О курсе

В курсе рассматриваются способы повысить профит от использования больших языковых моделей (LLM) в личных целях или для встраивания в бизнес процессы.
Будем двигаться от базовых концепций к более продвинутым техникам, закрепляя всё на практике.
Курс не про архитектуры языковых моделей, их различия, способы обучения, а скорее про использование готовых моделей для реализации своих идей в качестве пользователя. Поэтому курс практичный и подойдет для начинающих.
Основной язык программирования Python
Преподаватели курса стали лауреатами премии Stepik Awards 2023 в номинации "Прорыв Года".

Для кого этот курс
Курс предназначен для широкого круга лиц, интересующихся большими языковыми моделями (LLM) и их возможным применением в личных и бизнес задачах.

Начальные требования

Знание Python на базовом уровне
Умение запускать код в Jupyter notebooks или Google colab
Общее представление или опыт взаимодействия с большими языковыми моделями (LLM). Например, с ChatGPT

Как проходит обучение

- Выдаем каждому ключи к API ChatGPT и объясняем, что с ними делать
- Пройдём путь от продвинутого промптинга до создания "баз знаний" для своих задач и деплоя собственного работающего сервиса.
- Рассмотрим опенсорс (бесплатные) альтернативы ChatGPT и как их развернуть и дообучить на бесплатных ресурсах.
- Выполненный в рамках курса проект можно будет положить как ПЕТ-проект в портфолио или доработать и использовать для своих целей.

Программа курса
Вступление

1. Как правильно входить в курс
2. Общий подход и точки улучшения приложений с LLM
3. API ключ курса или от OpenAI?

Промптинг - объясни LLM, что тебе от неё надо!

1. Введение в Prompt Engineering
2. ‍ Дизайн промптов в LangChain

LangChain или причем тут попугаи?

1. Память в LangChain
2. Chains - собери свою цепь
3. ️‍♂️ Агенты intro

LLM и ваши данные | + =

1. LangChain с вашими данными

Дообучение на своих данных | + =

1. Open Source модели на замену; LLaMa, Vicuna и русские LLM
2. А не сделать ли тебе свой проект уже сейчас?!
3. fine-tuning языковых моделей на своих данных
4. ‍‍‍♂️ Собери свою банду агентов и завали боса
5. Примеры кода и формат данных

Prompt Engineering - был basic, стал advansic

1. первый урок

Разбор реального проекта

1. ChatGPT и примеры использования:
2. Чат-бот заказчик и база знаний выдач

LLM, возможности и стартапы

1. Сколько миллионов можно поднять на своем ChatGPT

Финиш курса

1. Что дальше?!