Что есть кроме ChatGPT и как это готовить: разворачиваем локальные LLM у себя на компьютере!

 

Модели от лидеров рынка удобны, но дороги и подходят далеко не для всех сценариев использования. Open-source модели развиваются невероятными темпами и сегодня использовать собственную LLM можно даже на макбуке! В рамках воркшопа мы разберемся: • В чем суть локальных LLM, и правда ли, что Open Source лучше, чем ChatGPT? • Как выбрать опенсорс-модель под свои задачи? • Правда ли, что промпты для open source LLM = промпты для GPT? • RAG, Fine-Tuning, QLoRa — вот они слева направо. Как увеличить точность выбранной модели? • Как урезать и файнтюнить Open Source LLM под свои задачи? О спикере: Ирина Николаева (
, Lead Data Scientist, Руководитель R’n’D-отдела машинного обучения в компании Raft Digital Solutions. У Ирины огромный опыт внедрения различных ML-моделей: от анализа временных рядов и computer vision до высоконагруженных дата-инженерных сервисов. Кому будет интересно: всем, кто решает различные задачи с помощью LLM, а также разрабатывает собственные решения. Презентация доступна по ссылке: