Сегодня мы поговорим о технологии SVDQuant - это новое квантование моделей. Появилась новая возможность ускорить генерации на моделях Flux в 2-3 раза с небольшой потерей качества. И еще для многих — это будет даже более важно – сильное снижение потребления видеопамяти. Flux можно будет запустить на видеокартах от 4Гб Vram. Всё это становится возможным благодаря новым методам квантизации моделей Int4 и Fp4. Это квантование поддерживает Lora и схемы, которые у вас есть с flux моделями будут работать, как и раньше, но значительно быстрее и потреблять меньше VRAM. SVDQ быстрее и проще чем triton и качественнее чем TeaCache или WaveSpeed. МЕНЮ 00:00 - Обзор SVDQuant 03:15 - Установка ComfyUI 03:43 - Установка моделей и библиотек SVDQuant 09:22 - Разбор схемы генерации Flux Dev 1 и настройки узлов svdq 18:24 - Сравнение качества генераций и скорости svdq - чистой flux - wavwspeed 20:05 - Схема Flux Outpaint с моделями int4 swdquant 20:57 - Схема Flux Tools Canny Depth с моделями int4 swdq 22:55 - Квантуем модели lora в swdq int4 25:26 - Эпилог Мой курс по "AUTOMATIC 1111" с моей поддержкой на сайте
Мой курс по "ComfyUI" с моей поддержкой на сайте
Все ссылки и файлы доступны на Boosty:
Инструкция по установки от разработчика SVDQuant:
Настроенная portable ComfyUI:
Телеграм-канал:
Telegram ЧАТ:
VK Prompts: https://vk.com/stabledif
