Как ускорить генерации в Stable Diffusion Automatic 1111 webui на ПК | xFormers | 4 лайфхака

Поделиться
HTML-код
  • Опубликовано: 7 ноя 2024

Комментарии • 93

  • @TechnoMagix
    @TechnoMagix  Год назад

    Мои контакты:
    🔥 Канал о нейросетях: авторские обзоры, новости, мемы - t.me/alchemist_tm
    🔥 Курс по Stable Diffusion - sponsr.ru/technomagix/54859/Navigaciya_pokursu_Stable_Diffusion
    🔥 Чат поддержки - t.me/+EOhMG42mlywxNWMy
    🔥 Поддержать автора - sponsr.ru/technomagix/
    Плейлист с видео по нейросетям:
    ruclips.net/p/PLiNFDOo-cka29iSJb1IPd8gwn23AiBkJt

  • @guziyk
    @guziyk Год назад +16

    Спасибо за фишки ускорения, надо будет затестить! Подскажите, а вы выпустите видео о том, как обучить нейросеть на своих фото в этом интерфейсе (automatic1111)? В прошлом ролике в комментариях просили (самый залайканный комментарий), я тоже плюсую эту идею, очень хочется разобраться в этом :)

  • @Igrom_Gamedev
    @Igrom_Gamedev Год назад +5

    Круто, еще бы в описании все команды, чтобы копипастом сделать )

  • @masterskayavkusadenisa
    @masterskayavkusadenisa Месяц назад

    Спасибо! Реально помогло, особенно с этим xformer

  • @ShrekForeverovich
    @ShrekForeverovich 3 месяца назад

    Благодарю, очень неплохо увеличилась скорость, минимум на процентов 30-45% (RTX 2060 MAX-Q).
    p.s Я ещё добавлял в файл несколько команд с гитхаба автоматика

  • @Vadim-Ka
    @Vadim-Ka Год назад +1

    Вот спасибо, хороший человек! Помог.

  • @Юрий-ф5я4м
    @Юрий-ф5я4м Год назад +5

    RTX 3060 12 GB
    Steps 20
    Batch size 8
    512x512
    24 секунды.
    То же самое с xFormers, 16 секунд.
    Спасибо!

    • @vermillion2294
      @vermillion2294 Год назад

      а зачем тебе нацистская власовская лента на аватарке? Ещё и в форме фашистской символики волчьего крюка?

    • @genarek
      @genarek 5 месяцев назад

      Добрый день , взял себе такую же карту, хочу профиксить интерфес по этому видео, в итоге вы давльны как работает программа , есть ли на важ взгляд какие то нюсансы?

  • @denisplay8258
    @denisplay8258 Год назад +2

    Результат сразу на глаз. Про скорость ничего не скажу, так как не особо заметно, но пожирание памяти значительно уменьшилось. Раньше 512х768 арты были впритык для моей 1660, сейчас же спокойно генерирую 1024х1024 с 0.5ГБ в запасе

    • @denisplay8258
      @denisplay8258 Год назад

      Ошибочка, не 1024х1024, а 1024х768, но щас и 1024х1024 проверю и отпишу

    • @denisplay8258
      @denisplay8258 Год назад +1

      1024х1024 так же работает, в целом и в общем xformers лучший дар для тех, кто не хочет покупать 30ый серии или 4090

    • @Strangers-n8k
      @Strangers-n8k Год назад

      А сколько времени у вас в целом занимает генерация?

    • @denisplay8258
      @denisplay8258 Год назад +1

      @@Strangers-n8k на 1660 512х512 или 512х768 30-50 секунд. 1024х768 минуты 2-3, 1920х1080 минут 20. Но там нет смысла делать высокое разрешение. Я обычно делаю 768х512, а затем вторичную обработку, которая занимает минут 5, но приводит 768х512 в 1024х768

  • @Andrew-and-Tanya
    @Andrew-and-Tanya Год назад +2

    Здравствуйте! 512x512 рендерится 1.5 часа! Это ужас xformers поставил, ну что-то что с ним что без него. Видео карта nvidia geforce mx250 (16гб) Уже третий день пытаюсь тестировать Stable Diffusion, но с такой скоростью очень сложно раскрыть потенциал этой проги. Подскажите пожалуйста может есть решения данной проблемы? Уже все перепробовал, даже через stablу horde! Но он то работает то нет.

  • @cored3238
    @cored3238 8 месяцев назад

    СПАСИБО ДРУЖИЩЕ

  • @VnukElkina
    @VnukElkina Год назад +1

    как сделать чтобы работало stable diffusion 2.0 ?

  • @andrruta868
    @andrruta868 Год назад +1

    Спасибо, буду пробовать. Еще такие вопросы:
    1.Я заметил, что в Automatic 1111 результат менее качественный, чем непосредственно в колабе. Обученная модель одна и таже, сохраненная без сжатия (прибл. 4 ГБ), запросы и размеры идентичны. По сравнению с колабом картинки выходять какие-то недоработанные и, главное, теряют сходство с образцами (стиль, портретное сходство). В каком направлении двигаться, чтобы добиться улучшения?
    2. Как повторно использовать собственную модель в колабе (без перехода в Automatic 1111) , которая сохранена на гугл-диске, минуя этап нового обучения?

    • @danipulok
      @danipulok Год назад

      Доброго. Понял в чём проблема?

    • @andrruta868
      @andrruta868 Год назад

      @@danipulok нет

    • @danipulok
      @danipulok Год назад

      @@andrruta868 проверь настройки все остальные. Там же много различных для гена используются. Для тестов юзай один и тот же seed и смотри какие настройки в коллабе и перенеси их в вебюи

  • @alexeybolo282
    @alexeybolo282 Год назад +1

    Большое спасибо за ваши детальные обзоры функционала и тонкости настройки. Я с удовольствием погрузился в мир нейросетей для рисования. Скажите кто вы по профессии, что оказались на передовой этой технологии? ...и есть ли в России команды которые занимаются обучением художественных нейросетей?

    • @TechnoMagix
      @TechnoMagix  Год назад +2

      Я инженер-конструктор, а нейросети - хобби)
      В России есть команда от сбера, они сделали первую мультиязычную нейросеть Кандинский 2.0 для генерации изображений. Есть команда делающая интересный продукт phygital plus, там разные нейросети совмещены в одну программу. Есть и другие)

  • @padrinodeatlas8843
    @padrinodeatlas8843 Год назад

    Thank you very much the only tutorial that helped me for xFormers in all youtube.

  • @1wewedf
    @1wewedf Год назад +1

    осталось разобраться как ускорить на амд )))

  • @danil907
    @danil907 Год назад +1

    на 1050ti Выигрыш в 5-10 секунд нивелируется снижением качества, иногда sd просто начинает генерировать месиво из пятен, пока не перезагрузишь. удалил нафиг

  • @hermit1365
    @hermit1365 Год назад

    Очень круто раскатываешь, большое способно за контент) А можешь рассказать по подробнее как создать свою модель ? Понимаю что видео уже было но может шас есть способы не через гугол калабу делать, у меня железо нормальное а интернет так себе)))

  • @evilden2653
    @evilden2653 Год назад +2

    а для AMD RX580 как настроить оптимально?

  • @Shisgara77
    @Shisgara77 Год назад

    Подскажите, пжл - а для macbook air m1 имеет ли смысл устанавливать xFormers и как вообще это сделать? 🙈

    • @TechnoMagix
      @TechnoMagix  Год назад

      Насколько мне известно, для макбуков Xformers не работает

  • @glkglk317
    @glkglk317 Год назад +5

    Ребят. Прошу помогите пожалуйста. Дело в том что у меня версия Python 3.8.10. Установил её т.к Новую версию на Windows 7 она не поддерживает и не устанавливает.
    Проблема в том, что Xformers из за этого не скачивается и в командной строке пишет : Installation of xformers is not supported in this version of Python.
    Что делать и как быть? кроме установки windows 10 и нового Python есть другие способы обойти эту проблему? напишите кто знает! буду очень благодарен

    • @TechnoMagix
      @TechnoMagix  Год назад +1

      Вижу три решения:
      1. Зпустите SD на мощной видеокарте через сервис RunPod
      2. Используйте гугл колаб (есть ограничение на 2-3 часа работы в сутки на бесплатном аккаунте)
      3. Обновите виндовс 7 до win10. Установленные файлы и программы при этом не удаляются (за исключением редких случаев)

    • @glkglk317
      @glkglk317 Год назад

      @@TechnoMagix Понял,Спасибо за ответ!
      1. Не очень мощная. 4гб
      2. У меня SD норм работает, не вижу смысла с колаба пользоваться.
      Хотел просто установить Xformers что бы ускорить генерацию, ну видимо не судьба. Придется пока без него, в будущем возможно переустановлю на windows 10 систему

    • @glkglk317
      @glkglk317 Год назад

      Хотя.. попробую реально обновится до 10

  • @expiketz
    @expiketz Год назад +1

    2060s на старте было за 50steps 11с. после обнов у автоматика стало около 9. с xformers 8.1. но очень смущает отличие картинок с одинкаовыми настройками. в одно время были косяки у автоматика что с одинаковыми настройками выходил разный результат при использовании embeddings.

  • @Berlioz1991
    @Berlioz1991 Год назад

    а сделаешь туториал по установке InvokeAI?

  • @fluck8086
    @fluck8086 Год назад

    Привет, спасибо за видео но есть один вопрос. Зачем некоторые слова беруться в скобки ? например (слово) или в двойные скобки ((слово)) ?

    • @Инглия
      @Инглия Год назад +1

      Увеличивает важность слова. И как не странно чем больше скобок тем больше важность. Типа пива нет, пива совсем нет.

  • @rusbaiker8921
    @rusbaiker8921 Год назад

    С такой картой 1030 сколько генерация длится? И на такой карте обучение наверно вечность продлится?

    • @denisplay8258
      @denisplay8258 Год назад

      Для нормальной генерации нужно 6гб видеопамяти, для обучения на нормальном разрешении, где-то 1024х768, требуется 8гб. А так, чтобы вообще хоть что-то сделать нужно 4гб минимум, а на 1030 всего 2гб, так что даже базовую картинку не получится в 512х512 сделать

  • @Slavius84
    @Slavius84 4 месяца назад

    У меня rx570 как ускорить? Регенерация по полчаса

  • @mint7924
    @mint7924 Год назад

    Какая карта нужна для работы с Stable Diffusion :
    - минимальная конфигурация - какие основные параметры нужны
    - оптимальная цена/качество ?

    • @maxon2980
      @maxon2980 Год назад

      На 750 ti за минуту генерит. Правда апскейл не работает, да и ладно

  • @АнатолийСеребряков-о8я

    Салют! Спасибо большое за контент! подскажите пожалуйста загрузив изображения игры в теннис,
    Можно попросить нейросеть не изменять положения тела спортсмена и мяча, а просто изменить стиль ?

    • @ViNameTube
      @ViNameTube Год назад

      Есть раздел inpoint, там можно с помощью маски (кистью) выделить область, которую будет затрагивать генерация

  • @hihoho1578
    @hihoho1578 Год назад +1

    спасибо, расскажите про img2img пожалуйста

  • @Aristant_
    @Aristant_ Год назад

    подскажи как сохранить в настройках негатив пронт чтоб всегда загружался тот что нужен?

  • @viktorbezuhov5867
    @viktorbezuhov5867 Год назад

    Я не понял как установить xformers. У меня пишет No module 'xformers'

  • @airmagedon-ua
    @airmagedon-ua 9 месяцев назад

    что тако Automatic 1111 ?

  • @MrDenis540
    @MrDenis540 Год назад

    Mac m1 кто пробовал на нем ставить? Работать? Или не стоит пробовать?

  • @igrotren4ik30
    @igrotren4ik30 Год назад

    А если не ампер а Паскаль стоит тоже подойдет? в архитектуре

    • @TechnoMagix
      @TechnoMagix  Год назад

      На сегодня поддерживаются архитектуры Pascal, Turing, Ampere, Lovelace, Hopper

  • @iwanawdeew3032
    @iwanawdeew3032 10 месяцев назад

    Моя GTX 1650 что с xformers что без не генерит вообще ничего, пыжится 8 минут и выдаёт серую картинку...

  • @UniqAlexandr
    @UniqAlexandr Год назад

    Что лучше будет, 3060 с 12 гигами памяти или 3060ti с 8 гигами ? Если большие картинки генерировать, + дефорум

    • @TechnoMagix
      @TechnoMagix  Год назад

      12гб при прочих равных всегда будет лучше.
      В нашем чате в телеграме недавно обсуждали вопрос выбора видеокарт и скидывали сравнительные таблицы. Ссылка на чат есть в описании. Заходите

    • @UniqAlexandr
      @UniqAlexandr Год назад

      @@TechnoMagix благодарю

    • @denisplay8258
      @denisplay8258 Год назад

      Для нейросети лучше видеопамять, так 12гб будет намного лучше

  • @Kewnstantin
    @Kewnstantin Год назад

    привет. что насчёт InvokeAI? не нахожу инфы на русском.. попробуем?

    • @MitrichDX
      @MitrichDX Год назад

      он теперь сам по себе на русском)) обновляйтесь))

  • @ivanlebed
    @ivanlebed Год назад +3

    RTX2070 8gb
    Euler 50 steps
    512x512 = 6.6it/s
    1024x1024 = 1.01it/s
    xFormers
    512x512 = 8.1it/s прирост 22%
    1024x1024 = 1.55it/s прирост 53%

    • @TechnoMagix
      @TechnoMagix  Год назад +1

      Мощный результат 💪

    • @MitrichDX
      @MitrichDX Год назад

      @@TechnoMagix это вы ещё VoltaML не пробовали)))

    • @smokedatmusic5106
      @smokedatmusic5106 Год назад

      В списке RTX2070 не было, у меня RTX2070 Max-Q, есть ли смысл делать?

  • @Tupical1
    @Tupical1 Год назад

    Копировать адрес не надо из консоли, зажимаешь ctrl и кликаешь, открывается страница

  • @sktglt
    @sktglt Год назад

    а как сделать три колонки настроек на странице сетинга?

  • @dr.gadget9474
    @dr.gadget9474 Год назад

    че то с иксформером и автозапуском не вышло

  • @howlam2046
    @howlam2046 Год назад

    я так полагаю, что обладатели видюх от амд в пролете с xformers?

    • @TechnoMagix
      @TechnoMagix  Год назад +1

      Мне не удалось найти информации о совместимости видеокарт с Xformers. Вопрос остаётся открытым. Буду благодарен если кто-то проведёт эксперимент.

    • @howlam2046
      @howlam2046 Год назад

      @@TechnoMagix принято
      Отправляюсь проводить эксперимент

    • @howlam2046
      @howlam2046 Год назад +1

      @@TechnoMagix установился без проблем, а вот запуск....
      Куча ошибок и вылет. Убрал xformers и все сразу запустило, так что проблема была явно в нем, увы

  • @peygur_
    @peygur_ Год назад

    Привет, подскажи что делать в таком случае ? Всё установил правильно. Несколько раз. И после генерации чёрный квадрат

    • @TechnoMagix
      @TechnoMagix  Год назад

      Скорее всего ваша видеокарта 16xx серии.
      Через блокнот в строке параметров добавьте три следующих параметра:
      --precision full --no-half --medvram

    • @peygur_
      @peygur_ Год назад

      @@TechnoMagix помогло, огромное спасибо !!! нигде не мог найти ответ:)

  • @dimmack6212
    @dimmack6212 Год назад

    Есть мысли, почему не могу заставить работать свою видеокарту. GF 880M 8GB.
    Warning: caught exception 'CUDA driver initialization failed, you might not have a CUDA gpu.', memory monitor disabled.
    CUDA драйвера все стоят. Работает только процессор, который генерирует естественно крайне долго.

    • @ilyaginsburg1888
      @ilyaginsburg1888 Год назад

      Точно прописал путь к драйверу в PATH? Должен находиться не только CUDA, но и CUDNN.

  • @МаксКекс-о9х
    @МаксКекс-о9х Год назад

    Приветствую всех. Как поменять светлую тему интерфейса на тёмную, как у вас, с синими ползунками и оранжевой кнопкой? Заранее благодарю за ответ

    • @danipulok
      @danipulok Год назад +1

      Chrome dark reader

    • @Taquro
      @Taquro Год назад

      Привет, если еще не нашел способ, то просто открой файл которым ты запускаешь консоль с помощью блокнота например и в строку COMMANDLINE_ARGS=, напиши --theme dark. должно получится так - COMMANDLINE_ARGS= --theme dark

  • @Инглия
    @Инглия Год назад

    На Радеоне работает?...

    • @MitrichDX
      @MitrichDX Год назад

      для радеона NKMD ну и вроде как InvokeAI

    • @Инглия
      @Инглия Год назад

      @@MitrichDX спасибо, никак не могу установить эту хрень... InvokeAI попытался не получилось...

    • @MitrichDX
      @MitrichDX Год назад

      @@Инглия invokeAI я прям уверен упёрся в антивири)))) пока они включены, он там наваливает ошибок как не в себя, КАСПЕРСКОГО на время установки вырубаем к чертям и проблема исчезает сама собой)) а так NKMD в принципе более автоматично устанавливаемый)

    • @Инглия
      @Инглия Год назад

      @@MitrichDX антивируса нет, InvokeAI установил, тоже с радеоном не дружит. Остался NKMD

  • @bassaliga
    @bassaliga Год назад

    мне больше эта версия понравилась Stable Diffusion UI v2.4.15.

    • @Vendium7
      @Vendium7 Год назад

      Как узнать версию своего Web UI? Я устанавливал где-то полтора месяца назад. И как проапдейтить его? Через командную строку или все снести и новую версию с сайта скачать?

    • @bassaliga
      @bassaliga Год назад

      @@Vendium7 их много версий, у тебя значит другая, шукай)

  • @paganorth
    @paganorth Год назад

    программа платная ?

    • @xyi_pizda_skovoroda
      @xyi_pizda_skovoroda Год назад

      нет
      все бесплатно качается

    • @TechnoMagix
      @TechnoMagix  Год назад +3

      Всё полностью бесплатно. Об установке нейросети на свой ПК смотрите предыдущее видео на этом канале

  • @АлександрИгнатов-ю9з
    @АлександрИгнатов-ю9з 8 месяцев назад

    4096х4096 генерация параллельно 8 изображений. время генерации на 50 шагов и длине промта в 250 - 0,27сек.4xH100-384GB + ram8TB

    • @genarek
      @genarek 5 месяцев назад

      фига себе можно посмотреть результаты ваши с таким разрешением.

  • @bioxoid
    @bioxoid Год назад

    после установки xformers перестало работать. ошибка такая:
    ValueError: Query/Key/Value should all have the same dtype
    query.dtype: torch.float32
    key.dtype : torch.float32
    value.dtype: torch.float16
    смотрю на форумах у народа также после обновления те же проблемы
    upd: чтобы решить проблему, нужно снять галочку с Upcast cross attention layer to float32 в настройках