Stable Diffusion FastSD CPU を使ってみる

git 参照

github.comcodeボタンを押してアドレス確認

sdxlcpu フォルダ作成

同フォルダでpowershell 起動して確認したアドレスをgit clone

git clone https://github.com/rupeshs/fastsdcpu.git

fastsdcpu が作成され配下にファイルがコピーされる。

fastsdcpu に移動して

./install.bat

しばらくダウンロードで時間がかかる。

メッセージが表示されたので

[notice] A new release of pip available: 22.3.1 -> 23.3.1
[notice] To update, run: python.exe -m pip install --upgrade pip

下記実施

python.exe -m pip install --upgrade pip

webui開始

./start-webui.bat

モデル等で約15GBがダウンロードされるので上記よりさらに時間がかかる。

作成時のプロンプト追記 2024/02/02

A cinematic shot of a baby racoon wearing an intricate italian priest robe

2024/03/09追記

画像保管場所

fastsdcpuフォルダ配下のresultsに画像とプロンプトや設定内容のjsonファイルが自動で保存されるので不要ならば適宜削除する事。

23secでこれ、CPUが高速ならもっと速いはず。

AMDだけど、OpenVINOで試してみる、初回は必要ファイル(約5GB)ダウンロードとコンパイルが発生するので時間がかかる。

12secAMDでも効果アリみたい?

OpenVINO に切り替える毎にコンパイルが実施され暫く待たされるので注意。

今後に期待(^^♪

 

2023/12/04 追記 下記設定に変更 約10sに短縮した。

元の設定メモってなかった( ノД`)シクシク…

LCM model stabilityai/sdxl-turbo
LCM LoRA model latent-consistency/lcm-lora-sdxl
LCM LoRA base model stabilityai/stable-diffusion-xl-base-1.0
LCM OpenVINO model rupeshs/sdxl-turbo-openvino-int8

Use locally cached model or downloaded model folder(offline)

にチェックを入れたら速くなった?、6-7sで作成。

タブの開きすぎでメモリ使用量が大きいので、ブラウザのfirefoxを閉じて、別のブラウザBraveでStable Diffusion FastSD CPUのみで実行、約6sで作成できたメモリも10GBほど空きが増えたのでメモリ容量がボトルネックとなっていた。

FireFoxも再起動でメモリ使用量が同等となり、速度も改善。

現在の環境ならSDXLのモデル使うなら、メモリたくさん使えるFastSDの方が有望かも。

CPU負荷は、50-60%で最適化が進めばもっと速くなると思われる。

 

2024/02/11 追記

そもそもの情報入手先、sdxlについて調べていたところ見つけた。

https://www.reddit.com/r/StableDiffusion/comments/186t0mw/fastsd_cpu_beta_21_sdxl_turbo_openvino_support_25/

redditで”FastSD CPU”検索した方が、google等よりは新しい情報がありそう。

https://www.reddit.com/r/StableDiffusion/search/?q=FastSD+CPU&type=link&cId=9f2964d0-f224-4e83-a534-cf35381dcd3a&iId=96d0eb14-841f-49a6-b627-a972e2c9e890

 

MODELデータのダウンロード(キャッシュ)先

C:\Users\ユーザー名\.cache\huggingface\hub\

配下にダウンロードされる、FastSD CPU インストール配下にして管理したいがベータ版でまだ改善中と思われるので現状は必要な場合逐次更新する方法なのだろうか?

コンフィグ等でいじれなさそう(見つけられない)なので時々情報を確認しておくしかなさそう。

ディスク容量が逼迫したら削除しよう( ..)φメモメモ

2024/03/05 追記

Devterm A06 で試行錯誤中、armのCPUでメモリ4GB以上でlinux動けばたぶん動く。

ncos1.hatenablog.com