ncos1のブログ

適当にメモ代わりに残しています、間違い・説明不足等はコメントしてただければ修正・追記します。

Raspberry Pi5にOpenVINOをインストールしてStableDiffusion FastSD CPUで使用してみる

ここでインストール手順確認

Linux・PIPを選択

OpenVINO用仮想環境作成

python3 -m venv openvino_env

作成した仮想環境をアクティブ化

source openvino_env/bin/activate

アクティブ化した仮想環境のPIPをアップグレード

python -m pip install --upgrade pip

仮想環境にOpenVINOをインストール

pip install openvino==2025.0.0

OpenVINOにチェックを入れて実行

実行中

強制終了されてしまう。

OpenVINOは11GBメモリが必要だった

メモリ確認

free -h
               total        used        free      shared  buff/cache   available
Mem:           7.9Gi       1.7Gi       6.0Gi       392Mi       762Mi       6.2Gi
Swap:          199Mi       199Mi        16Ki

swapファイルを拡張してみる(2GBがMAXなので不足する?)

 

まず、swapを停止。
sudo dphys-swapfile swapoff
設定ファイル変更
sudo nano /etc/dphys-swapfile
CONF_SWAPSIZE=100の、数値を変更

2000に設定する。

swapファイルを再作成
sudo dphys-swapfile setup
作成したswap機能を有効化
sudo dphys-swapfile swapon
再起動
sudo reboot

再度実行したが、強制終了で結果変わらず。

設定で256X256のピクセル数にしてみる、メモリ容量が原因なら成功すると思われる。

NG変わらず。

モデルを変えてみる、srupeshs/sd-turbo-openvinoから”srupeshs/sdxs-512-0.9-openvino”に変更してみる

モデルダウンロード中

妖怪みたいになったが描画出来た。

OpenVINO使えてる。

妖怪になったのは、256X256のピクセル数のままで行ったため。

512x512で実行。

成功、まともなアライグマ。

モデルが異なるので単純比較出来ないが38秒と高速化された。

モデルによって使えない。(メモリ使用量の違いかな?)

現在選択できるOpenVINO対応モデル

rupeshs/sd-turbo-openvino    NG

srupeshs/sdxs-512-0.9-openvino    OK

rupeshs/hyper-sd-sdxl-1-step-openvino-int8  NG

rupeshs/SDXL-Lightning-2steps-openvino-int8  NG

rupeshs/sdxl-turbo-openvino-int8  NG

rupeshs/LCM-dreamshaper-v7-openvino  NG

Disty0/LCM_SoteMix  NG

rupershs/FLUX-1schnell-openvino-int4 NG

rupeshs/sd15-lcm-square-openvino-int8 NG

  ランタイムエラー

  RuntimeError: Exception from src/inference/src/cpp/core.cpp:121:
  Exception from src/inference/src/dev/core_impl.cpp:566:
  Device with "NPU" name is not registered in the OpenVINO Runtime

sdxsだけOKなので、やはりメモリー使用量かな?

rupeshs/sd15-lcm-square-openvino-int8はランタイムエラーなので別に問題がありそう。

 

検証したプロンプト

A cinematic shot of a baby racoon wearing an intricate italian priest robe.

 

OpenVINOのインストールはサンプル通りに実施したので、前回と別に仮想環境を作成した。

別にすると、

メモリ消費が増える?

問題が発生した場合は新規作成した環境を無効・削除せれば良い。

別環境なので安定化しやすいかも。

等が考えられるので、そのうち試したい。