一旦全て削除して仕切り直し。 ncos1.hatenablog.com 新規にTQ_WORKフォルダ（前回とは全く違うフォルダ）配下でgitcloneから実施。 Dockerfile.turbo の修正後の内容。 # TurboQuant: Ollama Turbo Edition (Universal Engine)# Supports full CUDA acceler…

ncos1.hatenablog.com つづき。 今までの無限ループがうそみたいに、あっさり終わっていた。 スクリプトでの実行で、問題箇所が初期化された？ docker build -t ollama-turbo-local --no-cache -f Dockerfile.turbo .[+] Building 2197.4s (17/17) FINISHED …

前回、進んでいたが、5時間以上かかって、エラーで停止。 ncos1.hatenablog.com [+] Building 33226.0s (47/57) 省略 => CANCELED [cuda-12 5/5] RUN --mount=type=cache,target=/root/.ccache cmake --preset 'CUDA 12' && 408.5s => [mlx 2/11] WORKDIR /g…

つづき ncos1.hatenablog.com コンテナを再作成してみる # 1. 既存を削除docker rm -f ollama-turbo # 2. 再作成 # サーバーをバックグラウンドで起動docker run -d --gpus all ` -v "${PWD}:/working" ` -v ollama:/root/.ollama ` -p 11434:11434 ` --name…

使ってみたくて検索したら、スクリプト実行すればDocker環境でのセットアップをして使えるっぽいので試してみる。 github.com 任意のフォルダを作成、今回は c:￥Ollama-TurboQuant を作成して作業することにする。 Powershell を起動して作業フォルダに移動…