OpenVINO

きっかけ：前回発生した謎のGPUエラーを追いかける 以前、X投稿のハッシュタグ生成(OpenVINOバックエンド、Qwen2.5-14B)で立て続けにGPUエラーが起きたことがあった。最初はCL_OUT_OF_RESOURCES、リトライしたら今度は「32GB(34483056640バイト)のメモリ確保を要求したが、デバイスが対応する最大割り当ては12.5GB」という、明らかに異常な数値のエラー。その場ではハッシュタグを手動指定して切り抜けたが、原因はちゃんと調べていなかった。今回はこれを追いかけてみた。 まずクリーンな状態で再現を試みる 素直に、何もGPUを使っていない状態でOpenVINO(Qwen2.5-14B-int4)を呼び出してみた。 パイプライン読み込み: 21.2秒 生成: 0.6秒 普通に動く。エラーは一切出なかった。となると、あの時特有の「何か」が引き金だったはず。あの時は、Ollamaでの本文生成やimage_gen_server(Stable Diffusion)でのサムネイル生成など、GPUを酷使する処理を長時間繰り返した後にハッシュタグ生成(OpenVINO)を呼んでいたタイミングだった。そこで、実際にGPUを別プロセスに使わせた状態を意図的に作って、同じ状況を再現できるか試した。 検証1: OllamaがGPU0にモデルを常駐させた状態 Ollamaでモデル(Gemma4-12B-Heretic)を明示的に常駐させたまま、同じOpenVINO呼び出しを実行してみた。結果、エラーにはならなかったものの、生成時間が0.6秒→41.4秒と約70倍に膨れ上がった。クラッシュはしないが、実用にならないレベルまで極端に遅くなる、という挙動だった。 検証2: image_gen_server(GPU1・SYCL)が画像生成中の状態 Stable Diffusionの画像生成ジョブを投げ、処理が進行中のタイミングでOpenVINO呼び出しを試したところ、こちらは0.7秒とほぼ影響なし。OpenVINOの既定デバイス設定(GPU、実質GPU.0)と、image_gen_serverが固定しているGPU1(xpu:1)が別の物理GPUなので、単純には競合しなかったようだ。 エラーの再現には至らなかった 結論から言うと、今回の検証では最初に起きたCL_OUT_OF_RESOURCESや32GB要求エラーそのものは再現できなかった。分かったのは「Ollamaが同じGPUにモデルを常駐させていると、クラッシュはしないが劇的に遅くなる」という別の症状で、あの時のエラーはおそらくもっと限定的な条件——例えば長時間の連続テストで複数プロセスのキル・再起動を繰り返した末に、GPUドライバ側のメモリ管理状態が断片化・不整合を起こしていた、というような、狙って再現しにくい類の不具合だったのだと思う。 結論 クリーンな状態ではOpenVINOのGPUエラーは発生しない — コード自体に恒常的なバグがあるわけではなさそう Ollamaが同じGPUを使用中だと、クラッシュせず極端に遅くなる(約70倍) — エラーという形で気づけないぶん、原因特定が難しい 物理的に別GPUを使っていれば競合は起きにくい — image_gen_server(GPU1)とOpenVINO既定(GPU0)の組み合わせでは影響なし 元のクラッシュは再現できず — 長時間・多プロセスの酷使の末に起きる、条件が絞り込みにくい類の不具合だった可能性が高い。長時間の負荷試験をした後にGPU関連のエラーが出たら、コードのバグを疑う前に、一度全プロセスを終了してGPU状態をリセットしてみるのも有効な対処法になりそう 原因を完全に特定できたわけではないけれど、「クラッシュしないが劇的に遅くなる」競合パターンを1つ見つけられたのは収穫だった。すべての不具合が綺麗に再現できるわけではない、というのも実測してみて初めて分かることだと思う。