<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/">
  <channel>
    <title>OpenVINO on 現役エンジニアのAI事情</title>
    <link>https://www.engineer-labnote.top/tags/openvino/</link>
    <description>Recent content in OpenVINO on 現役エンジニアのAI事情</description>
    <generator>Hugo</generator>
    <language>ja-jp</language>
    <lastBuildDate>Sat, 12 Sep 2026 20:33:39 +0900</lastBuildDate>
    <atom:link href="https://www.engineer-labnote.top/tags/openvino/index.xml" rel="self" type="application/rss+xml" />
    <item>
      <title>謎のGPUエラーを追いかけたら「クラッシュしないのに70倍遅くなる」競合を見つけた話</title>
      <link>https://www.engineer-labnote.top/posts/202609122033-nazo-no-gpu-eraa-wo-oi-kaketara-kurasshu-shinainoni-70-bai-o/</link>
      <pubDate>Sat, 12 Sep 2026 20:33:39 +0900</pubDate>
      <guid>https://www.engineer-labnote.top/posts/202609122033-nazo-no-gpu-eraa-wo-oi-kaketara-kurasshu-shinainoni-70-bai-o/</guid>
      <description>&lt;img src=&#34;https://i.ibb.co/bjv5P0k9/6d58dedbe46c.png&#34; alt=&#34;謎のGPUエラーを追いかけたら「クラッシュしないのに70倍遅くなる」競合を見つけた話&#34; style=&#34;width:100%;max-width:720px;height:auto;display:block;margin:0 auto;border-radius:8px;&#34; /&gt;
&lt;h2 id=&#34;きっかけ前回発生した謎のgpuエラーを追いかける&#34;&gt;きっかけ：前回発生した謎のGPUエラーを追いかける&lt;/h2&gt;
&lt;p&gt;以前、X投稿のハッシュタグ生成(OpenVINOバックエンド、Qwen2.5-14B)で立て続けにGPUエラーが起きたことがあった。最初は&lt;code&gt;CL_OUT_OF_RESOURCES&lt;/code&gt;、リトライしたら今度は「32GB(34483056640バイト)のメモリ確保を要求したが、デバイスが対応する最大割り当ては12.5GB」という、明らかに異常な数値のエラー。その場ではハッシュタグを手動指定して切り抜けたが、原因はちゃんと調べていなかった。今回はこれを追いかけてみた。&lt;/p&gt;
&lt;h2 id=&#34;まずクリーンな状態で再現を試みる&#34;&gt;まずクリーンな状態で再現を試みる&lt;/h2&gt;
&lt;p&gt;素直に、何もGPUを使っていない状態でOpenVINO(Qwen2.5-14B-int4)を呼び出してみた。&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;パイプライン読み込み: 21.2秒&lt;/li&gt;
&lt;li&gt;生成: 0.6秒&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;普通に動く。エラーは一切出なかった。となると、あの時特有の「何か」が引き金だったはず。あの時は、Ollamaでの本文生成やimage_gen_server(Stable Diffusion)でのサムネイル生成など、GPUを酷使する処理を長時間繰り返した後にハッシュタグ生成(OpenVINO)を呼んでいたタイミングだった。そこで、実際にGPUを別プロセスに使わせた状態を意図的に作って、同じ状況を再現できるか試した。&lt;/p&gt;
&lt;h2 id=&#34;検証1-ollamaがgpu0にモデルを常駐させた状態&#34;&gt;検証1: OllamaがGPU0にモデルを常駐させた状態&lt;/h2&gt;
&lt;img src=&#34;https://i.ibb.co/7dtZDSBT/7406a1b30e47.png&#34; alt=&#34;GPU競合状態別の応答時間グラフ&#34; style=&#34;width:100%;max-width:720px;height:auto;display:block;margin:0 auto;border-radius:8px;&#34; /&gt;
&lt;p&gt;Ollamaでモデル(Gemma4-12B-Heretic)を明示的に常駐させたまま、同じOpenVINO呼び出しを実行してみた。結果、エラーにはならなかったものの、生成時間が0.6秒→&lt;strong&gt;41.4秒&lt;/strong&gt;と約70倍に膨れ上がった。クラッシュはしないが、実用にならないレベルまで極端に遅くなる、という挙動だった。&lt;/p&gt;
&lt;h2 id=&#34;検証2-image_gen_servergpu1syclが画像生成中の状態&#34;&gt;検証2: image_gen_server(GPU1・SYCL)が画像生成中の状態&lt;/h2&gt;
&lt;p&gt;Stable Diffusionの画像生成ジョブを投げ、処理が進行中のタイミングでOpenVINO呼び出しを試したところ、こちらは0.7秒とほぼ影響なし。OpenVINOの既定デバイス設定(&lt;code&gt;GPU&lt;/code&gt;、実質GPU.0)と、image_gen_serverが固定しているGPU1(&lt;code&gt;xpu:1&lt;/code&gt;)が別の物理GPUなので、単純には競合しなかったようだ。&lt;/p&gt;
&lt;h2 id=&#34;エラーの再現には至らなかった&#34;&gt;エラーの再現には至らなかった&lt;/h2&gt;
&lt;p&gt;結論から言うと、今回の検証では最初に起きた&lt;code&gt;CL_OUT_OF_RESOURCES&lt;/code&gt;や32GB要求エラーそのものは再現できなかった。分かったのは「Ollamaが同じGPUにモデルを常駐させていると、クラッシュはしないが劇的に遅くなる」という別の症状で、あの時のエラーはおそらくもっと限定的な条件——例えば長時間の連続テストで複数プロセスのキル・再起動を繰り返した末に、GPUドライバ側のメモリ管理状態が断片化・不整合を起こしていた、というような、狙って再現しにくい類の不具合だったのだと思う。&lt;/p&gt;
&lt;h2 id=&#34;結論&#34;&gt;結論&lt;/h2&gt;
&lt;ol&gt;
&lt;li&gt;&lt;strong&gt;クリーンな状態ではOpenVINOのGPUエラーは発生しない&lt;/strong&gt; — コード自体に恒常的なバグがあるわけではなさそう&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;Ollamaが同じGPUを使用中だと、クラッシュせず極端に遅くなる(約70倍)&lt;/strong&gt; — エラーという形で気づけないぶん、原因特定が難しい&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;物理的に別GPUを使っていれば競合は起きにくい&lt;/strong&gt; — image_gen_server(GPU1)とOpenVINO既定(GPU0)の組み合わせでは影響なし&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;元のクラッシュは再現できず&lt;/strong&gt; — 長時間・多プロセスの酷使の末に起きる、条件が絞り込みにくい類の不具合だった可能性が高い。長時間の負荷試験をした後にGPU関連のエラーが出たら、コードのバグを疑う前に、一度全プロセスを終了してGPU状態をリセットしてみるのも有効な対処法になりそう&lt;/li&gt;
&lt;/ol&gt;
&lt;p&gt;原因を完全に特定できたわけではないけれど、「クラッシュしないが劇的に遅くなる」競合パターンを1つ見つけられたのは収穫だった。すべての不具合が綺麗に再現できるわけではない、というのも実測してみて初めて分かることだと思う。&lt;/p&gt;</description>
    </item>
  </channel>
</rss>
