![見出し画像](https://assets.st-note.com/production/uploads/images/151928052/rectangle_large_type_2_d627375fb6adc7715e7c90c1c20eda2a.png?width=1200)
Pytorch2.4.0+cu12.4に内装されているCUDAの手動更新方法(※効果未知数)
最初に書いておきますが、効果に関しては完全に未知数です。自分では全く体感でわかりません…というレベルの話です。
CuDNNの手動更新方法については過去2回にわたって記事化し、特にPytorch2.3.1+Cu12.1以前のPytorchに対しては特にA1111のi2iにおけるVRAM削減効果が大きい為に、反響もそれなりに頂いていましたが、
(だからこそ、Kohya GUIでもオプションとしてCuDNN置き換えオプションがある)
Pytorch2.4.0には最初からCuDNN9.xが内装されている為、手動でCuDNNを更新する(※現時点の最新は9.3.0)ことに意味があるかも微妙ですが、
CuDNNにおいて単純にdllファィルの置き換えだけで手動更新できるなら、CUDAに関しても同様なのではないかと考えました。
(CUDAの手動更新にVRAM削減や高速化効果があるかは完全に別次元の話として、純粋に方法論として可能かという意味において)
CUDAの場合、更新すべきdllファイルの選定にやや手間が必要でしたが、
(間違えると完全にWebUIが起動しなくなる。しかし逆に言えば、だからこそ分かり易い)
Pytorch2.4.0+cu12.4に対して現時点最新のCUDA12.6用のdllファイルを適合させる方法はわかったので、記載します。
端的に結論から。
置き換えるべきdllファイルはCUDAをWindowsにインストール後に構成されるフォルダ内にある以下の8個です。
![](https://assets.st-note.com/img/1724579457972-AsQ84Lfjoq.png?width=1200)
置き換えるべき場所に関しては、CuDNNと同じです。上の記事を参照してください。
場所に関してはA1111、Forge、reForge、ComfyUI全てのWebUIに対して同様です。仮想環境がvenv形式かPortable形式かで、フォルダパスは微妙に違いますが。
現時点においては効果そのものよりも、これらの手動更新方法を知ることによって、PytorchにおいてCUDAとCuDNNがどのように内装されているかを理解できる…点に意味があると考えます。