見出し画像

Pytorch2.4.0+cu12.4に内装されているCUDAの手動更新方法(※効果未知数)

最初に書いておきますが、効果に関しては完全に未知数です。自分では全く体感でわかりません…というレベルの話です。

CuDNNの手動更新方法については過去2回にわたって記事化し、特にPytorch2.3.1+Cu12.1以前のPytorchに対しては特にA1111のi2iにおけるVRAM削減効果が大きい為に、反響もそれなりに頂いていましたが、
(だからこそ、Kohya GUIでもオプションとしてCuDNN置き換えオプションがある)

Pytorch2.4.0には最初からCuDNN9.xが内装されている為、手動でCuDNNを更新する(※現時点の最新は9.3.0)ことに意味があるかも微妙ですが、

CuDNNにおいて単純にdllファィルの置き換えだけで手動更新できるなら、CUDAに関しても同様なのではないかと考えました。
(CUDAの手動更新にVRAM削減や高速化効果があるかは完全に別次元の話として、純粋に方法論として可能かという意味において)

CUDAの場合、更新すべきdllファイルの選定にやや手間が必要でしたが、
(間違えると完全にWebUIが起動しなくなる。しかし逆に言えば、だからこそ分かり易い)

Pytorch2.4.0+cu12.4に対して現時点最新のCUDA12.6用のdllファイルを適合させる方法はわかったので、記載します。

端的に結論から。

置き換えるべきdllファイルはCUDAをWindowsにインストール後に構成されるフォルダ内にある以下の8個です。

置き換えるべき場所に関しては、CuDNNと同じです。上の記事を参照してください。

場所に関してはA1111、Forge、reForge、ComfyUI全てのWebUIに対して同様です。仮想環境がvenv形式かPortable形式かで、フォルダパスは微妙に違いますが。

現時点においては効果そのものよりも、これらの手動更新方法を知ることによって、PytorchにおいてCUDAとCuDNNがどのように内装されているかを理解できる…点に意味があると考えます。

この記事が気に入ったらサポートをしてみませんか?