見出し画像

PyTorch2.5.1をCUDA12.6+cuDNN9.5.1でソースからビルドしましたが

 前回、pytorch2.5.1をcuda12.4.1+cudnn9.5.1に対応させる形でソースからビルドし、環境を構築していましたがbitsandbytes以外はcuda12.6でも多分対応するのでは?と考えて、pytorch2.5.1をcuda12.6.2+cudnn(9.5.1)と共に再度ビルドしました。

 Ubuntu22.04.5上にドライバ(560.35.03)と共にcuda12.6.2及び別途nvidia hpc sdk24.9(コンパイラ等)をインストール。nvidia hpc sdkをインストールすればcuda12.6も一緒にインストールされますがpytorchのビルド時に環境変数を認識させやすいらしいので、cuda12.6.2は別途インストールしました。

 cmakeでC++コンポーネント等のビルド設定する際にコマンドラインで、cudaとcudnnの他にcudss0.3.0、cusparselt0.6.3、cutensor2.0.2.5、flash attention、mem eff attention、mimalloc、nvfuser、onnx(python)、magma-cuda12.6、triton(torch-triton3.1.0)、mkl、blas等を有効化させてビルドしました。

miniconda3、python3.11.10仮想環境上で認識

  ComfyUIで画像生成も問題なくできました。cuda12.6の方がcudnn9.5.1?か何かしらのcuda12.6向けのライブラリとの互換性が向上しているのか描写力が良くなった気がします。

 torchaudioのビルドがうまくいかなかった

 cuda12.6.2が原因なのか、ビルド設定がミスっているのか、FFmpegのバージョンに互換性がないのかtorchaudio2.5.1はビルドできず(cuda12.4.1の時はできた)、torchaudio2.5.0をソースからビルドしたら、pytorch2.5.1と"best match"が表示されてcuda12.6.2対応でビルドとインストールが完了しました。torchaudio2.5.1をcuda12.6.2でビルド成功した方がいたら方法を教えてください。

 

いいなと思ったら応援しよう!