PyTorch2.5.1をCUDA12.6+cuDNN9.5.1でソースからビルドしましたが
前回、pytorch2.5.1をcuda12.4.1+cudnn9.5.1に対応させる形でソースからビルドし、環境を構築していましたがbitsandbytes以外はcuda12.6でも多分対応するのでは?と考えて、pytorch2.5.1をcuda12.6.2+cudnn(9.5.1)と共に再度ビルドしました。
Ubuntu22.04.5上にドライバ(560.35.03)と共にcuda12.6.2及び別途nvidia hpc sdk24.9(コンパイラ等)をインストール。nvidia hpc sdkをインストールすればcuda12.6も一緒にインストールされますがpytorchのビルド時に環境変数を認識させやすいらしいので、cuda12.6.2は別途インストールしました。
cmakeでC++コンポーネント等のビルド設定する際にコマンドラインで、cudaとcudnnの他にcudss0.3.0、cusparselt0.6.3、cutensor2.0.2.5、flash attention、mem eff attention、mimalloc、nvfuser、onnx(python)、magma-cuda12.6、triton(torch-triton3.1.0)、mkl、blas等を有効化させてビルドしました。
ComfyUIで画像生成も問題なくできました。cuda12.6の方がcudnn9.5.1?か何かしらのcuda12.6向けのライブラリとの互換性が向上しているのか描写力が良くなった気がします。
torchaudioのビルドがうまくいかなかった
cuda12.6.2が原因なのか、ビルド設定がミスっているのか、FFmpegのバージョンに互換性がないのかtorchaudio2.5.1はビルドできず(cuda12.4.1の時はできた)、torchaudio2.5.0をソースからビルドしたら、pytorch2.5.1と"best match"が表示されてcuda12.6.2対応でビルドとインストールが完了しました。torchaudio2.5.1をcuda12.6.2でビルド成功した方がいたら方法を教えてください。