Install Triton and Sage Attention on Windows with RTX 50XX

안녕하세요 모두님! Windows 11에서 RTX 5070Ti에 Triton과 Sage Attention을 성공적으로 설정하여 Wan2.1 생성 속도를 높였습니다. 이 가이드는 WSL을 사용하거나 Linux를 설치하고 싶지 않은 분들을 위한 것입니다. 자세한 내용은 아래 링크를 참조하세요:

https://github.com/woct0rdho/triton-windows/?tab=readme-ov-file

https://www.reddit.com/r/comfyui/comments/1j298vc/comfyui_not_recognizing_sageattention/

https://github.com/thu-ml/SageAttention/issues/107

1. 50XX 시리즈 GPU용 특별한 ComfyUI 버전을 다운로드하여 압축을 풀고, run_nvidia_gpu.bat 배치 파일을 실행하세요. 모든 의존성이 설치될 때까지 기다리세요.
   https://github.com/comfyanonymous/ComfyUI/releases/download/latest/ComfyUI_cu128_50XX.7z

2. MSVC 및 Windows SDK 설치

• 단계:

  • Visual Studio 다운로드에서 Visual Studio 2022를 설치하고, “C++를 사용한 데스크톱 개발”을 선택하세요.

  • PATH에 추가:

    • cl.exe 위치 찾기 (예: C:\Program Files (x86)\Microsoft Visual Studio\2022\BuildTools\VC\Tools\MSVC\14.43.34808\bin\Hostx64\x64)

    • PATH에 추가:

      cmd

      set PATH=%PATH%;C:\Program Files (x86)\Microsoft Visual Studio\2022\BuildTools\VC\Tools\MSVC\14.43.34808\bin\Hostx64\x64

    • 또는 시스템 > 고급 > 환경 변수 > “Path” 편집을 통해 영구적으로 설정하세요.

  • 테스트:

    • PowerShell을 열고 cl 입력

    • 기대 결과: Microsoft (R) C/C++ Optimizing Compiler Version 19.43.34808 for x64....

3. vcredist 설치

• 단계:

  • Microsoft에서 Visual C++ Redistributable (2015-2022)을 다운로드하세요.

  • vc_redist.x64.exe를 실행하여 설치하세요.

4. Triton 설치

• 단계:

  • Windows용 사전 릴리스 wheel을 설치:

    cmd

    cd ComfyUI_cu128_50XX\python_embeded python.exe -m pip install https://github.com/woct0rdho/triton-windows/releases/download/v3.2.0%2Bgit8f9b005b-windows.post11/triton-3.2.0+git8f9b005b-cp312-cp312-win_amd64.whl

5. Python 3.12.8 설치 및 ComfyUI 내장 Python 구성

• 이유: ComfyUI의 내장 Python은 Triton/Sage Attention을 위한 헤더 및 라이브러리가 필요합니다.

• 단계:

  • Python.org에서 Python 3.12.8 (Windows 설치 프로그램)을 다운로드하세요.

  • 임시 경로에 설치하세요 (예: C:\Python312).

  • include 및 libs를 ComfyUI의 내장 Python으로 복사:

    cmd

    xcopy C:\Python312\include C:\Data\ComfyUI_cu128_50XX\python_embeded\include

    xcopy C:\Python312\libs C:\Data\ComfyUI_cu128_50XX\python_embeded\libs

6. Sage Attention 1.0.6 설치

• 단계:

  • Sage Attention 1.0.6 다운로드: https://github.com/thu-ml/SageAttention/tree/sageattention-1

  • ComfyUI 폴더에 압축을 풀고, setup.py를 첨부된 파일로 교체하세요.

  • 내장 Python을 사용하여 설치:

    cmd

    cd C:\Temp\sageattention-1.0.6 \ComfyUI_cu128_50XX\python_embeded\python.exe setup.py install

설치 전/후 결과

• 테스트 환경: 512x512 i2v 동영상, 30 스텝, 41 프레임, 20 블록 스왑, UniPC 샘플러, Kijai의 master에서 제공하는 I2V 720p 8fp 모델 사용 https://huggingface.co/Kijai/WanVideo_comfy/tree/main

• SDPA Attention: ~27s/it.

• Sage Attention: ~14s/it.

• Sage Attention + TeaCache: ~8s/it