FlashAttention VS Test

FelldudeFelldude
2
50
도구attentionflash attention
Test Tool12.9_CUDA_FlashAtten
model-image-0
model-image-1

세부 정보

파일 다운로드 (1)

모델 설명

FlashAttention VS Test

  • Test and Graphs attentions based on your system.

  • TO DO ADD Sage Attention

  • Comfy UI Users I recommend: 

cmd /k python main.py --fp32-text-enc --fp32-vae --bf16-unet --use-flash-attention

Note: The compiled version of flash attention also included is for Cuda 12.9

(Tested Working with COMFY UI)

이 모델로 만든 이미지