GNER-T5-XXL GGUF Q_8

GNER（Generative Named Entity Recognition）フレームワークは、未見のエンティティドメインにおいて強化されたゼロショット能力を発揮します。基本的には、FLAN-T5-XXLをCLIP、Flux、Krea、Chroma、HiDreamなど多くのモデルで利用できるように代替トレーニングされたテキストエンコーダーのGGUFバージョンです。

オリジナルモデルはこちら：https://huggingface.co/dyyyyyyyy/GNER-T5-xxl - こちらのQ_8は、そのリポジトリの直接量子化版です。

GNERとFLANの比較例：
プロンプト：ファム・ファタールが魅惑的な赤いドレスを着て、観客に向けてピストルを向けた、プロフェッショナルなRAW写真。近接ショット、暗い路地、真夜中。
GNERで作成：

FLANで作成：
...ご覧の通り、どちらが優れているかは芸術的な好みの問題です！