StoryLab [4.0] [py] - Silnik Interaktywnej Narracji LLM [textGen] [only Polish language]

StoryLab to lokalne narzędzie do tworzenia narracji z wykorzystaniem konkretnego modelu językowego. (wersja stabilna. proces myślenia modelu po polsku. model zwraca tekst po polsku)(narzędzie napisane wyłącznie dla modelu lokalnego Bielik-11b-v3.0-instruct Q5_K_M, LM Studio)

Zmiany w wersji [4.0]

• teraz [fast] funkcjonuje w trybie fabuły ciągłej. Możesz dynamicznie wpływać na fabułę wpisując własne teksty albo używając proste polecenia typu: kontynuuj, co dalej. W przypadku wyboru prostych poleceń model zacznie kontynuować fabułę od miejsca, w którym ją zakończył,

• pojawił się suwak temperature. Teraz możesz ręcznie ustawić dla wszystkich trybów wartość temperature i obserwować zmiany w narracji. Temperature zmieniaj przed wysłaniem tekstu,

• dodany został licznik % wykorzystania Context Length modelu. Po zakończeniu generowania tekstu pojawia się podsumowanie,

• brak pamięci semantycznej, nie jest ona potrzebna,

• zachowany został tryb myślenia,

• użytkownik ma do wyboru cztery style: -domyślny styl modelu, -horror, -fantasy oraz -sci-fi,

• użytkownik ma do wyboru trzy tryby generowania fabuły: -fast, -normal oraz -creative. Tryb kreatywny generuje fabułę w trzech rozdziałach, uzupełniając ją o tytuł.

Skrócona instrukcja obsługi:

• wybierz jeden z trybów generowania tekstu,

• wybierz jeden z czterech styli generowania tekstu. Jeżeli nie wybierzesz stylu -horror, -fantasy, -sci-fi, wówczas model bazuje na własnym domyślnym stylu i nie korzysta z bazy danych,

• ustaw wartość temperature albo pozostaw ją domyślną,

• w momencie wyboru konkretnego stylu, model zaczyna korzystać z bazy danych zawierającej wskazówki, inspiracje w jakim kierunku ma prowadzić fabułę,

• wpisz tekst i [Generuj Fabułę].

Możesz modyfikować zawartość folderu /knowledge. Znajdują się tam następujące pliki: horror.json, fantasy.json oraz sci-fi.json. Możesz dodawać własne wpisy tylko nie przesadzaj z ich ilością. Istotne jest to, aby przestrzegać kluczowej zasady: nie mieszaj ze sobą styli.

Podgląd Lore (konfiguracja .json) w GUI możliwy jest dopiero po wybraniu konkretnego stylu.

Ogólne Ograniczenia:

• generator został napisany i testowany tylko dla modelu Bielki,

• naturalne ograniczenia w zakresie context length,

• po pewnym czasie w trybie [fast] (fabuła ciągła) zauważysz, że model zaczyna gubić małe fabularne detale. proces ten będzie z czasem narastał,

• nie posiada pamięci,

• model lokalny ogranicza jakość i spójność,

• za każdym razem model wygeneruje odmienna ale narracyjnie zbliżoną fabułę jeżeli wprowadzisz ten sam tekst.

Jak to:

• pobierz .zip, rozpakuj go,

• musisz posiadać zainstalowane LM Studio, model lokalny bielik-11b-v3.0-instruct Q5_K_M oraz poprawnie zainstalowany Python,

• załaduj model bielik w LM Studio,

• długość Context Length (Context Window) ustaw na 8192,

• następnie uruchom server lokalny w LM Studio. Kliknij na ikonkę [developer], następnie server start,

• teraz kliknij install.bat celem zainstalowania potrzebnych requirements,

• teraz kliknij start. bat,

• pojawi się proste GUI w którym wpisujesz swoje polecenia.