PHI 3.5 mini struct
Procyon - AI Text Generation Benchmark
Co je AI Text Generation Benchmark?
Procyon AI Text Generation Benchmark testuje výkon hardware při generování textů s několika předpřipravenými modely LLM (Large Language Model) AI. Procyon ke svým testům využívá následující jazykové modely AI:
- PHI 3.5
- MISTRAL 7B
- LLAMA 3.1
- LLAMA 2
V případě těchto testů se jedná o testy jazykového modelu PHI 3.5, kterému je postupně zadáno celkem sedm dotazů (promptů) simulujících několik reálných případů použití a následně měřena doba odezvy.
