Llama 3.1 405b Instruct Fp8

Meta · veröffentlicht 1. Jan. 2024

Llama 3.1 405b Instruct Fp8 AI model by Meta.

text128K ctxUnknown
67.0
Podium Score
#158 von 673
Arena Elo
50 t/s
Ausgabegeschwindigkeit
$0/M
Ausgabepreis
$0/M in
128K
Kontextfenster

Ergebnisse nach Quelle

Kategorie-Punkte

Benchmark-Ergebnisse

Modelldetails

Veröffentlichungsdatum1. Jan. 2024
ParameterUnknown
LizenzUnknown
Kontextfenster128,000 tokens
Eingabepreis$0/M
Ausgabepreis$0/M
Ausgabegeschwindigkeit50 t/s
Zeit bis zum ersten Token
← #157 Step 2 16k Exp 202412#159 Olmo 3.1 32b Instruct →