KI-Planung / CLEARBYTE

Token-Erzeugungszeit-Rechner

Bei positiver Ausgabelänge: Dauer = Zeit bis zum ersten Token + übrige Tokens ÷ Rate. Null angeforderte Tokens ergeben modelliert null Erzeugungszeit.

Isoliertes Werkzeug · Netzwerkzugriff gesperrt

Formel und Methode

If tokens > 0: seconds = first-token ms ÷ 1,000 + (tokens − 1) ÷ subsequent tokens/s.

Rechenbeispiel

EingabeWert
Ausgabe-Tokens501
Rate nach dem ersten Token50 tokens/s
Zeit bis zum ersten Token800 ms
Ergebnis
ErgebnisWert
Berechnete Erzeugungsdauer10,8 s
Berechnete Erzeugungsdauer0,18 min

Szenarien vergleichen

Die erste Eingabe ändert sich; alle anderen behalten die Beispielwerte. Dies sind Rechenszenarien, keine Prognosen.

Szenarien vergleichenAusgabe-Tokens Berechnete ErzeugungsdauerBerechnete Erzeugungsdauer
−19,96%4018,8 s0,1466666667 min
Beispiel50110,8 s0,18 min
+19,96%60112,8 s0,2133333333 min

Annahmen und Grenzen

Konstante Rate ist eine Vereinfachung. Vorverarbeitung, Warteschlangen, verborgenes Reasoning, Werkzeuge, Netzwerk und Last verändern die Latenz. Nutze eine Rate vergleichbarer Messungen; es gibt kein Modelltempo-Versprechen.

Angezeigte Ergebnisse sind gerundet. Gerechnet wird mit ungerundeten JavaScript-Zahlen; kleine Gleitkommaabweichungen sind möglich.

Läuft im Browser

Das interaktive Werkzeug läuft in einem isolierten Frame ohne Netzwerkzugriff. ClearByte und Werbeskripte können die Werte darin nicht lesen. Bösartige Browsererweiterungen und kompromittierte Geräte werden dadurch nicht abgesichert.

Quellen und Definitionen

Methode geprüft:

Mit einer verwandten Aufgabe fortfahren