Blog

Neueste Artikel

Tägliche Berichterstattung zu KI, Entwicklertools und Infrastruktur. Jeder Artikel erklärt, was passiert ist und warum es wichtig ist, inklusive Link zur Originalquelle.

Mit KI entwickeln

Warum LLMs auch bei Temperatur Null nicht deterministisch sind

Große Sprachmodelle liefern trotz fester Einstellungen unterschiedliche Ausgaben, was auf serverseitiges Batching und Änderungen in der Infrastruktur zurückzuführen ist. Ingenieure müssen deterministischen Code um probabilistische Modelle herumlegen, um...