Thema · 147 Artikel

Mit KI entwickeln

RAG, Evaluierung, Inferenz, Fine-Tuning und LLM-Funktionen in Produktion bringen.

Mit KI entwickeln

Warum LLMs auch bei Temperatur Null nicht deterministisch sind

Große Sprachmodelle liefern trotz fester Einstellungen unterschiedliche Ausgaben, was auf serverseitiges Batching und Änderungen in der Infrastruktur zurückzuführen ist. Ingenieure müssen deterministischen Code um probabilistische Modelle herumlegen, um...