Native DLA-Inferenz in Python auf Jetson AGX Orin ausführen
NVIDIA stellt cuDLA über cuda-bindings 13.3.0 für Python bereit und ermöglicht so hybride GPU-DLA-Workflows auf Jetson AGX Orin und RTX Spark Laptops.
Tägliche Berichterstattung zu KI, Entwicklertools und Infrastruktur. Jeder Artikel erklärt, was passiert ist und warum es wichtig ist, inklusive Link zur Originalquelle.
NVIDIA stellt cuDLA über cuda-bindings 13.3.0 für Python bereit und ermöglicht so hybride GPU-DLA-Workflows auf Jetson AGX Orin und RTX Spark Laptops.
Das llama.cpp-Projekt veröffentlicht Version 1.0.0 und führt stabile öffentliche APIs sowie erweiterte Vertriebskanäle für Entwickler ein, die private, gerätebasierte KI-Anwendungen erstellen.
Ein technischer Leitfaden erläutert, wie das 753-Milliarden-Parameter-Modell GLM-5.3 über zwei NVIDIA-DGX-Stationen hinweg bereitgestellt wird, unter Einsatz von Tensor-Parallelität, RDMA und vLLM.
Meta Reality Labs hat die QEMU-Unterstützung wiederbelebt, um das Cuttlefish-Virtual-Device-Framework nativ unter macOS auszuführen und damit Dual-Emulator-Setups überflüssig zu machen.
Amazon Bedrock AgentCore V2 nutzt MicroVM-Snapshots, um die Latenz beim Starten von Sitzungen zu reduzieren. Ingenieure können die Leistung optimieren, indem sie Initialisierungsarbeiten in die Build-Phase verlagern.
DeepSeek Harness fällt in den Terminal-Bench-Rankings zurück, da er automatisch Hintergrundjobs beendet. Dieses Verhalten widerspricht spezifischen Testanforderungen, obwohl es als Standardpraxis gilt.
Cloudflare startet Spend Management in der Beta-Phase, was Entwicklern ermöglicht, harte Obergrenzen festzulegen, die Dienste pausieren, wenn Budgets überschritten werden.
Eine technische Analyse der fünf Kernprimitiven, die erforderlich sind, um zustandsbehaftete, proaktive KI-Agenten zu entwickeln, die über mehrere Sitzungen hinweg ohne ständige Aufsicht operieren.
Claude Code Projects bietet nun einen proaktiven Koordinator, das Teilen von Threads im Nur-Lese-Modus sowie neue Verzweigungsbefehle für Pro- und Max-Nutzer.
Ungepatchte Check Point Security Gateways werden über PHP2Shell-Schwachstellen und eine neue lokale Privilegien-Eskalations-Lücke angegriffen, um die TSGA-Backdoor und Wiper-Malware zu installieren.
Neue Mior- und Skyfall-Angriffe ermöglichen es böswilligen Hosts, Geheimnisse aus durch AMD SEV-SNP geschützten VMs auszulesen. Firmware-Updates sind zur Abwehr erforderlich.
Anthropic hat eine private Beta für selbst gehostete Claude Managed Agents gestartet. Unternehmen können Server lokal betreiben, während strenge Lizenzkontrollen für Sicherheitsupdates und Telemetrie bestehen bleiben.
Das neue Open-Source-Modell Edge0-145B läuft auf persönlicher Hardware mit einem Spitzen-Speicherbedarf von 29 GB und ermöglicht komplexe Coding- und Reasoning-Aufgaben ohne Cloud-Abhängigkeiten.
Das llama.cpp-Projekt hat die Version 1.0.0 veröffentlicht, entfernt veraltete APIs, unterstützt nun Kimi-K3.1- und Ripple-Modelle und hat die Serversicherheit gehärtet.
Jensen Huang ist als CEO von NVIDIA zurückgetreten, nachdem der Vorstand eine Untersuchung seines persönlichen Verhaltens eingeleitet hatte. CFO Colette Kress übernimmt die Rolle der Interims-CEO.