Meta、アイドル状態のAI計算能力を活用し広告レコメンデーションを改善
Metaのエンジニアは、断片化したアイドル状態の推論容量を活用してより多くの広告をランキングし、ベースラインの遅延に影響を与えずにより優れたモデルを提供するシステムを構築しました。
AI、開発者向けツール、インフラのデイリーカバー。各記事では、何が起こり、なぜ重要なのかを解説し、元の出典へのリンクを提供します。
Metaのエンジニアは、断片化したアイドル状態の推論容量を活用してより多くの広告をランキングし、ベースラインの遅延に影響を与えずにより優れたモデルを提供するシステムを構築しました。
Kubernetes v1.34ではノードスワップ機能が一般提供(GA)段階に到達しました。これにより、高速なNVMe SSDを用いてアイドル時のメモリをページアウトし、AIワークロードにおけるPod密度を大幅に向上させることが可能になります。
Cloudflareは、Quicksilverを搭載した新モード「Workers KV Instant」を導入し、設定データに対する読み取り速度を100倍に向上させ、即時のグローバルレプリケーションを実現しました。
Googleは新フラッグシップモデル「Gemini 4 Argon」をリリースしました。このモデルは知識タスクや長文コンテキスト推論において競合を上回る性能を示していますが、コーディング結果にはばらつきがあり、利用範囲はまだ限定されています。
Kubernetesは部分的なデバイス障害に対するネイティブサポートを欠いており、エンジニアは高価なAIおよびMLトレーニングジョブのために独自の修復ロジックを構築せざるを得ない状況にあります。