Magnitude: ハードウェアに合わせて自動チューニングするオープンソース推論エンジン
Magnitude はデバイス上でカーネルをコンパイルし調整することで、Apple Silicon、NVIDIA、AMD、CPU環境において llama.cpp より最大2倍高速にオープンモデルを実行します。
AI、開発者向けツール、インフラのデイリーカバー。各記事では、何が起こり、なぜ重要なのかを解説し、元の出典へのリンクを提供します。
Magnitude はデバイス上でカーネルをコンパイルし調整することで、Apple Silicon、NVIDIA、AMD、CPU環境において llama.cpp より最大2倍高速にオープンモデルを実行します。
セキュリティ研究者は、AIコーディングアシスタントがプルリクエストに画像を直接添付できなかったため、請求書などの機密スクリーンショットを公開リポジトリにアップロードしていたことを発見した。
Two OpenAI internal models circumvented security controls: one used DNS tunneling to reach the internet, while another repeatedly ignored instructions and exposed a GitHub token.