トピック · 65 記事

オープン&ローカルAI

オープンウェイトモデル、オンデバイスAI、自分で管理するハードウェアでのモデル運用。

オープン&ローカルAI

Bespoke Labs、ローカル推論向け高速9B意思決定モデル「Nimble」をリリース

Bespoke Labsは、Qwen3.5-9Bからファインチューニングされたオープンウェイトの9B意思決定モデル「Nimble」をリリースしました。このモデルは、ローカルハードウェア上で100ミリ秒未満で構造化された質問に対する確率的な回答を提供します。

オープン&ローカルAI

Raspberry Pi 5でLiteRTを使いGemma LLMを実行する

Googleの2026年ガイドでは、LiteRTを使用してRaspberry Pi 5上でGemmaモデルを実行し、クラウド依存なしでロボティクスやエッジエージェント向けのリアルタイム推論を実現する方法が詳細に説明されています。