Liquid AI、投機的デコード技術で視覚言語モデルを爆速化した「LFM2.5-VL-3B-DSpark」公開

Liquid AIが視覚言語モデル「LFM2.5-VL-3B-DSpark」を公開した。このモデルは、同社の軽量VLM「LFM2.5-VL-3B」に投機的デコード技術「DSpark」を適用したもので、性能を維持したまま推論速度を数倍に高速化することに成功している。投機的デコードは、小型のドラフトモデルで先読み生成を行い、メインモデルで検証する手法で、エッジデバイスでのVLM活用を加速させる技術として注目される。3Bパラメータという軽量さと高速化の組み合わせにより、リソース制約のある環境でのマルチモーダルAI活用が現実的になってきた。

本記事は外部記事の要約です。原典は次のリンクを参照してください。