脱獄PS5で27BパラメータのLLMが動作、GPU活用で実用的な速度を実現

脱獄したPlayStation 5上で大規模言語モデルを動作させる「PS5LM」の派生版「PS5LM Plus」が登場し、27BパラメータのLLMを秒間約20トークンで実行できることが報告された。従来のPS5LMはCPUのみを使用していたが、PS5LM PlusではGPUを活用することで大幅な性能向上を実現。PCで広く使われるllama.cppを移植したもので、脱獄の進展次第ではPS5が暗号通貨マイニングのようにAI需要の対象となる可能性も指摘されている。ゲーム機の高性能GPUを別用途に活用する事例として注目される。

本記事は外部記事の要約です。原典は次のリンクを参照してください。