ブラウザでローカルLLMの速度を測る

インストールなしで、このPCのGPUを使ってLLMを動かし、文章を生成する速さ(tok/s)を測ります。 モデルは Hugging Face からあなたのブラウザに直接ダウンロードされ、生成はこのPCの中だけで行います。 計測した速度の数値とGPUの名前は、ツール改善のため Google アナリティクスで集計します。

このブラウザの対応状況を確認しています…

この数字の読み方