品玩4月8日訊,據(jù) AIbase 報道,Mozilla 最近通過其 Mozilla Builders 計劃推出了一款名為 LocalScore 的工具,旨在為本地大型語言模型(LLM)提供便捷的基準(zhǔn)測試。

該工具兼容 Windows 和 Linux 系統(tǒng),具有極大的潛力,成為了易于分發(fā)的 LLM 框架的重要組成部分。盡管 LocalScore 仍處于早期開發(fā)階段,但其表現(xiàn)已相當(dāng)不錯。LocalScore 是基于上周發(fā)布的 Llamafile0.9.2版本開發(fā)的,這一更新使得 LocalScore 成為一款實用的基準(zhǔn)測試工具,能夠在 CPU 和 GPU 上進(jìn)行大型語言模型的性能評估。

通過這一工具,用戶可以輕松測量 LLM 系統(tǒng)的性能,獲取快速且可靠的結(jié)果。

打開網(wǎng)易新聞 查看精彩圖片