llama.cpp

30秒まとめ NTTは9月7日、OSSセンタの吉村仁志研究員がローカルAI推論エンジン「llama.cpp」のWebGPU担当メンテナに就任したと発表しました。ブラウザ上の行列積高速化やMoE対応への貢献が評価され、Ch … 続きを読む