NTT研究員がllama.cppのWebGPUメンテナに—Chrome・SafariでローカルLLM高速化
30秒まとめ NTTは9月7日、OSSセンタの吉村仁志研究員がローカルAI推論エンジン「llama.cpp」のWebGPU担当メンテナに就任したと発表しました。ブラウザ上の行列積高速化やMoE対応への貢献が評価され、Ch … 続きを読む
NTT
30秒まとめ NTTは9月7日、OSSセンタの吉村仁志研究員がローカルAI推論エンジン「llama.cpp」のWebGPU担当メンテナに就任したと発表しました。ブラウザ上の行列積高速化やMoE対応への貢献が評価され、Ch … 続きを読む