NTT研究員がllama.cppのWebGPUメンテナに—Chrome・SafariでローカルLLM高速化
30秒まとめ NTTは9月7日、OSSセンタの吉村仁志研究員がローカルAI推論エンジン「llama.cpp」のWebGPU担当メンテナに就任したと発表しました。ブラウザ上の行列積高速化やMoE対応への貢献が評価され、Ch … 続きを読む
ローカルAI
NVIDIAのローカルAI強化、推論最大1.9倍・PAIR公開—10月「RTX Spark」Windows PCで何が変わる？
30秒まとめ NVIDIAは2026年9月3日、IFA 2026に合わせてローカルAI向けの新展開を発表しました。llama.cppはGeForce RTX 5090で最大1.9倍のスループット向上、複数PCへ推論処理を … 続きを読む