手机跑大模型提速 4-5 倍:微软亚研院开源新技术 T-MAC,有 CPU 就行
08月09日0评
手机流畅运行 470 亿大模型:上交大发布 LLM 手机推理框架 PowerInfer-2,提速 29 倍
06月12日0评