新闻首页 / “2023年11月23日”的新闻
0
0
LLaMA 2端到端推理打通!来自中国团队
允中发自凹非寺 量子位公众号 QbitAI Buddy Compiler 端到端 LLaMA2-7B 推理示例已经合并到 buddy-mlir 仓库[1]主线。 我们在 Buddy Compiler 的前端部分实现了面向 TorchDynamo 的第三方编译器,从而结合了 MLIR 和 PyTorc