0
0
英特尔发布推理微服务:为英特尔处理器调优LLM推理
IT 之家 10 月 14 日消息,英特尔今日宣布推出 Intel Inference Microservices 服务,这是一套面向大语言模型推理的容器化微服务方案,目标是让企业在已有的至强处理器上直接获得经过调优的模型推理能力,无需再花费数天时间进行手动硬件优化。 在该模式下,每个微服务都是一个




















