当前位置:资讯 > 正文
旷视科技发布轻量级LLM模型推理框架InferLLM
2023-07-28 16:17:35 来源: 鞭牛士


(资料图片仅供参考)

旷视科技发布全新轻量级LLM模型推理框架InferLLM,提供一个比llama.cpp更简单更容易上手的本地部署框架,助力大模型实现落地。

标签:

责任编辑: jkl2