Community maintained hardware plugin for vLLM on Ascend
Pythonapache-2.0ascendinferencellmllm-serving
在 GitHub 查看
2K
stars
推荐理由
README 将它定位为「Community maintained hardware plugin for vLLM on Ascend」,核心价值是把 README 中描述的能力做成可以直接评估的开源实现。它有一定社区验证,同时仍保留发现潜力,license 清晰,主要技术栈是 Python,适合作为「同类问题选型」的候选项目。
注意事项
README 摘要信息有限,发布前建议再人工扫一遍文档;展示前建议跑通 README quickstart,并确认部署成本、外部依赖和数据安全边界。
这个推荐有帮助吗?