pp-uie-7b本地单机多卡推理

[2324005245chen-glitch]

问题描述

paddlenlp版本3.0.0b4，本地部署模型pp-uie-7b，Taskflow只支持多卡，官方文档中，并没有描述多卡如何进行推理部署

[2324005245chen-glitch]

Taskflow只支持单卡

[a31413510]

目前只提供了单卡部署，如果有更多大模型需求，建议使用PaddleFormers：#11209

[github-actions]

This issue is stale because it has been open for 60 days with no activity. 当前issue 60天内无活动，被标记为stale。