--run 才会实际启动。Arka 会报告能力假设,并在启动进程前拒绝不支持的组合。后端标志属于实验性,必须结合已安装的运行时版本与硬件进行验证。Documentation Index
Fetch the complete documentation index at: /llms.txt
Use this file to discover all available pages before exploring further.
检测能力并规划实验性的多 GPU 配置。
arka backend capabilities vllm
arka backend capabilities exo --json
arka backend profile vllm --model my-model --gpus 2 --flash-attention
arka backend profile exo --model my-model --gpus 4 --row-split --co-engine ds4
--run 才会实际启动。Arka 会报告能力假设,并在启动进程前拒绝不支持的组合。后端标志属于实验性,必须结合已安装的运行时版本与硬件进行验证。