腾讯公

此外，GMICloudInferenceEngine的底层调用GMICloud全栈能力，可直接调用英伟达H200、B200芯片，从硬件到软件进行了端到端的优化，极致优化单位时间内的Token吞吐量，确保其具备最佳的推理性能以及最低的成本，最大