AWS Machine Learning Blog· Sai Pavan Kasani·· 4 小时前
影响成本的四个 Amazon Bedrock 推理选项
Four Amazon Bedrock inference choices that affect cost
AI 导读
Amazon Bedrock 的推理成本受缓存时长、服务层级、推理努力和 maxTokens 四个请求级选项影响。
来源：AWS Machine Learning Blog · aws.amazon.com
影响成本的四个 Amazon Bedrock 推理选项