如何异步调用AWS Bedrock

问题描述 投票:0回答:1

有没有办法用Python SDK异步调用Bedrock claude3模型?

更具体地说,我希望将结果发送到 S3。

python large-language-model amazon-bedrock
1个回答
0
投票

批量推理是异步的,但处于预览状态。

© www.soinside.com 2019 - 2024. All rights reserved.