.NET 6 api 中的流式响应在本地工作，但不在 Windows 上托管的 Azure Web 应用程序上工作

Question

我将服务作为 Azure Web 应用程序运行。问题是响应流没有被接收，因为它们是由应用程序发送的，而是大块的。我的假设是这是由于响应缓冲造成的。我的 .NET 6 API 托管在 Windows 操作系统上的 IIS 上的 azure Web 应用程序中。一切都在本地运行（使用本地 IIS 托管），但不在托管环境中运行。我尝试过以下方法 -

1. 在中间件中禁用响应缓冲。

var responseBodyFeature = context.Features.Get<IHttpResponseBodyFeature>();
if (responseBodyFeature != null) responseBodyFeature.DisableBuffering();

2. 通过在我的 .NET 6 api 中添加 web.config 来设置响应标头。

    <httpProtocol>
          <customHeaders>
              <!-- Disable response buffering -->
              <add name="Buffer" value="False" />
              <add name="X-Accel-Buffering" value="no" />
              <add name="Cache-Control" value="no-cache" />
          </customHeaders>
    </httpProtocol> 

3. 我已经检查过，中间没有 APIM 或代理会导致响应缓冲。

我的 .NET 6 Web api 中有以下代码 -

await foreach (var streamingResponse in response.Response.WithCancellation(canToken))
{
    foreach (var choice in streamingResponse.Choices)
    {
        yield return await Task.Run(() => choice.Text);            
        await Response.Body.FlushAsync();
    }
}

4. 也在下面考虑，但我不希望其他非流端点受到影响 -

    .UseKestrel(options =>
                    {
                        options.Limits.MaxResponseBufferSize = 2000
                    });

下面是调用 .NET 6 Web api 的客户端代码 -

        let config = {
            'method': "POST",
            'cached': false,
             headers: {
                'Content-Type': 'application/json',
                'Authorization': '<token>'
             },
             body: JSON.stringify(requestBody)
        };
        const response = await fetch(url, config);
        const reader = response.body.pipeThrough(new TextDecoderStream()).getReader();
        while (true) {
            const { value, done } = await reader.read();
            if (done) break;
            console.log(value);                
        }

Answer 1

如果将 Transfer-Encoding 响应标头设置为

identity

，则应该会成功。

您可以在 web.config 或代码中完成此操作。