为什么使用goroutines for循环会导致数据丢失

问题描述 投票:0回答:1

好,所以我有两位代码。首先是一个简单的for循环,效果很好

package main

import (
    "context"
    "encoding/json"
    "fmt"
    "log"
    "os"

    elasticsearch "github.com/elastic/go-elasticsearch/v7"
    "github.com/elastic/go-elasticsearch/v7/esapi"
    "github.com/mitchellh/mapstructure"
)

type Esindices struct {
    Health       string `json:"health"`
    Status       string `json:"status"`
    Index        string `json:"index"`
    Uuid         string `json:"uuid"`
    Pri          string `json:"pri"`
    Rep          string `json:"rep"`
    DocsCount    string `json:"docs.count"`
    DocsDeleted  string `json:"docs.deleted"`
    StoreSize    string `json:"store.size"`
    PriStoreSize string `json:"pri.store.size"`
}

func main() {

    var r []map[string]interface{}

    es, err := elasticsearch.NewDefaultClient()
    if err != nil {
        log.Fatalf("Error creating client: %s", err)
    }

    req := esapi.CatIndicesRequest{
        Format: "json",
        Pretty: false,
    }

    res, err := req.Do(context.Background(), es)
    if err != nil {
        log.Fatalf("Error getting response: %s", err)
    }

    defer res.Body.Close()

    if err := json.NewDecoder(res.Body).Decode(&r); err != nil {
        log.Printf("Error parsing the response body: %s", err)
    }

    indexSlice := make([]*Esindices, len(r))

    for i, element := range r {
        result := &Esindices{}
        cfg := &mapstructure.DecoderConfig{
            Metadata: nil,
            Result:   &result,
            TagName:  "json",
        }
        decoder, _ := mapstructure.NewDecoder(cfg)
        decoder.Decode(element)
        indexSlice[i] = result
    }

    thisisjson, err := json.MarshalIndent(indexSlice, "", " ")
    if err != nil {
      log.Fatal("Can't encode to JSON", err)
    }


    fmt.Fprintf(os.Stdout, "%s", thisisjson)

其中大部分是不言自明的,但只是为了澄清一下,我使用的是Elasticsearch客户端和api.cat.indices API,以获取本地Elasticsearch安装中所有索引的列表,然后将它们存储为数组map[string]interface{},然后在其上循环以将它们添加到结果结构的一部分。实际上,这很好,但是我要注意性能,尽管我不能提高请求本身的延迟,但是我当然可以提高循环的性能,至少我认为应该可以。

所以当我尝试以下操作时,我得到的结果很奇怪。

var wg sync.WaitGroup
defer wg.Wait()
for i, element := range r {
    wg.Add(1)
    go func(i int, element map[string]interface{}) {
        defer wg.Done()
        result := Esindices{}
        cfg := &mapstructure.DecoderConfig{
            Metadata: nil,
            Result:   &result,
            TagName:  "json",
        }
        decoder, _ := mapstructure.NewDecoder(cfg)
        decoder.Decode(element)
        indexSlice[i] = result
    }(i, element)
}

具体地说,问题是切片中元素的键的某些值是空的。这使我认为代码正在尝试将其添加到切片中,但是即使没有完成,它也会通过。

想法?

go struct goroutine
1个回答
2
投票

而不是defer wg.Wait,请在for循环末尾使用wg.Wait。您正在使用for循环完成后立即在for循环中使用goroutines构造的数据,并且在使用该数据之前,您不必等待所有goroutines完成。

使用defer wg.Wait时,等待在功能结束时发生。由于goroutine仍在运行,因此使用数据的for循环对不完整的数据进行操作。

在for循环结束时使用wg.Wait时,您首先要等待所有goroutine结束,然后使用它们生成的数据。

© www.soinside.com 2019 - 2024. All rights reserved.