ElasticSearch 6.2.4的filebeat-index-template.json

Question

我正在运行ElasticSearch 6.2.4。我试图创建Filebeat索引模板，但得到以下错误

{
  "error" : {
    "root_cause" : [
      {
        "type" : "mapper_parsing_exception",
        "reason" : "No handler for type [string] declared on field [message]"
      }
    ],
    "type" : "mapper_parsing_exception",
    "reason" : "Failed to parse mapping [_default_]: No handler for type [string] declared on field [message]",
    "caused_by" : {
      "type" : "mapper_parsing_exception",
      "reason" : "No handler for type [string] declared on field [message]"
    }
  },
  "status" : 400
}

filebeat-index.template.json

{
  "mappings": {
    "_default_": {
      "_all": {
        "enabled": true,
        "norms": {
          "enabled": false
        }
      },
      "dynamic_templates": [
        {
          "template1": {
            "mapping": {
              "doc_values": true,
              "ignore_above": 1024,
              "index": "not_analyzed",
              "type": "{dynamic_type}"
            },
            "match": "*"
          }
        }
      ],
      "properties": {
        "@timestamp": {
          "type": "date"
        },
        "message": {
          "type": "string",
          "index": "analyzed"
        },
        "offset": {
          "type": "long",
          "doc_values": "true"
        },
        "geoip"  : {
          "type" : "object",
          "dynamic": true,
          "properties" : {
            "location" : { "type" : "geo_point" }
          }
        }
      }
    }
  },
  "settings": {
    "index.refresh_interval": "5s"
  },
  "template": "filebeat-*"
}

我想知道是否有适用于ElasticSearch 6.2.4的官方filebeat-index-template.json

我试过的其他事情

• 试试filebeat -c "/etc/filebeat/filebeat.yml" export template > filebeat.template.json，但filebeat会一直运行而不会创建任何东西。
• 我试图将"type": "string"更改为"type": "text",，但是在_all被弃用时又出现了另一个错误。
• 我也尝试删除_all，但是当Logstash将数据发送到ElasticSearch时，ElasticSearch一直有解析错误。

Filebeat版本[旧]

我也试图找出我的Filebeat的版本。我试过了

> filebeat -v
Loading config file error: Failed to read /root/filebeat.yml: open /root/filebeat.yml: no such file or directory. Exiting.

> filebeat -v -c "/etc/filebeat/filebeat.yml"
(it struck forever) 

我正在关注这个https://www.digitalocean.com/community/tutorials/how-to-install-elasticsearch-logstash-and-kibana-elk-stack-on-ubuntu-14-04，但我没有使用ElasticSearch 2.0和Kibana 4.5，而是安装ElasticSearch 6.2.4，Kibana 6.2.4和Logstash 6.2.4以及Ubuntu 16.04.4 LTS

升级到Filebeat 6.2.4

现在我将Filebeat升级到6.2.4。现在我收到了这个错误

Exiting: Could not start registrar: Error loading state: Error decoding states: json: cannot unmarshal object into Go value of type []file.State

我通过rm /var/lib/filebeat/registry删除了这个错误。现在我可以做filebeat export template > template.json，它现在工作正常。我很快就会结束这个问题。

Answer 1

尝试将此弹性6.0修改过的json用于filebeat-index.template.json

{
  "mappings": {
    "_default_": {
      "dynamic_templates": [
        {
          "template1": {
            "mapping": {
              "doc_values": true,
              "ignore_above": 1024,
              "index": "false",
              "type": "{dynamic_type}"
            },
            "match": "*"
          }
        }
      ],
      "properties": {
        "@timestamp": {
          "type": "date"
        },
        "message": {
          "type": "text",
          "index": "true"
        },
        "offset": {
          "type": "long",
          "doc_values": "true"
        },
        "geoip": {
          "type": "object",
          "dynamic": true,
          "properties": {
            "location": {
              "type": "geo_point"
            }
          }
        }
      }
    }
  },
  "settings": {
    "index.refresh_interval": "5s"
  },
  "template": "filebeat-*"
}

基本上我将消息类型从字符串更改为文本。同样从弹性6.0开始，索引字段使用true或false，而不是分析。

运行此命令后（如上面提到的blog中所示）：

curl -XPUT 'http://localhost:9200/_template/filebeat?pretty' [email protected] -H 'Content-Type: application/json'

我设法从弹性中得到了正确的确认：

{ 
  "acknowledged" : true
}

我还没有测试过，但请告诉我它是否适合您。

您可能会注意到_all模板也从原始json中删除。为什么？显然它是depreciated in elastic 6.0并且有很多方法可以使用copy_to而不是here中的建议，但我还没有想出来。

Answer 2

生成模板时，您应该能够使用--es.version 6.2.4，以便为您的elasticsearch版本输出适当的映射。

查看Load the template manually (alternate method)的说明。他们为windows显示以下示例，但它也可以在linux中运行。

PS > .\filebeat.exe export template --es.version 6.6.2 | Out-File -Encoding UTF8 filebeat.template.json