Logstash анализирует файлы журналов по неправильному индексу

У меня есть экземпляр elasticsearch, который анализирует мои файлы журналов в соответствии с моим шаблоном регулярного выражения, который берет дату из файла журнала. Затем дату следует использовать в качестве шаблона индекса для целей поиска эластичных материалов. Вот где это неправильно. Мой logstash-pipeline-config-file выглядит следующим образом:

input {

beats {
        port => "5044"
    }

}

filter {
    grok {
        match => { "message" => "%{LOGGERLEVEL:log}%{PIPE:k}%{TIMESTAMP_ISO8601:datetime}%{GREEDYDATA:data}"}
    }
    date {
        match => ["datetime", "ISO8601"]
        timezone => "Europe/Helsinki"


    }

}
output {

    elasticsearch {
        hosts => ["localhost:9200"]
    }


}

LOGGERLEVEL и PIPE являются определяемыми пользователем регулярными выражениями. Эта версия анализирует журналы должным образом, но индексирует первые два часа дня до предыдущей даты. Если я изменю файл конфигурации следующим образом, elasticsearch вообще проигнорирует первые два часа:

input {

beats {
        port => "5044"
    }

}

filter {
    grok {
        match => { "message" => "%{LOGGERLEVEL:log}%{PIPE:k}%{TIMESTAMP_ISO8601:datetime}%{GREEDYDATA:data}"}
    }
    date {
        match => ["datetime", "ISO8601"]
        timezone => "Europe/London"


    }

}
output {

    elasticsearch {
        hosts => ["localhost:9200"]
    }


}

Как настроить конвейер так, чтобы один день индексировался целиком и под тем же индексом, что и дата, найденная в файле журнала?


person toubinaattori    schedule 27.03.2018    source источник
comment
Вы уверены, что первые два часа игнорируются при второй попытке? Я не ожидал этого, возможно, что-то еще пошло не так.   -  person tsg    schedule 06.04.2018
comment
Ах! Ты прав. Когда я использую второй вариант, индексирование выполняется правильно, но временные метки отстают на два часа. Я не знаю, почему индексация идет с 2 до 2 часов ночи, а не с полуночи до полуночи.   -  person toubinaattori    schedule 10.04.2018


Ответы (1)


Решил проблему. Используя кибану, перейдите в управление -> дополнительные настройки и измените формат dateFormat:tz на нужный формат. В моем случае я должен использовать вторую конфигурацию и выбрать Европу/Лондон в настройках kibana.

person toubinaattori    schedule 13.04.2018