Grok Pattern - для данных, разделенных запятыми

Question

Я пытаюсь захватить шаблон Grok для следующей записи данных:

- Один ряд -

0,2018-12-17 22: 40: 30.000,25980000,92, правда,0,400,33,0,2018-12-16 22:40:30.000,2018-12-17 05:53:30.000433,17 32,1,1,18,2018-12-17, Very Awake

-- Второй ряд --

1,2018-12-17 22: 41: 30.000,25980000,92, True,0,400,33,0,2018-12-16 22:40:30.000,2018-12-17 05:53:30.000433,17,32,1,1,18,2018-12-17,Awake

Вот мой рисунок Грока:

%{NUMBER:ID}%{NOTSPACE}%{TIMESTAMP_ISO8601:RecordedDateTimeStamp}*%{NOTSPACE}%{NUMBER:Efficiency}%{NOTSPACE}%{DATA:IsMainSleep}%{NOTSPACE}%{NUMBER:MinutesAfterWakeup}%{NOTSPACE}%{NUMBER:MinutesAsleep}%{NOTSPACE}%{NUMBER:MinutesAwake}%{NOTSPACE}%{NUMBER:MinutesToFallAsleep}%{NOTSPACE}%{NUMBER:SleepStartTime}%{NOTSPACE}%{NUMBER:SleepEndTime}%{NOTSPACE}%{NUMBER:TimeInBed"}%{NOTSPACE}%{NUMBER:RestlessCount}%{NOTSPACE}%{NUMBER:RestlessDuration}%{NOTSPACE}%{NUMBER:AwakeCount}%{NOTSPACE}%{NUMBER:AwakeDuration}%{NOTSPACE}%{NUMBER:AwakeningsCount}%{NOTSPACE}%{TIMESTAMP_ISO8601:DateOfSleep}%{NOTSPACE}%{DATA:SleepState}

Я не уверен, почему, но он не работает в инструменте Grok Debugger в Kibana.

Может кто-нибудь помочь мне понять, что не так с моим рисунком Грок?

заранее спасибо

Answer 1

В вашем шаблоне grok есть 18 полей, но в ваших записях данных есть 19 полей. Третье поле, имеющее одинаковое значение в обеих записях (25980000, это идентификатор работы?), Не учитывалось в вашем шаблоне.

Кроме того, у вас есть две другие временные метки, которые не были проанализированы как временные метки, и вам нужно привязать последнее поле, используя $, чтобы указать, где заканчивается каждое сообщение (где grok будет останавливаться, пытаясь сопоставить что-либо)

Попробуйте этот шаблон:

%{NUMBER:ID},%{TIMESTAMP_ISO8601:RecordedDateTimeStamp},%{NUMBER:jobId},%{NUMBER:Efficiency},%{DATA:IsMainSleep},%{NUMBER:MinutesAfterWakeup},%{NUMBER:MinutesAsleep},%{NUMBER:MinutesAwake},%{NUMBER:MinutesToFallAsleep},%{TIMESTAMP_ISO8601:SleepStartTime},%{TIMESTAMP_ISO8601:SleepEndTime},%{NUMBER:TimeInBed},%{NUMBER:RestlessCount},%{NUMBER:RestlessDuration},%{NUMBER:AwakeCount},%{NUMBER:AwakeDuration},%{NUMBER:AwakeningsCount},%{DATA:DateOfSleep},%{DATA:SleepState}$

Только что проверил здесь в моей лаборатории и получил такой результат:

{
"MinutesToFallAsleep": "0",
"MinutesAsleep": "400",
"AwakeningsCount": "18",
"TimeInBed": "433",
"AwakeDuration": "1",
"SleepEndTime": "2018-12-17 05:53:30.000",
"MinutesAfterWakeup": "0",
"RestlessDuration": "32",
"jobId": "25980000",
"MinutesAwake": "33",
"SleepStartTime": "2018-12-16 22:40:30.000",
"Efficiency": "92",
"AwakeCount": "1",
"IsMainSleep": "True",
"RestlessCount": "17",
"RecordedDateTimeStamp": "2018-12-17 22:41:30.000",
"DateOfSleep": "2018-12-17",
"ID": "1",
"SleepState": "Awake"
}