Можно ли запланировать StackDriver Logging для экспорта журнала?

Я новичок в Google Cloud StackDriver Logging и согласно этому документация StackDriver хранит журналы аудита доступа к данным в течение 30 дней. Также на той же странице упоминается, что размер записи журнала ограничен 100 КБ.
Мне известно, что журналы можно экспортировать Google Cloud Storage с помощью Cloud SDK, а также с использованием Библиотеки журналов на многих языках (мы предпочитаем Python).
У меня есть два вопроса, связанных с экспортом журналов:

  1. Есть ли способ в StackDriver запланировать что-то похожее на задачу или задание cron, которое продолжает автоматически экспортировать журналы в хранилище Google Cloud через фиксированный интервал времени?
  2. Что происходит с записями журнала, размер которых превышает 100 КБ. Я предполагаю, что они усекаются. Верно ли мое предположение? Если да, есть ли способ экспортировать / просмотреть полную (не усеченную) запись журнала?

person Amit Yadav    schedule 09.03.2019    source источник
comment
Для запланированного ведения журнала ... возможно, изучите возможность приемников журналов Stackdriver. Можно определить приемник таким образом, чтобы записи журнала автоматически переносились во внешний вид на скользящей основе по мере поступления новых записей журнала. Казалось бы, это избавляет от необходимости вести журнал по расписанию.   -  person Kolban    schedule 09.03.2019


Ответы (2)


Есть ли способ в StackDriver запланировать что-то похожее на задачу или задание cron, которое продолжает автоматически экспортировать журналы в хранилище Google Cloud через фиксированный интервал времени?

Stackdriver поддерживает экспорт данных журнала через sinks. Нет расписания, которое вы можете установить, так как все происходит автоматически. По сути, данные экспортируются as soon as possible, и вы не можете контролировать количество, экспортируемое в каждом приемнике, или задержку между экспортами. Я никогда не считал, что это проблема. Ведение журнала по замыслу не должно использоваться в качестве системы реального времени. Самый близкий вариант - погрузиться в PubSub, который имеет задержку в пару секунд (исходя из моего опыта).

Есть два метода экспорта данных из Stackdriver:

  1. Создайте экспортный сток. Поддерживаемые места назначения: BigQuery, Cloud Storage и PubSub. Записи журнала будут автоматически записаны в место назначения. Затем вы можете использовать инструменты для обработки экспортированных записей. Это рекомендуемый метод.
  2. Напишите свой собственный код на Python, Java и т. Д., Чтобы читать записи журнала и делать с ними то, что вы хотите. Планирование зависит от вас. Этот метод является ручным и требует вашего управления расписанием и пунктом назначения.

Что происходит с записями журнала, размер которых превышает 100 КБ. Я предполагаю, что они усекаются. Верно ли мое предположение? Если да, есть ли способ экспортировать / просмотреть полную (не усеченную) запись журнала?

Записи, превышающие максимальный размер записи, не могут быть записаны в Stackdriver. Вызов API, который пытается создать запись, завершится ошибкой с сообщением об ошибке, аналогичным (сообщение об ошибке Python):

400 Log entry with size 113.7K exceeds maximum size of 110.0K

Это означает, что слишком большие записи будут отброшены, если у писателя нет логики для обработки этого случая.

person John Hanley    schedule 09.03.2019

Согласно документации по ведению журнала драйвера стека, весь процесс выполняется автоматически. Приемник экспорта в облачное хранилище Google выполняется медленнее, чем подпаб / паб Bigquery и Cloud. ссылка на документацию

Недавно я использовал приемник экспорта для большого запроса, который лучше, чем облачный pub / sub, на случай, если вы не хотите использовать другое стороннее приложение для анализа журналов. Для Bigquery приемнику нужен набор данных, в котором вы хотите хранить записи журнала. Я заметил, что приемник создает таблицу bigquery на основе отметок времени в наборе данных bigqeury.

Еще одна вещь, если вы хотите запросить таблицы, разделенные метками времени, проверьте эту ссылку Устаревший SQL Функции и операторы

person rohit singh    schedule 16.04.2019