RTFM.WIKI

Ordnung muß sein. Ordnung über alles (18+)

User Tools

Site Tools


Sidebar


Навигация

Линкшэринг

ALARM!

Добавить новую страницу

You are not allowed to add pages
linux:nginx:ustats-module-backend-stats

Модуль ustats: статистика запросов к бэкендам

Источник - http://unixhome.org.ua/blog/nginx/370.html

Приветствую!

В этой статье речь пойдет о новом модуле для nginx'а, цель которого — сбор и предоставление пользователю статистики обращений сервера к бэкендам. Под катом — подробности, примеры использования, скриншоты, ссылки, а также история создания.

История

Не так давно в отделе поддержки серверов нашей компании пришли к выводу, что пора что-то менять. Если точнее, надо было решать проблемы с распределением возросшей нагрузки — наши фронты стали с трудом справляться со своей задачей.

При помощи JMeter'а мы погоняли на стенде nginx, HAProxy, Brocade Server Iron ADX 1000 и ряд других балансировщиков. Основным критерием отбора была возможность терминации порядка 50 тысяч одновременных ssl-сессий в пиковые периоды. После длительного тестирования по разным причинам отпали все варианты кроме nginx'а и его железного конкурента Brocade Server, а в итоге остался лишь первый из них. При прочих равных, наверное решающими факторами в пользу nginx'а стали гибкость его настройки и легковесность.

Проблема

Ранее в качестве балансировщика на некоторых фронтах у нас использовался HAProxy. После перехода на nginx стало ясно, что нам не хватает в нем сколько-нибудь информативной статистики работы с бэкендами. Дело в том, что у того же HAProxy была такая статистика, и с ее помощью мы отслеживали возникающие на бэкендах проблемы и оперативно на них реагировали. С новым балансировщиком мы оказались без этой статистики, как без рук. stub_status и подобные ему модули нам не подошли, т.к. их функция — показывать статистику не в разрезе отдельного апстрима, а сервера в целом. Нам же хотелось по каждому апстриму/бэкенду иметь данные по таким параметрам как количество обращений к каждому бэкенду и число ошибок HTTP 499/500/503 и TCP, причем позднее этот список расширился.

Решение

Поскольку готовых решений нашей проблемы мы не нашли, то была предпринята попытка написать модуль, который бы в наглядной форме выдавал нужную информацию. Попытка, как мне кажется, удалась, а результатом работы стал модуль ustats (upstream statistics).

Какая статистика?

С помощью ustats можно вести статистику по таким показателям бэкендов как

  • Количество запросов.
  • Число ошибок 499/500/503.
  • Количество HTTP таймаутов чтения и записи.
  • Число ошибок TCP соединений.
  • Таймер отказа (fail_timeout). В nginx'е этот параметр настраивается одноименной директивой и определяет период времени, в течение которого должно произойти подряд несколько неудачных обращений к бэкенду (точное количество указывается директивой max_fails), после которых бэкенд помещается в черный список, и обращений к нему не происходит еще в течение времени fail_timeout. Обычно администратор и сам в курсе, какие таймауты прописаны у него в конфиге сервера, но все же иметь их перед глазами показалось нам неплохой идеей.
  • Число неудачных попыток работы с бэкендом (fails count). Внутри nginx'а для каждого бэкенда ведется счетчик неудачных попыток работы. Это число показывает, сколько раз в течение времени fail timeout nginx попытался постучаться на бэкенд и потерпел неудачу (что считать неудачей, см. описание директивы proxy_pass). Принцип работы счетчика достаточно прост. Когда nginx собирается перенаправить запрос, он сначала смотрит, какой бэкенд следующий на очереди (если речь о балансировке round robin), проверяет его статус (в черном списке или нет), и если бэкенд «в игноре», сервер смотрит на время его последнего отказа. Если с того момента уже прошло время fail_timeout, то счетчик неудачных попыток для бэкенда сбрасывается, и запрос отправляется. Если же бэкенд не был в черном списке, то запрос направляется сразу, и счетчик может сброситься в зависимости от времени, которое прошло с момента первого неудачного обращения.
  • Максимальное количество неудачных обращений (max_fails). Определяет порог количества неудачных попыток работы с бэкендом, при достижении которого тот помещается в черный список на период времени fail_timeout. Этот параметр тоже прописывается в конфиге nginx'а, и его отображение в статистику мы добавили для наглядности.
  • Время последнего неудачного обращения к бэкенду. Его назначение должно быть понятно из предыдущих пунктов :)

Дополнительные функции

Еще ustats умеет показывать, какие бэкенды в данный момент находятся в черном списке. Отмечу, что под бэкендом понимается не то, что указывается в конфиге nginx'а директивой server, а непосредственно адрес, в который ресолвится указанное в директиве имя. Если за одним именем в DNS значится несколько адресов, то модуль показывает их как отдельные бэкенды (не забывая при этом указывать, из какого имени они получились).

Вдобавок к подсветке бэкендов из черного списка, ustats подсвечивает выключенные сервера, т.е. описанные в конфиге nginx'а как

...
server some.server.name down;
...

И наконец, с помощью модуля можно включать и выключать сервера из топологии nginx'а прямо во время его работы, через веб-интерфейс. Изменения не сохраняются в конфиге и призваны облегчить проведение тех. работ, предполагающих временное отключение бэкендов. Хочу предостеречь: никакой защиты от несанкционированного выполнения данного действия ustats не предоставляет, поэтому придется самостоятельно следить за тем, чтобы случайный человек не исключил из работы половину бэкендов на вашей площадке :)

Сценарии использования

Их два. Во-первых, модуль предоставляет всю статистику в виде веб-странички с таблицей, показ которой можно повесить на любую локацию, наподобие stub_status:

location /ustats {
	ustats on;
	...
}

Страничка автоматически обновляется, а интервал обновления (в миллисекундах) можно настроить в конфиге:

...
ustats_refresh_interval 7000
...

Второй сценарий предполагает использование модуля в качестве источника данных для других утилит мониторинга. В этом случае к нему делаются соответствующие запросы, в ответ на которые он возвращает обыкновенный xml с нужной информацией. Запросить можно данные по одному апстриму или по одному бэкенду. Например, запрос

/ustats?u=offline

вернет данные по всем бэкендам в апстриме offline, а по запросу

/ustats?u=break&b=the_mold

вернутся данные по бэкенду the_mold в апстриме break. Если апстрим или бэкенд не найден, в ответном xml об этом будет сказано.

Немного картинок

Чтобы не быть голословным, приведу несколько скриншотов странички-результата работы модуля. В nginx'е с первого снимка настроено 2 апстрима, в которых все сервера — локальные, поднятые на том же самом nginx'е, за исключением сервера www — он ресолвится в адреса Яндекса:

На снимке можно разглядеть серые строчки — это бэкенды, помеченные как «down»в конфиге nginx'а, либо выключенные через страницу модуля. Пока что никаких цифр.

На втором скриншоте красными строками выделены три бэкенды из первого апстрима, которые находились в черном списке, что предотвращало отправку к ним запросов.

Вкупе с тем, что еще три бэкенда были выключены, всю нагрузку принимал на себя единственный оставшийся.

Наконец, последний снимок сделан на рабочем фронтэнде с нашей площадки:

На картинке видно еще одну особенность, о которой я пока не упоминал. Апстримы снизу подсвечены чуть светлее — это признак того, что они определены в конфиге неявно, т.е. не так

upstream give_me_a_name {
  ...
}

а так
location /whereami {
...
proxy_pass http://192.168.0.75:8080
...
}

Итог

Мы выложили исходники модуля на страничке Google Code. В репозитории лежит файл патча для nginx'а, файл с исходником + конфигурационный файл. На страничке модуля есть инструкции по установке, там же описаны дополнительные директивы настройки. Текущая версия модуля была протестирована с nginx'ом версии 0.8.53 в браузерах Chrome, Firefox и Opera. Напоследок надо сказать, что ustats — лишь попытка добавить в nginx самый базовый механизм отображения данных по работе с бэкендами. В будущем хотелось бы видеть в основной ветке сервера такие небесполезные модули, как например, опережающий health check бэкендов.

Discussion

Enter your comment. Wiki syntax is allowed:
 
linux/nginx/ustats-module-backend-stats.txt · Last modified: 2013/08/16 19:14 (external edit)