nocproject.org

влил изменения из основной ветки в noc-ui

сначала прочитал наоборот

чуть не побег обновлятсо

уж лучше наоборот

все никак не могу понять почему когда натравиливаю скрипт на большое кол-во железок, всегда находится несколько, где он залипает, причем железки разные

в логах чисто?

в логах status=ERR_TIMEOUT, reason=Cancelled

это у шедулера

в логах активатора для той же железки и того же задания

Cancelling stale script Cisco.IOS.get_config

за следующий заход проходится по железке?

как сказать следующий. вот сегодня ночью он прошелся и забрал конфиг, а сейчас с утра я запустил для проверки и он не смог этого сделать

но зато забрал с других у кого не смог

это нормальная ситуация

смотреть надо, иногда действительно железки залипают

http://redmine.nocproject.org/boards/1/topics/2530?r=2560#message-2560

это связано только со встроенными скриптами? не хочется чтобы такое произошло для более важных задач

иконка у меню navigation не полностью уместилась

да, я вижу, немного срезана снизу

можно попробовать другую подложить

но в целом, look&feel уже приятный

на экране когда все табы закрыты, можно повесить большое красивое лого

dvolodin, про залипание скриптов. но это не нормально, по факту - поставленная задача не была выполнена

#2.18 с лого

zi_rus: если железка не отвечает, то лучше тупо прибить скрипт и запустить заново

что noc и делает

у железки банально VTY могут закончиться

или лимиты сработать

ок, но оно не запускает заново, оно отменяет и идет дальше

для конфига - да

в следующий раз заберет

для MRT указывается в качестве параметра количество попыток для map задач

dvolodin, нет смотрите, я поставил задачу, нок должен раз в сутки собирать конфиги со всех железок, результате я получаю, что из 260 цисок конфиги не получены с 4, почти 2% - при чем абсолютно случайные железки (что еще больше удручает). и это относится не тольк

о к сбору конфигов, запуск версион_инвентори на тех же объектах приводит к тому же результату около 2% не обработано как надо

погоди

сбор конфигов запусти каждые 300 секунд

что это изменит?

у него отдельное расписание для сбора конфигов

логику работы это у него изменит

это штатный режим работы

cm.pull_config запускается часто

и смотрит свое расписание

активаторов в пуле у тебя сколько?

1

значит система не справляется, 260 ssh'ей махом, это жестоко

сделай 4 активатора в пуле и поставь cm.pull_config раз в 300 секунд

и ограничь каждый для начала в 50 сессий

не понимаю как это повлияет на остальные скрипты

положительно повлияет

как минимум, будешь использовать все ядра сервера для парсинга регулярных выражений

о как

да

у python - green threads

да еще и GIL

каждый скрипт - отдельный thread в активаторе

и еще есть отдельный thread в котором весь I/O крутится

видимо у тебя при максимальной нагрузке лезут какие-то артефакты

активатор достаточно умный и часть проблем минимизирует внутренними механизмами

например, пытается отстрелить мертвые thread'ы

причем делается это еще тем хаком

надеюсь это не связано что сервер включен 100-мегабитным портом))

не связано

там все-таки TCP под SSH

можешь помониторить загрузку, я сомневаюсь, что он 100 мегабит ssh'а прокачает

так вот, если ты сделаешь пул - ты запустишь несколько процессов и в каждом из них будет меньше thread'ов

Добрый день :)

Как импортировать все мибы из local/share/mibs? sync-mibs не грузит

он их уже импортировал, если они там лежат

а так

./noc import-mib <path>

Так да :)

dvolodin, тогда можно маленький ликбез? а как создать 4 активатора на одоном сервере? у них будет одно имя? что указывать в свойствах managed object?

в noc-launcher'е в разделе активатор

config.0 = etc/noc-activator.conf

config.1 = etc/noc-activator.conf

ну и .2 и .3

имя у них одно, конфиг тоже один

редактирование профиля юзера починил, поиск заработал

остались какие-нибудь блокирующие факторы?

https://docs.google.com/document/d/1zGA1Czr3hpdIDj0b1Z_Ot9qTPPjEq3FjgU4R9X4pPxc/edit?hl=en_US

если только #5.1

dvolodin: Верхняя менюшка с именем профиля и название компании - не всегда показывается.

В iframe старые приложения не влязят. Режутся сверху.

dvolodin_: #2.13. Приложения режутся сверху. Даже при первом запуске.

#2.17 В хроме - пропадают все иконки, а не только у юзера

появляются только при релоаде

при закрытии таба - активным становиться самы первый таб. А не предыдущий активный.

по #2.13 в каких приложениях режется?

fm/events

kb/kb

asm/assigned Addresses (если пойти внутрь по префиксам

C r4821 попробуй

есть поправка в профиль небольшая

в профиль /sa/profiles/Huawei/VRP/get_mac_address_table.py

добавляет дергание маков с S23[[

добавляет дергание маков с S23ХХ

только в скрипте дебагом все отрабатывает норамльно а на жифой железке нет

точнее в вебморде

почему?

вот я сам хочу понять

может лог дать*

dvolodin_, http://pastebin.com/fJaApafZ дебаг

dvolodin_, cat /var/log/noc/noc-activator.0.log http://pastebin.com/wCYhHM2r

dvolodin_, я так понимаю он пытается по снмп версию получить и ем что то от этого ненравится

нет, это регулярное выражение не попало

начни с отладки get_version под эту платформу

dvolodin_: обновился - все хорошо :) Может не убирать breadcrumbs. Еще и туда-сюда можно ходить - удобно :)

KTO-TO_: да, я пока их вернул

и welcome немного отформатировал

на время хватит

dvolodin_, создал 4 активатора в конфиге лаунчера, теперь 9 железок оказались в пролете когда запустил версион_инвентори

посмотри в логах - сессий им хватало?

и SNMP настроен на них?

16 script threads (10000 max)

dvolodin_: Что значит - invalid префикс в ASM? Возникает, когда нажимаю на конкретный IPшник

в максимуме было 73 script threads (10000 max)

потом начало снижаться

dvolodin_,снмп не прописан в ноке, хотя на железках он есть, но это опять же не решит проблему со скриптами которые не могут по снмп получить данные

сделай 50

dvolodin_: А отчеты из-за breadcrumbs могли сломаться?

уже починил

dvolodin_, 50 max scripts?

да

пробую

кстати перед слиянием неплохо бы 4,1 исправить

2011-09-28 12:08:56,483 SCRIPT RESULT: script-10.21.133.5-Huawei.VRP.get_version

<ss_> {'platform': 'S2326TP-EI', 'vendor': 'Huawei', 'version': '5.70'}

вывод ./noc debug-script get_version 33-machin1p1

что непойму что не нравится то

dvolodin_, при 50 каждая третья оказалась в пролете

sa/profiles/Huawei/VRP/supported.csv имеет какое либо значение?

ss_: ./noc debug-script -c- get_version 33-machin1p1

zi_rus: поставь 100

dvolodin_, это дебаг с snmp?

да

dvolodin_, так 3 пролетело

linux у тебя?

Free

bsd]

SNMPv2-MIB::sysDescr.0 = STRING: S2326TP-EI

Huawei Versatile Routing Platform Software

VRP (R) software,Version 5.70 (S2300 V100R005C01)

Copyright (C) 2003-2010 Huawei Technologies Co., Ltd.

это парсер

rx_ver_snmp=re.compile(r"Versatile Routing Platform Software.*?Version (?P<version>[^ ,]+),?

.*?Quidway (?P<platform>(?:NetEngine\s+)?[^ \t\n\r\f\v\-]+)[^\n]+",re.MULTILINE|re.DOTALL|re.IGNORECASE)

как то не пойму как сделать так чтобы проверялась новая строка и не сломать старую проверку, новый профиль городить не хочу

можно сделать два разных регулярных выражения

как?

rx_ver_snmp1 =

просто добавит ниже x_ver_snmp=re.compile(r"blablabla

?

rx_ver_snmp2 =

а дальше так

match = self.find_re([rx_ver_snmp1, rx_ver_snmp2], s).search(s)

ога понял логику

спасибо шаз парсер тока нарисую и можно уже частично будет добавит еще одну серию коммутаров

да оно там и есть уже в этом скрипте

rx=self.find_re([rx_ver, rx_ver_snmp],v)

?

где есть то?

Так вот правильно будет? rx=self.find_re([rx_ver, rx_ver_snmp1, rx_ver_snmp2],v)

да

Спасибо!

dvolodin_: в IPAM не работает change_address.. Почему то выполнятся начинает view_vrf_index и выдает "Invalid prefix"

Кто-нибудь на Фре еще сталкивался с проблемой чтобы скрипты залипали на некоторых железках при запуске на большом кол-ве объектов ~300???

а то как-то непонятно, лезть ди мне в дебри тонкого тюнинга FreeBSD или надо вносить изменения в NOC

FD_SIZE для select() на фре какой?

polling_method = poll попробуй поставить в etc/noc.conf

а совсем в идеале, попробуй заставить работать kevent

он есть, но под макосом глючит неимоверно

запланируем на завтра слияние веток

если не будет обнаружено критичных багов

dvolodin_, polling_method = poll не помог. с polling_method = kevent тот же результат. что есть FD_SIZE и как его посмотреть (я не настолько хорошо знаю эту систему)?

оставь тогда poll

у активатора в логах есть что-нибудь?

у активатора как всегда Cancelling stale script Cisco.IOS.get_version

даже вот как

число 73 script threads (100 max) растет до 73

потом снижается, доходит до 4, висит 2 минуты и начинает Cancelling stale script

ну да

что в это время на железках происходит?

и dmesg посмотри

dvolodin_, как я посмотрю что на железках происходит?

в логах

и еще, у тебя там каких-нибудь firewall'ов по пути нет?

за syn-flood нас не держат?

dvolodin_, нету, голой пятой точкой с белым ip в сеть смотрит

dmesg на фре еще посмотри

там пусто

dvolodin_,можно ли какой нибудь дебаг включить чтобы активатор свою работу в файлик писал, чтобы посмотреть что происходит при залипании?

если только полный дебаг на нем

хоть так, как это сделать?

dvolodin_, log_cli_sessions = true - и в логах валится трейсбек

loglevel = debug

dvolodin_, кажись нашел

2011-09-28 14:50:33,863 [SSH: 1.1.1.1] on_read: '\r\n% Error in authentication.\r\n\r\ncatalyst>'

не смог получить enable

хм)

может у тебя что то теряется по пути

или без таймаутов иногда пролетает мимо

и железка не успевает словить enable pass

больше верю в таймауты

dvolodin_: Как починить ipam? :)

dvolodin_: Может подиагностировать чего?

а на другой железке даже обычный доступ не смогла взять

вопрос есть по get_version

там какие переменные есть

platform version и все?

серийник

и все?

как серийник пишется?

в смысле

vendor platform version attributes

то что по крайней мере имеется в профиле cisco.ios

# Object Vendor Plaform Version HW version Serial Number Boot PROM - вот так для длинков

жаль, для цисок серийник не пишет

сейчас распасрсить пытаюсь вывод

Вопрос как добавить в

return {

"vendor" : "Huawei",

"platform" : platform,

"version" : match.group("version"),

}

еще одну переменную с условием того что она может и отсутввовать

HW version

например

пилин, опять маков нет

посмотри у длинков

Канаш FTTB

2 33-machin1p1 Huawei S2326TP-EI 5.70 V100R005C01

версион инвертори допилил

маки тоже вроде

Сделал абсолютно чумовую штуку для peering management

Client Cone Analisys

позволяет оценить связность пира

и его уникальную связность

как пользоваться? :)

эх. слить ветки надо уже :)

А графики строить? :)

пока не надо - там urlresolver поломан...

гарфики связности ?

да :)

graphviz ?

или bgpviz ?

Например :)

про последний не знаю

http://www.ris.ripe.net/bgpviz/

Это который в реальном времени рисует? :)

тормозной но для первого раза просто срывает с катушек

А! ага :)))

ога

dvolodin_, что скажешь 2011-09-28 14:50:33,863 [SSH: 1.1.1.1] on_read: '\r\n% Error in authentication.\r\n\r\ncatalyst>'

zi_rus: а что я скажу

послала наш NOC вредная железка

ведь нок послал ей неправильный пароль

надо подумать, как отлавливать это

zi_rus: есть ли в том вина NOC'а?

он гонит все подряд и возможно захлебывается

сам причем

а может железка не успевает

1 раз успевает а второй раз нет?

а почему нет

никогда не видели как промт у циски тормозит чтоли?)

это видел, но тут не в этом дело

нок послал пароль когда его поросили

но послал что-то не то раз железка этого не приняла

ну вот когда я руками набираю пароль в консольке - если слишком быстро набираю, оно мне лупит что неверный пасс. Хотя верный)

а чуть помедленнее - прокатывает

повторюсь - руками.

опечатки ага

неа..

не проверишь

пароль заучен до автоматизма уже)

у меня тоже, но опечатки имеют место

все равно, приходим к тому что надо создать исскуственную задержку на неизвестном этопе

Huawei/VRP/get_mac_address_table.py никто не знает есть тут поиск по маку

вот кусок кода

for l in self.cli(cmd).splitlines():

match=rx_line.match(l.strip())

if match:

if vlan is not None and int(match.group("vlan_id"))!=vlan:

continue

if interface is not None and match.group("interfaces")!=interface:

continue

if mac is not None and match.group("mac")!=mac:

continue

r.append({

"vlan_id" : match.group("vlan_id"),

"mac" : match.group("mac"),

"interfaces": [match.group("interfaces")],

"type" : {"dynamic":"D","static":"S","learned":"D","Config static":"S","security":"security"}[match.group("type").lowe$

})

return r

добавил это if mac is not None and match.group("mac")!=mac:

continue

неработате

как сделать дебаг задав мак?

./noc debug-script ..... mac="'<mac>'"

dvolodin_, спасибо

так понял ошибку

адресс нужно отдавать как H-H-H MAC address

а не xx:xx:xx:xx:xx:xx

Не подскажете где и как конвертировать его?

from noc.sa.interfaces.base import MACAddressParameter

MACAddressParameter().clean(mac)

это для нормализации

а так s = mac.replace(":", "-")

мне наоборот надо отдавать адрес как h-h-h

2011-09-28 16:39:59,187 [script-10.21.133.5-Huawei.VRP.get_mac_address_table] cli(display mac-address 00:08:DC:E2:2E:61) returns:

---------

" ^\nError: Wrong parameter found at '^' position.\n"

s = "%s-%s-%s" % (s[:4], s[4:8], s[8:])

<dvolodin_> не совсем понял

еще надо не все тупо менять адреса а только если есть ошибка Error: Wrong parameter found

как в сиське

у нока же функция нормализации маков есть, чтобы с разных железок был единый вид в итоге

есть

яж говорю собираемые маки нормализуются

а вот чтобы сделать поиск по маку надо мак конвертнуть в h-h-h

но не во всем профиле а только если первый вариант не прошел

ибо изменения вносятся в рабочий профиль хуявей vpr

чтобы просто добавить еще одну поддердживаемую железку

даже не ону а серию из S2300 S3300 S5300

я слабы программер, мне проще новый профиль нарисовать чем менять существующий, но не хочется делать их сотни

в обратную сторону надо

>>> s = "12:34:56:78:9a:bc"

>>> s.replace(":", "")

'123456789abc'

>>> s = "12:34:56:78:9a:bc"

>>> s = s.replace(":", "")

>>> s

'123456789abc'

>>> s = "%s-%s-%s" % (s[:4], s[4:8], s[8:])

>>> s

'1234-5678-9abc'

>>>

dvolodin_, я не понял в какой части кода профиля Huawei/VRP/get_mac_address_table.py это написать

if mac is not None:

cmd+=" %s"%self.profile.convert_mac(mac)

вот есть строка

вот как то в ней надо сделать

ну да

там mac и покоцай

там надо как у циски если ошибка то коцать если нет то так как есть

лучше сразу покоцать

except self.CLISyntaxError:

cmd=cmd.replace("mac address-table","mac-address-table")

типа того

у киски это с другим связано

зачем сразу?

show mac address table

show mac address-table vs show mac-address-table

тут если я щаз покоцаю то не будет работаь профил vrp

т.е. совместимость пропадет

на хуавее надо сразу сконвертить мак из общепринятого до хуавеевского

хм а профиль что такой?

тогда как красиво порезать*

я же сказал

mac = mac.replace(":", "")

mac = "%s-%s-%s" % (mac[:4], mac[4:8], mac[8:])

if mac is not None:

cmd+=" %s"%self.profile.convert_mac(mac)

except self.CLISyntaxError:

mac = mac.replace(":", "")

mac = "%s-%s-%s" % (mac[:4], mac[4:8], mac[8:])

cmd+=" %s"%mac

так?

нееее

if mac is noc None:

mac = mac.replace(":", "")

mac = "%s-%s-%s" % (mac[:4], mac[4:8], mac[8:])

cmd += " %s" % mac

чем except не нравится?

профиль же совместимость потеряет

vpr

не потеряет

а, юблин

2011-09-28 17:06:14,412 SCRIPT RESULT: script-10.21.133.5-Huawei.VRP.get_mac_address_table

[{'interfaces': ['Eth0/0/24'],

'mac': '00:08:DC:E2:2E:61',

'type': 'security',

'vlan_id': 102}]

отработал но надо совместимость

лучше в профиль добавить convert_mac

except self.CLISyntaxError: это я как то не прально сделал

эээ это как?

сейчас

http://dpaste.com/622596/

вот патчик для профиля

и потом

if mac is not None:

cmd += self.profile.convert_mac(mac)

тьфу

cmd += " %s" % self.profile.convert_mac(mac)

r4828:86699b3bf726 в noc-ui

Client Cone Analysis для peer management

давай сливай ветки))

dvolodin_, работает

я тоже хочу посмотреть(

теперь впорос а как это отразится на другом железе huawei с профилем VPR

т.е. если мак должен передаватся железке как hh:gg:jj:kk:ll;aa

а не H-H-H

?

в веб морде все отлично!

)

но вопрос по совместимости остался

нормально оно схавает

ладно тогда оставлю

завтра проверю отсальные скрипты

remote: added 177 changesets with 2504 changes to 2342 files

неслабо так веточки разошлись

все, слил

noc-iu ?

смержил noc-ui и noc

и залил все в noc

попробуем завтра

можно обновлятсо ?

сейчас, потестирую сначала

ага я пока пошел снапшот виртуалки сделаю

прежний то интерфейс все ?

ну в ифрейме то старые аппликейшены то есть

или как то к нему вернуться можно ?

преждний - все

только огрызки в iframe

ага.

тогда таки придется плавно

dvolodin_, извиняюсь за выражение, но все ифреймы перекоебило

где именно?

все сместилось примерно на ширину бокового меню

а еще Cone Analisys вываливается с трейсбеком

http://pastebin.com/mXyQWYPR

и так и не починилось, что приходится делать рефреш когда логинишься под другим юзером

я вроде обновился

хоть и с проблемками

пропатчил их

zi_rus: проверть, что prefix_list_optimization есть в etc/noc.defaults

вроде взлетели в двух местах

можно сосредоточиться на отлове багов

и на том, для чего все затевалось - красивой и удобной морде для FM