nocproject.org

Greetings.

dvolodin: привет

в db.noc.inv.networkchartstate два вида записей "state" и "chart"

вероятно state это как МО нарисован в chart?

да, в state координаты его и тип иконки

и к какому чарту привязан, правильно?

не справлюсь я с кодом, поробую пока искусственно накопировать чартов с одинаковой картой

*попробую

TSergey: посомтрю, реально ли сделать метод clone

спасибо

dvolodin: я придумал как временно решу проблему, буду по всем чартам для конкретного МО устанавливать "state" : {}

т.е. МО будет на всех картах в одном и том же месте, типа:

db.noc.inv.networkchartstate.update({"object" : "2" }, {$set: {"state" : { "y" : 370, "h" : 40, "w" : 40, "x" : 160 }}});

пока катит

один раз выставил, прочитал коллекцию, собрал апдейт

ну да, там так и надо

просто скопировать состояние

а, у новенького чарта стэйтов для мо нет

все непросто :)

TSergey: посмотрел

все тривиально на самом деле

делаешь новый NetworkChart

а дальше что-то типа такого

from s in NetworkChartState.objects.filter(chart=<old chart id>):

NetworkChartState(chart=<new chart id>, type=s.type, object=s.object, state=s.state).save()

и все у тебя переедет в новую карту

есть мелкая бага. В SA - MO - Interfaces выбираем интерфейс кнопка Metrics становится активной заходим смотрим выходим и

При выборе тогоже интерфейса кнопка Metrics уже неактивна. Надо закрыть и открыть Interfaces и при выборе интерфейса она опять станет активна.

dvolodin: не соображу какой модуль нужно еще импортнуть

как скриптом серийник железки вытащить?

именно скриптом?

ага

ща

через noc shell

Нет даже всё приложение MO приходится открыть и закрыть заново

bee27: from noc.inv.models import *

interface = Interface.objects.filter(name="System")

for i in interface:

subinterface = SubInterface.objects.filter(interface=i)

for s in subinterface:

name = str(i).split(':')[0]

m = ManagedObject.objects.get(name=name)

print j, m.name, m.get_attr("vendor","default"), m.get_attr("platform","default"), s.mac, s.ipv4_addresses, m.get_attr("Serial Number","---")

j+=1

типа так

спасиб. ща попробую

dvolodin: NameError: name 'NetworkChartState' is not defined

dvolodin, вот что нок смог за ночь сделать

http://pastebin.com/Cjz3jjg2

маловато будет

TSergey: они в noc.inv.models.....

zi_rus: посмотри на остальные

ifindex там есть?

ааа

да, наверное нет

скрипт только вчера поправили

dvolodin, хотя нет, для ASR9k индексы в базе должны быть, а их тут вообще нет в списке

а у меня их штук десять уже

>>> from noc.inv.models import *

>>> for s in NetworkChartState.objects.filter(chart = "1"):

... print s

...

Traceback (most recent call last):

File "<console>", line 1, in <module>

NameError: name 'NetworkChartState' is not defined

смотри в панели metrics вкладку debug

details?

TRACE:

Checking noc.pm.probes.generic.network.snmp_interface.SNMPInterfaceProbe.get_interface_load

Matched handler noc.pm.probes.generic.network.snmp_interface.SNMPInterfaceProbe.get_interface_load({'interface__ifindex': 13, 'snmp__ro': u'xxx', 'address': u'195.98.32.84'})

и все

ничем не отличается от тех что она собрала

посмотри коллекцию noc.pm.probeconfig

комрады, кто в монге сечет, что не так?

http://pastebin.com/MymiSYNU

почему "state" для второй записи не апдэйтится?

dvolodin, обильно http://pastebin.com/GduJ7ruM

с snmp community все нормально там?

да, одинаковый везде

сложно ошибиться

все в пофиле

zi_rus у меня появилась зелёная галочка и точно такойже трейс Checking noc.pm.probes.generic.network.snmp_interface.SNMPInterfaceProbe.get_interface_load ...

Возможно SNMP не на стандартном 161 порту или он закрыт сетевым экраном?

все стандартное до тошноты

посмотри tcpdump'ом

что туда улетает и что назад приходит

Мне тоже кажется что TRACE: Checking noc.pm.probes.generic......... Matched handler noc.pm.probes.generic.......

Сетевая проблема.

здрасте

Periodic Failed: peer.update_whois_cache:Any - а вот это у кого-то работает ?

и как отдебажить?

xetle, у меня такое же на железках откуда собиралось что-то, может это не проблема

А куда оно собиратся должно?

Если не график то хоть базу увидеть.

у меня каталога /opt/noc/pm/whisper/ вообще нет. Он сам должен появится?

И ещё, если с метрик сет поудалять лишние то в вкладках метрикс и детайлс всё остаётся...

tcpdump по поводу SNMP молчит, оно ничего не дёргает..

толи я настолько криворукий, толи монга у меня старинная, не хочет апдейтить больше одной записи

TSergey: смотри в логи канала, dvolodin что-то высказывался о монге < 2.6

не обновлял я монгу ни разу

помогите монгу обновить

TSergey, система?

убунта

apt-get`ом качнул

смущает, что всюду пишут install, не поломать бы настройки

настойки чего?

dvolodin, с tcpdump беда, но вот что я вижу в логах

2014-09-03 11:30:11,538 [io] SNMP GET [192.168.72.78] {'Interface | Load | In': '1.3.6.1.2.1.2.2.1.10.10101', 'Interface | Load | Out': '1.3.6.1.2.1.2.2.1.16.10101'}

TSergey: install в апте используется и для апгрейда отдельно взятых пакетов

то есть по логам нок мало запросов генерит сам по себе

независимо от каких либо проблем с сокетами

2014-09-03 11:29:11,790 [io] SNMP GET RESULT [192.168.72.78] {'Interface | Load | In': '1.3.6.1.2.1.2.2.1.10.10101', 'Interface | Load | Out': '1.3.6.1.2.1.2.2.1.16.10101'

} {'Interface | Load | In': 586665068, 'Interface | Load | Out': 670992680}

результат тоже приходит

дерни конфиг, посмотри, все ли он тебе отдал в нем

dvolodin, http://pastebin.com/FTP8HZ14

:) http://cs625230.vk.me/v625230576/7dd/qEiv4Oq3nUA.jpg

Всем првиеты

какие новые веяния в ноке?

заметил, что ветки feature/ наполнились активностью

Как дела с обнаружением свитчей? Или с lldp neighbors?

никак

зато теперь нок рисует графики

ну почти рисует

freeseacher, а ты с графиками как? нок найчился собирать?

не

у меня он что-то делает, но как-то стесняется

пока еще нет

до пятницы видимо и не собирусь

папка куда складывать данные уже 15М

виспер ?

да

а чо не церес ?

в интернете говорят церес лучше

я хз

виспер первый в списке был

dvolodin, надо помеять в списке :)

я вообще ни тот ни другой раньше не видел не слшал

как и я. до примерно месяца назад

поменял на церес

посмотрим

я вот еще с хранением не понял

что белать если некоторые данные мне хотелось бы агрегировать сильнее чем другие

например загрузка цпу или трафик хотелось бы побольше

а температура или свободная память меняются очень медленно их агрегировать бы посильнее

еще лучше

поставил в настройках церес

а не работает

2014-09-03 12:16:42,348 Setting storage class to 'whisper'

а что такое 2014-09-03 12:16:42,348 Setup listener pickle_listener enabled=False 0.0.0.0:2004

не помню кода миграции

видимо вариант `сменил тип хранилища` будет на канале напомнимать историю с удалением SAE

мля

неужели все так плохо

ну это полностью разные хранилища

ничем не похожи

данные из старого в новое как то над опеределать

ну пусть начнет заново писать в новую папку

в чем проблема

ну думаю так и есть

надо dvolodin поспрошать.

мне кажется оно надо просто дисаблить после создания

а ну не все стак плохо

теоретически сущетсуует тулза

convert-wsp-to-ceres

"<freeseacher> зато теперь нок рисует графики" здорово. Из серии "Я сделяль"

эм

внедрять новые фичи не доделав старые это noc-way =)

а ты что думал, в сказку попал?

обновил монгу, теперь апдейтит несколько записей

zi_rus: нет, я уже привык

просто наблюдаю издалека

dvolodin, допустим нок что-то собирает, как оценить его старания?

freeseacher, а чего теперь делать?

38247K

данных уже собрал

дык натрави на данные рисовалку

у меня нет

какую и как?

http://jondot.github.io/graphene/

вот эту

по мануалу этой штуки

расшифруйте пож-та трейс http://pastebin.com/nBWFJARS

./noc debug-script отрабатывает без ошибок

кто-то еще смог нарисовать график?

грефину еще и рубероид нужен

ахренеть

не, че-то как-то сложно настраивать только для просто посмотреть

bee27: у тебя твой скрипт отличается от того, который в репозитории

да. хочу в атрибуты сиснаме вписать

bee27: хм. как я тебе патч сделаю, если твоего скрипта не вижу

добавил

rx_sysname_35 = re.compile(

r"^\s*System Name\s*:\s*(?P<sysnamex>\S+)\s*$",

re.MULTILINE | re.IGNORECASE)

match = self.re_search(self.rx_sysname_35, show_system)

sysname = match.group("sysname")

если 2 последних строки убрать. без ошибок работает

match_sy = self.rx_sysname_35.search(sy)

if match_sy:

уже наисправлял

sysname = match.group("sysname")

else:

sysname = ""

ок

match_sy = self.rx_sysname_35.search(show_system)

if match_sy:

sysname = match_sy.group("sysname")

else:

sysname = ""

так вроде работает

Dmitry1: привет, посмотри, плс NOC-1429

там раскрытие скобок для DGS3100 и портчэналы

не работает. дебаг возращает

SCRIPT RESULT: EdgeCore.ES.get_version(chb-Sovhoz13p2, 10.21.1.24)

{'attributes': {'HW version': 'R01',

'Serial Number': '034003231',

'image': '1.4.20.15',

'sysname': 'chb-Sovhoz13p2'},

'platform': 'ES3528M',

'vendor': 'EdgeCore',

'version': '1.4.20.15'}

а через скрипт

{

"platform": "ES3528M",

"version": "1.4.20.15",

"vendor": "EdgeCore",

"attributes": {

"sysname": "",

"image": "1.4.20.15",

"Serial Number": "034003231",

"HW version": "R01"

}

}

пусто

весь скрипт http://pastebin.com/4U4fCT7G

zi_rus: http://pastebin.com/yqkEg7pt

положи куда-нибудь в /static и открой браузером

только пропиши метрики

freeseacher: с ceres я пока вот такую проблему вижу -- он не проводит аггрегацию сам, ее нужно делать каким-то внешним процессом

то есть какой-то код нужен еще

в bin вообще лежит convert-wsp-to-ceres

ага

конвертилка

Expected features such as roll-up aggregation and data expiration are not provided by Ceres itself, but instead are implemented as maintenance plugins in Carbon.

так вот, в моем понимании не должен карбон этим заниматься

:)

а виспер это сам делает ?

https://github.com/graphite-project/carbon/tree/megacarbon/plugins/maintenance

whisper сам делает

для ceres -- maintainance plugins в carbon

https://github.com/graphite-project/carbon/blob/megacarbon/plugins/maintenance/rollup.py

а третий тип хранилища у нас пока не реализован да ?

или ты совсем не хочешь его делать ?

можно подумать насчет монги

нее

я про прокси

а

когда нок тока собирает данные в цетральную системы

пока не делал, но все, что необходимо, есть

*у

у нас просто цм собрался сми собрать свою

на самом деле с ними еще веселее

ты в storage указываешь карбон

и проба будет бросать в него напрямую

а конфигуриться из NOC

там нет смысла даже проксировать

dvolodin, сетка открылась, а точек нет

./bin/whisper-fetch <имя файла>

dvolodin, http://pastebin.com/kpL5td6w

как-то криво она снимает

пара точек есть, остальное пропуски

bee27: sysname == fqdn ?

zi_rus: пробы сами нормально настроились?

dvolodin, чтоб я знал

Greetings

JoiOwen, hi

I have an old 0.6.2 nocproject I need to upgrade to 0.8; I'm looking for guidance on the best way to proceed. I can't find any installation instructions that work for anything older than 0.8.

JoiOwen, do you already got test install with full copy ?

We have an install someone did 4 years ago, and it's been in use all that time, so it has a lot of data in it I have to migrate.

you ought to make full copy. than try to migrate with hg pull -u

dvolodin, в vc.vc когда делаю первый поиск то все хорошо, когда другой номер влана набираю, нок уходит в себя и больше оттуда не возвращается, приходится таб с vc.vc закрывать и запускать заново

than ./scripts/post-upgrade

that you will got an errors

copy tham to pastebin.com

and try to solve each with google and that irc

I can go all the way from 0.6.2 to 0.8 in one step?

it will be pain

in my opinion mighation will lasts for at least one week

lost of manuals must be rewriten after upgrade

Manuals?

Dmitry1: sysname==hostname

internal manuals for coowokers, for example

Ah, well, we have no internal manuals that I am aware of. Just one set of guys used it and they taught themselves.

bee27: hostname берется из get_fqdn. зачем ты его пихаешь в get_version ?

для ежа нет этого скрипта

you will need mongodb

and x64 system for it

bee27, напиши

I have actually made a new VM to host 0.8 but I get errors doing simple things with it. I'm not sure it installed properly.

Like, "add group" works, but "delete group" through an exception.

that is expected behaviour

same with managed object

Ah, ok. I could find no mention of it in the forums.

:)

JoiOwen: whis kind of data in your installation? IPAM?

search term "noc wipe"

Yes, as far as I know we only use it for IPAM data. Circuit info, IP net range allocation, etc.

dvolodin, ой да не пофиг ли :)

один фиг миграция будет болью.

JoiOwen: You can face PostGIS installation issues, other part must be smooth enough

Yes, and the GIS features are why the engineers want to upgrade to 0.8.

;)

Ok, so 'noc wipe' can delete, for example, the group object I created and can not delete?

The web page for 'noc wipe' suggests it can only delete managed objects records and user records, but not groups, so no, probably not.

JoiOwen, what exact "GIS features" you meen ?

I am not sure. It is related to GEOIDs on IP Net ranges, and updating the big internet databases that allow other ISPs to look up what town(s) are customers are located in.

JoiOwen, yep. current version still cant delete group

I am just the linux admin that took over the host a few months ago, long after the guy that actually installed nocproject left the company.

And the Dev Group manager (and the CEO) want me to upgrade our nocproject ASAP for this GEOID project they're doing. So I have to make the old penguin waddle faster.

JoiOwen, there is no GEOIDs info in current version/

No latitude/Logitude data?

in IPAM ?

no

but what exactly you want ?

maybe it can be done with simple configuration

Hmm. There is a page 'geopoint' in the wiki that talks about GIS . Setup > SRS but the rest is in russion and my browser can't translate anything this morning, for some reason.

They want a place to store lat/lon data for circuit endpoints.

And to assign lat/lon data to specific net ranges, IE 172.16.10.* is in Champaign, 172.16.11.* is in Urbana, etc.

that data can be stored in simple char field ?

I don't think they need city/state names, just lat/lon. And yes, probably. The documentation the Dev manager found online suggested 0.8 could already do this, which is why I'm asked to upgrade it.

GIS in the documentation, etc.

it looks like you want just couple of custom field

in 0.8 you can simply add them

Ok. The GIS system in 0.8 is the ability to draw managed objects over a fixed map image?

yep

Ah! Ok.

but in my opinion that in early alfa preview

Yes.

Is NocProject written all in Python?

python + js

or is part of it in, say, C++?

Ok.

only external libs ob c++

*on

We have a good python developer here, I can ask him to look at issues with me. I have done very little python myself, I do everything in perl.

Ok.

и, кстати, а кто-нить живой из пользователей 0.8 (default) существует?

как там с багфиксами?

у меня в бою 0,8

но только не дефолт

0.8dev8989

JoiOwen: i guess the lack of js programers is greater here

zi_rus написал http://pastebin.com/ej3Y4MHt

JoiOwen: Linux, FreeBSD ?

JoiOwen: what i mean is that there could be (well, there are) interface issues and it's hard to fix w/out js/extjs knowledges.

JoiOwen: take a glance to develop branch

and inventory module

Thank-you for the help and your time, freesearcher. And Evyscr.

I'm old-school Unix, but I'm doing all linux here these days.

I downloaded tarballs of the different release tags, thinking those would be more stable.

всем привет!

очень нужна помощь!

я мозг сломал уже за весь день

ни кто не сталкивался с таким, что маршрутизатор с определенных компов перестает быть доступен. причем, в арпах есть мак адреса. делаю очистку арп кеша, доступность восстанавливается. но ненадолго.

через некоторое время роутер снова перестает пинговаться

конкретно в моем случае это прокурва 5820 (коммутатор на котором виланы терминируются)

DigitalHaos: для циски вариант решения твоей проблемы - это сделать один порт в access и запулить на нем cdp/lldp/mpls/ospf и т.п.

чтобы она сама слала пакетики со своим mac адресом

Dmitry1, а от чего такая проблема может быть вообще?

это вроде как костыль получается

костыль

но роутеры неохотно рассылают всякие broadcast/multicast и т.п.

такое чувство, что что-то срет в арп таблицу

наоборот.

arp таблица статична, а кто-то по пути очистил запись из fib

поэтому запрос идет по конкретному mac адресу, а его уже нету на промежуточной железке

как вариант - сделать время обновления arp таблицы меньше, чем время обновления fib

на длинках как костыль присутствует функция gratuitous_arp, которая позволяет самой железке время от времени рассылать RARP пакеты

DigitalHaos: смысл понятен?

а почему это стало происходить?

я тоже думал, таймер сделать 1 минуту

arp aging

просто что может стать причиной этого? все было супер.

не arp

arp тут не при чем

у тебя есть конкретный mac адрес железки

ты на него шлешь пакет

на промежуточной железке этого mac адреса нету

тут два варианта работы промежуточной железки в зависимости от настройки

1. разослать этот пакет во все порты, авось там найдется адресат

2. дропнуть этот пакет как "unknown unicast"

включение на роутере какой-то фичи, которая постоянно срет броадкастами в сеть, позволяет избежать этой проблемы

если у тебя не включен igmp snooping и блокирование мультикаста, то помогает включение ospf, dvmrp, pim и тому подобной фигни

нет. в момент проблемы на промежуточном коммутаторе адрес есть

dvolodin, а это нормально что нок после перезапуска начинает повторно делать опросы пробой, за минуту все опрашивает и замирает

не нормально

причем в pmwriter ничего не скидывает

dvolodin, вот лог пробы http://pastebin.com/94RN1mwc - как встала так уже 4 минуты тишина

а writer вообще остановился на

2014-09-03 22:57:30,676 [<ListenTCPSocket(0x8083c0c50, 0.0.0.0:2003)>] Initializing socket

хотя раньше пролетали иногда

2014-09-03 17:43:31,703 [writer-1] Writing object

трейсов нет и ничего нет?

2014-09-03 17:43:31,704 [writer-0] Creating metric object.

в логах этих демонов ничего нет

лог левел дебаг

а в других я даже не знаю где смотреть РМ у тебя самодостаточный

проба при этом за конфигом приходит?

и какие у тебя интервалы опроса?

dvolodin, интервал 1 минута

за конфигом приходит

успешно забирает

хотя один раз пролетело

2014-09-03 23:16:12,855 Cannot get config from http://127.0.0.1:8000/pm/probe/default/0/config/: HTTP Error 500: INTERNAL SERVER ERROR

но со второй попытки забрала

каждые пять минут конфиг забирает нормально

но кроме конфига больше ничего не делает

2014-09-03 23:16:22,868 Changing object ef2fe79c-048e-55ee-9a05-20ec102ce87e:

2014-09-03 23:21:23,093 Changing object 1b82e4a4-98b4-578b-9150-dc9d6c9fdf19:

2014-09-03 23:26:23,611 Changing object 75e2badd-624e-5af8-aa48-ea2f0b008e5d:

так, а попробуй добыть трейс от 500-й

dvolodin, 500 ошибка пролетеля за час всего два раза, курлом конфиг дергается нормально все время, возможно кроме каких-то моментов, которые даже не знаю с чем могут коррелировать

корку оно никуда не откинуло?

плохо то, что раз в час

он перестраивает конфиги с такой регулярностью

2014-09-03 23:16:12,855 Cannot get config from http://127.0.0.1:8000/pm/probe/default/0/config/: HTTP Error 500: INTERNAL SERVER ERROR

2014-09-03 23:51:22,815 Cannot get config from http://127.0.0.1:8000/pm/probe/default/0/config/: HTTP Error 500: INTERNAL SERVER ERROR

включил дебаг на нок веб, может повезет

иначе завтра придется tcpdump на мониторинг ставить

zi_rus: накати апдейты, там дополнительный дебаг