forked from xcme/dracon
-
Notifications
You must be signed in to change notification settings - Fork 0
/
Copy pathdracon.py
executable file
·966 lines (850 loc) · 55.5 KB
/
dracon.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638
639
640
641
642
643
644
645
646
647
648
649
650
651
652
653
654
655
656
657
658
659
660
661
662
663
664
665
666
667
668
669
670
671
672
673
674
675
676
677
678
679
680
681
682
683
684
685
686
687
688
689
690
691
692
693
694
695
696
697
698
699
700
701
702
703
704
705
706
707
708
709
710
711
712
713
714
715
716
717
718
719
720
721
722
723
724
725
726
727
728
729
730
731
732
733
734
735
736
737
738
739
740
741
742
743
744
745
746
747
748
749
750
751
752
753
754
755
756
757
758
759
760
761
762
763
764
765
766
767
768
769
770
771
772
773
774
775
776
777
778
779
780
781
782
783
784
785
786
787
788
789
790
791
792
793
794
795
796
797
798
799
800
801
802
803
804
805
806
807
808
809
810
811
812
813
814
815
816
817
818
819
820
821
822
823
824
825
826
827
828
829
830
831
832
833
834
835
836
837
838
839
840
841
842
843
844
845
846
847
848
849
850
851
852
853
854
855
856
857
858
859
860
861
862
863
864
865
866
867
868
869
870
871
872
873
874
875
876
877
878
879
880
881
882
883
884
885
886
887
888
889
890
891
892
893
894
895
896
897
898
899
900
901
902
903
904
905
906
907
908
909
910
911
912
913
914
915
916
917
918
919
920
921
922
923
924
925
926
927
928
929
930
931
932
933
934
935
936
937
938
939
940
941
942
943
944
945
946
947
948
949
950
951
952
953
954
955
956
957
958
959
960
961
962
963
964
965
966
#!/usr/local/bin/python3
import hashlib
import logging
import socket
import sys
import time
import inspect
from logging.handlers import RotatingFileHandler
from math import ceil
import psycopg2
import pymysql
import jinja2
from daemon import Daemon
from dconfig import *
import dfunc
# Настройка системы логирования сообщений
log_handler = RotatingFileHandler(log_file, maxBytes=log_size, backupCount=log_backupcount)
log_formatter = logging.Formatter('%(asctime)s Dracon [%(process)d]: %(message)s')
log_handler.setFormatter(log_formatter)
logger = logging.getLogger()
logger.addHandler(log_handler)
logger.setLevel(logging.DEBUG)
class CustomUndefined(jinja2.StrictUndefined):
def __getattr__(self, item):
return f'#ERROR - {self._undefined_name}#'
def text_to_bytes(string: str) -> bytes:
if not isinstance(string, bytes):
return bytes(string, encoding='ascii')
return string
def pack_short(number):
"""
Create big-endian short byte string out of integer.
"""
return number.to_bytes(2, byteorder='big')
def md5(src) -> str:
"""
Функция для вычисления MD5 хеш-суммы.
:param src: текст конфигурации или бинарные данные из файла с ПО
:rtype: str
:return: строка с хэшем для данных
"""
md5hash = hashlib.md5()
md5hash.update(text_to_bytes(src))
return md5hash.hexdigest()
def md5size(src):
"""
Функция для определения MD5 хеш-суммы и размера блока данных.
:param src:
:return:
"""
# Сортируем и склеиваем блоки данных
data = ''.join([str(src[i]) for i in sorted(src.keys())])
# Возвращаем длину и значение MD5 блока данных
return md5(data), len(data)
# TODO: от этой функции нужно избавиться, она избыточна
def get_dttm():
"""
Функция для получения даты и времени в двух форматах.
:return:
"""
# Получаем дату в формате unix timestamp
dttm = int(time.time())
# Возвращаем дату и в unix timestamp и в читабельном формате
return dttm, time.strftime('%Y-%m-%d %H:%M:%S', time.localtime(dttm))
def get_fw_file_name(sw):
"""
Функция для определения имени файла ПО.
:param sw:
:return:
"""
# Если для данной модели есть запись возвращаем соответствующее имя файла
if sw in list(fw_names.keys()):
return fw_names[sw]
# А если нет, то возвращаем несуществующее имя
else:
return 'no_such_file'
def get_sw_info(ip, devices):
"""
Функция получения информации об устройстве.
:param ip:
:param devices:
:return:
"""
# Значения модели, адреса и пользовательского поля по умолчанию
dtype = 'n/a'
custom = 'n/a'
# Проверяем, есть ли IP устройства в словаре и есть ли соответствующий ID в словаре типов
if ip in devices:
if devices[ip]['dtype'] in dev_types:
# Получаем имя устройства по его типу
dtype = dev_types[devices[ip]['dtype']]
# Получаем адрес и пользовательское поле
custom = devices[ip]['custom']
return dtype, custom
def prepare_ports(ports_tmp):
"""
Функция для подготовки словаря портов.
:param ports_tmp:
:return:
"""
# Создаем словарь для хранения результатов и его ключи
ports = {}
for line in ports_tmp:
ports[line[0]] = {}
# Перебираем весь список с результатами MySQL-запроса. Результаты добавляем во временный словарь
for line in ports_tmp:
try:
ports[line[0]].update({int(line[1]): {'ptype': line[2], 'comment': line[3]}})
except:
ports[line[0]].update({0: {'ptype': 0, 'comment': ''}})
# Помещаем в словарь портов пустой словарь для коммутатора с неизвестным IP
ports.update({None: {}})
# Словарь будет иметь вид {IP:{port:{'ptype':value, 'comment':value},...}}.
return ports
def get_data_from_db():
"""
Функция для получения списка устройств из базы MySQL.
:return:
"""
# Значения данных по умолчанию
devices_data = [('0.0.0.0', 0, '')]
ports_data = [('0.0.0.0', 0, 0, '')]
# Пробуем подключиться к базе данных PostgreSQL либо MySQL. Используем таймаут в 2 секунды
try:
if use_postgresql:
db_conn = psycopg2.connect(host=postgresql_addr, user=postgresql_user, password=postgresql_pass,
dbname=postgresql_base, connect_timeout=2)
else:
db_conn = pymysql.connect(host=mysql_addr, user=mysql_user, passwd=mysql_pass, db=mysql_base,
connect_timeout=2, use_unicode=True, charset='utf8')
# Если возникла ошибка при подключении, сообщаем об этом в лог и возвращаем 'пустые' данные
except psycopg2.Error as p_err:
logger.info("ERROR: PostgreSQL Error (%s): %s", postgresql_addr, p_err.args)
return devices_data, ports_data
except pymysql.Error as m_err:
logger.info("ERROR: MySQL Error (%s): %s", mysql_addr, m_err.args[1])
return devices_data, ports_data
# Если ошибок не было, сообщаем в лог об успешном подключении и создаем 'курсор'
else:
if use_postgresql:
logger.info("INFO: Connection to PostgreSQL Server '%s' established", postgresql_addr)
else:
logger.info("INFO: Connection to MySQL Server '%s' established", mysql_addr)
db_cr = db_conn.cursor()
# Пробуем выполнить запрос к базе и получить все данные из 'курсора' (списоки устройств и портов)
try:
db_cr.execute(devices_query)
devices_data = db_cr.fetchall()
db_cr.execute(ports_query)
ports_data = db_cr.fetchall()
# Если возникла ошибка при выполнении запроса, сообщаем об этом в лог и возвращаем 'пустые' данные
except psycopg2.Error as p_err:
logger.info("ERROR: PostgreSQL Query failed: %s", p_err.args)
return devices_data, ports_data
except pymysql.Error as m_err:
logger.info("ERROR: MySQL Query failed: %s", m_err.args[1])
return devices_data, ports_data
# Если ошибок не возникло, сообщаем в лог об успешном подключении
else:
if use_postgresql:
logger.info("INFO: PostgreSQL Query OK. %s rows found for devices and %s for ports", len(devices_data),
len(ports_data))
else:
logger.info("INFO: MySQL Query OK. %s rows found for devices and %s for ports", len(devices_data),
len(ports_data))
# Закрываем подключение
finally:
db_conn.close()
# Возвращаем списки портов и устройств
return devices_data, ports_data
def put_config_to_my_sql(direction, cfg, target, name, switch, ip, m5d, cfg_type):
"""
Функция размещения полученной конфигурации в базе MySQL.
:param direction:
:param cfg:
:param target:
:param name:
:param switch:
:param ip:
:param m5d:
:param cfg_type:
:return:
"""
# Сортируем и склеиваем блоки данных
cfg = ''.join([str(cfg[i]) for i in sorted(cfg.keys())])
# Формируем данные для размещения их в базе
mysql_query = "INSERT INTO {0}.{1} ({1}.timestamp, {1}.ip, {1}.target, {1}.direction," \
" {1}.switch, {1}.name, {1}.hash) VALUES ".format(mysql_base_w, mysql_ttbl_w)
mysql_query += "('{0}', INET_ATON('{1}'), INET_ATON('{2}'), '{3}', '{4}', '{5}', '{6}');".format(get_dttm()[0], ip,
target, direction,
switch, name, m5d)
# Пробуем подключиться к базе данных MySQL. Используем таймаут в 2 секунды
try:
db_conn = pymysql.connect(host=mysql_addr_w, user=mysql_user_w, passwd=mysql_pass_w, db=mysql_base_w,
connect_timeout=2, use_unicode=True, charset='utf8', autocommit=True)
# Если возникла ошибка при подключении, сообщаем об этом в лог
except pymysql.Error as err:
logger.info("ERROR: MySQL Error (%s): %s", mysql_addr_w, err.args[1])
# Если ошибок не было, создаем 'курсор'
else:
mysql_cr = db_conn.cursor()
# Пробуем записать в базу информацию об операции
try:
mysql_cr.execute(mysql_query)
# При ошибке выполнения запроса сообщаем в лог о проблеме
except pymysql.Error as err:
logger.info("ERROR: MySQL Query Error: %s", err.args[1])
else:
# Помещать в базу данных следует только саму конфигурацию, потому что бэкапы там уже есть,
# а ПО не должно быть вообще
if cfg_type == 'config':
# Пробуем выполнить запрос к базе и подсчитать кол-во уникальных записей для hash
try:
mysql_cr.execute(
"SELECT COUNT(*) FROM {0}.{1} WHERE {1}.hash='{2}'".format(mysql_base_w, mysql_ctbl_w, m5d))
# При ошибке выполнения запроса сообщаем в лог о проблеме
except pymysql.Error as err:
logger.info("ERROR: MySQL Query Error: %s", err.args[1])
else:
hash_count = mysql_cr.fetchall()[0][0]
# Определяем, является ли данный hash уникальным
unique_hash = (hash_count == 0)
# Если hash уникален (еще не встречался), записываем конфиг в базу
if unique_hash:
try:
sql_put_config = f"INSERT INTO `{mysql_ctbl_w}` (`hash`, `config`) VALUES (%s, %s)"
mysql_cr.execute(sql_put_config, (m5d, cfg))
# При ошибке выполнения запроса сообщаем в лог о проблеме
except pymysql.Error as err:
logger.info(f"ERROR: Send config to MySQL, Query Error: {err.args[1]}")
# Либо сообщаем об успешной операции записи
else:
logger.info("INFO: Succesfully sent %s bytes to MySQL for '%s' ('%s'). Request from %s",
len(cfg), target, switch, ip)
finally:
db_conn.close()
def get_last_config_from_my_sql(target):
"""
Функция получения последней конфигурации из базы MySQL.
:param target:
:return:
"""
# По умолчанию конфиг пустой
last_conf = ''
try:
# Пробуем подключиться к базе данных MySQL. Используем таймаут в 2 секунды
db_conn = pymysql.connect(host=mysql_addr_w, user=mysql_user_w, passwd=mysql_pass_w, db=mysql_base_w,
connect_timeout=2, use_unicode=True, charset='utf8')
db_conn.autocommit(True)
except pymysql.Error as err:
# Если возникла ошибка при подключении, сообщаем об этом в лог
logger.info("ERROR: MySQL Error (%s): %s", mysql_addr_w, err.args[1])
else:
# Если ошибок не было, создаем 'курсор'
mysql_cr = db_conn.cursor()
try:
mysql_cr.execute(
"SELECT config FROM {0}.{1} JOIN {0}.{2} ON {1}.hash={2}.hash WHERE {1}.target=INET_ATON('{3}') AND"
" {1}.direction='up' ORDER BY {1}.timestamp DESC LIMIT 1;".format(mysql_base_w, mysql_ttbl_w,
mysql_ctbl_w, target))
except pymysql.Error as err:
# При ошибке сообщаем в лог
logger.info("ERROR: MySQL Query Error: %s", err.args[1])
else:
data = mysql_cr.fetchall()
if len(data):
last_conf = data[0][0]
finally:
db_conn.close()
return last_conf
def tftp_prepdata(tftpdata, ip):
"""
Функция для определения типа передачи, режима передачи, имени файла, номера блока, IP-адреса цели, типа данных и
самих данных.
Структура пакета при запросе:
тип_пакета(2 байта)
имя_файла(ASCII-строка)
конец_строки(#00)
режим_передачи(ASCII-строка)
конец_строки(#00)
Пример: 0x0001 + hexstr('config.cfg') + 0x00 + hexstr('octet') + 0x00
Структура пакета при подтверждении блока:
тип_пакета(2 байта)
номер_блока(2 байта)
Пример: 0x0004 + 0x0001
:param tftpdata:
:param ip: ip-адрес хоста, с которого пришел запрос
:return:
"""
# Перечисляем в словаре возможные значения типов пакета
# При этом обрабатывать будем только RRQ (чтение) и ACK (подтверждение приема)
actions = {1: 'RRQ', 2: 'WRQ', 3: 'DATA', 4: 'ACK', 5: 'ERR', 6: 'ERR2'}
# Символ конца строки
end_string_char = chr(0).encode('utf-8')
# Определяем значения переменных
tftp_type = 'UNK'
transfer = 'unknown'
tftp_filename = 'unknown'
tftp_block = -1
target_ip = ip
data_type = 'config'
data_upl = ''
# Работаем только с блоками размером более 4 байт
if len(tftpdata) >= 4:
# Если полученный тип пакета присутствует в списке, получаем из списка соответствующее значение
if tftpdata[1] in actions:
tftp_type = actions[tftpdata[1]]
# Если тип запроса RRQ (чтение) или запись (WRQ) и указатель на конец строки присутствует и
# находится не в начале данных:
if ((tftp_type == 'RRQ') | (tftp_type == 'WRQ')) & (tftpdata[2:].find(end_string_char) != -1):
# Пропускаем 2 знака, остаток разбиваем по символу конца строки и получаем имя файла ('левая' часть от
# деления)
name_tmp = (tftpdata[2:].split(end_string_char)[0]).decode('utf-8')
# Пропускаем 2 знака, остаток разбиваем по символу конца строки и получаем режим передачи ('правая' часть
# деления)
transfer = (tftpdata[2:].split(end_string_char)[1]).decode('utf-8')
# Если в запрошенном файле присутствует символ '@', разбиваем имя на две части
if '@' in name_tmp:
name_tmp = name_tmp.split('@')
# IP-адресом считаем левую часть, а именем файла - правую часть
if len(name_tmp[0]) > 0:
target_ip = name_tmp[0]
if len(name_tmp[1]) > 0:
tftp_filename = name_tmp[1]
else:
# Если '@' не присутствует, то имя файла не преобразовываем
tftp_filename = name_tmp
# Если тип запроса ACK или DATA и в данных есть еще хотя бы два байта,
# получаем номер блока из 3 и 4 символа (2 и 3 позиции)
if ((tftp_type == 'ACK') | (tftp_type == 'DATA')) & (len(tftpdata) >= 3):
tftp_block = tftpdata[2] * 256 + tftpdata[3]
# Если тип запроса RRQ или WRQ, номер блока будет нулевым, что означает начало данных
if (tftp_type == 'RRQ') | (tftp_type == 'WRQ'):
tftp_block = 0
# Если в типе передачи есть указатель на конец строки, получаем из данных тип передачи,
# убирая символы с кодом '0'
if transfer.find(chr(0)) != -1:
transfer = transfer.replace(chr(0), '')
# Если запрошенное имя равно 'firmware', считаем, что у нас запросили ПО и указываем это в типе данных
if tftp_filename == 'firmware':
data_type = 'firmware'
# Если запрошенное имя равно 'backup', считаем, что у нас запросили последнюю конфигурацию для конкретного IP,
# и указываем это в типе данных
if tftp_filename == 'backup':
data_type = 'backup'
# Если тип запроса DATA и в данных есть еще хотя бы два байта, получаем данные
# (обрезать ethernet-трейлер не надо, этим занимаются другие уровни)
if (tftp_type == 'DATA') & (len(tftpdata) >= 3):
data_upl = tftpdata[4:]
return tftp_type, transfer, tftp_filename, tftp_block, target_ip, data_type, data_upl
def get_range(ports_gr):
"""
Функция получения диапазона портов.
:param ports_gr:
:return:
"""
# Получаем список ключей из словаря. При этом удаляем дубликаты (list(set())) и сортируем список
_range = sorted(list(set(ports_gr.keys())))
# Получаем два временных списка с ключами. Ключи - это номера портов. Первй список будет преобразован
# в диапазон, а второй возвращен без преобразования
p_range = list(_range)
full_p_range = list(_range)
# Перебираем основной список, получая индекс элемента (i) и сам элемент (a)
for i, a in enumerate(_range):
# Обрабатываем все элементы кроме минимального и максимального
# Если слева и справа от текущего номера идут последовательно,
# заменяем текущий элемент (который означает номер порта) на '*'
if (a > min(_range)) & (a < max(_range)):
if (a == _range[i - 1] + 1) & (a == _range[i + 1] - 1):
p_range[i] = '*'
# Из списка получаем строку, где элементы разделены запятыми, а '*' и ',-' заменены на '-'
p_range = ','.join(str(n) for n in p_range).replace('*,', '-').replace(',-', '-')
# Удаляем двойные символы '-', заменяя их на одинарные
while p_range.find('--') != -1:
p_range = p_range.replace('--', '-')
return {'range': p_range, 'list': full_p_range}
def p_stat(ports):
"""
Функция, возвращающая список с типами портов и их диапазоном.
:param ports:
:return:
"""
# 1 - абонентский порт, 2 - магистральный, 3 - сломанный, 4 - VIP-клиент, 5 - вход
# 6 - нестандартный, 7 - оборудование, 8 - вход (патчкорд), 9 - магистраль (патчкорд)
# Создаем результирующий словарь
res_dict = {}
# Проходим по всему списку типов (перебираем ключи)
for port_type_index in list(ports_types.keys()):
# Получаем временный словарь из переданного функции
ports_tmp = dict(ports)
# Перебираем основной словарь. Задача: оставить порты только нужного типа
for port_num in ports:
# Если тип порта для основного словаря не равен определенному типу, удаляем соответствующий элемент
# во временном словаре
if ports[port_num]['ptype'] != port_type_index:
del ports_tmp[port_num]
if len(ports_tmp):
res_dict[ports_types[port_type_index]] = get_range(ports_tmp)
ports_tmp = dict(ports)
# Получаем диапазон и список вообще всех портов
res_dict['all'] = get_range(ports_tmp)
# Во временном списке оставляем порты с типом 2, 5, 8 и 9
for port_num in ports:
if int(ports[port_num]['ptype']) not in mags_list:
del ports_tmp[port_num]
# Получаем диапазон и список магистральных портов
if len(ports_tmp):
res_dict['mags'] = get_range(ports_tmp)
return res_dict
def get_data(target, fname, sw, custom, ports, transfer, data_type):
"""
Функция подготовки данных.
:param target:
:param fname:
:param sw:
:param custom:
:param ports:
:param transfer: тип передачи
:param data_type: тип данных (ПО/конфиг/бэкап)
:return:
"""
# Определяем размер блока данных и объявляем переменную для хранения данных
# TODO: вынести в конфиг размер блока (или в константы)
block_size = 512
data = ''
# Такое прилетит когда в БД нет информации о устройстве (или оно не попало в выборку)
if sw == 'n/a':
device_not_found_message = f'Can\'t find info about {target}'
logger.error(device_not_found_message)
data = f'# {device_not_found_message}'
# Работаем, если запрошено ПО и имя файла указано
if (data_type == 'firmware') & (get_fw_file_name(sw) != 'no_such_file'):
# Если тип передачи 'octet' (без изменений)...
if transfer == 'octet':
try:
fw_file = open(fw_path + get_fw_file_name(sw), 'rb')
except IOError:
# Если не удалось - помещаем сообщение об ошибке в данные и пишем об этом в лог
data = "# ERROR: Can't open file %s%s" % (fw_path, get_fw_file_name(sw))
logger.info("ERROR: Can't open file '%s%s'!", fw_path, get_fw_file_name(sw))
else:
# Если все хорошо - читаем файл
data = fw_file.read()
fw_file.close()
else:
# Если тип передачи отличен от 'octet', помещаем в данные сообщение об необходимости изменить тип
data = "# Please, set transfer type to 'octet' (-i)!"
# Получаем данные, если запрошен backup последней конфигурации
if data_type == 'backup':
data = get_last_config_from_my_sql(target)
# Работаем, если запрошена конфигурация и устройство определено
if (data_type == 'config') and (target is not None) and (sw != 'n/a'):
# Если имя файла (которое является и командой) присутствует в наборе списков команд:
if fname in list(commands.keys()):
# создаем окружение для Jinja2, загружаем фильтры и шаблон для коммутатора
env = jinja2.Environment(loader=jinja2.FileSystemLoader(cf_path))
env.lstrip_blocks = True
env.undefined = CustomUndefined
for filter_name, filter_function in inspect.getmembers(dfunc, inspect.isfunction):
env.filters[filter_name] = filter_function
try:
template = env.get_template(sw)
# формируем контекст (то что передается в шаблон)
context = template.new_context({'p_stats': p_stat(ports),
'custom': custom,
'target': target,
'datetime': get_dttm()[1],
'comments': {port: ports[port]['comment'] for port in ports}})
# Перебираем все команды внутри списка для данной команды
for cmd in commands[fname]:
if cmd in template.blocks:
for microblock in template.blocks[cmd](context):
data += microblock
else:
error_message = f"Can't find <{cmd}> block in {template}"
logger.error(error_message)
data = f'# {error_message}'
except jinja2.TemplateSyntaxError:
error_message = f'Syntax error in template for {sw}'
logger.error(error_message)
data = f'# {error_message}'
except jinja2.TemplateNotFound:
error_message = f'Can\'t find template for {sw}'
logger.error(error_message)
data = f'# {error_message}'
# Получаем контрольную сумму для данных
m5d = md5(data)
# Если цель не определена и запрошена "Справка", возвращаем краткую справку
if (target is None) & (fname == 'help'):
data = helpinfo
# Получаем количество блоков
data_items = ceil(len(data) / block_size)
# Разбиваем данные на блоки, нумеруя их
data_list = {i + 1: data[x: x + block_size] for i, x in enumerate(range(0, len(data), block_size))}
# Если ожидаем больше, чем получили, добавляем пустой элемент
if data_items > len(data_list):
data_list[len(data_list) + 1] = ''
# Вставляем первый элемент, где указываем общее количество блоков
data_list[0] = data_items
# Примечание №1: Последним блоком данных при передаче считается блок меньше 512 символов.
# Если же общая длина блоков кратна 512 символам, то последний блок никак не отличается от других
# Для этого и добавляется блок, имеющий нулевую длину
# Примечание №2: Минимальный ethernet-фрейма равен 60 байтам. Но здесь беспокоиться об этом не нужно.
# При длине блока меньше 14 Python или сама ОС при передаче UDP-датаграмы заполнит недостающие байты нулями
return data_list, m5d
def main():
logger.info("INFO: Daemon 'Dracon' started...")
# Получаем начальные значение таймера перезапуска и таймера опроса сокета, равные текущему времени в unix timestamp
timer = int(time.time())
sltimer = int(time.time())
# Устанавливаем паузу при опросе UDP-сокета по умолчанию
sleeptime: float = sleep_def
# Объявляем начальные значение для счетчиков запросов 'read' и 'write'
tftp_rcnt: int = 0
tftp_wcnt: int = 0
# Получаем информацию о коммутаторах и их портах из базы данных
devices_tmp, ports_tmp = get_data_from_db()
# Получаем список портов
ports = prepare_ports(ports_tmp)
# Формируем словарь вида { ip : { type:val, custom:val } }
try:
devices = {item[0]: {'dtype': item[1], 'custom': item[2]} for item in list(devices_tmp)}
except:
devices = {'0.0.0.0': {'dtype': 0, 'custom': ''} for item in list(devices_tmp)}
# Объявляем словарь для хранения данных и других параметров
cfg_fw = {}
# Объявляем словарь для хранения полученных данных с устройства. Сюда попадет конфигурация, которую
# отправит коммутатор
cfg_up = {}
# Создаем сокет для tftp
tftp = socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
# Пробуем открыть сокет и обрабатываем возможную ошибку
try:
tftp.bind((interface_ip, port))
# При возникновении ошибки делаем запись в логе и завершаем работу
except socket.error as err:
logger.error("CRITICAL: Socket Error: %s Exiting...", err.args[1])
sys.exit(2)
# При отсутствии ошибки переводим сокет в режим non blocking
else:
tftp.setblocking(False)
# Дальше работаем в бесконечном цикле
while True:
# Проверяем, прошло ли достаточно времени с момента предыдущего запроса
if int(time.time()) - timer >= cycle_int:
# Пишем в лог о количестве запросов за прошедшее время
logger.info(f"INFO: Requests for {cycle_int} seconds:" +
f" RRQ (download) - {tftp_rcnt}, WRQ (upload) - {tftp_wcnt}")
# Обнуляем счетчики и получаем новое значение таймера
tftp_rcnt = 0
tftp_wcnt = 0
timer = int(time.time())
# ВНИМАНИЕ! Это обход БАГА MySQL. В очень редких случаях MySQL может вернуть пустой список данных.
# Возможно, это давно исправлено, но обход бага остался. :)
# Получаем информацию о коммутаторах и их портах из базы данных
devices_tmp, ports_tmp = get_data_from_db()
# Если длина запроса составляет не менее 90% от длины предыдущего, то помещаем новый
# список портов в основной список
# Хоть мы и сравниваем словари разной структуры, но такое сравнение корректно, т.к. количество ключей
# в 'ports' и строк в 'ports_tmp' одинаково
if len(ports_tmp) > len(ports) * 0.9:
ports = prepare_ports(ports_tmp)
# Если длина запроса составляет не менее 90% от длины предыдущего, то помещаем новый список
# устройств в основной список
if len(devices_tmp) > len(devices) * 0.9:
try:
devices = {item[0]: {'dtype': item[1], 'custom': item[2]} for item in list(devices_tmp)}
except:
devices = {'0.0.0.0': {'dtype': 0, 'custom': ''} for item in list(devices_tmp)}
# Пробуем получить данные с сокета (2 байта для типа передачи, 2 байта для номера блока и еще 512 для данных)
try:
tftpdata, tftpaddr = tftp.recvfrom(516)
# Если данных нет возникнет ошибка
except:
# Проверяем, достаточно ли долго не обновлялась переменная (не поступали данные) и устанавливаем паузу
# при опросе UDP-сокета по умолчанию
if int(time.time()) - sltimer >= sleep_int:
sleeptime = sleep_def
# Если ошибки не возникло, значит данные получены. Приступаем к их обработке
else:
# IP-адрес удаленного хоста
rem_ip = tftpaddr[0]
# Порт удаленного хоста
rem_port = tftpaddr[1]
# Определяем тип передачи, режим передачи, имя файла, номер блока, IP коммутатора, для которого
# запрошены данные, тип данных и сами данные (они есть при DATA-пакетах)
tftp_type, transfer, tftp_filename, tftp_block, target_ip, data_type, data_upl = tftp_prepdata(tftpdata,
tftpaddr[0])
# Для общего случая определяем:
# назначение - 'IP_отправителя:Port'
dip = f"{rem_ip}:{rem_port}"
# Получаем имя (модель), сеть и адрес удаленного устройства
rem_dev, rem_cust = get_sw_info(target_ip, devices)
# цель - 'IP_устройства (модель_устройства)'
dev = "'%s' (%s)" % (target_ip, rem_dev)
# В остальных случаях цель и модель попадают в словарь, с которым и ведется работа в дальнейшем.
# То есть dev может переопределяться ниже
if tftp_type in ['RRQ', 'WRQ', 'ACK', 'DATA']:
# Если получен известный тип данных, уменьшаем паузу при опросе UDP-совера и получаем
# новое значение таймера
sleeptime = sleep_def / 1000
sltimer = int(time.time())
# Если пришел запрос на чтение, увеличиваем значение счетчика полученных запросов (R) и пишем в лог
# о полученном запросе
if tftp_type == 'RRQ':
tftp_rcnt += 1
logger.info(f"INFO: -->Request (RRQ) from {dip} for device {dev}. Requested file: '{tftp_filename}'")
# Можно запросить данные для произвольного устройства, но отдать - только для имеющегося.
# Потому на выходе может быть только реальный IP
# Если коммутатора с IP назначения нет в списке и запрошена конфигурация, вместо IP используем 'None'
if (target_ip not in ports) & (data_type == 'config'):
target_ip = None
# Если запрошено ПО, то данные о портах не нужны, но нужна модель устройства, поэтому не обнуляем IP
# Если запрошена конфигурация, получаем данные в виде блоков и их MD5-сумму (от целой части без блоков)
if data_type == 'config':
cfg_tmp, md5_tmp = get_data(target_ip, tftp_filename, rem_dev, rem_cust, ports[target_ip],
transfer, data_type)
# Если запрошено ПО или backup конфигурации, то проделываем то же самое,
# но вместо портов передаем пустой список
if (data_type == 'firmware') or (data_type == 'backup'):
cfg_tmp, md5_tmp = get_data(target_ip, tftp_filename, rem_dev, rem_cust, [], transfer,
data_type)
# Если для удаленного хоста данные уже определены, обновляем их. В противном случае - добавляем
if rem_ip in list(cfg_fw.keys()):
cfg_fw[rem_ip].update({rem_port: {'data': cfg_tmp, 'type': data_type, 'md5': md5_tmp,
'file': tftp_filename, 'target': target_ip, 'switch': rem_dev}})
else:
cfg_fw[rem_ip] = {
rem_port: {'data': cfg_tmp, 'type': data_type, 'md5': md5_tmp, 'file': tftp_filename,
'target': target_ip, 'switch': rem_dev}}
# На выходе получается словарь словарей вида
# {
# IP :
# {
# Remote_Port :
# { 'data' : $val, 'md5' : $val, 'file' : $val, 'target' : $val, 'switch' : $val }
# }
# }
# Это нужно как для удобства получения информации, так и для одновременной передачи.
# Для каждой сессии передачи в словаре хранится своя информация
# Если пришло подтверждение передачи, проверяем, существуют ли данные для текущего соединения
if (tftp_type == 'ACK') & (tftp_block in range(0, 65536)):
try:
cfg_fw[rem_ip][rem_port]['data'][tftp_block]
# Обрабатываем ситуацию, когда данных нет. Такая ситуация может быть, если пакет с RRQ
# не попал на сервер:
except:
logger.info(
"WARNING: Retrieved data (ACK) without request (RRQ) for %s for device %s for block %s!", dip,
dev, tftp_block)
# Проверяем, существует ли данные для данного соединения. Если да - получаем количество блоков
try:
total_blocks = cfg_fw[rem_ip][rem_port]['data'][0]
except KeyError:
total_blocks = - 1
# Если блок меньше общего количество блоков и ожидается передача, тогда начинаем передачу.
# Если данных еще не существует, то условие не выполнится ( -1 < -1)
if (tftp_block < total_blocks) & ((tftp_type == 'RRQ') | (tftp_type == 'ACK')):
# Пробуем отправить данные
try:
block_number = pack_short(tftp_block + 1)
part_of_data = text_to_bytes(cfg_fw[rem_ip][rem_port]['data'][tftp_block + 1])
send_data = b'\x00\x03' + block_number + part_of_data
tftp.sendto(send_data, (rem_ip, rem_port))
# Обрабатываем возможную ошибку сокета, делаем запись в логе и завершаем работу
except socket.error as err:
logger.error("CRITICAL: Socket Error (DATA): %s. Exiting...", err.args[1])
sys.exit(2)
else:
# Если тип 'RRQ', т.е. передача только начинается
if tftp_type == 'RRQ':
# IP-адрес и модель устройства
dev = "'%s' (%s)" % (cfg_fw[rem_ip][rem_port]['target'], cfg_fw[rem_ip][rem_port]['switch'])
# Имя передаваемого файла
fil = "'%s'" % (cfg_fw[rem_ip][rem_port]['file'])
# Если запрошено ПО определяем новое название файла
if cfg_fw[rem_ip][rem_port]['type'] == 'firmware':
fil = "'%s'" % (get_fw_file_name(cfg_fw[rem_ip][rem_port]['switch']))
# Контрольная хеш-сумма
m5d = cfg_fw[rem_ip][rem_port]['md5']
# Пишем в лог о старте передачи
logger.info("INFO: <--Sending data to %s for device %s. Prepared file: %s, md5: %s", dip, dev,
fil, m5d)
# Обрабатываем ситуацию, когда мы получили подтверждение от предпоследнего блока и
# только что отправили последний
if tftp_block == total_blocks - 1:
# IP-адрес и модель устройства
dev = "'%s' (%s)" % (cfg_fw[rem_ip][rem_port]['target'], cfg_fw[rem_ip][rem_port]['switch'])
# Имя передаваемого файла
fil = "'%s'" % (cfg_fw[rem_ip][rem_port]['file'])
# Если запрошено ПО определяем новое название файла
if cfg_fw[rem_ip][rem_port]['type'] == 'firmware':
fil = "'%s'" % (get_fw_file_name(cfg_fw[rem_ip][rem_port]['switch']))
# Общее количество блоков
blk = str(tftp_block + 1)
# Получаем копию данных
tmp_dct = cfg_fw[rem_ip][rem_port]['data'].copy()
# Удаляем первый (нулевой) элемент с длиной словаря
tmp_dct.pop(0)
# Получаем MD5-сумму и размер полученных данных
m5d, fln = md5size(tmp_dct)
# Очищаем временный словарь
tmp_dct.clear()
# Пишем в лог об окончании передачи
logger.info(
"INFO: Successfully sent to %s for device %s. Transferred file: %s. Size: %s, blocks: %s",
dip, dev, fil, fln, blk)
# Если получено подтверждение передачи последнего блока:
if (tftp_block == total_blocks) & (tftp_type == 'ACK'):
# Получаем копию данных
tmp_dct = cfg_fw[rem_ip][rem_port]['data'].copy()
# Удаляем первый (нулевой) элемент с длиной словаря
tmp_dct.pop(0)
# Цель
tmp_tgt = cfg_fw[rem_ip][rem_port]['target']
# Запрошенный файл
tmp_fil = cfg_fw[rem_ip][rem_port]['file']
# Модель коммутатора
tmp_sw = cfg_fw[rem_ip][rem_port]['switch']
# Контрольная сумма
tmp_m5d = cfg_fw[rem_ip][rem_port]['md5']
# Помещаем полученные данные в базу MySQL.
# Параметры: таблица, данные, IP цели, имя файла, коммутатор, IP, хеш, тип передачи
put_config_to_my_sql('down', tmp_dct, tmp_tgt, tmp_fil, tmp_sw, rem_ip, tmp_m5d,
cfg_fw[rem_ip][rem_port]['type'])
# Очищаем временный словарь
tmp_dct.clear()
# Удаляем данные из словаря, т.к. передача закончена и они больше не нужны
del cfg_fw[rem_ip][rem_port]
if tftp_type == 'WRQ':
# Увеличиваем значение счетчика полученных запросов (W)
tftp_wcnt += 1
# Пишем в лог о полученном запросе
logger.info("INFO: -->Offer (WRQ) from %s for device %s. Offered file: %s", dip, dev, tftp_filename)
# Пример:
# INFO: -->Offer (WRQ) from 10.137.130.56:57904 for device '10.99.0.2' (DES-3200-28).
# Offered file: 'cfg'
# Получаем имя (модель) удаленного устройства
rem_dev = get_sw_info(target_ip, devices)[0]
# Если для удаленного хоста данные уже определены, затираем их
if rem_ip in list(cfg_up.keys()):
cfg_up[rem_ip].update(
{rem_port: {'cfg': {}, 'file': tftp_filename, 'target': target_ip, 'switch': rem_dev}})
# Если же нет - добавляем
else:
cfg_up[rem_ip] = {
rem_port: {'cfg': {}, 'file': tftp_filename, 'target': target_ip, 'switch': rem_dev}}
# На выходе получается словарь вида [IP][Port]['cfg'|'file'|'target'|'switch']
# Это нужно для удобства получения информации, но главное - для одновременной передачи
# Для каждой сессии передачи в словаре хранится своя информация
# Если ожидаем передачу и tftp_block в допустимом диапазоне
if ((tftp_type == 'WRQ') | (tftp_type == 'DATA')) & (tftp_block in range(0, 65536)):
# Проверяем, существуют ли данные для текущего соединения
try:
cfg_up[rem_ip][rem_port]['cfg']
# Обрабатываем ситуацию, когда данных нет. Такая ситуация может быть, если пакет с WRQ
# не попал на сервер:
except:
# Если тип передачи DATA, а данных нет, пишем в лог об ошибке
if tftp_type == 'DATA':
logger.info("WARNING: Transaction (DATA) without declaration (WRQ) for '%s'!", dip)
# Данные получены, приступаем к обработке
else:
# Если номер блока больше 128, значит размер файла превысил 64 КБ (512*128=65536).
# Такие данные в базу не попадут и будут удалены
if tftp_block > 128:
# Имя передаваемого файла
fil = "'%s'" % (cfg_up[rem_ip][rem_port]['file'])
# Определяем текст сообщения об ошибке
error_msg = 'Transferred file ' + fil + ' from ' + dip + ' is too large (greater than 64 KB)'
# Пробуем отправить сообщение об ошибке (диск заполнен)
try:
tftp.sendto(chr(0) + chr(5) + chr(0) + chr(3) + error_msg + chr(0), (rem_ip, rem_port))
# Если не получилось - не расстраиваемся :)
except:
pass
# Сообщаем об ошибке в лог
logger.info("ERROR: %s", error_msg)
# Удаляем весь блок данных из словаря
del cfg_up[rem_ip][rem_port]
else:
# Пробуем отправить подтверждение блока или начала передачи (ответ на WRQ, tftp_block равен 0)
try:
tftp.sendto(
(chr(0) + chr(4) + (lambda x: chr(x // 256) + chr(x % 256))(int(tftp_block))).encode(
'utf-8'),
(rem_ip, rem_port))
# Обрабатываем возможную ошибку сокета
except socket.error as err:
# При возникновении ошибки делаем запись в логе
logger.info("CRITICAL: Socket Error (ACK): %s. Exiting...", err.args[1])
# И завершаем работу
sys.exit(2)
else:
# Если получены сами данные, а не запрос:
if tftp_type == 'DATA':
# Обновляем конфигурацию для полученного блока в словаре
cfg_up[rem_ip][rem_port]['cfg'].update({tftp_block: data_upl})
# Если блок короче 512 байт, считаем его последним
if len(data_upl) < 512:
# Данные
tmp_dct = cfg_up[rem_ip][rem_port]['cfg']
# Цель
tmp_tgt = cfg_up[rem_ip][rem_port]['target']
# Запрошенный файл
tmp_fil = cfg_up[rem_ip][rem_port]['file']
# Модель коммутатора
tmp_sw = cfg_up[rem_ip][rem_port]['switch']
# Количество блоков
blk = len(cfg_up[rem_ip][rem_port]['cfg'])
# Получаем MD5-сумму и размер полученных данных
m5d, fln = md5size(cfg_up[rem_ip][rem_port]['cfg'])
# Пишем в лог об окончании приема
logger.info(
"INFO: Recieved file from %s for device '%s' (%s). Transferred file: '%s'."
" Size: %s, blocks: %s, md5: %s", dip, tmp_tgt, tmp_sw, tmp_fil, fln, blk, m5d)
# Пример:
# INFO: Recieved file from 10.137.130.56:57904 for device '10.99.0.2'
# (DES-3200-28). Transferred file: 'cfg'. Size: 318, blocks: 1,
# md5: c6c253ff4110f77b917901bb89d762df
# Помещаем полученные данные в базу MySQL.
# Параметры: таблица, данные, IP цели, имя файла, коммутатор, IP, хеш,
# указание на необходимость записи в базу данных ('config')
put_config_to_my_sql('up', tmp_dct, tmp_tgt, tmp_fil, tmp_sw, rem_ip, m5d, 'config')
# Удаляем данные из словаря, т.к. передача закончена и они больше не нужны
del cfg_up[rem_ip][rem_port]
time.sleep(sleeptime)
class MyDaemon(Daemon):
def run(self):
main()
if __name__ == "__main__":
daemon = MyDaemon('/var/run/dracon.pid', '/dev/null', log_file, log_file)
if len(sys.argv) == 2:
if 'start' == sys.argv[1]:
daemon.start()
elif 'faststart' == sys.argv[1]:
daemon.start()
elif 'stop' == sys.argv[1]:
daemon.stop()
elif 'restart' == sys.argv[1]:
daemon.restart()
elif 'nodaemon' == sys.argv[1]:
main()
else:
print("Dracon: " + sys.argv[1] + " - unknown command")
sys.exit(2)
sys.exit(0)
else:
print("usage: %s start|stop|restart" % sys.argv[0])
sys.exit(2)