BiTel

Форум BiTel
bgbilling.ru     docs.bitel.ru     wiki.bitel.ru     dbinfo.bitel.ru     bgcrm.ru     billing.bitel.ru     bitel.ru    
Текущее время: 25 июн 2025, 17:08

Часовой пояс: UTC + 5 часов [ Летнее время ]




Начать новую тему Ответить на тему  [ Сообщений: 16 ] 
Автор Сообщение
 Заголовок сообщения: Детализация трафика IPN
СообщениеДобавлено: 19 июл 2010, 11:48 
Добрый день.

Пытаюсь сделать детализацию трафика клиента через IPN, но не выходит... В error.log сыпятся ошибки

Код:
..........
detail 07-19/14:45:10 ERROR [Thread-16] NetflowDataLogReader - null NetflowDataLogReader [file: /srv/BGBilling/BGIPNNetflowCollector/logs/source_1/2010/2010-06/2010-06-16/log_2010-06-16-08.000.bgdl; chunkSize=393216]
java.io.IOException
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.inflate(ZLIBReadableChannel.java:136)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.read(ZLIBReadableChannel.java:64)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel$ZLIBReadableChannelSync.read(ZLIBReadableChannel.java:25)
        at ru.bitel.bgbilling.server.util.datalog.DataLogReader.readBuffer(DataLogReader.java:37)
        at ru.bitel.bgbilling.server.util.datalog.BGDataLogReader.readBuffer(BGDataLogReader.java:59)
        at ru.bitel.bgbilling.server.util.ip.datalog.netflow.NetflowDataLogReader.readChunk(NetflowDataLogReader.java:44)
        at bitel.billing.server.netflow.ipn.detail.MonthFlowDetailMaker.createDetail(MonthFlowDetailMaker.java:118)
        at bitel.billing.server.netflow.ipn.detail.DetailMaker.run(DetailMaker.java:91)
Caused by: java.util.zip.DataFormatException: invalid literal/length code
        at java.util.zip.Inflater.inflateBytes(Native Method)
        at java.util.zip.Inflater.inflate(Inflater.java:238)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.inflate(ZLIBReadableChannel.java:125)
        ... 7 more
detail 07-19/14:45:10 ERROR [Thread-16] NetflowDataLogReader - null NetflowDataLogReader [file: /srv/BGBilling/BGIPNNetflowCollector/logs/source_1/2010/2010-06/2010-06-16/log_2010-06-16-08.000.bgdl; chunkSize=393216]
java.io.IOException
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.inflate(ZLIBReadableChannel.java:136)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.read(ZLIBReadableChannel.java:64)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel$ZLIBReadableChannelSync.read(ZLIBReadableChannel.java:25)
        at ru.bitel.bgbilling.server.util.datalog.DataLogReader.readBuffer(DataLogReader.java:37)
        at ru.bitel.bgbilling.server.util.datalog.BGDataLogReader.readBuffer(BGDataLogReader.java:59)
        at ru.bitel.bgbilling.server.util.ip.datalog.netflow.NetflowDataLogReader.readChunk(NetflowDataLogReader.java:44)
        at bitel.billing.server.netflow.ipn.detail.MonthFlowDetailMaker.createDetail(MonthFlowDetailMaker.java:118)
        at bitel.billing.server.netflow.ipn.detail.DetailMaker.run(DetailMaker.java:91)
Caused by: java.util.zip.DataFormatException: invalid literal/length code
        at java.util.zip.Inflater.inflateBytes(Native Method)
        at java.util.zip.Inflater.inflate(Inflater.java:238)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.inflate(ZLIBReadableChannel.java:125)
        ... 7 more
detail 07-19/14:45:10 ERROR [Thread-16] NetflowDataLogReader - null NetflowDataLogReader [file: /srv/BGBilling/BGIPNNetflowCollector/logs/source_1/2010/2010-06/2010-06-16/log_2010-06-16-08.000.bgdl; chunkSize=393216]
java.io.IOException
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.inflate(ZLIBReadableChannel.java:136)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.read(ZLIBReadableChannel.java:64)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel$ZLIBReadableChannelSync.read(ZLIBReadableChannel.java:25)
        at ru.bitel.bgbilling.server.util.datalog.DataLogReader.readBuffer(DataLogReader.java:37)
        at ru.bitel.bgbilling.server.util.datalog.BGDataLogReader.readBuffer(BGDataLogReader.java:59)
        at ru.bitel.bgbilling.server.util.ip.datalog.netflow.NetflowDataLogReader.readChunk(NetflowDataLogReader.java:44)
        at bitel.billing.server.netflow.ipn.detail.MonthFlowDetailMaker.createDetail(MonthFlowDetailMaker.java:118)
        at bitel.billing.server.netflow.ipn.detail.DetailMaker.run(DetailMaker.java:91)
Caused by: java.util.zip.DataFormatException: invalid literal/length code
        at java.util.zip.Inflater.inflateBytes(Native Method)
        at java.util.zip.Inflater.inflate(Inflater.java:238)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.inflate(ZLIBReadableChannel.java:125)
        ... 7 more
..........


С чем связана такая ошибка? Как можно поправить?


Вернуться к началу
  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 19 июл 2010, 18:46 
Не в сети
Клиент

Зарегистрирован: 12 фев 2008, 18:10
Сообщения: 3951
Карма: 249
случаем не родсвенная этой ошибка?


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 19 июл 2010, 19:07 
snark писал(а):
случаем не родсвенная этой ошибка?


1. У меня циска шлёт flow, а flow-fanout пересылает на BGIPNNetflowCollector и flow-capture.
2. Файлов нулевой длины нет.


Вернуться к началу
  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 19 июл 2010, 19:50 
Не в сети
Клиент

Зарегистрирован: 12 фев 2008, 18:10
Сообщения: 3951
Карма: 249
logicall писал(а):
flow-fanout пересылает на BGIPNNetflowCollector и flow-capture

потерь трафика замечено небыло?


по теме - как обычно, ждем разработчиков ;)


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 20 июл 2010, 06:03 
snark писал(а):
logicall писал(а):
flow-fanout пересылает на BGIPNNetflowCollector и flow-capture

потерь трафика замечено небыло?


по теме - как обычно, ждем разработчиков ;)

Да вроде не замечал потерь...


Вернуться к началу
  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 20 июл 2010, 18:41 
up


Вернуться к началу
  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 20 июл 2010, 19:20 
Не в сети
Разработчик

Зарегистрирован: 08 ноя 2007, 01:05
Сообщения: 8343
Откуда: Уфа
Карма: 238
какая версия биллинга ?


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 21 июл 2010, 06:06 
stark писал(а):
какая версия биллинга ?


BGBillingServer v 5.0 build 763 from 16.07.2010 15:00:25
ipn v.5.0 build 256 from 16.07.2010 15:00:49
Traffic collector for IPN v 5.0 build 234 from 13.05.2010 11:58:09


Вернуться к началу
  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 21 июл 2010, 17:12 
up


Вернуться к началу
  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 22 июл 2010, 20:13 
уважаемые разработчики, помогите пожалуйста решить эту проблему!

P.S.
ради интереса попробовал из консоли выгрузить полностью деталку за этот день и этот час - всё прошло на ура.


Вернуться к началу
  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 23 июл 2010, 13:03 
Не в сети
Разработчик
Аватара пользователя

Зарегистрирован: 19 дек 2006, 21:04
Сообщения: 5970
Карма: 256
Какой-то файл похоже поврежден, но после этой ошибки обработка идет дальше...
Вы же делаете месячную детализацию? Хоть что-нибудь в папке детализации появляется?


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 23 июл 2010, 19:27 
Amir писал(а):
Какой-то файл похоже поврежден, но после этой ошибки обработка идет дальше...
Вы же делаете месячную детализацию? Хоть что-нибудь в папке детализации появляется?

Делаю детализацию за месяц. Доходит до 16 числа и останавливается с такой ошибкой. Далее не продолжается.


Вернуться к началу
  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 26 июл 2010, 11:10 
Обновил NetFlowCollector до build 235 from 23.07.2010 13:25:41

делаю деталку с 16 по 30 июня. деталку делает, но есть ошибка

log из detail.log
Код:
07-26/09:09:09  INFO [Thread-16] DetailMaker - Started detail maker...
07-26/09:11:34  INFO [Thread-16] DetailMaker - Starting detail task...
07-26/09:11:34  INFO [Thread-16] MonthFlowDetailMaker - Create part of mount detail...
07-26/09:11:54 ERROR [Thread-16] NetflowDataLogReader - null NetflowDataLogReader [file: /srv/BGBilling/BGIPNNetflowCollector/logs/source_1/2010/2010-06/2010-06-16/log_2010-06-16-08.000.bgdl; chunkSize=393216]
java.io.IOException
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.inflate(ZLIBReadableChannel.java:136)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.read(ZLIBReadableChannel.java:64)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel$ZLIBReadableChannelSync.read(ZLIBReadableChannel.java:25)
        at ru.bitel.bgbilling.server.util.datalog.DataLogReader.readBuffer(DataLogReader.java:40)
        at ru.bitel.bgbilling.server.util.datalog.BGDataLogReader.readBuffer(BGDataLogReader.java:59)
        at ru.bitel.bgbilling.server.util.ip.datalog.netflow.NetflowDataLogReader.readChunk(NetflowDataLogReader.java:44)
        at bitel.billing.server.netflow.ipn.detail.MonthFlowDetailMaker.createDetail(MonthFlowDetailMaker.java:118)
        at bitel.billing.server.netflow.ipn.detail.DetailMaker.run(DetailMaker.java:91)
Caused by: java.util.zip.DataFormatException: invalid literal/length code
        at java.util.zip.Inflater.inflateBytes(Native Method)
        at java.util.zip.Inflater.inflate(Inflater.java:238)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.inflate(ZLIBReadableChannel.java:125)
        ... 7 more
07-26/09:26:13 ERROR [Thread-16] NetflowDataLogReader - null NetflowDataLogReader [file: /srv/BGBilling/BGIPNNetflowCollector/logs/source_1/2010/2010-06/2010-06-25/log_2010-06-25-16.000.bgdl; chunkSize=393216]
java.io.IOException
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.inflate(ZLIBReadableChannel.java:136)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.read(ZLIBReadableChannel.java:64)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel$ZLIBReadableChannelSync.read(ZLIBReadableChannel.java:25)
        at ru.bitel.bgbilling.server.util.datalog.DataLogReader.readBuffer(DataLogReader.java:40)
        at ru.bitel.bgbilling.server.util.datalog.BGDataLogReader.readBuffer(BGDataLogReader.java:59)
        at ru.bitel.bgbilling.server.util.ip.datalog.netflow.NetflowDataLogReader.readChunk(NetflowDataLogReader.java:44)
        at bitel.billing.server.netflow.ipn.detail.MonthFlowDetailMaker.createDetail(MonthFlowDetailMaker.java:118)
        at bitel.billing.server.netflow.ipn.detail.DetailMaker.run(DetailMaker.java:91)
Caused by: java.util.zip.DataFormatException: invalid distance code
        at java.util.zip.Inflater.inflateBytes(Native Method)
        at java.util.zip.Inflater.inflate(Inflater.java:238)
        at ru.bitel.bgbilling.server.util.io.channels.ZLIBReadableChannel.inflate(ZLIBReadableChannel.java:125)
        ... 7 more
07-26/09:34:55  INFO [Thread-16] MonthFlowDetailMaker - file writing by 1400638
07-26/09:34:55  INFO [Thread-16] MonthFlowDetailMaker - Start create zip file => /srv/BGBilling/BGIPNNetflowCollector/detail/roma.zip


Вернуться к началу
  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 26 июл 2010, 12:34 
Не в сети
Разработчик
Аватара пользователя

Зарегистрирован: 19 дек 2006, 21:04
Сообщения: 5970
Карма: 256
Да, выкладывали обновление с корректной обработкой этой ошибки. Не успели сюда отписать.
Но вывод ошибки в лог так и оставили. Т.е. он доходит до того места, где не может разархивировать zip, выводит ошибку и переходит к другому файлу.
Почему файл поврежденный - другой вопрос... За месяц - таких похоже два.


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 26 июл 2010, 15:55 
Amir писал(а):
Да, выкладывали обновление с корректной обработкой этой ошибки. Не успели сюда отписать.
Но вывод ошибки в лог так и оставили. Т.е. он доходит до того места, где не может разархивировать zip, выводит ошибку и переходит к другому файлу.
Почему файл поврежденный - другой вопрос... За месяц - таких похоже два.


А поправить его нельзя никак? А если отключить архивирование, будут также битые файлы?


Вернуться к началу
  
 
 Заголовок сообщения: Re: Детализация трафика IPN
СообщениеДобавлено: 27 июл 2010, 17:32 
Не в сети
Разработчик
Аватара пользователя

Зарегистрирован: 19 дек 2006, 21:04
Сообщения: 5970
Карма: 256
Вряд ли... А обсчет раз во сколько минут стоит?
Цитата:
А если отключить архивирование, будут также битые файлы?

Возможно так же будут. Смотря какая причина - ошибка при сжатии или какая-либо внешняя, например не корректная остановка коллектора.


Вернуться к началу
 Профиль  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 16 ] 

Часовой пояс: UTC + 5 часов [ Летнее время ]


Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 1


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  
POWERED_BY
Русская поддержка phpBB
[ Time : 0.083s | 27 Queries | GZIP : On ]