Nie jesteś zalogowany.
Jeśli nie posiadasz konta, zarejestruj je już teraz! Pozwoli Ci ono w pełni korzystać z naszego serwisu. Spamerom dziękujemy!

Ogłoszenie

Prosimy o pomoc dla małej Julki — przekaż 1% podatku na Fundacji Dzieciom zdazyć z Pomocą.
Więcej informacji na dug.net.pl/pomagamy/.

#1  2013-01-16 09:34:56

  redelek - Członek DUG

redelek
Członek DUG
Skąd: Warszawa
Zarejestrowany: 2008-07-17

Rsync i kasowanie plików

Witam,

Mam taki mały dylemat. Muszę z 12 serwerów zbierać logi, najlepiej każdy do oddzielnego folderu (o takiej nazwie jak serwer). Logi pochodzą z aplikacji wewnętrznej , która sama w sobie ma folder log oraz  apache tomcat, apache2, i postgresql. Z tych aplikacji muszę zbierać logi, taki prikaz. Żeby za bardzo nie kombinować myślałem o rsync, żeby pobierał pliki *.0-9.gz bo tak najczęściej te aplikacje robią. Niby wszystko super i prawie to rozwiązałem, ale mam problem żeby skasować te które zostały zgrane z serwera. Chodzi mi o to czy rsync po wykonaniu synchronizacji potrafi kasować pliki z serwera źródłowego ? Szukałem i czytałem o opcji --delete, ale jakoś mi to nie wychodzi.
Macie może pomysł jak zgrywać logi z tylu serwerów ?


Dzięki
redelek


Pozdrawiam
Redelek
--------------------------------------------------------
Polecam hosting ViPower https://vipower.pl/panel/aff.php?aff=208, TikTalik https://tiktalik.com/pl/

Offline

 

#2  2013-01-16 10:18:24

  Jacekalex - Podobno człowiek...;)

Jacekalex
Podobno człowiek...;)
Skąd: /dev/random
Zarejestrowany: 2008-01-07

Re: Rsync i kasowanie plików

rsync przy opcji delete robi dokładną kopię lustrzaną folderu.
Wywala wtedy w docelowym to, czego nie ma w źródłowym.

Ja bym raczej celował z czym się da w sysloga, żeby wysyłał na serwer logów.
Wtedy od razu mogą lądować w bazie danych, mogą być obrabiane regexami, czy przez failbana czy coś podobnego.
I przede wszystkim są składowane od razu na serwerze logów bez żadnych rsynców.
Da się to oskrycpić, żeby samo conieco robiło w razie czego.
I przede wszystkim da się nad tym zapanować, z 12 maszyn logów będą całe tony.
A jeśli w logu masz nazwę hosta i programu, to w rsyslogu zbieranie takich informacji jest dość proste.

Przykład:
http://www.rsyslog.com/doc/rsyslog_conf_filter.html

Pozdrawiam
;-)

Ostatnio edytowany przez Jacekalex (2013-01-16 10:29:31)


W demokracji każdy naród ma taką władzę, na jaką zasługuje ;)
Si vis pacem  para bellum  ;)       |       Pozdrawiam :)

Offline

 

#3  2013-01-16 10:55:23

  redelek - Członek DUG

redelek
Członek DUG
Skąd: Warszawa
Zarejestrowany: 2008-07-17

Re: Rsync i kasowanie plików

Obawiam się właśnie pojemności bazy danych, ta wewnętrzna aplikacja wiecznie jakimiś WRNING lub ERROR pluje, a programiści to poprawiają, obawiam się że, baza pęknie :)
Poczytam o syslog i mysql, może kotś z Państwa ma inne pomysły ?

Dzięki
Redelek


Pozdrawiam
Redelek
--------------------------------------------------------
Polecam hosting ViPower https://vipower.pl/panel/aff.php?aff=208, TikTalik https://tiktalik.com/pl/

Offline

 

#4  2013-01-16 12:43:42

  Jacekalex - Podobno człowiek...;)

Jacekalex
Podobno człowiek...;)
Skąd: /dev/random
Zarejestrowany: 2008-01-07

Re: Rsync i kasowanie plików

Zainteresuj się serwerem Mariadb - to fork Mysqla - który ma sporo rzeczy z serii entrprise.
Między innymi flagi big-tables i max-idx-128.
Standardowo Mysql miał limit 64GB na tabelę, ale to oczywiście teoria,
te flagi mają dać efekt bardziej profesjonalnego serwera, co nie zmienia faktu, że na moim kompie, przy tabeli z 390tys rekordów jeden select w phpmyadminie trwał około  minuty.

Mysql miał jakąś ocję funkcjonowania bezpośrednio na partycjach raid, z szczegółów wnie znam, ale w dokumentacji costam jest na ten temat.
W kazdym razie, czy potem czegos szukasz w bazie, czy w setkach plików grepem, to wielka różnica bynajmniej nie jest.
Wysarczy, zeby była np jedna baza na tydzień, i jedna tabela na dzień dla hosta i usługi, a hosto i usługa (program) wyregeksujesz w konfigu sysloga.

Do tego jest fajny skrypt php do przeglądania logów online.

Byle sensownie rozdzielić te logi, żeby nie ładować wszystkiego do jednej tabeli, podobnie, jak w /var/log logrotate roluje pliki z logami.

Wiec musiz to dopasować do liczby rzeczywiście generowanych logów,
I nie upieram się przy Mysql, moze Postgres lepiej da radę, niech się wypowie ktoś, kto takie rzeczy robił na Postgresie.

I najlepiej, żeby do baz czy logów trafiały posortowane i odpowiednio wyczesane regexem  dane, a nie cały śmietnik, jaki ląduje normalnie w syslogu.

Względnie rsync wywoływany najlepiej automatycznie przez logrotate, i kopiuje do folderu np  /{serwer}/miesiąc/dzień/program/.
Coś takiego można zrobić bez rsynca, samym kopiowaniem.
Albo strzelić z armaty do wróbla, i postawić na te logi serwer git lub svn. :DDD

Reasumując, masz głowę i chu*, to kombinuj. ;)

Pozdrawiam
;-)

Ostatnio edytowany przez Jacekalex (2013-01-16 12:44:06)


W demokracji każdy naród ma taką władzę, na jaką zasługuje ;)
Si vis pacem  para bellum  ;)       |       Pozdrawiam :)

Offline

 

#5  2013-01-16 14:01:08

  redelek - Członek DUG

redelek
Członek DUG
Skąd: Warszawa
Zarejestrowany: 2008-07-17

Re: Rsync i kasowanie plików

oki podziękował pomyślę i pokombinuję


Pozdrawiam
Redelek
--------------------------------------------------------
Polecam hosting ViPower https://vipower.pl/panel/aff.php?aff=208, TikTalik https://tiktalik.com/pl/

Offline

 

Stopka forum

Powered by PunBB
© Copyright 2002–2005 Rickard Andersson
To nie jest tylko forum, to nasza mała ojczyzna ;-)