rsync très lent en différenciel ! - Codes et scripts - Linux et OS Alternatifs
Marsh Posté le 28-08-2008 à 16:50:41
Pour information la première sauvegarde incrémentielle/différentielle est toujours très longue. Ensuite par contre ce sera un réel gain de temps lors des sauvegardes suivantes. Donc pas de quoi s'affoler (aussi bien pour rsync que rdiff-backup, 2 utilisataires de sauvegardes que j'ai utilisé entre autre).
Marsh Posté le 28-08-2008 à 17:57:44
Nan mais t'as un autre problème. rsync est pas 'très lent' la première fois, il copie tout et c'est tout. Après en incrémental, y a pas de raison que ça soit lent. Ton -vv ou --progress ils te donnent des pistes sur ce qui est lent à faire ?
Marsh Posté le 28-08-2008 à 18:01:41
@SkadiIsSadik : Ca fait un mois que je fais des incrementiels... et pour quelquels centaines de Go, ca mets pratiquement 2j !!!
Mon -vv ne me donne rien de particulier, il liste les fichiers, et basta, mais c'est long !
Marsh Posté le 29-08-2008 à 13:07:02
bah tu dois voir les les vitesses de transfert des fichiers ?
Marsh Posté le 31-08-2008 à 22:15:35
C'est pas pdt le transfert, c'est pendant le scan des fichiers (comparaison des fichiers ?)
Marsh Posté le 01-09-2008 à 07:35:30
C'est quoi pour un ordinateur que tu as ? Ces centaines de Go , c'est des fichiers de quelle taille en moyenne ?
Je dis peut-être une bêtise, mais si c'est style serveur Mail avec tous des fichiers de 50-100k et que c'est un vieux P1 avec HDD en ata .. faut pas trop s'étonner
Sinon t'as fait un "top" pour voir que c'est bien rsync qui est lent (pas des fois que ton cron lance aussi autre chose de très CPU consuming en même temps)
Marsh Posté le 01-09-2008 à 14:17:19
C'est un serveur Core 2 à 2,2Ghz, 2Go de RAM, RAID1, bref, une machine plus que correcte.
Rsync bouffe quasi rien en CPU qd il tourne...
Marsh Posté le 07-11-2008 à 00:01:01
Le probleme vient surement pas de rsync, ça reglera pas le probleme.
( Ya quand même rsnapshot pour les backups )
Install jnettop à la rigueur et regarde ce qui (se) passe
Marsh Posté le 07-11-2008 à 10:54:47
rsync -avPHAX --inplace --force --delete --delete-excluded -e "ssh -c blowfish-cbc" --block-size=2048 --checksum-seed=32761
Pour info, rsync est "lent" à constituer la liste des fichiers à backuper s'il y en a beaucoup (ie: 300GB dans plus de 60M prend plus de 24h à créer sur un RAID honnête).
De plus, il utilise énormément de mémoire pendant ce processus (ie: même source, il faut plus de 16GB RAM à rsync seul).
Marsh Posté le 07-11-2008 à 12:14:26
Et si tu fais une simple copie de fichier au travers de nfs as-tu toujours un débit aussi lent ?
Marsh Posté le 28-08-2008 à 10:17:09
Bonjour,
Je suis actuellement en train d'optimiser mes scripts de back up avec rsync. Et vu que c'est un serveur de fichiers, j'ai pas mal galéré au début car le script s'arrétait dès qu'il rencontrait un fichier ouvert, j'ai trouvé la solution du --ignore-errors mais je me demande si c'est pas un peu du bricolage, qu'en pensez vous ? Comment gérez vous le back up d'un serveur de prod avec rsync ?
De plus rsync est ultra lent, là ca fait 2 jours qu'il fait son différenciel pr un répertoire de quelques centaines de Go, c'est je ne sais combien de fois plus lent que de faire un Full !!!
rsync -avvrt --backup --delete --progress --ignore-errors --chmod=ugo=rwX répertoire_source répertoire_dest
Avant j'avais un --delay-updates, je viens de l'enlever de la commande pour voir si ce n'est pas cette option qui rend rsync si lent !
Pr info le repertoire source et destination sont sur deux machines différentes sur un réseau 100Mbps.
Merci !