Αν όταν το τρέχεις μόνος σου παίζει και όταν το τρέχει σαν cronjob δεν παίζει, τότε κάτι δεν πάει καλά με το backup script και/ή τα δικαιώματα που τρέχει όταν το τρέχεις από το cron.
Εμφάνιση 16-30 από 30
Θέμα: Borg Issue
-
14-12-21, 11:28 Απάντηση: Borg Issue #16
-
14-12-21, 14:54 Απάντηση: Borg Issue #17
M /var/www/dolibarr/scripts/website/blogpost-header.txt
Exception ignored in: <bound method Repository.__del__ of <Repository /root/backup/server/borg>>
Traceback (most recent call last):
File "/usr/lib64/python3.6/site-packages/borg/repository.py", line 180, in __del__
assert False, "cleanup happened in Repository.__del__"
AssertionError: cleanup happened in Repository.__del__
Local Exception
Traceback (most recent call last):
File "/usr/lib64/python3.6/site-packages/borg/archiver.py", line 177, in wrapper
return method(self, args, repository=repository, **kwargs)
File "/usr/lib64/python3.6/site-packages/borg/archiver.py", line 598, in do_create
create_inner(archive, cache)
File "/usr/lib64/python3.6/site-packages/borg/archiver.py", line 558, in create_inner
read_special=args.read_special, dry_run=dry_run, st=st)
File "/usr/lib64/python3.6/site-packages/borg/archiver.py", line 676, in _process
read_special=read_special, dry_run=dry_run)
File "/usr/lib64/python3.6/site-packages/borg/archiver.py", line 676, in _process
read_special=read_special, dry_run=dry_run)
File "/usr/lib64/python3.6/site-packages/borg/archiver.py", line 676, in _process
read_special=read_special, dry_run=dry_run)
[Previous line repeated 6 more times]
File "/usr/lib64/python3.6/site-packages/borg/archiver.py", line 649, in _process
status = archive.process_file(path, st, cache)
File "/usr/lib64/python3.6/site-packages/borg/archive.py", line 1099, in process_file
return status
File "/usr/lib64/python3.6/contextlib.py", line 88, in __exit__
File "/usr/lib64/python3.6/site-packages/borg/repository.py", line 1151, in put
segment, offset = self.io.write_put(id, data)
File "/usr/lib64/python3.6/site-packages/borg/repository.py", line 1564, in write_put
fd.write(b''.join((crc, header, id, data)))
File "/usr/lib64/python3.6/site-packages/borg/platform/base.py", line 116, in write
self.fd.write(data)
OSError: [Errno 5] Input/output error
During handling of the above exception, another exception occurred:
Traceback (most recent call last):
File "/usr/lib64/python3.6/site-packages/borg/archiver.py", line 4703, in main
exit_code = archiver.run(args)
File "/usr/lib64/python3.6/site-packages/borg/archiver.py", line 4635, in run
return set_ec(func(args))
File "/usr/lib64/python3.6/site-packages/borg/archiver.py", line 177, in wrapper
return method(self, args, repository=repository, **kwargs)
File "/usr/lib64/python3.6/site-packages/borg/repository.py", line 204, in __exit__
self.close()
File "/usr/lib64/python3.6/site-packages/borg/repository.py", line 458, in close
self.io.close()
File "/usr/lib64/python3.6/site-packages/borg/repository.py", line 1235, in close
self.close_segment()
File "/usr/lib64/python3.6/site-packages/borg/repository.py", line 1391, in close_segment
fd.close()
File "/usr/lib64/python3.6/site-packages/borg/platform/base.py", line 136, in close
self.sync()
File "/usr/lib64/python3.6/site-packages/borg/platform/base.py", line 125, in sync
platform.fdatasync(self.fileno)
OSError: [Errno 5] Input/output error
Linux: CentOS Linux 7.9.2009 Core
Borg: 1.1.17 Python: CPython 3.6.8 msgpack: 0.5.6
- - - Updated - - -
Τώρα έβγαλε αυτό χωρίς να βγάζει κάτι περισσότερο με το --debug ..
Τώρα δουλεύω το dolibarr ίσως έχω τραβήξει αυτό το αρχείο ...
- - - Updated - - -
Το έβαλα για 2η φορά να τρέξει με την ίδια εντολή και τρόπο
- - - Updated - - -
ΚΑΙ ΔΟΥΛΕΨΕ !!!!!!!!!!!!!!!!!!!
Η μόνη λογική εξίγηση που μπορώ να δώσω είναι ότι επειδή τα αρχεία στα οποία χτυπάει είναι heavily used δεν μπορεί για αυτόν τον λόγο να τα διαβάσει
....
Υπάρχει κάποιος τρόπος και λύση σε αυτό ..?
- - - Updated - - -
Η αν έχεις άλλη εξήγηση πες την ..
-
15-12-21, 10:57 Απάντηση: Borg Issue #18
Δεν μου έχει τύχει ποτέ, αλλά θα κάνω μερικές δοκιμές, να διαγράψω αρχεία κατά τη διάρκεια του backup να δω τι θα κάνει.
Μία λύση που μπορώ να σκεφτώ είναι να κάνεις snapshot στο fs και να πεις στο borg να κάνει backup από το snapshot!
Με τι Filesystem δουλεύεις;
-
16-12-21, 03:15 Απάντηση: Borg Issue #19
-
16-12-21, 09:48 Απάντηση: Borg Issue #20
Δεν έγραψα τόσο καιρό γιατί δεν έχω να προσφέρω λύση αλλά και εμένα δεν μου έχει τύχει να βαρέσει το borg επειδή έχει διαγραφεί κάποιο αρχείο. Αν έχεις ορίσει ρητά κάποιο αρχείο που δεν υπάρχει τότε εμφανίζει μήνυμα λάθους και σταματάει αλλά όχι να βαρέσει exception.
Γιατί δεν βάζεις το script να δούμε πώς ακριβώς τρέχεις το borg μήπως και καταλάβουμε κάτι καλύτερα; Επίσης τι έκδοση borg έχεις; Λίγο με προβλημάτισε η πολύ παλιά python3.6 αλλά δεν νομίζω να φταίει αυτό.
Edit: Ξέχασα να αναφέρω πριν. Θυμήθηκα που έγραψες ότι το έτρεξες σαν root και έτρεξε αλλά δεν τρέχει κανονικά. Μήπως τρέχοντας το σαν root, κάποιοι κατάλογοι και αρχεία έχουν άδειες σαν root και κάποια άλλα όχι και αυτό δημιουργεί το πρόβλημα;
Το borg χρησιμοποιεί τα υπάρχοντα chunks όταν δεν έχει τροποποιηθεί κάποιο αρχείο που του λες να κάνει backup οπότε υπάρχει η περίπτωση σε κάποι run να μην προσπελάσει το αρχείο που έχει άδειες για το root οπότε να παίξει σωστά και σε ένα άλλο run να κολλήσει.
Κώδικας:find /path/to/repo -uid 0 find /path/to/repo ! -uid 0
Τελευταία επεξεργασία από το μέλος imitheos : 16-12-21 στις 10:04.
"I like offending people, because I think people who get offended should be offended" - Linus Torvalds
"Παλιά είχαμε φτωχούς οι οποίοι ζούσανε σε φτωχογειτονιές. Τώρα, η οικονομικά δυσπραγούσα τάξη
κατέχει στέγες υποδεέστερης ποιότητας σε υποβαθμισμένα αστικά κέντρα" - George Carlin
Γα.... την πολιτική ορθότητα.
-
16-12-21, 11:26 Απάντηση: Borg Issue #21
Σε σχέση με την έκδοση που αναφέρει και ο @imitheos.
Επειδή προσπαθώ να στήσω ένα παράδειγμα σαν το δικό σου, έστησα CentOS 7.9 και θέλω να κάνω εγκατάσταση το borg, πώς το έκανες εσύ; Από το epel ή από το pip;
Κάνοντάς το εγκατάσταση από το epel καμιά φορά βγάζει διάφορα σφάλματα σαν το δικό σου όταν πειράζω τα αρχεία στη μέση του backup (πχ Error2 File not found). Κάνοντας τη διαδικασία με την εγκατάσταση από source, με Python3 και pip με virtualenv, σταματάνε όλα αυτά τα σφάλματα!
Επειδή είχα και στο παρελθόν προβλήματα με την εγκατάσταση του borg στο centos 7, καθώς έχει default python2, μήπως το πρόβλημα έρχεται από τις εκδόσεις της Python και τις βιβλιοθήκες που χρησιμοποιεί στην πορεία. Για αυτό προτείνει να το τρέξεις μέσα από virtualenv που θέτει python=python3!
-
16-12-21, 15:37 Απάντηση: Borg Issue #22
Λοιπόν στην ερώτηση για την εγκατάσταση:
[root@server]# yum list installed borgbackup
Loaded plugins: fastestmirror, replace
Loading mirror speeds from cached hostfile
Excluding mirror: mirror.fra10.de.leaseweb.net
* base: centos.mirror.iphh.net
* centos-sclo-rh: mirror.imt-systems.com
Excluding mirror: mirror.fra10.de.leaseweb.net
* centos-sclo-sclo: centos.mirror.iphh.net
* epel: ftp.plusline.net
* extras: ftp.hosteurope.de
* remi-php74: remi.schlundtech.de
* remi-safe: remi.schlundtech.de
* updates: centos.mirror.net-d-sign.de
Installed Packages
borgbackup.x86_64 1.1.17-2.el7 @epel
Για την python
OSError: [Errno 5] Input/output error
Platform: Linux server.domain.gr 3.10.0-1160.45.1.el7.x86_64 #1 SMP Wed Oct 13 17:20:51 UTC 2021 x86_64
Linux: CentOS Linux 7.9.2009 Core
Borg: 1.1.17 Python: CPython 3.6.8 msgpack: 0.5.6
PID: 1745 CWD: /root/files/scripts
SSH_ORIGINAL_COMMAND: None
terminating with error status, rc 2
- - - Updated - - -
Ευχαριστώ MitsakosGR για τον χρόνο σου να ξέρεις !
Επειδή το borg το έχω σε 4-5 αλλους servers με κάποιοι να έχουν ακόμα 7.9 centos δεν έχω βρεί κάποιο θέμα εκεί ποτέ !
Ο συγκεκριμένος server είναι μεν εσωτερικός αλλά σαν υπηρεσίες έχει web και mail ... Στο web έχει κάποιες εσωτερικές εφαρμογές π.χ dolibarr ... εκεί που χτυπάει συνήθως.. Το dolibarr είναι σε χρήση συνεχώς από πολλά άτομα οπότε τα αρχεία του είναι Open για το OS οπότε λέω μήπως δεν έχει πρόσβαση να τα διαβάσει ... Μου κάνει τρομερή εντύπωση ότι αν βάλω με το χέρι να κάνει backup με χρήση της nohup στις 5 φορές ας πούμε στις 2 δεν θα βγάλει λάθος και θα το κάνει κανονικά ενώ στις 3 θα πετάξει λάθος... Σε αυτές τις φορές που έκανε backup χωρίς λάθος ίσως έτυχε να μην το δουλεύουν το dolibarr τόσο πολύ κόσμος οπότε μπόρεσε να διαβάσει τα αρχεία...Την Κυτιακή π.χ που το έβαλα να κάνει κάνει backup στο άδειο Repo έκανε 12 ώρες χωρίς να βγάλει κάποιο λάθος και το ολοκλήρωσε σωστά... Μόνο που την Κυριακή είναι light μέρα γιατί οι users είναι σπίτια τους
Οι άλλοι servers που δεν βγάζει πρόβλημα έχουν ποιό light χρήση,χαμηλότερο φόρτο κατά πολύ κυρίως όμως έχουν πολύ λιγότερο όγκο αρχείων συνολικά...
Θέλω στην update day να βάλω να κάνει check τον δίσκο να μου φύγει και αυτή η σκέψη...
Εγώ νομίζω ότι φταίει ότι χρησιμοποιούνται τα αρχεία την ώρα που πάει να τα διαβάσει...Δεν νομίζω ότι φταίει η διαγραφή ή η προσθήκη αρχείων ...
- - - Updated - - -
find /path/to/repo -uid 0
Τα αρχεία που έχει το repo
find /path/to/repo ! -uid 0
No files found
-
16-12-21, 18:11 Απάντηση: Borg Issue #23Όταν ενώνουμε τις δυνάμεις μας, μπορούμε να πετύχουμε το ακατόρθωτο - Παναγιώτης Γιαννάκης
Never say never, because limits, like fears, are often just an illusion - Michael Jordan
-
16-12-21, 20:55 Απάντηση: Borg Issue #24
Έφτιαξα ένα αρχείο 4GB και το πείραζα (τροποποίηση/διαγραφή) την ώρα που το έκανε backup το borg.
Όταν είχα το borg από το epel (όπως και εσύ) κάποια στιγμή μου πέταξε ένα [Error 2 File Not Found] και δεν με άφηνε να διαβάσω ούτε το repo.
Με την εγκατάσταση από το pip και χρήση virtualenv δεν μου το έκανε αυτό και αντίστοιχα με άφηνε να διαβάσω το repo που η epel έκδοση το έβλεπε κατεστραμμένο (ίσως απλά να έτυχε βέβαια).
-
16-12-21, 21:29 Απάντηση: Borg Issue #25
Βάλε ένα apache και βάλε ένα site που να θέλει μερικά δεύτερα να τελειώσει την εκτέλεση ....να αργεί λίγο την ώρα που τρέχει borg
- - - Updated - - -
"Με την εγκατάσταση από το pip και χρήση virtualenv δεν μου το έκανε αυτό και αντίστοιχα με άφηνε να διαβάσω το repo που η epel έκδοση το έβλεπε κατεστραμμένο (ίσως απλά να έτυχε βέβαια). "
την έκδοση έβαλε από την pip σε σχέση με την epl ...μήπως είναι νεώτερη ..?
-
16-12-21, 21:44 Απάντηση: Borg Issue #26
Tο Borg έκανε 1-2 λεπτά να τελειώσει με τα αρχεία 4GB.
Νομίζω και το pip την 1.1.17 έβαλε (δεν έχω πρόσβαση αυτή τη στιγμή για να το δω). Η μόνη διαφορά που μπορώ να φανταστώ είναι ότι το virtualenv καλεί όλες τις βιβλιοθήκες από python 3, ενώ από μόνο του μπορεί να τρέχει με καμιά παλιά έκδοση για κάποιο λόγο, μπορεί να λέω και βλακείες βέβαια, απλά δεν ξέρω τι άλλο να υποθέσω!
-
16-12-21, 23:27 Απάντηση: Borg Issue #27
Κάνε ότι σου είπα ... Κάνε το σενάριο που σου είπα ..Δέσμευσε από τον apache κάποια αρχεία και άσε το borg να προσπαθήσει να τα διαβάσει same time
- - - Updated - - -
Είναι παράξενο θέμα πάντως...
- - - Updated - - -
Α ! Πριν από λίγο τέλειωσε η απογευματινή εκτέλεση ...Την έκανε κανονικά χωρίς λάθος ! Το dolibarr κανείς δεν το δούλευε την ώρα του backup
- - - Updated - - -
θα συνεχίσω το τσεκάρισμα !
-
17-12-21, 10:34 Απάντηση: Borg Issue #28
Πώς γίνεται αυτό; Πώς μπορεί να δεσμεύσει κάποιος ένα αρχείο ώστε να μην μπορεί να το διαβάσει ούτε ο root; Ψάχνοντας λίγο δεν βρήκα κάτι, έχεις κάποιον τρόπο να πω στο Apache να Lockάρει ένα αρχείο;
Αυτό το issue μοιάζει πάρα πολύ στο δικό σου και επιστρέφει στο ότι κάτι δεν πάει καλά με το mount. Και αυτός με το χέρι πετυχαίνει, καμιά φορά πετυχαίνει αλλά κάποιες αποτυγχάνει. Αλλάζει τις παραμέτρους του mount για να το επιλύσει.
Άσχετα με αυτό το error, αλλά γιατί κάνεις mount και borg στο mount και δεν τρέχεις, μέσω ssh, το borg στον server;
- - - Updated - - -
Δεν ξέρω αν είναι σωστός ο τρόπος δοκιμών μου, αλλά έφτιαξα ένα script που παρακολουθεί πότε κάποιος πάει να διαβάσει ένα αρχείο και είτε το διαγράφει, είτε προσθέτει κάτι στο τέλος του, για να το τροποποιήσει.
Κώδικας:#!/bin/bash lsof /root/borg/file1 while [ $? -eq 1 ]; do lsof /root/borg/file1 done sleep 0.2s # rm -fv /root/borg/file1 dd if=/dev/urandom bs=64M count=32 iflag=fullblock >> /root/borg/file1
Όταν το borg πάει να διαβάσει ένα αρχείο εμφανίζεται κάτι τέτοιο για τη διαγραφή:
Κώδικας:COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME borg 24374 root 5r REG 253,0 4294967296 716282 /root/borg/file1 removed ‘/root/borg/file1’
Κώδικας:COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME borg 25889 root 5r REG 253,0 6442450944 716282 /root/borg/file1 32+0 records in 32+0 records out 2147483648 bytes (2.1 GB) copied, 6.9405 s, 309 MB/s
- - - Updated - - -
Μήπως το ότι είναι πολλοί χρήστες πάνω στο σύστημα είναι απλά συγκυρία με κάτι άλλο; πχ υπερβολική χρήση κάποιου network share;
-
17-12-21, 11:46 Απάντηση: Borg Issue #29
Υπάρχει περίπτωση να μην μπορεί να διαβαστεί ένα αρχείο αλλά ακόμη και σε αυτή την περίπτωση δεν θα έπρεπε να κρασάρει με exceptions το borg. Σε εμένα γίνεται συνέχεια αυτό με το mbox επειδή έχω ανοιχτό τον mailer και το κάνει lock.
Κώδικας:var/log/zypp/history 7,960,300 100% 7.39MB/s 0:00:01 (xfr#585, to-chk=23/74604) var/spool/mail/ var/spool/mail/myuser 1,178 100% 57.52kB/s 0:00:00 (xfr#587, to-chk=1/74604) rsync: [receiver] open "/mnt/var/spool/mail/myuser" failed: Permission denied (13) sent 2,079,421,684 bytes received 35,756 bytes 25,205,544.73 bytes/sec total size is 167,895,364,300 speedup is 80.74 rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1330) [sender=3.2.3]
Κώδικας:Creating archive at "/home/borg/repo::root-2021-12-17 10:34" M /var/spool/mail/root M /var/spool/mail/myuser ------------------------------------------------------------------------------ Archive name: root-2021-12-17 10:34 Archive fingerprint: 52c2e23b418560ce204e41b7ccbf25cc2c81c00f14757fbcc3eab8067ebf9f8c Time (start): Fri, 2021-12-17 10:34:38 Time (end): Fri, 2021-12-17 10:34:41 Duration: 2.73 seconds Number of files: 8645 Utilization of max. archive size: 0% ------------------------------------------------------------------------------ Original size Compressed size Deduplicated size This archive: 1.46 GB 1.02 GB 122.95 kB All archives: 3.90 TB 3.66 TB 90.45 GB Unique chunks Total chunks Chunk index: 143881 6040667 ------------------------------------------------------------------------------ terminating with success status, rc 0
Με τις λίγες πληροφορίες που έχουμε, δεν μπορώ να πω με σιγουριά τι φταίει στην περίπτωση του OP αλλά το να μην έχει άδειες και να μην μπορεί να ανοίξει ένα αρχείο δεν είναι λογικό να κρασάρει το borg και φυσικά να κρασάρει με input / output error. Εκτός αν μπλέκει κάτι άλλο όπως selinux και τέτοιες χαζομάρες."I like offending people, because I think people who get offended should be offended" - Linus Torvalds
"Παλιά είχαμε φτωχούς οι οποίοι ζούσανε σε φτωχογειτονιές. Τώρα, η οικονομικά δυσπραγούσα τάξη
κατέχει στέγες υποδεέστερης ποιότητας σε υποβαθμισμένα αστικά κέντρα" - George Carlin
Γα.... την πολιτική ορθότητα.
-
17-12-21, 13:08 Απάντηση: Borg Issue #30
Bookmarks