Κρίσιμα ερευνητικά δεδομένα 77TB, χάθηκαν από το Πανεπιστήμιο του Κιότο, από κακή αναβάθμιση του HP supercomputer

[Zus]

δεν μπορουν να τα επαναφερουν τα δεδομενα ;

Αναφέρει ότι δεν κατάφεραν. Αλλά ακόμα και να γίνεται, παίζει να υπάρχει απίστευτο κόστος που ίσως να μην αξίζει τον κόπο.

[deniSun]

del /s/f/q *.*

[fadasma]

Btrfs + snapshots.
You are welcome.

[megahead13]

Λιγο ασχετο αλλα γενικα ακομα μηχανικους δισκους στις "φαρμες" εχουν για αποθηκευση η εχουν γυρισει σε ssd?

Με σωστή μελέτη μπορείς με ένα μείγμα HDD/SDD να φτάσεις το 99% της απόδοσης καθαρά SSD λύσης.
Δύσκολα να έχεις dataset που θα απαιτεί 100% SSD σε τέτοια μεγέθη.

Δεν νομίζω να υπάρχει κοινή στρατηγική, λογικά ανάλογα με τα λεφτά του καθενός.

Είναι ανάλογα την περίπτωση και το βαλάντιο του καθένα όπως λέει και ο tsigarid. Πχ εμείς είμαστε full ssd.

Οι φυσικοί δίσκοι δεν είναι το κύριο μέλημά τους σε supercomputers, οι επεξεργαστική ισχύς είναι που μετράει κυρίως.

Δεν είναι ακριβώς έτσι. Καλά τα πολλά CPU cores, οι υψηλές συχνότητες των επεξεργαστών, η μεγάλη L2/L3 cache ανά επεξεργαστή, κτλ, αλλά και το καλό storage backend είναι απολύτως κρίσιμο για να μη σέρνονται τα simulations.

δεν μπορουν να τα επαναφερουν τα δεδομενα ;

Αναφέρει ότι δεν κατάφεραν. Αλλά ακόμα και να γίνεται, παίζει να υπάρχει απίστευτο κόστος που ίσως να μην αξίζει τον κόπο.

Ανάλογα το HPC περιβάλλον μπορεί τα δεδομένα να μη γίνονται καν backup, κυρίως λόγω κόστους όπως λέει και ο Zus. Θα χρειαζόσουν πολλά PB χωρητικότητας για το backup σύστημα. Άλλωστε τα simulations μπορούν να ξανατρέξουν. Τα design data σου είναι απείρως πιο κρίσιμο να έχουν DR/backup.

Btrfs + snapshots.
You are welcome.

Ε, καλά δεν είναι μόνο το btrfs που έχει snapshots (άσε που btrfs και HPC περιβάλλον, δεν κολλάει). Επίσης τα snapshots δε μπορείς να τα χρησιμοποιήσεις όταν από ώρα σε ώρα και από μέρα σε μέρα έχεις μεγάλες αλλαγές στα file systems σου. Τα delta των snapshots θα καταναλώσουν όλη τη χωρητικότητα του αποθηκευτικού σου συστήματος πριν καν προλάβεις να πεις κύμινο.

[aiolos.01]

Αυτά τα συμβόλαια έχουν κάποιου είδους αποζημιώσεις για τέτοιες περιπτώσεις; Η απλά το νοικιάζεις και σου λέει αν με δική μου υπαιτιότητα τα χάσεις όλα, shit happens;

[Parrot]

Μάλλον ο Μητσοτάκης θα επισκέφτηκε τις εγκαταστάσεις και δεν το λένε

[mion_15]

μιας και αρκετά άτομα εδω βλέπω δουλεύουν σε τέτοια συστήματα που δεν εχω ιδέα.
όταν λέμε ανάλαβε την ευθύνη τι σημαίνει γιατί αν είναι σαν τους δικούς μας δεν λεω ποιους λενε ανάλαβα την ευθύνη και τέλος ?

[Thanasis159]

Το ζήτημα της ακούσιας διαγραφής αρχείων και backup είναι πολύ σοβαρό, αλλά σε πρώτη ανάγνωση νομίζω ότι οι συνέπειες δεν μου φαίνονται τόσο μεγάλες. Χαθήκαν 2 ημέρες εργασίας 14 ομάδων. Ερευνητικά δεδομένα είναι, θα αφιερώσουν οι 14 ομάδες επιπλέον 2 ημέρες και θα τα επαναδημιουργήσουν.

Αν υπήρχε κάτι πολύ ευαίσθητο, θα υπήρχε και offline backup.

This! Για κάποιον εξωτερικό ακούγεται σαν τραγική απώλεια, αλλά στην πράξη δεν είναι και κάτι τρομερό αντιλαμβάνομαι.

[euri]

Όσοι είμαστε έξω από το χορό πολλά τραγούδια λέμε. Οι παθόντες είμαι σίγουρος ότι το αντιλαμβάνονται πολύ διαφορετικά.

[tsigarid]

Μερικά πράγματα:

- Δεν ξέρω τι σημαίνει "αναλαμβάνω την ευθύνη", αλλά μάλλον έχει να κάνει με το ποιος θα τιμωρηθεί (από σχεδόν καθόλου μέχρι απόλυση, ανάλογα το παράπτωμα) όταν κάτι πάει στραβά.

- Σίγουρα υπάρχουν ρήτρες στα συμβόλαια, αλλά σχεδόν πάντα αυτές αφορούν το hardware. Τώρα αν κάτι πάει στραβά σε ένα script, ισχύει το παραπάνω.

- 2 μέρες χαμένη δουλειά μπορεί να ακούγεται λίγο, γιατί ο μόνος τρόπος που μπορούν να το μετρήσουν είναι το πόσα ΤΒ παράγει ο υπολογιστής κάτω από ένα συγκεκριμένο φόρτο εργασίας. Αν το μόνο που έχασες είναι αποτελέσματα προσομοιώσεων, τότε ναι, σε 2 μέρες (άντε 3) τα ξαναέχεις. Αν όμως έχασες αρχεία που απαιτούνται για να τρέξουν οι προσομοιώσεις, τότε πρέπει να τα ξαναβρείς, είτε από συνεργάτες, είτε να τα ξαναφτιάξεις, ότι απαιτείται. Αν τώρα έχασες και τα script που δημιουργούν τα εν λόγω αρχεία, τότε μπορεί να μιλάμε για μήνες δουλειάς. Όταν τρέχουν προθεσμίες, πλησιάζει η ημερομηνία υποστήριξης του διδακτορικού σου, κλπ, καταλαβαίνετε ότι "2 μέρες χαμένη δουλειά" υποβαθμίζει πλήρως τη δυνητικά σοβαρότατη κατάσταση που έχει δημιουργηθεί.

- Backup υπάρχει, αλλά όχι απαραίτητα για τα πάντα. Στον υπολογιστή που χρησιμοποιώ εγώ για παράδειγμα ο χώρος που τρέχουν τα μοντέλα ΔΕΝ γίνεται backup, λόγω του τεράστιου χώρου του και των συχνών αλλαγών σε αυτόν. Η λογική είναι ότι πολλά από τα δεδομένα που παράγουμε θα σβηστούν έτσι κι αλλιώς, είτε γιατί είναι δοκιμές, είτε γιατί είναι λάθος, είτε για οποιονδήποτε άλλο λόγο. Το σημαντικό είναι ότι τα φρέσκα δεδομένα υπό ανάλυση δεν γίνονται backup, οπότε μόλις δούμε ότι αυτό που παράγαμε είναι σημαντικό, πρέπει να το μεταφέρουμε στον χώρο αρχειοθέτησης, όπου γίνεται backup. Τυχόν πράγματα που είναι σημαντικά και τα έχουμε εκεί (πχ αρχεία εισόδου, κώδικας, κλπ) είναι ευθύνη μας να έχουμε ένα mirror και κάπου αλλού στον υπολογιστή.

[konig]

Όσοι είμαστε έξω από το χορό πολλά τραγούδια λέμε. Οι παθόντες είμαι σίγουρος ότι το αντιλαμβάνονται πολύ διαφορετικά.

ειδικα οταν μπορει να μην βρουν χρονο ξανα για καμποσο καιρο

[megahead13]

- Backup υπάρχει, αλλά όχι απαραίτητα για τα πάντα. Στον υπολογιστή που χρησιμοποιώ εγώ για παράδειγμα ο χώρος που τρέχουν τα μοντέλα ΔΕΝ γίνεται backup, λόγω του τεράστιου χώρου του και των συχνών αλλαγών σε αυτόν. Η λογική είναι ότι πολλά από τα δεδομένα που παράγουμε θα σβηστούν έτσι κι αλλιώς, είτε γιατί είναι δοκιμές, είτε γιατί είναι λάθος, είτε για οποιονδήποτε άλλο λόγο. Το σημαντικό είναι ότι τα φρέσκα δεδομένα υπό ανάλυση δεν γίνονται backup, οπότε μόλις δούμε ότι αυτό που παράγαμε είναι σημαντικό, πρέπει να το μεταφέρουμε στον χώρο αρχειοθέτησης, όπου γίνεται backup. Τυχόν πράγματα που είναι σημαντικά και τα έχουμε εκεί (πχ αρχεία εισόδου, κώδικας, κλπ) είναι ευθύνη μας να έχουμε ένα mirror και κάπου αλλού στον υπολογιστή.

Μιλάς σοβαρά τώρα!! Καλά δεν έχετε κάποιο NAS με DR/backup και κάποιου είδους CVS (git, Perfroce, κτλ);;;; Τί μπακαλίστικα πράγματα είναι αυτά!!!

[tsigarid]

Μιλάς σοβαρά τώρα!! Καλά δεν έχετε κάποιο NAS με DR/backup και κάποιου είδους CVS (git, Perfroce, κτλ);;;; Τί μπακαλίστικα πράγματα είναι αυτά!!!

To git δεν ενημερώνει τίποτα αυτόματα, εκτός αν κάνεις commit/push, σωστά;

[megahead13]

To git δεν ενημερώνει τίποτα αυτόματα, εκτός αν κάνεις commit/push, σωστά;

Ναι, πολύ σωστά. Δε νοείται όμως σήμερα να μην υπάρχει κάποιο revision control system στο οποίο το IT να έχει υλοποιήσει τα δικά ταυ DR/backup, εκτός των DR/backup μηχανισμών ενός NAS αποθηκευτικού. Τοπικά στο PC σας σώζεται;;; Έλεος δηλαδή, δεν είμαστε ούτε στο 1980, ούτε και στο 1990 (που και τότε δηλαδή υπήρχαν CVS και NFS).

[tsigarid]

Όσα λες υπάρχουν. Επίσης υπάρχει μέρος που παίρνονται αυτόματα backup τα πάντα. Αλλά υπάρχει και μέρος που δεν. Απλά ο κάθε χρήστης είναι ενήμερος και κάνει τα κουμάντα του για τον χώρο που δεν γίνεται backup.