PDA

Επιστροφή στο Forum : Σύνθεση για ESXI Servers στη δουλειά.



Σελίδες : [1] 2 3

BlueChris
25-08-20, 13:44
Λοιπόν μετά τo επιτυχές τεστ που είχα εγώ σπίτι με ένα Aorus Pro x570 με έναν 3600 και 64gb ram σαν ESXI Server, σκέφτομαι πλέον στη δουλειά σιγά σιγά να αρχίσω να παροπλίζω τα HP DL 380 G9(2), G7(4) και να πάω σε custom συνθέσεις για να πάρουν τα πάνω τους τα πάντα.
Ήδη ένα σαν αυτό του σπιτιού μου τρέχει δοκιμαστικά στο γραφείο μου εδώ και 3 μήνες με το δικό μου VM που δουλεύω με bypass μία NVIDIA και μια USB3 κάρτα και έχει πάνω του ακόμα 2 δυνατά Virtual.

Ήμουν σε ένα δίλημμα αν θα πάω σε TR4 και treadripper3 ή X570 και 3000 series CPUs αλλά συγκλίνω προς το x570 γιατί και το έχω δουλέψει αλλά και γιατί τα κόστη ανεβαίνουν πολύ με τους theadripper και επίσης είμαι της φιλοσοφίας όχι 1 δυνατό τέρας αλλά 2-3 με λιγότερους πυρήνες για ασφάλεια. Θα βάλω configurations και από AM4 Και TR4

Οπότε έχω τις εξής λύσεις στο θέμα Motherboard όπου με νοιάζει βασικά μόνο να έχει IPMI (remote control δηλαδή για έλεγχο απευθείας του Motherboard) και δεν με ενδιαφέρει το PCI4 καθόλου γιατί κανένα MB δεν θα έχει δίσκο επάνω του παρά μόνο κάτι μικρό για το esxi. Σε κάθε MB θα μπουν επάνω 2 κάρτες που επιτυχώς δουλεύουν όπως προείπα στο μηχάνημα της δουλειάς 3 μήνες τώρα. Μία HP Ethernet 10Gb 2-port 560SFP+ Adapter για Lan και μία HP StorageWorks 82Q 8Gb PCI-e FC HBA για σύνδεση στην MSA 2042 συστοιχία οπότε ότι και να βάλω δουλεύει.

ΑΜ4

Από ΑΜ4 βρίσκω μόνο αυτά τα 2 αλλά συγκλίνω περισσότερο στο ASROCK.

1. ASUS PRO WS X570-ACE (https://www.asus.com/Motherboards/Pro-WS-X570-ACE/) περίπου 370€.
2. Asrock X470D4U (https://www.asrockrack.com/general/productdetail.asp?Model=X470D4U#CPU) περίπου στα 300€. Ο λόγος εδώ για το x470 αντί για το x570 μοντέλο είναι πως το x570 έχει μόνο ένα PCIe slot οπότε δεν μου κάνει. Έχω 2x8 Pcie splitter σε 2x8 και η asrock υποστηρίζει bifurcation αλλά δεν θέλω να το παιδέψω το θέμα. Επίσης δεν μου κάνουν τα μοντέλα της Asrock με της 2x10GBlan γιατί το 24άρι switch στο μαγαζί που έχω είναι FC (HPE 5820AF-24XG Switch)

Από AM4 CPU τώρα που μιλάμε ο CPU AMD RYZEN 9 3900XT 3.80GHZ 12-CORE BOX (https://www.amd.com/en/products/cpu/amd-ryzen-9-3900xt) είναι γύρω στα 540€, δεν χρειάζομαι παραπάνω πυρήνες για κανένα λόγο. (8-10vm θα τρέχει max το καθένα)
Ο λόγος που έχω πάει σε μεγάλο ryzen 9 είναι πως όσο ποιο πολλά τα MHZ τόσο ποιο γρήγορα δουλεύουν όλα, στην πράξη είδα πως τα MHZ κάνουν τη διαφορά στα VM μου στο μαγαζί.

Ψήκτρα θα πάω σε Noctua NH-U12A (https://noctua.at/en/nh-u12a) περίπου γύρω στα 110€ με ανεμηστήρες 2 x NOCTUA NF-F12 INDUSTRIALPPC-2000 120MM PWM (https://noctua.at/en/nf-f12-industrialppc-2000-pwm) γύρω στα 30€ ο ένας

Μνήμες θα μπουν
2 x Micron MTA18ASF4G72AZ-3G2B1 (https://www.micron.com/products/dram-modules/udimm/part-catalog/mta18asf4g72az-3g2/mta18asf4g72az-3g2b1) memory module 32 GB 1 x 32 GB DDR4 3200 MHz ECC γύρω στα 200€ η μία
ή
2 x 32GB (1x32GB) Samsung M391A4G43MB1-CTD (https://www.samsung.com/semiconductor/dram/module/M391A4G43MB1-CTD/) DDR4 Server RAM, PC4-21300 (2666), ECC, CAS 17, Dual Rank, 1.2V γύρω στα 185€ η μία

Κουτί λέω το inter tech 4U 4088-S (https://www.inter-tech.de/en/products/ipc/server-cases/4u-4088-s) στα 90€ περίπου με
2 x NOCTUA NF-F12 INDUSTRIALPPC-3000 120MM PWM (https://noctua.at/en/nf-f12-industrialppc-3000-pwm) (1ας μπροστά που μπαίνει κανονικά και πίσω τα κουτιά θα τα κόψω στις θέσεις που έχουν για 2 χ 80mm για να μπει ένας τέτοιος) γύρω στα 37€ ο καθένας

Το παραπάνω κοστίζει περίπου 1500-1600€

TRX40

Τώρα με TRX40 δεν βλέπω πολλές επιλογές.... βρίσκω αυτό
ASRock Rack TRX40D8-2N2T (https://www.asrockrack.com/general/productdetail.asp?Model=TRX40D8-2N2T#Specifications) το οποίο δεν έχει βγει καλά καλά ακόμα και κοστίζει στην Αμερική γύρω στα 700$... θεωρητικά μέχρι οκτώμβρη που θα προχωρήσω θα έχει βγει.

Από CPU μεριά θέλω τον AMD Ryzen Threadripper-3960X (https://www.amd.com/en/products/cpu/amd-ryzen-threadripper-3960x) που είναι γύρω στα 1300€

Ψήκτρα θέλω την Noctua NH-U12S TR4-SP3 (https://noctua.at/en/nh-u12s-tr4-sp3) γύρω στα 80€

Το παραπάνω τώρα θα πάει γύρω στα 2500€ οπότε υπάρχει μια διαφορά στα 1000€ άρα ο Threadripper μάλλον αποκλείεται....

Αυτά σκέφτομαι και έχω άνετα 2 μήνες μπροστά μου αν προχωρήσει το Project... οπότε όποιος έχει άποψη ας την εκφράσει ελεύθερα.;)

Vtester
25-08-20, 18:20
Εγώ από τις δύο μητρικές που λες θα προτιμούσα την asrock . Αν καταλήξεις στην asrock , θα πας για τον απλό 3900x και όχι για τον xt εκτός και αν όταν αγοράσεις , έχει βγει bios που να τον υποστηρίζει. Για μνήμη αυτήν που λέει το qvl της asrock δλδ την samsung που γράφεις.

Στο κουτί υπάρχει λόγος που διαλέγεις το συγκεκριμένο ;

BlueChris
25-08-20, 18:50
Εγώ από τις δύο μητρικές που λες θα προτιμούσα την asrock . Αν καταλήξεις στην asrock , θα πας για τον απλό 3900x και όχι για τον xt εκτός και αν όταν αγοράσεις , έχει βγει bios που να τον υποστηρίζει. Για μνήμη αυτήν που λέει το qvl της asrock δλδ την samsung που γράφεις.

Στο κουτί υπάρχει λόγος που διαλέγεις το συγκεκριμένο ;

Και εγώ την Asrock λέω και όντως τον XT δεν τον λέει στο QVL αλλά μέχρι τότε θα βγάλουν bios σίγουρα... τώρα και ο 3800x μια χαρά θα μου κάτσει μάλλον.

Το κουτί απλά το έχω ήδη σε ένα custom καταγραφικό που έχω εδώ και 4 χρόνια και είναι μια χαρά... αν έχεις άλλη πρόταση σε 4U με 12άρηδες είσοδο αέρα μπροστά και πίσω 12άρη/δες έξοδο είμαι μέσα.

Vtester
25-08-20, 20:07
Δεν έχω άλλη πρόταση απλά και για αυτό ρώτησα , δεν ήξερα αν χρειάζεσαι τον συγκεκριμένο τύπο κουτιού. Μια χαρά φαίνεται κι αφού το έχεις ήδη κομπλέ.

BlueChris
25-08-20, 20:10
Τροφοδοτικά ξέχασα, αν βρω εύκολα seasonic θα πάρω αλλιώς corsair HX

mike_
26-08-20, 20:59
Τροφοδοτικά ξέχασα, αν βρω εύκολα seasonic θα πάρω αλλιώς corsair HX

Το παρακάτω φαίνεται καλή περίπτωση: 80+ gold, πολλά functionalities, πολλές προστασίες, fully modular και dual-eps που ενδέχεται να το χρειαστείς μιας και πας σε flagship CPUs.

https://www.skroutz.gr/s/17418571/Sharkoon-SilentStorm-Cool-Zero-650W.html

BlueChris
26-08-20, 21:19
Το παρακάτω φαίνεται καλή περίπτωση: 80+ gold, πολλά functionalities, πολλές προστασίες, fully modular και dual-eps που ενδέχεται να το χρειαστείς μιας και πας σε flagship CPUs.

https://www.skroutz.gr/s/17418571/Sharkoon-SilentStorm-Cool-Zero-650W.html

Δεν τα έχω δοκιμάσει γενικά. Θα πάρω ένα να το βάλω στη δουλειά κυρίως να μετρήσω ρεύματα και σταθερή απόδοση με διαφορετικά φορτία. Απλά τα μεγάλα μοντέλα τις corsair δεν με έχουν προδώσει ποτέ.

Ευχαριστώ.

EnDLess
26-08-20, 21:20
Ανάλογα και τα οικονομικά βέβαια αλλά προσωπικά θα πήγαινα σε dell rack server. Δεν μας λες τι ανάγκες έχεις σε πόρους. Τα vm τα έχεις μέσα στο storage φαντάζομαι σωστά;;

Vtester
26-08-20, 21:41
https://www.skroutz.gr/s/15098381/Corsair-RMx-Series-RM650x-140mm.html
https://www.skroutz.gr/s/14483039/Corsair-RMx-Series-RM750x-2018.html

το έχει και σε προσφορά το πλαίσιο αλλά και γενικά η τιμή τους είναι σχετικά καλή και με 10ετη εγγύηση.

BlueChris
26-08-20, 22:41
Ανάλογα και τα οικονομικά βέβαια αλλά προσωπικά θα πήγαινα σε dell rack server. Δεν μας λες τι ανάγκες έχεις σε πόρους. Τα vm τα έχεις μέσα στο storage φαντάζομαι σωστά;;

Δίκιο έχεις.

Λοιπόν αυτά είναι τα σύνολά μου τα current στο μαγαζί.

218332

Είναι 53vm μέχρι στιγμής εκ των οποίων

6 server
Microsoft SQL Server
Domain Controller και DNS Server
File Server
Web Server
ERP Server
MIS Production Server

8 vm για διάφορες λειτουργίες Backbone
PiHole
Untangle Master
Untangle Secondary
Freepbx
Vcenter
Vrealize
VSRS
UNMS

33 VM Τερματικά για τους χρήστες (μαζί και τα 2 δικά μου)
Τα βασικά VM είναι Windows 10 με 4GB ram και 96GB δίσκο, υπάρχουν κάποιοι με παραπάνω ανάγκες και τους δίνω παραπάνω ζουμί.
Τα υπόλοιπα που μένουν μέχρι τα 53 είναι κυρίως πειράματα δικά μου.

Τώρα το Current Esxi Hardware είναι 2 rack με τα εξής

2 x DL380G9 με CPU E5-2660 v3 @ 2.60GHz και 128GB DDR4 2133
3 x DL380G7 με 2 x Intel(R) Xeon(R) CPU X5670 @ 2.93GHz
1 x Dell PowerEdge R420 με 2 x Intel(R) Xeon(R) CPU E5-2430 και 144GB Ram
1 x DL380G6 με 2 x CPU E5520 @ 2.27GHz
1 x CustomPC με Gigabyte Aurus Pro X570 και Ryzen 3700x με 128GB DDR4 (Εκτός Rack στο γραφείο μου)

Οι δίσκοι είναι πάνω σε συστοιχία της HP MSA2042 που το έχω με 2 έξτρα Enclosures 3.5".
Σύνολο δίσκων είναι
10 x Samsung PM1633a 960GB Sas SSD (raid10) (Performance Tier)(Non HP τους πήρα μόνος μου από Γερμανία)
8 x Seagate ST3600057SS 600GB 15000RPM SAS HDD (Raid10) (Standard Tier)
4 x Seagate ST3000NM0023 3TB 7200RPM SAS HDD (Raid10) (Archive Tier)
4 x SEAGATE ST4000NM0295 4TB 7200RPM SAS HDD (Raid10) (Το έχω μόνο για Backup)

Πάνω σε αυτούς τους δίσκους βρίσκονται τα πάντα και πετάει. Συνήθως το 90% τις κίνησης είναι πάνω στους SSD

Ακόμα και το Boot των esxi είναι partition 16GB πάνω στη συστοιχία. Η διασύνδεση των PC με τη συστοιχία γίνεται με ένα HP Brocade 8GB FC Switch και κάθε Server έχει μέσα του μια HP 82Q 2x8GB Fc ή μία HP81Q 1x8gb FCκάρτα

Τώρα γιατί γίνεται όλο το πανηγύρι ? γιατί μετά από άπειρα χρόνια και με όσα διάβαζα για τους Ryzen, είπα και εγώ να πάρω έναν... βασικά το δικό μου του σπιτιού με τον 3600 το είχα στο μαγαζί από τον Σεπτέμβριο πέρυσι και έπαιζα μέχρι τα Χριστούγεννα.
Το θέμα είναι ένα.. ότι VM πετάξω επάνω στον Ryzen πετάει... η διαφορά είναι ειλικρινά πολύ μεγάλη και ακόμα και το DL380G9 δεν μπορεί να το πιάσει σε ταχύτητα. Έβαλα τα βαριά VM στη δουλειά πάνω του που ήταν κυρίως 3-4 σοβαρές θέσεις εργασίας και δεν καταλάβαινε τίποτα οπότε και η απόφαση να προχωρήσω σε αλλαγές.

Για να καταλάβετε τη διαφορά κόστους επίσης... από HP θες για ένα DL380G10 με σοβαρή CPU Intel® Xeon® Gold γύρω στα 6000€ και σε DELL γύρω στα 5000€ με 64GB Ram και χωρίς δίσκους. Τα DL380 G9 τα είχα πάρει με τις μίνιμουμ CPU που μπορούσαν να μου τα πουλήσουν και είχαμε δώσει το 2017 γύρω στα 3000€ το καθένα. Τις CPU που έχω πάνω σε αυτά πλέον, με αρετή και τόλμη τις πήρα από EBAY πέρυσι :) και πήραν τα πάνω τους.

EnDLess
27-08-20, 11:31
Τώρα γιατί γίνεται όλο το πανηγύρι ? γιατί μετά από άπειρα χρόνια και με όσα διάβαζα για τους Ryzen, είπα και εγώ να πάρω έναν... βασικά το δικό μου του σπιτιού με τον 3600 το είχα στο μαγαζί από τον Σεπτέμβριο πέρυσι και έπαιζα μέχρι τα Χριστούγεννα.
Το θέμα είναι ένα.. ότι VM πετάξω επάνω στον Ryzen πετάει... η διαφορά είναι ειλικρινά πολύ μεγάλη και ακόμα και το DL380G9 δεν μπορεί να το πιάσει σε ταχύτητα. Έβαλα τα βαριά VM στη δουλειά πάνω του που ήταν κυρίως 3-4 σοβαρές θέσεις εργασίας και δεν καταλάβαινε τίποτα οπότε και η απόφαση να προχωρήσω σε αλλαγές.

Δεκτό αυτό αν και μου κάνει εντύπωση. Δηλαδή έριξες όπως λες extra ζουμί σε cpu από τους servers και πάλι ο ryzen πήγαινε καλύτερα;; Πραγματικά ενδιαφέρον. Φαντάζομαι το Ryzen το είχες κουμπωμένο με τα οπτικά στο brocade->msa οπότε τα δεδομένα που έβλεπες ήταν συγκρίσιμα. Δεν έκανες δηλαδή migrate τα vm τοπικά. Σίγουρα δεν μπουκώνει κάπου το traffic;;;:p
Κάποτε ένας συνεργάτης μου είχε αλλάξει το schedule των backup βάζοντάς τα πρωί... κατάλαβες τι έγινε...

Απλά το σκεπτικό μου είναι πως οι ευκολίες που θα χάσεις για redundancy και monitoring αν πας σε τέτοιου είδους "home" λύσεις. Ειδικά η dell, σε αντίθεση με την hpe, έχει άριστη υποστήριξη σε αναβαθμίσεις drivers - firmware. Συν τα διπλά hotplug power supplies, idrac, lifecycle controller, open manage, εξατομικευμένο customized esxi image. Το passthrough δουλεύει στο ryzen;; Δεν θα ήθελα να χάσω τέτοια καλούδια.

Τέσπα, δίνω δύο links για online tools της dell που ίσως σε κάποιους να φανούν χρήσιμα.

Ένα on line configurator για R640 (https://www.dell.com/en-us/work/shop/servers-storage-and-networking/poweredge-r640-rack-server/spd/poweredge-r640/pe_r640_12232b_vi_vp?configurationid=3f621f2a-2a63-4677-afa3-d352c7d766f4), μπορείς να το κάνεις για όποιον server θέλεις

και το Dell Enterprise Infrastructure Planning Tool (http://dell-ui-eipt.azurewebsites.net/#/)

BlueChris
27-08-20, 12:02
Δεκτό αυτό αν και μου κάνει εντύπωση. Δηλαδή έριξες όπως λες extra ζουμί σε cpu από τους servers και πάλι ο ryzen πήγαινε καλύτερα;; Πραγματικά ενδιαφέρον. Φαντάζομαι το Ryzen το είχες κουμπωμένο με τα οπτικά στο brocade->msa οπότε τα δεδομένα που έβλεπες ήταν συγκρίσιμα. Δεν έκανες δηλαδή migrate τα vm τοπικά. Σίγουρα δεν μπουκώνει κάπου το traffic;;;:p
Κάποτε ένας συνεργάτης μου είχε αλλάξει το schedule των backup βάζοντάς τα πρωί... κατάλαβες τι έγινε...

Απλά το σκεπτικό μου είναι πως οι ευκολίες που θα χάσεις για redundancy και monitoring αν πας σε τέτοιου είδους "home" λύσεις. Ειδικά η dell, σε αντίθεση με την hpe, έχει άριστη υποστήριξη σε αναβαθμίσεις drivers - firmware. Συν τα διπλά hotplug power supplies, idrac, lifecycle controller, open manage, εξατομικευμένο customized esxi image. Το passthrough δουλεύει στο ryzen;; Δεν θα ήθελα να χάσω τέτοια καλούδια.

Τέσπα, δίνω δύο links για online tools της dell που ίσως σε κάποιους να φανούν χρήσιμα.

Ένα on line configurator για R640 (https://www.dell.com/en-us/work/shop/servers-storage-and-networking/poweredge-r640-rack-server/spd/poweredge-r640/pe_r640_12232b_vi_vp?configurationid=3f621f2a-2a63-4677-afa3-d352c7d766f4), μπορείς να το κάνεις για όποιον server θέλεις

και το Dell Enterprise Infrastructure Planning Tool (http://dell-ui-eipt.azurewebsites.net/#/)

Ναι το ryzen είναι με τις 2 κάρτες HP κανονικά επάνω και δουλεύει και το bypass ρολόι αλλά θέλει περίεργη ρύθμιση για την nvidia σπίτι από esxi 6.7 και πάνω αλλά τα κατάφερα.

Θεουλης ο φίλος με τα backup μέσα στη μέρα. Backup κάνω στους 4x4tb στη συστοιχία στις 2 το πρωί. Μετά αυτό αντιγράφεται σε 2x6tb σε άλλο σημείο του εργοστασίου και μετά φεύγει πρώτα σε server στη Γερμανία νοικιασμένο και τέλος έρχεται και σπίτι μου, εξου και το γαϊδούρι που έφτιαξα για το σπίτι με ryzen. Μέσα στη μέρα γίνεται η ιντερνετική κίνηση που δεν με επηρεάζει γιατί είναι upload μόνο.

Είναι απίστευτο το full licence του veeam, το έβαλα σε trial και έκλαψα... Κάνει παπάδες για να κερδίσεις traffic στα offsite backup και ψήνω το αφεντικό μου να το πάρουμε.
Τις δουλειές του μαγαζιού τις κάνω backup με acronis 11 και εκεί χρειάζομαι αναβάθμιση γιατί είναι παλιό πια.

Στο ryzen της δουλειάς έχω πάνω και nvme pcieX4 τον 1tb aorus, είχε μεγαλύτερο throughput φυσικά από τη συστοιχία αλλά καμία σχέση στην πίεση.

sdikr
27-08-20, 12:14
Για να καταλάβετε τη διαφορά κόστους επίσης... από HP θες για ένα DL380G10 με σοβαρή CPU Intel® Xeon® Gold γύρω στα 6000€ και σε DELL γύρω στα 5000€ με 64GB Ram και χωρίς δίσκους. Τα DL380 G9 τα είχα πάρει με τις μίνιμουμ CPU που μπορούσαν να μου τα πουλήσουν και είχαμε δώσει το 2017 γύρω στα 3000€ το καθένα. Τις CPU που έχω πάνω σε αυτά πλέον, με αρετή και τόλμη τις πήρα από EBAY πέρυσι :) και πήραν τα πάνω τους.

Κάνεις λάθος σύγκριση όμως, απο την μια μιλάμε για server grade hardware και απο την άλλη για κλασικό, το ανάλογο σε AMD θα ήταν amd epic.

BlueChris
27-08-20, 12:54
Κάνεις λάθος σύγκριση όμως, απο την μια μιλάμε για server grade hardware και απο την άλλη για κλασικό, το ανάλογο σε AMD θα ήταν amd epic.

Είσαι πολύ σωστός αλλά όπως είπα θέλω mhz. Έχω κάνει απίστευτο research και ενώ τα τέρατα τα intel gold και τα epyc πετάνε, η διαφορά μιας cpu στα 2.3-2.6ghz με μιας στα 4-4.5ghz στην πραγματικότητα και το τι νοιώθει ο χρήστης σε ένα vm είναι πάρα πολύ μεγάλη. Ένας epic μου φτάνει για όλο το μαγαζί γιατί ναι μεν είναι πολλά τα vm αλλά μαξ 5-10 vm να κάνουν cpu peek κάθε δεδομένη χρονική στιγμή.
Υπάρχουν πολλές συζητήσεις στο ίντερνετ σε μεγάλα φόρα για το θέμα και όλοι εντέλει συγκλίνουν στο ίδιο. Επίσης ένας epic ειναι overkill σε όλα τα άλλα του... Τρελά pci lanes που δεν τα χρειάζομαι, δεν έχω δίσκους επάνω κλπ.

Θα δω και τα supermicro να πω την αλήθεια απλά με έχει κουράσει η HP σε αυτά που χρεώνει... Καταλαβαίνω το quality inspection αλλά παραπαει.
Να καταλάβεις το msa2042 το πήραμε το 2017 και έκανε 8200€ με tiering licence χωρίς deduplication(μεγα λαθος μου, επρεπε να πιεσω να χωσουμε το 30αρι για 3par) και είχε μόνο 2 δίσκους ssd 400gb επάνω. Αυτό αντικατέστησε το παλιό msap2000g3 FC που είχα και το p2000 με το έξτρα enclosure του έγιναν 2 dumb enclosures για το msa2042. Όταν ρώτησα την hp μετά για 1tb ssd μου είπαν 1500€ ο ένας !!!!!!, Ήθελα τουλάχιστον 4 οπότε αφού διάβασα έψαξα κλπ βρήκα τι δίσκος είναι πραγματικά ο δίσκος της Hp και πήρα το ρίσκο και παραγγειλα από Γερμανία τους samsung στα 300€ ο ένας.
Τους είχα δοκιμαστικά επάνω πάνω από 3 μήνες και εντέλει τους έβαλα στην παραγωγή και πετάνε. Μετά πήρα άλλους 6 και έχω πλέον 10.

Είναι μεγάλη κουβέντα αλλά στην Ελλάδα χρεώνουν πολλά και δίνουν λίγα. Δες απλά τιμές από την HP ή Dell shop Αμερικής και σύγκρινε με Ελλάδα, κλάμα.

sdikr
27-08-20, 13:00
Καλά ναι οι τιμές τους μερικές φορές είναι το λιγότερο παράλογες για κάποια πράγματα.

BlueChris
10-09-20, 14:59
Κάθισα λίγο και το είδα ποιο σοβαρά και έφτιαξα μηχάνημα στο mindfactory.de και μετά έβαλα όλα τα κομμάτια Χ3 για να έχω 3 μηχανήματα στο τέλος ολόιδια. Αν παρθούν όλα από Ελλάδα σίγουρα θα πάνε +10 με 15% επάνω

Καταρχήν το ποιο ακριβό όπως ήταν αναμενόμενο είναι οι μνήμες αλλά αυτό το περίμενα.

Σύνολο βγαίνει γύρω στα 5500€ (δεν με αφήνει το mindfactory να βάλω 3ο ryzen3900 για κάποιο λόγο, κάποιο πλαφόν έχει)

Κάθε μηχάνημα έχει

1 x Asrock x470d4u
4 x 32GB Hynix ECC Udimm DDR4-2933
1 x 4U Case
4 x Noctua NF-F12 Industrial PPC-3000 (2 θα μπουν μπροστά και 2 εσωτερικά σε 2 από τις 3 θέσεις που έχει το κουτί στη μέση)
1 x 16GB Intel Optane m2 (για τον esxi)
1 x 3900x (αν μπει 3900ΧΤ είναι +600€ περίπου στο σύνολο αλλά δεν βλέπω το λόγο, θα προτιμούσα να τα έδινα για 3950 αν έχω ποιο πολλούς πυρήνες)
1 x 750w Corsair TX-M Modular 80+ Gold
1 x Noctua NH-U12A Cpu Cooler (ακόμα δεν είμαι 100% σίγουρος πως μπαίνει. Θέλω να βάλω τέτοιου τύπου ψήκτρα που να παίρνει 12άρηδες ανεμιστήρες αλλά μάλλον δεν χωράει για 3-4χιλ... δεν ξέρω, θα το σιγουρέψω)
2 x 80mm Supermicro FAN-0130L4 11000rpm (Αυτά τα 2 γαϊδουράκια θα μπουν πίσω στις μαμά θέσεις του κουτιού που είναι 80mm για εξαγωγή αέρα)

Αυτά...
218689

Vtester
10-09-20, 15:35
https://www.mindfactory.de/product_info.php/Noctua-NH-C14S-Topblow-Kuehler_1005164.html

Αυτή δεν σου αρέσει; Άμα θέλεις σε αυτή βάζεις και 2ο ανεμιστήρα αν χωράει αν και το βλέπω υπερβολή.

BlueChris
10-09-20, 15:58
https://www.mindfactory.de/product_info.php/Noctua-NH-C14S-Topblow-Kuehler_1005164.html

Αυτή δεν σου αρέσει; Άμα θέλεις σε αυτή βάζεις και 2ο ανεμιστήρα αν χωράει αν και το βλέπω υπερβολή.

Καλή είναι αλλά ο σκοπός είναι ο αέρας να μπαίνει από μπροστά στο κουτί και να περνάει σερί βγαίνοντας πίσω.
Κανονικά αυτήν θέλω με τους 92mm ανεμιστήρες Noctua NH-U9S (https://noctua.at/en/nh-u9s) ... θα δω σε αυτό το θέμα γιατί έχω κολλήσει με τη Noctua εντέλει χωρίς σοβαρό λόγο.

EnDLess
10-09-20, 16:22
Αναμένω με αγωνία το αποτέλεσμα.
Intel optane, καλή επιλογή δεν το είχα σκεφτεί, θα πήγαινα σε usb stick.
Το κουτί δεν θέλει rack rails;;;

BlueChris
10-09-20, 16:28
Αναμένω με αγωνία το αποτέλεσμα.
Intel optane, καλή επιλογή δεν το είχα σκεφτεί, θα πήγαινα σε usb stick.
Το κουτί δεν θέλει rack rails;;;
Έχω άπειρα ράφια βασικά που κάθονται αλλά ναι θα το κοιτάξω.. thx.

Τους Optane αυτούς τους παίζω από τότε που βγήκαν. Δεν σπάνε δεν χαλάνε ποτέ. Μετά από άπειρα USB stick και SDcards που όλα ήταν επώνυμα και πανάκριβα από HP και Dell αλλά σκάγανε μετά από 2-3 χρόνια πλέον είναι η καλύτερή μου λύση.
Το παράδοξο είναι πως ο esxi γράφει ελάχιστα πάνω τους γιατί όλα τα κάνει στη μνήμη αλλά παρόλα αυτά σκάγανε....

Έχω πάρει και ένα Satadom 8GB που μπαίνουν σε SuperMicro από ebay (https://www.ebay.co.uk/itm/InnoDisk-SATADOM-Standard-8GB-DES9-08GT11C2S-Vertical-High-Profile-DC2DC-SBC/231695818748?ssPageName=STRK%3AMEBIDX%3AIT&_trksid=p2057872.m2749.l2649) έτσι για δοκιμή αλλά ενώ το βλέπει το bios στο ryzen σπίτι μου.. το φορμάρω κανονικά.. μόλις πάω να γράψω πάνω του, γράφει με 8-10kb/sec... δεν ξέρω αν είναι χαλασμένο ή δεν παίζει τελικά πάνω σε απλά pc για κάποιο δικό του λόγο.

EnDLess
10-09-20, 16:35
Το παράδοξο είναι πως ο esxi γράφει ελάχιστα πάνω τους γιατί όλα τα κάνει στη μνήμη αλλά παρόλα αυτά σκάγανε....

Ναι νομίζω γράφει logs στο /scratch partition.

BlueChris
10-09-20, 16:40
Ναι νομίζω γράφει logs στο /scratch partition.

Όχι αυτό το πειράζω σε κάθε μου εγκατάσταση και το στέλνω στη συστηχία , έχω δηλαδή ένα partition στο array μόνο για τα scratch με το όνομα του κάθε σέρβερ και το δηλώνω εκεί το scratch και τα logs σε άλλο φάκελο.

ScratchConfig.ConfiguredScratchLocation: /vmfs/volumes/59834d74-66f62d66-4e81-002655e754fa/scratch/.locker-ESX01
ScratchConfig.CurrentScratchLocation: /vmfs/volumes/59834d74-66f62d66-4e81-002655e754fa/scratch/.locker-ESX01
Syslog.global.logDir: [EsxiScratch] HostLogs/esxi01/log

EnDLess
10-09-20, 16:46
Ωραίος. :oneup:

Άρα παρόλο που τα στέλνεις αλλού πάλι καίγονται τα στικάκια. Χωρίς εγγραφές, μάλιστα. :p Υπερθέρμανση;; Κακή κατασκευή;;; Μερικά τα πιάνεις και νιώθεις την ζέστη. Τεσπά με optane ξεμπερδεύεις. :oneup:

BlueChris
10-09-20, 16:49
Ωραίος. :oneup:

Άρα παρόλο που τα στέλνεις αλλού πάλι καίγονται τα στικάκια. Χωρίς εγγραφές, μάλιστα. :p Υπερθέρμανση;; Κακή κατασκευή;;; Μερικά τα πιάνεις και νιώθεις την ζέστη. Τεσπά με optane ξεμπερδεύεις. :oneup:

Το server room είναι στους 21c ρυθμισμένο .... από πίσω από τα 2 rack πάει μαξ 28c οπότε δεν είναι η θερμοκρασία... κάτι άλλο τα χάλαγε και δεν το ανακάλυψα ποτέ..
Σπίτι μου έχει σκάσει ένα stick μόνο αλλά εκεί δεν με νοιάζει συνεχίζω με stickάκια.

Vtester
11-09-20, 00:48
Καλή είναι αλλά ο σκοπός είναι ο αέρας να μπαίνει από μπροστά στο κουτί και να περνάει σερί βγαίνοντας πίσω.
Κανονικά αυτήν θέλω με τους 92mm ανεμιστήρες Noctua NH-U9S (https://noctua.at/en/nh-u9s) ... θα δω σε αυτό το θέμα γιατί έχω κολλήσει με τη Noctua εντέλει χωρίς σοβαρό λόγο.

Βάλε τότε μια https://www.mindfactory.de/product_info.php/be-quiet--Pure-Rock-2_1359906.html ή μια https://www.mindfactory.de/product_info.php/Scythe-Mugen-5-Rev-B-Tower-Kuehler_1133900.html που είναι ~155mm αν και οι top blow βοηθάνε και τα vrm . Πάντως και οι 2 που σου λέω είναι καλύτερες από την u9s σε απόδοση.

BlueChris
11-09-20, 07:47
Βάλε τότε μια https://www.mindfactory.de/product_info.php/be-quiet--Pure-Rock-2_1359906.html ή μια https://www.mindfactory.de/product_info.php/Scythe-Mugen-5-Rev-B-Tower-Kuehler_1133900.html που είναι ~155mm αν και οι top blow βοηθάνε και τα vrm . Πάντως και οι 2 που σου λέω είναι καλύτερες από την u9s σε απόδοση.

Δεν έχεις άδικο γιατί δεν υπάρχει έξτρα κάρτα γραφικών στο μηχάνημα και αν βαλω όντως τα 2 80αρια τερατα των 11000 στροφων πισω δεν θα υπαρχει θεμα. Το πρόβλημα είναι το ρεύμα που θέλουν αυτοί οι ανεμιστήρες που ζητάνε 3.5Α αρα στο motherboard δεν συνδέονται..
Θα το δω, ευχαριστώ.

Vtester
11-09-20, 09:56
κάτι τέτοιο https://www.mindfactory.de/product_info.php/Phanteks-Universal-PWM-Luefter-Hub-retail--schwarz_1303671.html σου κάνει ;

BlueChris
11-09-20, 10:22
κάτι τέτοιο https://www.mindfactory.de/product_info.php/Phanteks-Universal-PWM-Luefter-Hub-retail--schwarz_1303671.html σου κάνει ;

Μπα... στο site της Phantek δεν λέει πόσα ampere αντέχει ανά πόρτα αλλά έχει ένα overcurrent protection 5A που αν το διαιρέσεις με τις πόρτες τότε δεν θα είναι πάνω από 1.5-2Α ανά πόρτα.
Το είχα ψάξει παλαιότερα όταν σπίτι στο X570 σε μια φύσα του MB έβαλα με splitter 3 x Noctua 12άρηδες και κάηκε σε 1-2 ημέρες η πόρτα. Μετά πήρα της corsair το commander pro και κάηκε και σε αυτό η μια πόρτα.

To μεγαλύτερο που έχω βρει και μπορεί ίσως να αντέξει οριακά αυτά τα τέρατα είναι αυτό που έχω σπίτι στο PC μου της Lamptron CW611 που είναι 36W/channel, δηλαδή στα 3Α ενώ οι ανεμιστήρες θέλουν ο ένας 3.5A.

Edit: Άκυρο... αντέχει το MB... η Supermicro (https://www.supermicro.com/en/support/resources/thermal)λέει πως ο ανεμιστήρας καίει 1.95Α(δεν ξέρω που είδα πως θέλει 3.5Α) άρα είμαι ΟΚ και το MB έχει 6 θέσεις για ανεμιστήρες.

Part Number Application Dimension (mm) Rated Current(A) Fan Speed(RPM) Air Flow(CFM) Static Pressure(in.H20) Noise(dBA)
FAN-0130L4 SC835(Option) 80x80x38 1.95 11,000 116.5 2.14 62.5

Vtester
11-09-20, 10:37
ελπίζω στην συγκεκριμένη περίπτωση το rated current να ισούται με το peak current , που η λογική λέει πως ναι καθώς δίνει και τα υπόλοιπα στοιχεία του ανεμιστήρα στο max του από όσο καταλαβαίνω.

BlueChris
11-09-20, 10:39
ελπίζω στην συγκεκριμένη περίπτωση το rated current να ισούται με το peak current , που η λογική λέει πως ναι καθώς δίνει και τα υπόλοιπα στοιχεία του ανεμιστήρα στο max του από όσο καταλαβαίνω.

Μια φορά να ξεκινήσουν... δεν θα κάνουν ποτέ shutdown :) έχω uptime σε σέρβερ στο server room πάνω από χρόνο... κλείνουν μόνο για αλλαγή hardware.

EnDLess
21-09-20, 21:00
Παρεμπιπτόντως δεν μπορώ να κατεβάσω την έκδοση 7.0b ως trial ενώ τρέχει το evaluation... :hmm:

219055

BlueChris
21-09-20, 21:50
Παρεμπιπτόντως δεν μπορώ να κατεβάσω την έκδοση 7.0b ως trial ενώ τρέχει το evaluation... :hmm:

219055

Θες να στην ανεβάσω κάπου να την πάρεις?

EnDLess
21-09-20, 21:58
Θες να στην ανεβάσω κάπου να την πάρεις?

Μπορείς να καταβάσεις;;; Το VCSA 7.0d με ενδιαφέρει πιο πολύ... αλλά είναι μεγάλο για να το ανεβάσεις... έπεσα και εδώ (https://www.vladan.fr/vmware-vsphere-7-0-update-1-announced-with-virtual-hardware-18-and-more/), μήπως το έκοψαν προσωρινά;;; :hmm:

BlueChris
21-09-20, 22:10
Μπορείς να καταβάσεις;;; Το VCSA 7.0d με ενδιαφέρει πιο πολύ... αλλά είναι μεγάλο για να το ανεβάσεις... έπεσα και εδώ (https://www.vladan.fr/vmware-vsphere-7-0-update-1-announced-with-virtual-hardware-18-and-more/), μήπως το έκοψαν προσωρινά;;; :hmm:

Το 7.0b στο ανεβάζω αλλά στείλε μου PM ένα mail να σου στείλω Link από το onedrive μου στη δουλειά.
Το vCenter Server 7.0.0d κατεβαίνει σε κάνα 10λεπτο, θα στο ανεβάσω και αυτό σε λίγο αλλά είδες πως είναι patch (https://docs.vmware.com/en/VMware-vSphere/7.0/rn/vsphere-vcenter-server-700d-release-notes.html)μόνο ε?

EnDLess
21-09-20, 22:28
Το 7.0b στο ανεβάζω αλλά στείλε μου PM ένα mail να σου στείλω Link από το onedrive μου στη δουλειά.
Το vCenter Server 7.0.0d κατεβαίνει σε κάνα 10λεπτο, θα στο ανεβάσω και αυτό σε λίγο αλλά είδες πως είναι patch (https://docs.vmware.com/en/VMware-vSphere/7.0/rn/vsphere-vcenter-server-700d-release-notes.html)μόνο ε?

Thanks θα σου στείλω pm με το mail μου.

Ναι αυτό που λινκαρες είναι patch. Αυτό που βλέπω στα downloads είναι το κανονικό iso μάλλον

219060

- - - Updated - - -

Ναι, :hmm: το patch με αφήνει να το κατεβάσω από το link που έβαλες...

BlueChris
21-09-20, 22:34
Thanks θα σου στείλω pm με το mail μου.

Ναι αυτό που λινκαρες είναι patch. Αυτό που βλέπω στα downloads είναι το κανονικό iso μάλλον

219060

- - - Updated - - -

Ναι, :hmm: το patch με αφήνει να το κατεβάσω από το link που έβαλες...

Να ψάξω για full iso η θα κάνεις update? η vmware μου βγάζει πως κάνουν maintenance

- - - Updated - - -


Να ψάξω για full iso η θα κάνεις update? η vmware μου βγάζει πως κάνουν maintenance

περίμενο το βρήκα το full, ανεβάζω αυτό τώρα.

Edit:14 λεπτά να κατέβει και άλλα τόσα να ανέβει (στη δουλειά είμαι με 100/100)

BlueChris
30-09-20, 17:17
Λοιπόν το πράγμα θα προχωρήσει... πήρα ΟΚ να πάρουμε προσφορά και μαζεύω κομμάτια.

Στο ενδιάμεσο εμφανίστηκε νέο MB, το Asrock Rack X570D4U-2L2T (https://www.asrockrack.com/general/productdetail.asp?Model=X570D4U-2L2T#Specifications) το οποίο από ότι φαίνεται βγήκε χτες!!!??? (το βλέπω από την ημερομηνία των αρχείων για download) οπότε λογικά θα πάω σε αυτό.

Αποφάσισα να αποσύρω τελείως και το MSA2040 το οποίο έχει 2 enclosures extra γιατί θέλω κάτι ποιο γρήγορο με deduplication και compression, οπότε προσανατολίζομαι ή σε FreeNas ή σε Windows Server 2019 με storage spaces. Storage Spaces έχω ήδη σπίτι και πετάει με απίστευτα κέρδη από το deduplication.

Σε αυτό το Freenas ή Storage spaces θα μπουν οι υπάρχοντες δίσκοι του MSA2040 που είναι

10 x Samsung PM1643 SAS 12gb
8 x Seagate ST3600057SS 600GB 15k SAS 6GB
4 x Seagate ST4000NM0295 4TB 7.2K SAS 6GB
4 x Seagate ST3000NM0023 3TB 7.2K SAS 6GB

Θα πάρω λογικά και έναν Intel Optane SSD DC P4800X Series 375GB (U2 ή PCIe, δεν έχω αποφασίσει ακόμα) για write cache και έναν NVME Samsung 980 Pro για Read Cache (αν έχει εμφανιστεί στην αγορά μέχρι τα Χριστούγεννα)

Θα παρθεί και ένα Switch με 10GB 10base-T και SFP+ γιατί έχω ήδη υποδομή με SPF+ και τα καινούργια server θα τα πάρω με 10G 10Base-t οπότε κάπως πρέπει να τα ενώσω μεταξύ τους.
Σκέφτομαι αυτό το TP-Link T1700X-16TS (https://www.tp-link.com/no/business-networking/smart-switch/t1700x-16ts/)

BlueChris
02-10-20, 22:14
Βρήκα κουτιά

1. Supermicro SuperChassis 825TQ-563LPB (https://www.supermicro.com/en/products/chassis/2U/825/SC825TQ-563LPB#opc)
2. Chenbro RM23608 (http://www.chenbro.com/en-global/products/RackmountChassis/2U_Chassis/RM23608)
3. JOUJYE JJ-R32324 3U (https://www.jj-computer.com/artinfo.php?artnr=A%20%20%202507)

Βρήκα και ψήκτρα 2U AM4 για Server με ονομαστική δύναμη 165W, o 3900XT είναι και καλά 105W οπότε θα είναι χαλαρός.
Dynatron A24 (https://www.dynatron.co/product-page/a24)

EnDLess
02-10-20, 22:38
Τους δίσκους που θα τους κουμπώσεις;;;

BlueChris
03-10-20, 00:38
Τους δίσκους που θα τους κουμπώσεις;;;

Αυτό είναι το άλλο Project... τα κουτιά Νο1 και 2 είναι για τα server με τα VM... οι δίσκοι θα μπουν στο Νο3 κουτί... αλλά αυτό το μηχάνημα δεν έχω κάτσει να ασχοληθώ ακόμα σοβαρά.

Τα server για τα VM δεν έχουν δίσκο κανένα μέσα πλυν ένα Satadom 16GB που θα μπει για τον esxi και οι δίσκοι στο μηχάνηματα έρχονται από την συστοιχία με σύνδεση 8GB Fiber που υπάρχει αυτή τη στιγμή που έχει πάνω της όλους τους δίσκους που ανάφερα ποιο πάνω.
Το Project για νέο fileserver είναι γιατί αυτή η συστοιχία (HPE MSA2042 (https://support.hpe.com/hpesc/public/docDisplay?docId=emr_na-c05245869)) που έχω τώρα δεν έχει να δώσει άλλη ταχύτητα. Βασικά έχει δυνατότητα 100000 Iops σαν CPU και για να καταλάβεις ο καθένας από τους 10 Samsung PM1643 που έχω επάνω έχει 350K random read και 30k random write οπότε από 1 στο read και από 4 και πάνω οι δίσκοι πάνε στράφι και είμαι τώρα με raid 10 (5 raid1), δηλαδή ένα pool 5tb με θεωρητική ταχύτητα

Read 5x2100MB/sec = 10500MB/sec
Write 5x1000MB/sec = 5000MB/sec

και 350K iops x 5 δηλαδή πάνω από 1.500K iops Read
kai 30K iops x 5 δηλαδή πάνω από 150Κ iops write

Δεν τις ποιάνω αυτές τις ταχύτητες σε throughput .. μάξ έχω δει 900mb/sec λόγο το ότι τα σερβερ συνδέονται με 8Gbit Fiber Cards.

Anyway... αν φτιάξω ένα file server σοβαρό θα εκμεταλλευτώ και τα Iops και το throughput μιας που θα φύγει το FC και θα παίξω με 2x10Gbit iscsi ή NFS κλπ....
Θα μπορούσα να αλλάξω και όλες τις FC 8GB κάρτες και τις εξόδους του MSA και να πάω σε 16GB FC αλλά ΔΕΝ θέλω να χώσουμε λεφτά σε αυτό το πράγμα άλλο.

EnDLess
03-10-20, 11:06
bottleneck στο FC :lol:

ok, εγώ τα λυπάμαι ... fc κάρτες, brocade... τι θα τα κάνεις αυτά;;; και σε δουλειά να βρίσκεσαι για μετατροπή iscsi... το brocade πάει στα 16;;

BlueChris
03-10-20, 12:17
bottleneck στο FC :lol:

ok, εγώ τα λυπάμαι ... fc κάρτες, brocade... τι θα τα κάνεις αυτά;;; και σε δουλειά να βρίσκεσαι για μετατροπή iscsi... το brocade πάει στα 16;;

Το 2016 που πήραμε το MSA το πήρα με 8GB εξόδους γιατί από 8000€ έβγαινε +2500€ με 16GB και βάλε και αλλαγή στις κάρτες στα υπάρχοντα σέρβερ που είχα τότε (4) που κάθε 2x16GB FC card έκανε 1800€!!!!.
Άσε που οι 8 έξοδοι του MSA πάνε σε ένα Brocade 8Gb SAN Switch 24port και εκεί συνδέονται τα server με Multipath round robin κλπ. Δυστηχώς ενοποίηση τύπου LACP Lag κλπ δεν γίνεται όπως στα Lan Switch.

Τεσπα δεν θα πειράξω το Bus speed , δεν υπάρχει λόγος γιατί Iops θέλω να ανεβάσω και όχι throughput. Από τη στιγμή που ξεκινάει ένα VM δεν τρώει traffic κάπου και σε δοκιμές που έχω κάνει, δηλαδή να ξεκινήσω μετά από προγραμματισμένο shutdown τα 6 server, τα 49vm ξεκινάνε όλα και είναι έτοιμα κάτω από 1 λεπτό.

EnDLess
03-10-20, 21:31
Αφού έχει 4 ports ο κάθε controller στο msa τότε μπορείς να κουμπώσεις μέχρι 4 server και στους 2 controller χωρίς να χρειάζεσαι san switch.
Στο πρώτο ποστ γράφεις πως θες να αντικαταστήσεις τους G7 και G9 οπότε μένεις με R420, DL380G6, συν τους 2 ryzen που θα πάρεις...
άρα αν τα υποθέτω σωστά δεν χρειάζεσαι αναβάθμιση στο brocade, αλλά 16αρια sfp στο msa συν τις fc 16αρες κάρτες στους server.

Η φωτό είναι με iscsi αλλά είναι το ίδιο σενάριο...

219395

- - - Updated - - -

Φυσικά οι κάρτες fc 16GB dual port όπως γράφεις είναι πανάκριβες... σε κάτι dell που έχω αν θυμάμαι καλά κόστισαν κοντά στα 1300€ αλλά δεν είμαι σίγουρος... οι single port είναι πιο φθηνές, κάτω από 1000€

BlueChris
03-10-20, 23:05
Αφού έχει 4 ports ο κάθε controller στο msa τότε μπορείς να κουμπώσεις μέχρι 4 server και στους 2 controller χωρίς να χρειάζεσαι san switch.
Στο πρώτο ποστ γράφεις πως θες να αντικαταστήσεις τους G7 και G9 οπότε μένεις με R420, DL380G6, συν τους 2 ryzen που θα πάρεις...
άρα αν τα υποθέτω σωστά δεν χρειάζεσαι αναβάθμιση στο brocade, αλλά 16αρια sfp στο msa συν τις fc 16αρες κάρτες στους server.

Η φωτό είναι με iscsi αλλά είναι το ίδιο σενάριο...

219395

- - - Updated - - -

Φυσικά οι κάρτες fc 16GB dual port όπως γράφεις είναι πανάκριβες... σε κάτι dell που έχω αν θυμάμαι καλά κόστισαν κοντά στα 1300€ αλλά δεν είμαι σίγουρος... οι single port είναι πιο φθηνές, κάτω από 1000€

Το msa 204X έχει 8 εξόδους και τα transceiver που έχω εκεί είναι 8gb, έκαναν + 3000€ τα 16gb transceiver τότε.

Οι τιμές τους τώρα έχουν πέσει, περίπου 800$ η 4αδα αρα 1500€ περίπου αλλά δεν αξίζει σου λέω ειλικρινά γιατί κάθε σέρβερ έχει πάνω του μαξ 10vm και φτάνει με 1fc x8gbit στα 850-900mb throughput.
Όσο αναφορά αν χρειάζομαι το brocade, εκεί υπάρχει θέμα γιατί στην αρχή δεν είχα και το πήρα μετά και εξηγώ.

Το msa έχει 2 controller για redundancy. Όταν συνδέσεις ένα server στη 1η 4αδα fc τότε μιλάει με τον 1ο controller και έχει καθυστερήσεις με τον 2ο, όχι πάρα πολύ αλλά όταν σου προσθέτει κάποια Nanoseconds σε access time τότε με τα VM που σε όλα οι δίσκοι τους είναι στη συστηχία πας πάνε ποιο αργά.

Τώρα όταν φορμαρεις δίσκους και κάνεις pool στο msa, διαλέγεις controller, A ή Β. Δεν είναι σωστό πχ στη δική μου περίπτωση να βάλεις όλους τους δίσκους στο 1ο pool και πρέπει να το σπάσεις αλλά δεν γινόταν τότε.

Εκεί ξεκινάει το πανηγύρι. Όταν το πρωτοεστησα είχα μόνο

1. 2x400Gb Ssd σε raid1 (Οι μαμά δίσκοι)
2. 8x600gb hdd 15k σε raid10
3. 4x3tb hdd 7.2k σε raid10.
4. 4x4tb hdd 7.2k σε raid10


Το παραπάνω ήταν αδύνατο να το σπάσω για να δουλέψει σωστά το auto tiering γιατί αυτό για να δουλέψει θέλει μικτούς δίσκους οπότε το 1,2,3 πήγαν στον 1ο Controller σε ένα pool οπου εκεί εκανα 3 Volumes.
2 volumes από 2tb το καθένα για το δίσκο συστήματος του κάθε vm και ότι έμεινε πήγε για data.
Το 4. ήταν Backup Space 8TB και πήγε στον 2ο controller

Τώρα μετά πας και βοηθάς το auto tiering και είπα στα 2 vm volume πως είναι για performance και το Data volume είπα archive.

Αρα ενώ στην αρχή με 3 server που είχα και τα σύνδεα απευθείας όπως λες στον 1ο controller δεν έχανα κάτι, μετά που τα server έγιναν 6 εμφανίστηκε το θέμα και πήρα το Brocade.
Το brocade με βοήθησε γιατί οι 8 έξοδοι του MSA πήγαν πάνω του και τα Server επίσης, οπότε πάντα το brocade έδινε σε κάθε server το optimum path προς το MSA.

O λόγος τώρα που πιέζεται το MSA είναι λόγο των SSD... βασικά δεν πιέζεται αλλά είναι παραπάνω από τις δυνατότητές του οι ικανότητες των δίσκων.

Όλα πήγαιναν καλά για κάνα χρόνο μέχρι που έγινε έκρηξη VM και χρειάστηκα χώρους γρήγορους... βασικά καιγόντουσαν PC στην παραγωγή και ήθελα 1 μέρα να τα ξαναφτιάξω οπότε πήρα τη μεγάλη απόφαση "Τέλος τα κανονικά τερματικά και γίνονται ολοι VM", οπότε ετοίμασα ότι παλιό είχα και είτε με XP είτε με 7 είτε με 10 ήταν απλά τερματικά για τα windows10 VM τους.

Σε εκείνο το σημείο πούλησα στο ebay τους 2 x 400GBssd και πήραμε 5 και μετά από 1 χρόνο άλλους 5 Samsung 1TB PM1643.

Αν βάλω αυτούς τους δίσκους σε ένα Freenas ή Storage Spaces με καλή cache θα πετάξει το σύμπαν.....

Ειδικά με storage spaces έχω δει απίστευτα πράγματα σπίτι με το deduplication πάνω στο ryzen μου.

έκανα το εξής τεστ

10vm X 96GB το καθένα μας κάνει 1 TB πες... ε με το deduplication και τη διαφορετικότητα των προσωπικών αρχείων του κάθε χρήστη και αφού δήλωσα στο Volume πως είναι VDI deduplication τότε ο πραγματικός χώρος από 1TB έγινε γύρω στα 120GB!!!!!!!!!!!!!! μιλάμε για 80-90% κέρδος σε χώρο.
Θέλει όμως CPU power και γρήγορους δίσκους, ε οι συγκεκριμένοι Samsung στη δουλειά είναι αστέρια και συν της άλλης θα βάλω επάνω για read και write cache Intel P4800

Το πράγμα κυριολεκτικά θα πετάει.

Τώρα είμαι έτσι από Config στο MSA
219398
Στον Α είναι όλοι πλυν των 4x4TB που είναι backup και έχω 2 SSD σε απλό mirroring όπου εκεί έχω έχω τον SQL Server και το πρόγραμμα παραγωγής μας,

Υ.Γ. Δεν παίζω στο μαγαζί ή σπίτι με thin provisioning γιατί έχω φάει φάπα κάνα 2 φορές με το χώρο να σκάει και το MSA να είναι ευτυχισμένο και όλα καλά. Όλοι οι δίσκοι είναι Thick Provision Lazy Zeroed πάντα για λόγους εγκεφαλικής ηρεμίας και είναι και η συμβουλή μου σε όλους.

EnDLess
04-10-20, 12:07
Όλα πήγαιναν καλά για κάνα χρόνο μέχρι που έγινε έκρηξη VM και χρειάστηκα χώρους γρήγορους... βασικά καιγόντουσαν PC στην παραγωγή και ήθελα 1 μέρα να τα ξαναφτιάξω οπότε πήρα τη μεγάλη απόφαση "Τέλος τα κανονικά τερματικά και γίνονται ολοι VM", οπότε ετοίμασα ότι παλιό είχα και είτε με XP είτε με 7 είτε με 10 ήταν απλά τερματικά για τα windows10 VM τους.

Αααα μάλιστα... μου έλυσες την απορία γιατί είχες τόσα τερματικά σε vm. Έχεις δοκιμάσει το vmware horizon;;; Δεν το έχω δοκιμάσει αλλά γνωρίζω ότι σερβίρει virtual desktop.

Ή ίσως να μεταπέσεις σε μικρά κουτιά τύπου asrock a300 για να ξαλαφρώσεις το σερβίρισμα σε τερματικά vm, ή να πας storage spaces όπως λες... ωραία διλήμματα. :p



Ειδικά με storage spaces έχω δει απίστευτα πράγματα σπίτι με το deduplication πάνω στο ryzen μου.

έκανα το εξής τεστ

10vm X 96GB το καθένα μας κάνει 1 TB πες... ε με το deduplication και τη διαφορετικότητα των προσωπικών αρχείων του κάθε χρήστη και αφού δήλωσα στο Volume πως είναι VDI deduplication τότε ο πραγματικός χώρος από 1TB έγινε γύρω στα 120GB!!!!!!!!!!!!!! μιλάμε για 80-90% κέρδος σε χώρο.
Θέλει όμως CPU power και γρήγορους δίσκους, ε οι συγκεκριμένοι Samsung στη δουλειά είναι αστέρια και συν της άλλης θα βάλω επάνω για read και write cache Intel P4800

Το πράγμα κυριολεκτικά θα πετάει.


Υ.Γ. Δεν παίζω στο μαγαζί ή σπίτι με thin provisioning γιατί έχω φάει φάπα κάνα 2 φορές με το χώρο να σκάει και το MSA να είναι ευτυχισμένο και όλα καλά. Όλοι οι δίσκοι είναι Thick Provision Lazy Zeroed πάντα για λόγους εγκεφαλικής ηρεμίας και είναι και η συμβουλή μου σε όλους.

Θεαματικό αποτέλεσμα στο τεστ!!! Με την πρώτη ευκαιρία θα δοκιμάσω και εγώ.

ΥΓ1. Συμφωνώ στο Lazy Zeroed
ΥΓ2. Κάποια παλιά multimode δεν ανέβαιναν πάνω από 10Gbps.

BlueChris
04-10-20, 13:24
Αααα μάλιστα... μου έλυσες την απορία γιατί είχες τόσα τερματικά σε vm. Έχεις δοκιμάσει το vmware horizon;;; Δεν το έχω δοκιμάσει αλλά γνωρίζω ότι σερβίρει virtual desktop.

Ή ίσως να μεταπέσεις σε μικρά κουτιά τύπου asrock a300 για να ξαλαφρώσεις το σερβίρισμα σε τερματικά vm, ή να πας storage spaces όπως λες... ωραία διλήμματα. :p



Θεαματικό αποτέλεσμα στο τεστ!!! Με την πρώτη ευκαιρία θα δοκιμάσω και εγώ.

ΥΓ1. Συμφωνώ στο Lazy Zeroed
ΥΓ2. Κάποια παλιά multimode δεν ανέβαιναν πάνω από 10Gbps.

Έχεις Sun?

Όσο αναφορά τα μηχανήματα έβαλα το αφεντικό μου και χτύπησε ένα auction στο
https://www.troostwijkauctions.com/uk/
Που ήταν 50 dell sff 780 μεταχειρισμένα.
Έφτιαξα ένα με windows 10, clone με acronis και ότι σκάσει ποια στο μαγαζί απλά το πετάω και βάζω ένα τέτοιο.
Σε ένα τέταρτο έχω τελειώσει :)

Και η alfanet έχει φτηνά μεταχειρισμένα για τερματικά από την οποία ψωνίζω συχνά πυκνά και το brocade με 24x8GBfc (16 enabled) από εκεί το πήρα 300€

EnDLess
04-10-20, 15:31
Έχω δουλέψει msa παλιά κομμάτια, hp storage works με κασέτες, emc ντουλάπα (αρκετά δύσχρηστο μου φάνηκε), powervaults και netapp.
Αυτή την στιγμή δεν έχω storage, μεταφέρθηκα σε ένα νέο τμήμα που θέλει στήσιμο από την αρχή :p
Είμαι μεταξύ vsan και αγοράς storage. Μπορεί να μου δώσουν και το netapp από το προηγούμενο τμήμα που ήμουν... θα δείξει..

Ωστόσο μπορώ να κάνω μια δοκιμή νομίζω, κάπου έχω ένα παλιό hp αλλά πρέπει να του βάλω καμιά lsi να του φορτώσω δίσκους και να το δω...

BlueChris
04-10-20, 20:05
Πολλά τα λεφτά για vsan άδειες στην vmware, αν τα δώσουν οκ αλλά διαβάζω πως θέλει 4 μηχανήματα για σιγουριά. Αν έχεις 3 και κανείς stop 1 για οποιοδήποτε λόγο τότε αν σκάσει δίσκος στα άλλα 2 καπουτ τα παντα.
Ποιο σωστό μου φαίνεται ένα deticated server είτε με Freenas ή storage spaces.
Μιλάμε πάντα για χαμηλά κοστη αλλιώς πας σε HPE 3PAR και δεν ασχολείσαι για πολλά χρόνια ή οποιοδήποτε άλλο SAN που να έχει deduplication κλπ.

EnDLess
04-10-20, 20:11
Πολλά τα λεφτά για vsan άδειες στην vmware, αν τα δώσουν οκ αλλά διαβάζω πως θέλει 4 μηχανήματα για σιγουριά. Αν έχεις 3 και κανείς stop 1 για οποιοδήποτε λόγο τότε αν σκάσει δίσκος στα άλλα 2 καπουτ τα παντα.
Ποιο σωστό μου φαίνεται ένα deticated server είτε με Freenas ή storage spaces.
Μιλάμε πάντα για χαμηλά κοστη αλλιώς πας σε HPE 3PAR και δεν ασχολείσαι για πολλά χρόνια ή οποιοδήποτε άλλο SAN που να έχει deduplication κλπ.

Ναι έτσι είναι. Αυτή την στιγμή έχω 4 πανομοιότυπους R540... θα δούμε. Θέλω να δοκιμάσω αυτό που λες με το storage spaces στον παλιό hp που έχω. Επίσης αν θυμάμαι καλά το Netapp έχει ενσωματωμένο deduplication.
Horizon δεν έχεις δοκιμάσει;;;

BlueChris
04-10-20, 20:49
Ναι έτσι είναι. Αυτή την στιγμή έχω 4 πανομοιότυπους R540... θα δούμε. Θέλω να δοκιμάσω αυτό που λες με το storage spaces στον παλιό hp που έχω. Επίσης αν θυμάμαι καλά το Netapp έχει ενσωματωμένο deduplication.
Horizon δεν έχεις δοκιμάσει;;;

Αυτό θα ήταν απίστευτο και το έχω υπόψιν αλλά μιλάμε κανα 20αρι χιλιάρικα μόνο στη vmware.

@ ADSLgr.com All rights reserved.