Η επιτάχυνση της δικτύωσης της Microsoft Azure, χάρη στο προσαρμοσμένο υλικό

Η δικτύωση μεταξύ των εικονικών μηχανών στο Microsoft Azure θα γίνει πολύ πιο γρήγορη, χάρη σε κάποιο νέο υλικό που η Microsoft έχει ξεπεράσει τον στόλο της των κέντρων δεδομένων

Η εταιρεία ανακοίνωσε τη Δευτέρα ότι έχει αναπτύξει εκατοντάδες χιλιάδες FPGA (Field-Programmable Gate Arrays) σε διακομιστές σε 15 χώρες και σε πέντε διαφορετικές ηπείρους. Οι μάρκες έχουν χρησιμοποιηθεί σε ποικίλες υπηρεσίες της Microsoft και αρχίζουν τώρα να επιταχύνουν τη δικτύωση στην πλατφόρμα cloud της εταιρίας Azure.

Εκτός από τη βελτίωση της ταχύτητας δικτύωσης, οι FPGAs , Πίνακες σχεδιαζόμενες από τη Microsoft που συνδέονται με διακομιστές Azure) μπορούν επίσης να χρησιμοποιηθούν για να βελτιώσουν την ταχύτητα των εργασιών εκμάθησης μηχανών και άλλων βασικών λειτουργιών cloud. Η Microsoft δεν έχει πει ακριβώς ποια είναι τα περιεχόμενα των καρτών, εκτός από την αποκάλυψη ότι κατέχουν ένα FPGA, στατικά μάρκες RAM και επεξεργαστές σκληρού ψηφιακού σήματος.

[Η περαιτέρω ανάγνωση: Οι καλύτερες υπηρεσίες τηλεοπτικής ροής]

Η ανάπτυξη του προγραμματιζόμενου υλικού από την Microsoft είναι σημαντική καθώς η προηγούμενη αξιόπιστη αύξηση στις ταχύτητες της CPU συνεχίζει να επιβραδύνεται. Οι FPGAs μπορούν να παρέχουν μια πρόσθετη ώθηση στην ταχύτητα επεξεργασίας για τις συγκεκριμένες εργασίες που έχουν ρυθμιστεί για να λειτουργούν, μειώνοντας τον χρόνο που απαιτείται για να κάνουν πράγματα όπως η διαχείριση της ροής της κίνησης δικτύου ή η μετάφραση κειμένου.

Με την Microsoft να προσπαθεί να αποσπάσει κάθε πηγή ενέργειας από το υλικό πληροφορικής και το αποτύπωμα που έχει ήδη να ανταγωνιστεί με άλλους παίκτες στην αγορά cloud, αυτό το υλικό θα μπορούσε να δώσει στην εταιρεία ένα πλεονέκτημα.

Το Accelerated Networking, ένα νέο χαρακτηριστικό που διατίθεται στη βήτα τη Δευτέρα, είναι ένα παράδειγμα των δυνατοτήτων που επιτρέπει η ανάπτυξη FPGA. Μεταξύ δύο VM που έχουν ενεργοποιήσει και τα δύο, θα δώσει στους χρήστες ταχύτητες τόσο υψηλές όσο 25 Gbps και καθυστέρηση μεταξύ 25 και 50 μικροδευτερολέπτων, χωρίς επιπλέον χρέωση.

Η ανακοίνωση Accelerated Networking έρχεται μόλις μία εβδομάδα μετά την αποκάλυψη της υποδομής δεύτερης γενιάς της Oracle -A-a-service προσφορά στο OpenWorld, η οποία διαθέτει επίσης εκτός δικτύου διακομιστή, που καθορίζονται από το λογισμικό δικτύωσης για να οδηγήσει βελτιωμένη απόδοση.

Azure CTO Mark Russinovich είπε χρησιμοποιώντας FPGAs ήταν το κλειδί για να βοηθήσει Azure να επωφεληθούν από το υλικό δικτύωσης που τα κέντρα δεδομένων του. Ενώ το υλικό θα μπορούσε να υποστηρίξει ταχύτητες 40Gbps, στην πραγματικότητα μετακινώντας όλη την κυκλοφορία του δικτύου με τους διαφορετικούς κανόνες που καθορίζονται από το λογισμικό που συνδέονται με αυτό, πήρε ένα τεράστιο όγκο CPU.

«Αυτό δεν είναι απλώς οικονομικά βιώσιμο», συνέντευξη. «Γιατί να απομακρύνουμε αυτές τις CPU από αυτό που μπορούμε να πουλήσουμε στους πελάτες σε εικονικές μηχανές, όταν θα μπορούσαμε να το αποθέσουμε στο FPGA; Θα μπορούσαν να εξυπηρετήσουν το σκοπό αυτό καθώς και μελλοντικούς σκοπούς και να μας γνωρίσουν FPGA στο κέντρο δεδομένων μας "

Το έργο είναι το πνευματικό παιδί του Doug Burger, διακεκριμένου μηχανικού στην ομάδα Νέων Εμπειριών και Τεχνολογιών (NExT) της Microsoft Research. Η Burger ξεκίνησε το έργο FPGA, με την κωδική ονομασία Catapult, το 2010. Η ομάδα ξεκίνησε να συνεργάζεται με τον Bing και στη συνέχεια επεκτάθηκε στην Azure. Το έργο αυτό οδήγησε στο δεύτερο σχεδιασμό hardware της FPGA της Microsoft

Μία κάρτα FPGA αντιστοιχεί σε κάθε νέο διακομιστή Azure και συνδέεται με το NIC (κάρτα διασύνδεσης δικτύου), το PCIe bus και το κορυφαίο δίκτυο rack διακόπτης. Αυτό σημαίνει ότι είναι δυνατό για κάθε FPGA να μιλήσει με άλλους και η Microsoft μπορεί να αξιοποιήσει πολλά FPGA στα κέντρα δεδομένων της για μεγάλες θέσεις εργασίας με χαμηλή λανθάνουσα κατάσταση. Αυτό είναι ιδιαίτερα σημαντικό για τις τεράστιες εφαρμογές μηχανικής μάθησης.

"Αν θέλουμε να διαθέσουμε 1.000 FPGAs σε ένα και μόνο [νευρωνικό δίκτυο] μπορούμε", δήλωσε ο Burger. "Έχουμε αυτό το είδος κλίμακας."

Αυτή η κλίμακα μπορεί να προσφέρει τεράστιες ποσότητες υπολογιστικής ισχύος. Εάν η Microsoft χρησιμοποίησε ολόκληρη την ανάπτυξη του FPGA της Azure για να μεταφράσει την αγγλική γλώσσα Wikipedia, θα χρειαζόταν μόνο ένα δέκατο του δευτερολέπτου, δήλωσε ο Burger στη σκηνή στο Ignite.

Η Microsoft δεν είναι η μόνη εταιρεία που γυρίζει σε προσαρμοσμένο πυρίτιο γι 'αυτό το είδος δουλειά. Η Google παρουσίασε μια μονάδα επεξεργασίας Tensor νωρίτερα αυτό το έτος που υποτίθεται ότι επιταχύνει ορισμένα καθήκοντα εκμάθησης μηχανών στο σύννεφο. Το TPU είναι ένα ενσωματωμένο κύκλωμα ειδικής εφαρμογής ή το ASIC - ένα ολοκληρωμένο τσιπ.

Η Google χρησιμοποίησε ASIC αντί για FPGAs λόγω της ταχύτητας και της απόδοσης. Έτσι, γιατί η Microsoft επέλεξε FPGAs;

Η βιομηχανία κινείται πολύ γρήγορα για να είναι σίγουρη ότι ένα συγκεκριμένο ASIC θα κάνει ό, τι χρειάζεται να γίνει με την πάροδο του χρόνου, δήλωσε ο Burger. Ενώ χρησιμοποιείτε μόνο το επαναπρογραμματισμένο υλικό σε ένα FPGA δεν θα ήταν εξαιρετικό για απόδοση, τα σκληρυμένα SRAM και DSP μάρκες στον πίνακα FPGA μπορούν να επιταχύνουν ορισμένες εφαρμογές, συρρικνώνοντας το χάσμα απόδοσης

"Δεν είμαι άνετα να κλειδώσω τον έλεγχο "Γνωρίζοντας τι πρέπει να κάνουμε τώρα", δήλωσε ο Burger.

Αυτή τη στιγμή, η Επιτάχυνση Δικτύωσης είναι διαθέσιμη μόνο για περιπτώσεις DS15v2 στις περιφέρειες Azure της Δυτικής Κεντρικής Αμερικής και της Δυτικής Ευρώπης. Είναι συμβατό μόνο με την τεχνική προεπισκόπηση των Windows Server 2012 R2 και Windows Server 2016, αν και η Microsoft σκοπεύει να λειτουργήσει σύντομα με τις παρουσίες του Linux.

Στο μέλλον, η υπηρεσία Accelerated Networking θα επεκταθεί σε άλλους τύπους και λειτουργικά συστήματα εικονικών μηχανών της Azure . Θα φτάσει από το να είναι ένα opt-in ενίσχυση για να είναι ένα δωρεάν, opt-out όφελος που θα αυξήσει τις ταχύτητες δικτύωσης που είναι διαθέσιμες από προεπιλογή.

Όσον αφορά το μέλλον, η Microsoft έχει πει ότι οι FPGAs θα τεθεί στη χρήση σε μηχάνημα- μάθησης. Η Burger δήλωσε ότι η εταιρεία έχει δημιουργήσει κώδικα για τις γνωστικές υπηρεσίες της για να τρέξει σε ένα FPGA-επιταχυνόμενο τρόπο, έτσι ώστε να μπορεί να είναι επόμενο.

. "Πιστεύω ότι το πρώτο πράγμα που μιλάμε για να κάνουμε είναι η βαθιά εκμάθηση όπου εκπαιδεύουμε τα μοντέλα και στη συνέχεια αφήνουμε τους πελάτες να τρέχουν σε CPU ή GPU στο κέντρο δεδομένων μας. «

Για το Burger, μια από τις μεγαλύτερες ερωτήσεις θα είναι το σωστό μίγμα των FPGAs και των CPUs μέσα από το FPGAs, και ενδεχομένως να εκπαιδεύσουν τα ίδια τα μοντέλα αν θέλουν να τα FPGAs. ένα κέντρο δεδομένων Azure. Παρόλο που η Microsoft διαθέτει ήδη εκατοντάδες χιλιάδες FPGA, δεν αρκούν για να ικανοποιήσουν τις ανάγκες της επιχείρησης καθώς αρχίζουν να χρησιμοποιούν περισσότερες ομάδες

. Οι CPU είναι σημαντικές και θα συνεχίσουν να είναι σημαντικές για όλο το λογισμικό και όλα αυτά προϊόντα και υπηρεσίες που έχουμε », είπε. "Αλλά νομίζω ότι για τις εφαρμογές, η μεγάλη ανακάλυψη σε κλίμακα πρόκειται να προέλθει από τεχνολογίες που δεν είναι CPU."

Η έκτη παράγραφος αυτής της ιστορίας έχει διορθωθεί ώστε να αντικατοπτρίζει τους ακριβείς χρόνους καθυστέρησης