Οι Optical Interposers θα μπορούσαν να αρχίσουν να επιταχύνουν την τεχνητή νοημοσύνη το 2025 Το Lightmatter χρησιμοποιεί φωτεινά σήματα μέσα στο πακέτο ενός επεξεργαστή

Τα καλώδια οπτικών ινών πλησιάζουν περισσότερο τους επεξεργαστές σε υπολογιστές υψηλής απόδοσης, αντικαθιστώντας τις χάλκινες συνδέσεις με γυαλί. Οι εταιρείες τεχνολογίας ελπίζουν να επιταχύνουν την τεχνητή νοημοσύνη και να μειώσουν το ενεργειακό της κόστος μεταφέροντας οπτικές συνδέσεις από το εξωτερικό του διακομιστή στη μητρική πλακέτα και στη συνέχεια τοποθετώντας τες δίπλα στον επεξεργαστή. Τώρα οι εταιρείες τεχνολογίας είναι έτοιμες να προχωρήσουν ακόμη περισσότερο στην προσπάθεια να πολλαπλασιάσουν το δυναμικό του επεξεργαστή — ολισθώντας τις συνδέσεις από κάτω του.

Σημαντικό άρθρο τεχνολογίας αν και λίγοι τα καταλαβαίνουν όλα αυτά. Οι επεξεργαστές στα ραντάρ θα τους δίνουν τεράστιες δυνατότητες με άμεση καθοδήγηση των πυραύλων και των πυροβόλων.

Αυτή είναι η προσέγγιση που ακολουθεί η Lightmatter, η οποία ισχυρίζεται ότι οδηγεί το πακέτο με έναν παρεμβολέα ρυθμισμένο να κάνει συνδέσεις ταχύτητας φωτός, όχι μόνο από επεξεργαστή σε επεξεργαστή αλλά και μεταξύ τμημάτων του επεξεργαστή. Οι υποστηρικτές της τεχνολογίας ισχυρίζονται ότι έχει τη δυνατότητα να μειώσει σημαντικά την ποσότητα ισχύος που χρησιμοποιείται σε πολύπλοκους υπολογιστές, μια βασική προϋπόθεση για την πρόοδο της σημερινής τεχνολογίας AI.

https://lightmatter.co/

Chips are becoming physically larger and more power hungry due to fundamental, physical limitations of transistors. Compute performance roadmaps are now defined by silicon-area-per-package and the number of processors tightly linked in a high bandwidth scale-up domain. The quest for AGI is driving this trend at warp speed.

Chip scale over time

10X

Από το 2000 έως το 2030 θα αυξηθούν 10 φορές οι δυνατότητες τους.

Οι καινοτομίες της Lightmatter έχουν προσελκύσει την προσοχή των επενδυτών, οι οποίοι έχουν δει αρκετές δυνατότητες στην τεχνολογία για να συγκεντρώσουν 850 εκατομμύρια δολάρια για την εταιρεία, οδηγώντας την πολύ μπροστά από τους ανταγωνιστές της σε εκτίμηση πολλαπλών μονόκερων 4,4 δισεκατομμυρίων δολαρίων. Τώρα το Lightmatter είναι έτοιμο να ξεκινήσει την τεχνολογία του, που ονομάζεται Passage. Η εταιρεία σχεδιάζει να εγκαταστήσει και να λειτουργήσει την έκδοση παραγωγής της τεχνολογίας σε συστήματα μολύβδου πελάτη έως το τέλος του 2025.

Το Passage, ένα σύστημα οπτικής διασύνδεσης, θα μπορούσε να είναι ένα κρίσιμο βήμα για την αύξηση των ταχυτήτων υπολογισμού των επεξεργαστών υψηλής απόδοσης πέρα ​​από τα όρια του νόμου του Moore. Η τεχνολογία προαναγγέλλει ένα μέλλον όπου χωριστοί επεξεργαστές μπορούν να συγκεντρώσουν τους πόρους τους και να εργαστούν συγχρονισμένα στους τεράστιους υπολογισμούς που απαιτούνται από την τεχνητή νοημοσύνη, σύμφωνα με τον CEO Nick Harris.

«Η πρόοδος στην πληροφορική από εδώ και στο εξής θα προέλθει από τη σύνδεση πολλών τσιπ μεταξύ τους», λέει.

Ένας οπτικός παρεμβολέας

Ουσιαστικά, το Passage είναι ένας παρεμβολέας, μια φέτα γυαλιού ή πυριτίου πάνω στην οποία προσαρτώνται και διασυνδέονται μέσα στην ίδια συσκευασία μικρότερες μήτρες πυριτίου, που συχνά ονομάζονται chiplets. Πολλές κορυφαίες CPU και GPU διακομιστών αυτές τις μέρες αποτελούνται από πολλαπλές μήτρες πυριτίου σε παρεμβολείς. Το σχέδιο επιτρέπει στους σχεδιαστές να συνδέουν μήτρες κατασκευασμένες με διαφορετικές τεχνολογίες κατασκευής και να αυξάνουν την ποσότητα επεξεργασίας και μνήμης πέρα ​​από αυτό που είναι δυνατό με ένα μόνο τσιπ.

Σήμερα, οι διασυνδέσεις που συνδέουν τα chiplet στους παρεμβολείς είναι αυστηρά ηλεκτρικές. Είναι συνδέσεις υψηλής ταχύτητας και χαμηλής ενέργειας σε σύγκριση, ας πούμε, με αυτές σε μια μητρική πλακέτα. Αλλά δεν μπορούν να συγκριθούν με τη ροή φωτονίων χωρίς σύνθετη αντίσταση μέσω ινών γυαλιού.

Το πέρασμα κόβεται από μια γκοφρέτα 300 χιλιοστών από πυρίτιο που περιέχει ένα λεπτό στρώμα διοξειδίου του πυριτίου ακριβώς κάτω από την επιφάνεια. Ένα εξωτερικό τσιπ λέιζερ πολλαπλών ζωνών παρέχει τις φωτεινές χρήσεις του Passage. Το interposer περιέχει τεχνολογία που μπορεί να λάβει ένα ηλεκτρικό σήμα από το τυπικό σύστημα I/O ενός chip, που ονομάζεται serializer/deserializer ή SerDes. Ως εκ τούτου, το Passage είναι συμβατό με τσιπ επεξεργαστών πυριτίου εκτός συσκευασίας και δεν απαιτεί θεμελιώδεις αλλαγές σχεδιασμού στο τσιπ.

Τέσσερα αντικείμενα περίπου ορθογώνιου σχήματος στοιβαγμένα το ένα πάνω στο άλλο. Το δεύτερο από πάνω είναι σε κομμάτια.

Τα υπολογιστικά τσιπ στοιβάζονται πάνω από τον οπτικό παρεμβολέα. Η ελαφριά ύλη

Από το SerDes, το σήμα ταξιδεύει σε ένα σύνολο πομποδεκτών που ονομάζονται συντονιστές μικροδακτυλίου, οι οποίοι κωδικοποιούν bits στο φως λέιζερ σε διαφορετικά μήκη κύματος. Στη συνέχεια, ένας πολυπλέκτης συνδυάζει τα μήκη κύματος φωτός μαζί σε ένα οπτικό κύκλωμα, όπου τα δεδομένα δρομολογούνται από συμβολόμετρα και περισσότερους συντονιστές δακτυλίου.

Από το οπτικό κύκλωμα, τα δεδομένα μπορούν να αποσταλούν από τον επεξεργαστή μέσω μιας από τις οκτώ συστοιχίες ινών που ευθυγραμμίζουν τις απέναντι πλευρές του πακέτου τσιπ. Ή τα δεδομένα μπορούν να δρομολογηθούν σε άλλο τσιπ στον ίδιο επεξεργαστή. Σε οποιονδήποτε προορισμό, η διαδικασία εκτελείται αντίστροφα, κατά την οποία το φως αποπολυπλέκεται και μεταφράζεται ξανά σε ηλεκτρική ενέργεια, χρησιμοποιώντας έναν φωτοανιχνευτή και έναν ενισχυτή με εμπέδηση.

Το Passage μπορεί να επιτρέψει σε ένα κέντρο δεδομένων να χρησιμοποιεί από το ένα έκτο έως το ένα εικοστό της περισσότερης ενέργειας, ισχυρίζεται ο Harris.

Η άμεση σύνδεση μεταξύ οποιουδήποτε chiplet σε έναν επεξεργαστή αφαιρεί τον λανθάνοντα χρόνο και εξοικονομεί ενέργεια σε σύγκριση με την τυπική ηλεκτρική διάταξη, η οποία συχνά περιορίζεται σε ό,τι βρίσκεται γύρω από την περίμετρο ενός καλουπιού.

Εκεί είναι που το Passage αποκλίνει από άλλους συμμετέχοντες στον αγώνα για τη σύνδεση των επεξεργαστών με το φως. Οι ανταγωνιστές της Lightmatter, όπως η Ayar Labs και η Avicena, παράγουν οπτικά chiplet I/O σχεδιασμένα να κάθονται στον περιορισμένο χώρο δίπλα στο κύριο καλούπι του επεξεργαστή. Ο Harris ονομάζει αυτή την προσέγγιση «γενιά 2.5» οπτικών διασυνδέσεων, ένα βήμα πάνω από τις διασυνδέσεις που βρίσκονται έξω από το πακέτο επεξεργαστή στη μητρική πλακέτα.

Πλεονεκτήματα της οπτικής

Τα πλεονεκτήματα των φωτονικών διασυνδέσεων προέρχονται από την άρση των περιορισμών που είναι εγγενείς στην ηλεκτρική ενέργεια, η οποία ξοδεύει περισσότερη ενέργεια όσο μακρύτερα πρέπει να μετακινήσει δεδομένα.

Οι startups φωτονικής διασύνδεσης βασίζονται στην προϋπόθεση ότι αυτοί οι περιορισμοί πρέπει να πέσουν προκειμένου τα μελλοντικά συστήματα να ανταποκριθούν στις επερχόμενες υπολογιστικές απαιτήσεις της τεχνητής νοημοσύνης. Πολλοί επεξεργαστές across ένα κέντρο δεδομένων θα χρειαστεί να εργάζεται σε μια εργασία ταυτόχρονα, λέει ο Harris. Αλλά η μεταφορά δεδομένων μεταξύ τους σε πολλά μέτρα με ηλεκτρισμό θα ήταν «φυσικά αδύνατη», προσθέτει, και επίσης απίστευτα δαπανηρή.

«Οι απαιτήσεις ενέργειας γίνονται πολύ υψηλές για αυτό για το οποίο κατασκευάστηκαν τα κέντρα δεδομένων», συνεχίζει ο Χάρις. Το πέρασμα μπορεί να επιτρέψει σε ένα κέντρο δεδομένων να χρησιμοποιεί από το ένα έκτο έως το ένα εικοστό περισσότερης ενέργειας, με την απόδοση να αυξάνεται όσο μεγαλώνει το μέγεθος του κέντρου δεδομένων, ισχυρίζεται. Ωστόσο, η εξοικονόμηση ενέργειας που καθιστούν δυνατή η φωτονική διασύνδεση δεν θα οδηγήσει σε κέντρα δεδομένων που χρησιμοποιούν λιγότερη ενέργεια συνολικά, λέει. Αντί να μειώνουν τη χρήση ενέργειας, είναι πιο πιθανό να καταναλώνουν την ίδια ποσότητα ενέργειας, μόνο σε πιο απαιτητικές εργασίες.

AI Drives Optical Interconnects

Τα ταμεία της Lightmatter αυξήθηκαν τον Οκτώβριο με έναν κύκλο συγκέντρωσης κεφαλαίων Series D 400 εκατομμυρίων δολαρίων. Η επένδυση στη βελτιστοποιημένη δικτύωση επεξεργαστών είναι μέρος μιας τάσης που έχει γίνει «αναπόφευκτη», λέει ο James Sanders, αναλυτής στο TechInsights.

Το 2023, το 10 τοις εκατό των διακομιστών που αποστέλλονται είχαν επιτάχυνση, που σημαίνει ότι περιέχουν CPU σε σύζευξη με GPU ή άλλα IC επιτάχυνσης AI. Αυτοί οι επιταχυντές είναι οι ίδιοι με εκείνους με τους οποίους το Passage έχει σχεδιαστεί για σύζευξη. Μέχρι το 2029, σύμφωνα με τα έργα της TechInsights, το ένα τρίτο των διακομιστών που αποστέλλονται θα επιταχυνθεί. Τα χρήματα που διατίθενται σε φωτονικές διασυνδέσεις είναι ένα στοίχημα ότι είναι ο επιταχυντής που απαιτείται για να επωφεληθείτε από την τεχνητή νοημοσύνη.