Ο Travis Lanier από την Qualcomm κάθισε με το XDA για μια συνέντευξη σχετικά με την CPU Kryo 485 στην κινητή πλατφόρμα Snapdragon 855 και μάρκετινγκ του Hexagon 690 DSP.
Τον περασμένο μήνα, η Qualcomm παρουσίασε το Πλατφόρμα για φορητές συσκευές Snapdragon 855. Το Snapdragon 855 είναι η πλατφόρμα για φορητές συσκευές που θα τροφοδοτήσει τα περισσότερα smartphones ναυαρχίδων Android το 2019. Η Qualcomm έχει κάνει ουσιαστικές βελτιώσεις από έτος σε έτος με την επόμενη γενιά της πλατφόρμας για κινητά. Η φορητή πλατφόρμα Snapdragon 855 είναι χτισμένη σε μια διαδικασία κατασκευής 7 nm και προσφέρει εντυπωσιακή άνοδο 45% στην απόδοση της CPU σε σχέση με τον Snapdragon 845. Οι βελτιώσεις στον υπολογισμό σε όλο τον πίνακα επιτρέπουν στην Qualcomm να υπερηφανεύεται για εξαιρετική απόδοση AI στο νέο Snapdragon 855. Υπάρχουν πολλές πληροφορίες για αποσυσκευασία εδώ και κάναμε ό, τι καλύτερο μπορούσαμε για να δείξουμε πώς η Qualcomm βελτίωσε την απόδοση και την τεχνητή νοημοσύνη στον Snapdragon 855. Ωστόσο, εξακολουθούσαμε να είχαμε τις δικές μας ερωτήσεις μετά την αποκάλυψη του προϊόντος, οπότε συζητήσαμε με τον Travis Lanier, Senior Διευθυντής Διαχείρισης Προϊόντων στην Qualcomm, για να μιλήσει για την CPU Kryo 485 και την τεχνητή νοημοσύνη στο νέο κινητό της Qualcomm πλατφόρμα.
Μάριο Σεραφέρο: «45% [άλμα], είναι σαν το μεγαλύτερο που έγινε ποτέ. Ας το ξετυλίξουμε. Έχουμε τη βάση A76, 7nm—αυτοί είναι μεγάλοι συνεισφέροντες. Φαίνεται ότι από τότε απομακρυνθήκατε από προσαρμοσμένους πυρήνες, ορισμένες δημοσιεύσεις και κοινό δεν είχα ιδέα για το τι συνεπάγεται η ενσωματωμένη άδεια ARM όσον αφορά το τι μπορεί να επιτρέψει να κάνεις. Ήσουν αρκετά μυστικοπαθής σχετικά με το τι συνεπάγεται [επίσης]. Τώρα στη σκηνή, για μια από τις πρώτες φορές, τουλάχιστον πέρα από Q&A, ...αλλά για πρώτη φορά δείξατε ποιες ήταν μερικές από τις βελτιώσεις, και αυτό είναι υπέροχο. Οπότε αναρωτιόμασταν αν θα θέλατε να επεκταθείτε στο πώς η Qualcomm συντόνισε το Kryo 485 για να αποσπάσει περισσότερα [από] βάση του ARM, είτε αυτό επεκτείνεται στα πράγματα που έχετε εκθέσει εκεί είτε σε κάτι που δεν έχετε παρουσιάσει."
Τράβις Λανιέ: «Επομένως, δεν μπορώ να πω πολλά περισσότερα από άλλα όσα υπήρχαν στις διαφάνειές μου. Ίσως σε μια μελλοντική ημερομηνία μπορούμε, οπότε μπορούμε να καθίσουμε και να πάρουμε κάποιους ειδικούς που έκαναν πραγματικά τη δουλειά. Γνωρίζω τα υψηλού επιπέδου σημεία συζήτησης. Αλλά όπως γνωρίζετε, το A76 είναι ήδη υψηλού επιπέδου σχεδίαση—είναι αρκετά καλό. Και είναι ένας από τους λόγους που είδαμε τον οδικό χάρτη της ARM. Λοιπόν, εντάξει, ίσως θα έπρεπε να συνεργαστούμε πιο στενά με αυτά τα παιδιά, γιατί φαινόταν πολύ δυνατό. Και απλώς επιστρέφω στο σχόλιό σας σχετικά με την προσαρμογή έναντι του ARM. Λοιπόν εντάξει, υπάρχουν όλα αυτά τα πράγματα που μπορείτε να κάνετε. Και αν κάνετε κάτι, και πρέπει να έχει διαφοροποίηση, ώστε να μπορείτε να κάνετε κάτι εκατό τοις εκατό ή να συνεργαστείτε μαζί τους. Και [όπως και τα προηγούμενα χρόνια, ασχολούμαστε λίγο περισσότερο με την ένταξη. Λοιπόν, τα λεωφορεία και το πώς συνδεθήκαμε με το σύστημα, τα χαρακτηριστικά ασφαλείας τους που τοποθετήσαμε στις CPU, τις διαμορφώσεις κρυφής μνήμης. Τώρα που οι δεσμεύσεις έχουν παρατείνει, μπορέσαμε να κάνουμε μια βαθύτερη προσαρμογή σε αυτό. Και έτσι μπορέσαμε να βάλουμε μερικά από αυτά τα πράγματα εκεί, όπως μεγαλύτερα παράθυρα εκτέλεσης [εκτός σειράς], σωστά, ώστε να έχετε περισσότερα οδηγίες κατά την πτήση, η προ-ανάκτηση δεδομένων είναι στην πραγματικότητα ένας από τους τομείς όπου υπάρχει η μεγαλύτερη καινοτομία στον κλάδο των μικροεπεξεργαστών τώρα αμέσως. Πολλές από τις τεχνικές για πολλά από αυτά τα πράγματα είναι αρκετά παρόμοιες, όλοι χρησιμοποιούν σήμερα έναν προγνωστικό κλάδου TAGE, πόσο μεγάλο το παρέχετε, οι άνθρωποι ξέρουν πώς να κάνουν εκτός παραγγελίας και προώθηση και όλα αυτά για μεγαλύτερες κρυφές μνήμες. Αλλά η εκ των προτέρων ανάκτηση, υπάρχουν ακόμα πολλά, είναι ένα από εκείνα τα σκοτεινά είδη τέχνης. Επομένως, υπάρχει ακόμη πολλή καινοτομία σε αυτόν τον χώρο. Αυτό είναι κάτι στο οποίο πιστεύαμε ότι μπορούσαμε να βοηθήσουμε.
Και μετά μόνο και μόνο επειδή νιώθουμε ότι γενικά κάνουμε καλύτερη δουλειά με... συνήθως μπορούμε να υλοποιήσουμε ένα σχέδιο πιο γρήγορα από ό, τι άλλοι μπορούν να ενσωματώσουν έναν κόμβο διεργασίας. Και έτσι, όταν βάζουμε μερικά από αυτά τα πράγματα εκεί, όπως όταν βγαίνεις πιο εκτός λειτουργίας, είναι περισσότερο άγχος στο σχέδιό σου, σωστά; Δεν είναι δωρεάν να προσθέσετε όλα αυτά τα πράγματα εκτέλεσης εκεί. Έτσι, για να μπορέσετε να το κάνετε αυτό, και να μην έχετε κανένα χτύπημα fmax. Ναι, αυτό είναι μέρος της δέσμευσης που έχουμε με την ARM, για παράδειγμα, πώς τα καταφέρνεις;»
Μάριο Σεραφέρο: «Απλώς από περιέργεια, στην παρουσίαση, είχατε μιλήσει για βελτιώσεις απόδοσης που έρχονται από την προ-ανάκτηση, μιλούσατε για απόδοση ισχύος, βελτιώσεις απόδοσης, λίγο και τα δυο?"
Τράβις Λανιέ: "Ολα τα παραπάνω. Έτσι, από τη φύση του, κάνουμε προ-ανάκτηση — έχετε τραβήξει πράγματα στην κρυφή μνήμη. Έτσι, όταν η προσωρινή μνήμη δεν κάνει τόσες πολλές προσβάσεις στη μνήμη, τώρα υπάρχει μια άλλη όψη στην προ-ανάκτηση: Εάν κάνετε υπερβολική προανάκτηση, [χρησιμοποιείτε] περισσότερη μνήμη γιατί, ξέρετε, [κάνετε] πάρα πολύ κερδοσκοπική προ-ανάκτηση, αλλά όσο, αν έχετε πράγματα μέσα και τραβάτε τα σωστά, τότε δεν θα βγείτε στη μνήμη για να τα τραβήξετε εκεί. Επομένως, εάν έχετε έναν πιο αποτελεσματικό προ-συλλεκτικό, εξοικονομείτε ενέργεια και αυξάνετε την απόδοση."
Μάριο Σεραφέρο: «Εντάξει, ωραία, ναι. Ναι, δεν περίμενα ότι θα μπορούσατε να επεκταθείτε πολύ περισσότερο πέρα από αυτό, αλλά, είναι ενδιαφέρον ότι αν το πείτε αυτό τώρα εσείς προσαρμόζετε περισσότερα και ίσως μπορέσετε να μοιραστείτε περισσότερα στο μέλλον, τότε θα το προσέχω. Έτσι, το άλλο είδος στροφέα κεφαλής, τουλάχιστον μεταξύ των ανθρώπων από τους οποίους είμαι περιτριγυρισμένος, είναι ο πρωταρχικός πυρήνας. Έτσι, περιμέναμε κάπως πιο ευέλικτες, συμφωνίες συμπλέγματος για μερικά χρόνια τώρα με [την] συμπερίληψη του DynamIQ και ότι περιμέναμε ότι άλλες εταιρείες θα απομακρυνθούν από τη συμφωνία [4+4]. Δύο ερωτήσεις λοιπόν: Ποιο ήταν το κίνητρο πίσω από τον πρωταρχικό πυρήνα; Πώς ο βασικός πυρήνας ωφελεί την εμπειρία χρήστη, επειδή οι αναγνώστες μας θα ήθελαν να μάθουν γιατί υπάρχει απλώς ένας μοναχικός πυρήνας εκεί και επίσης γιατί δεν είναι αρκετά μοναχικός; Η κοινή χρήση του επιπέδου ισχύος με το σύμπλεγμα επιδόσεων δεν θα μετριάσει κάπως τη χρησιμότητα που θα μπορούσατε να αποκτήσετε εάν χρησιμοποιούσατε το DynamIQ και το καθόσαστε μόνο του;"
Τράβις Λανιέ: «Ας μιλήσουμε λοιπόν πρώτα για διαφορετικά ρολόγια και διαφορετικά επίπεδα τάσης. Έτσι, κάθε φορά που προσθέτετε ένα ρολόι και κάθε φορά που προσθέτετε μια τάση, κοστίζει χρήματα. Υπάρχει λοιπόν ένα όριο στον αριθμό των pins που βάζετε στη συσκευασία, υπάρχουν περισσότερα PLL που πρέπει να έχετε για διαφορετικά ρολόγια και υπάρχει απλώς αυξημένη πολυπλοκότητα. Άρα υπάρχει ένα ανταλλάξιμο στο να κάνεις πράγματα. Φτάσαμε κάπως ακραία σε ένα σημείο. είχαμε τέσσερις διαφορετικούς τομείς σε τέσσερα διαφορετικά ρολόγια, οπότε είχαμε εμπειρία με αυτό και ήταν ακριβό. Κάτι όταν αρχίζεις να πας μεγάλα. ΜΙΚΡΟ, έχετε τους μικρούς πυρήνες στο [το] μικρό σύμπλεγμα και δεν χρειάζονται ακριβώς την ίδια ευαισθησία, ας πούμε έτσι, ενός ξεχωριστού ρολογιού μεταξύ των μικρών πυρήνων. Ναι, είναι κάπως στον αέρα τι κάνεις με αυτά. Όταν λοιπόν έχεις ένα μεγάλο. LITTLE σύστημα, τότε αντίστροφα έχετε αυτούς τους μεγάλους πυρήνες. Λοιπόν, εντάξει, βάζεις καθένα από αυτά σε ένα μεγάλο ρολόι; Λοιπόν, δεν τρέχετε με αυτά όλη [την] ώρα, εάν στην πραγματικότητα βρίσκεστε σε αρκετά χαμηλή κατάσταση όπου ένα ρολόι που δεν είναι κατειλημμένο θα λειτουργεί σε έναν μικρό πυρήνα ούτως ή άλλως. Έτσι, πραγματικά, είναι κάπως δύο από αυτά είναι αρκετά καλά εκεί.
Και μετά φτάνουμε στο σημείο που είχαμε αυτόν τον βασικό πυρήνα, όπου εντάξει, έχουμε έναν ξεχωριστό πυρήνα ρολογιού, ο οποίος μπορεί να λειτουργεί σε υψηλότερη συχνότητα. Αλλά αυτοί οι άλλοι πυρήνες, τα άλλα συμπλέγματα απόδοσης, δεν μπορούν να ανέβουν στην ίδια υψηλή συχνότητα. Επομένως, εάν θέλετε να αποκτήσετε αυτό το πλήρες δικαίωμα αυτού του πυρήνα, πρέπει να έχετε αυτό το τρίτο ρολόι για αυτόν. Τι κάνει λοιπόν αυτός ο πυρήνας; Το θίξαμε λίγο αυτό. Μεγάλα πράγματα θα είναι [η] εκκίνηση εφαρμογών και η περιήγηση στον ιστό. Και γιατί λοιπόν μόνο ένας πυρήνας; Εντάξει, τα πράγματα γίνονται πιο πολυνήματα τώρα. Για παράδειγμα, οι μηχανές παιχνιδιών - θα επανέλθω σε αυτό σε ένα δευτερόλεπτο - κινούνται πολύ επιθετικά προς περισσότερα νήματα. Αλλά αν κοιτάξετε τις περισσότερες εφαρμογές, ακόμα κι αν έχουν πολλά νήματα, θα χρησιμοποιήσω τον κανόνα Pareto, όπως οι περισσότερες από αυτές, το 80% του φορτίου βρίσκεται σε ένα νήμα. Έτσι, μπορείτε να κάνετε [μια] εκκίνηση εφαρμογής, και μπορεί να ενεργοποιηθεί και να ανάψει και στους 8 πυρήνες. Αλλά περισσότερο από πιθανό, το 80% του βρίσκεται σε ένα κυρίαρχο νήμα - είναι σε αυτόν τον πυρήνα. Η περιήγηση στο Web εξακολουθεί να είναι πρωτίστως, καλά, JavaScript, θα έλεγα - η περιήγηση στον ιστό έχει γίνει λίγο καλύτερη με την πολυνηματική όπου μπορείτε να έχετε πολλές εικόνες και να τις αποκωδικοποιήσετε. Αλλά, για παράδειγμα, JavaScript—[ένα] μεμονωμένο νήμα πρόκειται να εκτελεστεί σε έναν πυρήνα. Επομένως, υπάρχει ένας μεγάλος αριθμός περιπτώσεων χρήσης που επωφελούνται από την ύπαρξη αυτού του πυρήνα που πήγε πολύ ψηλά.
Τώρα έχουμε τρεις πυρήνες που λειτουργούν λίγο σε χαμηλότερη συχνότητα, αλλά είναι επίσης πιο αποδοτικοί. Και έτσι όπως, όποτε εσείς—δεν ξέρω πόσα γνωρίζετε για την υλοποίηση των πυρήνων—αλλά όποτε αρχίζετε να αγγίζετε την κορυφή της συχνότητας, και οι υλοποιήσεις αυτών των πυρήνων, υπάρχει μια ανταλλαγή ισχύος, τα πράγματα αρχίζουν να γίνονται εκθετικά σε αυτά τα τελευταία megahertz ή gigahertz που έχω. Ναι, και έτσι μίλησα για ένα δευτερόλεπτο πριν, όπου όλα τα παιχνίδια αρχίζουν να γίνονται πολυνήματα, όπως όλα ξαφνικά, αν κοιτάξετε πίσω, υπήρχαν μερικά παιχνίδια πριν από λίγο καιρό, και χρησιμοποιούν απλώς ένα Νήμα. Αλλά είναι περίεργο πόσο γρήγορα μπορεί να αλλάξει ο κλάδος. Όπως τον περασμένο χρόνο, ενάμιση χρόνο, άρχισαν κυριολεκτικά να βάζουν όλα αυτά τα παιχνίδια σε… Έχω ενθουσιαστεί με αυτά τα παιχνίδια υψηλής πιστότητας. Και έτσι, ενώ πολλά πράγματα ακριβώς όπως πριν από έξι μήνες έως ένα χρόνο, πριν, στην πραγματικότητα έχουν ανατραπεί σε όλη την Κίνα. Στην Κίνα, ακούω "Δεν με ενδιαφέρουν πραγματικά οι μεγάλοι πυρήνες, δώσε μου ένα οκτώ από οτιδήποτε, δώσε μου οκτώ από τα Οι μικρότεροι πυρήνες για να μπορώ να έχω οκτώ πυρήνες." Έχουν αλλάξει γιατί θέλουν αυτά τα παιχνίδια, αυτά τα παιχνίδια απαιτούν μεγάλους πυρήνες. Και τώρα λαμβάνουμε σχόλια από συνεργάτες ότι «όχι, θέλουμε στην πραγματικότητα τέσσερις μεγάλους πυρήνες», λόγω όλων των προηγμένων παιχνιδιών που κυκλοφορούν. Και θα χρησιμοποιήσουν όλους αυτούς τους πυρήνες.
Έτσι, όταν παίζετε, δεν παίζετε για 30 δευτερόλεπτα ή 5 λεπτά, παίζετε για περισσότερο. Λοιπόν, είναι λογικό, έχουμε αυτούς τους άλλους τρεις πυρήνες στις περισσότερες περιπτώσεις χρήσης μεγάλου πυρήνα πολλαπλών νημάτων, θέλουν να έχουν λίγο περισσότερη απόδοση ισχύος. Κάπως ισορροπεί, έχετε αυτόν τον πυρήνα υψηλότερης απόδοσης όταν τον χρειάζεστε για μερικά από αυτά τα πράγματα σε ορισμένα από αυτές τις συνεχείς περιπτώσεις όπου έχουν επίσης μεγάλους πυρήνες και έχετε αυτήν την πιο αποδοτική λύση για σύζευξη ότι. Αυτός είναι ο τρόπος σκέψης - είναι κάπως μια ασυνήθιστη συμμετρία. Αλλά ελπίζουμε ότι αυτό απαντά γιατί [υπάρχει ένας] κύριος πυρήνας, γιατί δεν έχετε ξεχωριστά ρολόγια και γιατί δεν έχετε ξεχωριστές τάσεις; Και έτσι νομίζω ότι τα έθιξα όλα αυτά».
Διαμόρφωση πυρήνα CPU Kryo 485. Πηγή: Qualcomm.
Μάριο Σεραφέρο: «Τώρα, ετερογενής υπολογισμός. Αυτό τονίζει η Qualcomm μετά την απομάκρυνση από το παλιό branding στην πλατφόρμα για κινητά, και αυτού του είδους [a] περιγραφέας, καθώς και η συγκέντρωση μπλοκ από την περιγραφή ορισμένων μετρήσεων απόδοσης όπως ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. Πώς ήταν αυτή η εξέλιξη στη μετάβαση σε μια πιο ετερογενή υπολογιστική προσέγγιση; Οπουδήποτε, από το σχεδιασμό μέχρι την εκτέλεση έως το μάρκετινγκ, ή οτιδήποτε άλλο μπορείτε να αγγίξετε."
Τράβις Λανιέ: «Πηγαίνει λίγο μπρος πίσω. Αλλά τελικά, πρέπει να έχεις αυτούς τους κινητήρες γιατί το όνομα του παιχνιδιού στα κινητά είναι power efficiency. Τώρα το βλέπετε μερικές φορές να επιστρέφει σε μια γενίκευση κάθε τόσο. Εάν επιστρέψετε στο αρχικό σας, ακόμη και για smartphone, τα τηλέφωνα με δυνατότητες είχαν πολυμέσα και κάμερα δυνατότητες σε κάποιο βαθμό και έτσι έχουν όλα αυτά τα μικρά αφιερωμένα πράγματα γιατί δεν μπορούσες Κάνε το. Αν επιστρέψετε στα τηλέφωνα που είναι κατασκευασμένα στο ARM 9 ή σε ένα ARM 7, όλα είχαν ένα widget επιτάχυνσης υλικού για τα πάντα.
Αλλά για να σας δώσω ένα παράδειγμα, όπου κάτι γενικεύτηκε και μετά τώρα ζητούν ξανά υλικό, θα ήταν JPEG. Κάποτε υπήρχε ένας επιταχυντής JPEG. Η CPU τελικά έγινε αρκετά καλή και ήταν αρκετά αποδοτική και τα JPEG παρέμειναν κάπως έτσι ίδιο μέγεθος που, γεια, ξέρετε τι, θα προχωρήσουμε και θα το κάνουμε στην CPU [καθώς] είναι πιο εύκολο να το κάνουμε το. Τώρα, καθώς οι εικόνες γίνονται όλο και μεγαλύτερες, ξαφνικά, οι άνθρωποι πηγαίνουν, ξέρετε, στην πραγματικότητα, θέλω αυτά τα πραγματικά γιγαντιαία μεγέθη αρχείων φωτογραφιών να επιταχυνθούν. Οι CPU [είναι] κάπως είτε όχι αρκετά γρήγοροι είτε καίνε υπερβολική ισχύ. Απλώς ξαφνικά υπάρχει ενδιαφέρον να έχουμε δυνητικά επιταχυντές JPEG ξανά. Επομένως, δεν είναι πάντα μια ευθεία γραμμή πώς πάνε τα πράγματα, τότε πρέπει να κοιτάξετε τι συμβαίνει αυτή τη στιγμή με τον Νόμο του Μουρ. Όλοι συνεχίζουν να μιλούν για, ρε, μπορεί να μην πέθατε, αλλά επιβραδύνεται λίγο, σωστά; Επομένως, εάν δεν λαμβάνετε αυτήν την ενίσχυση ισχύος ή την ενίσχυση της απόδοσης από κάθε επόμενο κόμβο, πώς θα συνεχίσετε να έχετε περισσότερη λειτουργικότητα στο τηλέφωνο εάν δεν έχετε αυτό το γενικό κόστος; Έτσι θα μπορούσατε απλώς να το βάλετε στην CPU. Αλλά αν δεν έχετε περισσότερο χώρο για την CPU σας, πώς μπορείτε να επιταχύνετε αυτά τα πράγματα; Λοιπόν, η απάντηση είναι ότι βάζετε όλους αυτούς τους εξειδικευμένους πυρήνες και τα πράγματα πιο αποτελεσματικά. Και έτσι είναι αυτή η φυσική ένταση.
Θα δείτε ανθρώπους να αναγκάζονται να κάνουν αυτά τα πράγματα για κοινές λειτουργίες, καθώς ίσως δεν θα είναι όλοι στο χείλος της αιμορραγίας. Αλλά σίγουρα θα προσπαθήσουμε να μείνουμε εκεί όσο το δυνατόν περισσότερο, αλλά δεν μπορούμε να αναγκάσουμε τους fabs να μετακινηθούν στον επόμενο κόμβο, αν δεν είναι απαραίτητα εκεί. Γι' αυτό πρέπει να εστιάσετε στη συνεχή καινοτομία και σε αυτές τις αρχιτεκτονικές για να συνεχίσετε να έχετε καλύτερη απόδοση και απόδοση ισχύος. Αυτή είναι λοιπόν η δύναμή μας και το υπόβαθρό μας».
Μάριο Σεραφέρο: «Αν και έχει γίνει αυτή η κίνηση προς τον ετερογενή υπολογισμό, από την πλευρά της Qualcomm, πολλά κοινά και σίγουρα πολλές δημοσιεύσεις, σίγουρα πολλοί ενθουσιώδεις, παραδόξως, που πιστεύετε ότι θα ήξεραν καλύτερα, εξακολουθούν να σκέφτονται, θεωρούν και αξιολογούν τα μπλοκ ξεχωριστά οντότητες. Εξακολουθούν να εστιάζουν στο: «Θέλω να δω τους αριθμούς της CPU γιατί με ενδιαφέρει αυτό». Θέλουν να βλέπουν αριθμούς GPU επειδή τους αρέσουν τα παιχνίδια, ούτω καθεξής και ούτω καθεξής. Δεν τα θεωρούν ως κοινοποιούμενα μέρη ενός ενιαίου προϊόντος. Πώς πιστεύετε ότι η Qualcomm έχει, και είναι, και μπορεί, να καταρρίψει αυτό το παράδειγμα καθώς οι ανταγωνιστές εξακολουθούν να επικεντρώνονται σε αυτό το συγκεκριμένο είδος βελτιώσεων στο μάρκετινγκ ανά τμήμα; Συγκεκριμένα, [θα] προχωρήσουμε στα νευρωνικά δίκτυα, στα πράγματα των νευρωνικών μηχανών αργότερα».
Τράβις Λανιέ: «Ελπίζω να έθιξα κάτι από αυτά σήμερα. Εστιάζουμε, για παράδειγμα, στο διαρκές gaming, οπότε ίσως να πετύχετε καλά αποτελέσματα σε όλα τα σημεία αναφοράς gaming. Οι άνθρωποι έχουν εμμονή με αυτό. Αλλά πραγματικά, αυτό που έχει σημασία είναι, εάν παίζετε το παιχνίδι σας, τα καρέ ανά δευτερόλεπτο παραμένουν σταθερά εκεί που θέλετε να είναι στο υψηλότερο σημείο για αυτά τα πράγματα; Νομίζω ότι οι άνθρωποι δίνουν υπερβολικό βάρος σε έναν αριθμό για ένα από αυτά τα μπλοκ. Είναι τόσο δύσκολο και καταλαβαίνω την επιθυμία να μου δώσεις έναν αριθμό που να μου λέει ποιο είναι το καλύτερο. Είναι τόσο βολικό, ειδικά στην τεχνητή νοημοσύνη αυτή τη στιγμή, είναι απλά τρελό. Ακόμη και με τα σημεία αναφοράς CPU, τι μετράει ένα σημείο αναφοράς CPU; Όλοι μετρούν διαφορετικά πράγματα. Πάρτε οποιοδήποτε από τα σημεία αναφοράς, όπως το GeekBench έχει μια δέσμη επιμέρους στοιχείων. Βλέπετε κάποιον να σκίζεται ποτέ και να εξετάζει ποιο από αυτά τα δευτερεύοντα στοιχεία είναι πιο σχετικό με αυτό που κάνω στην πραγματικότητα;"
Μάριο Σεραφέρο: «Μερικές φορές, το κάνουμε».
Τράβις Λανιέ: «Ίσως να το κάνετε. Εσείς είστε σαν ακραίος. Αλλά όπως ίσως μια CPU είναι καλύτερη σε αυτό και ίσως κάποιος είναι καλύτερη σε μια άλλη. Το ίδιο πράγμα με το SPEC, οι άνθρωποι θα τονίσουν το ένα SPEC, εντάξει, υπάρχουν πολλοί διαφορετικοί φόρτοι εργασίας σε αυτό. Και είναι αρκετά στενά πράγματα, αλλά ακόμη και το SPEC, το οποίο στην πραγματικότητα χρησιμοποιούμε για την ανάπτυξη CPU, αν κοιτάξετε τον πραγματικό φόρτο εργασίας, είναι πραγματικά σχετικοί; Είναι εξαιρετικό για τη σύγκριση φόρτου εργασίας σταθμών εργασίας, αλλά κάνω πραγματικά μοριακή μοντελοποίηση στο τηλέφωνό μου; Όχι. Αλλά και πάλι, αυτό είναι το θέμα μου είναι ότι τα περισσότερα από αυτά τα σημεία αναφοράς είναι χρήσιμα κατά κάποιο τρόπο, αλλά πρέπει να κατανοήσετε το πλαίσιο του τι [αποτελεί] και πώς θα φτάσετε εκεί. Και έτσι είναι πραγματικά δύσκολο να αποσταχθούν τα πράγματα σε έναν αριθμό.
Και το βλέπω αυτό ειδικά - περιστρέφομαι λίγο εδώ - αλλά το βλέπω με την τεχνητή νοημοσύνη αυτή τη στιγμή, είναι τρομακτικό. Βλέπω ότι υπάρχουν μερικά διαφορετικά πράγματα που δεν θα μπορούσαν να λάβουν έναν αριθμό για την τεχνητή νοημοσύνη. Και έτσι, όσο κι αν μίλησα για CPU, και έχετε όλους αυτούς τους διαφορετικούς φόρτους εργασίας, και προσπαθείτε να πάρετε έναν αριθμό. Holy moly, AI. Υπάρχουν τόσα πολλά διαφορετικά νευρωνικά δίκτυα και τόσοι διαφορετικοί φόρτοι εργασίας. Το τρέχετε σε κινητή υποδιαστολή, το εκτελείτε σε int, το τρέχετε με ακρίβεια 8 ή 16 bit; Και αυτό που συνέβη είναι ότι βλέπω ανθρώπους να προσπαθούν να δημιουργήσουν αυτά τα πράγματα και, λοιπόν, επιλέξαμε αυτόν τον φόρτο εργασίας και το κάναμε στο κινητής υποδιαστολής, και θα σταθμίσουμε το 50% των δοκιμών μας σε αυτό το ένα δίκτυο και δύο άλλες δοκιμές, και θα τις σταθμίσουμε Αυτό. Εντάξει, χρησιμοποιεί κανείς πραγματικά τον συγκεκριμένο φόρτο εργασίας σε αυτό το δίχτυ; Υπάρχουν πραγματικές εφαρμογές; Το AI είναι συναρπαστικό γιατί κινείται τόσο γρήγορα. Οτιδήποτε σας πω θα είναι μάλλον λανθασμένο σε ένα ή δύο μήνες. Αυτό είναι λοιπόν που είναι ωραίο σε αυτό, γιατί αλλάζει τόσο πολύ.
Αλλά το μεγαλύτερο πράγμα δεν είναι το υλικό στο AI, είναι το λογισμικό. Επειδή όλοι το χρησιμοποιούν χρησιμοποιούν, όπως, εγώ αυτό το νευρωνικό δίκτυο. Και έτσι βασικά, υπάρχουν όλοι αυτοί οι πολλαπλασιαστές εκεί. Έχετε βελτιστοποιήσει το συγκεκριμένο νευρωνικό δίκτυο; Και έτσι βελτιστοποιήσατε το ένα για το σημείο αναφοράς ή βελτιστοποιήσατε αυτό για να πουν κάποιοι, εσείς ξέρετε τι έχω δημιουργήσει ένα σημείο αναφοράς που μετρά τη σούπερ ανάλυση, είναι ένα σημείο αναφοράς σε μια σούπερ ανάλυση ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. Λοιπόν, χρησιμοποιούν αυτό το δίκτυο και μπορεί να το έχουν κάνει σε κινητή υποδιαστολή. Αλλά κάθε συνεργάτης με τον οποίο συνεργαζόμαστε, έχουμε καταφέρει να το κάνουμε 16 bit ή/και 8 bit και χρησιμοποιώντας διαφορετικό δίκτυο. Αυτό σημαίνει, λοιπόν, ότι δεν είμαστε καλοί στη σούπερ ανάλυση, επειδή αυτό το έργο δεν ταιριάζει με αυτό; Οπότε το μόνο μου σημείο είναι ότι το σημείο αναφοράς AI είναι πολύ περίπλοκο. Πιστεύετε ότι η CPU και η GPU είναι περίπλοκα; Το AI είναι απλά τρελό».
Μάριο Σεραφέρο: "Ναι, υπάρχουν πάρα πολλοί τύποι δικτύων, πάρα πολλές παραμετροποιήσεις - η διαφορετική παραμετροποίηση οδηγεί σε διαφορετικές επιπτώσεις, πώς υπολογίζεται."
Τράβις Λανιέ: "Θα κρατήσει τους κριτικούς απασχολημένους."
Μάριο Σεραφέρο: «Αλλά αν θέλετε να μετρήσετε το σύνολο των πραγμάτων, είναι πολύ πιο δύσκολο. Αλλά ναι, κανείς δεν το κάνει».
Μισάαλ Ραχμάν: "Γι' αυτό εστιάζετε περισσότερο στις περιπτώσεις χρήσης."
Τράβις Λανιέ: «Νομίζω ότι στο τέλος, μόλις δείξεις περιπτώσεις χρήσης, αυτό είναι το πόσο καλή είναι η τεχνητή νοημοσύνη σου αυτή τη στιγμή. Έχει να κάνει με το λογισμικό, νομίζω ότι θα ωριμάσει λίγο περισσότερο σε λίγα χρόνια. Αλλά αυτή τη στιγμή, υπάρχει τόση δουλειά λογισμικού που πρέπει να γίνει και μετά αλλάζει όπως, Εντάξει, καλά, αυτό το δίκτυο είναι καυτό και μετά όπως, τον επόμενο χρόνο, "Ω, όχι, βρήκαμε ένα νέο δίκτυο που είναι πιο αποτελεσματικό σε όλα αυτά τα πράγματα", οπότε πρέπει να επαναλάβετε το λογισμικό. Είναι αρκετά τρελό».
Μάριο Σεραφέρο: «Μιλώντας για NN, κάπως κάνατε τη μετάβαση για μένα, λιγότερο άβολα για μένα. Προχωρώντας στο εξάγωνο. Αυτό είναι κάπως ένα από τα στοιχεία που είναι λιγότερο κατανοητά, θα έλεγα, από τους καταναλωτές, ακόμη και τους περισσότερους ενθουσιώδεις, σίγουρα τους συναδέλφους μου. Ξέρετε, ειδικά δεδομένου ότι δεν εισήχθη ως μπλοκ τεχνητής νοημοσύνης, και σαν ολόκληρη την ιδέα επεξεργασίας ψηφιακών σημάτων, ξέρετε, όταν εισάγετε κάτι αυτή η πρωτότυπη ιδέα κολλάει, οπότε αν σκοπεύετε να κάνετε κάτι, εντάξει είναι ένα νευρικό πράγμα με τη νευρική, νευρική, νευρική νοημοσύνη του εγκεφάλου. Ανθρωποι. Έχουν τις ετικέτες νευρωνικής, νευρωνικής, νευρωνικής εκμάθησης AI για άλλες λύσεις. Θέλουμε λοιπόν να σας δώσουμε ίσως την ευκαιρία να εξηγήσετε την εξέλιξη του Hexagon DSP, γιατί δεν έχετε απομακρυνθεί από αυτό είδος ονομάτων μηχανικού ήχου όπως Hexagon DSP, διανυσματικές επεκτάσεις και ούτω καθεξής που δεν είναι σαν μάρκετινγκ φιλικός. Αλλά ναι, όπως ίσως σαν μια γρήγορη ανασκόπηση του πώς ήταν για εσάς στην πρώτη γραμμή του DSP να το δείτε να πηγαίνει από την αρχή του φόρτου εργασίας της απεικόνισης στον ολοκαίνουργιο επιταχυντή τανυστού."
Τράβις Λανιέ: «Είναι πραγματικά ένα ενδιαφέρον σημείο γιατί ορισμένοι από τους ανταγωνιστές μας έχουν πράγματι κάτι που θα ονομάζουν νευρωνικό κινητήρα ή νευρωνικό επιταχυντή—είναι στην πραγματικότητα ένα DSP, είναι το ίδιο πράγμα. Λοιπόν, υποθέτω ότι το όνομα είναι σημαντικό, αλλά θίξατε ένα σημαντικό σημείο και ειλικρινά όταν το δημοσιεύσαμε αυτό ήταν για απεικόνιση, απλώς έτυχε να υποστηρίζουμε 8 bit. Και θυμάμαι ότι είχαμε παρουσιάσει στο Hot Chips και ο Pete Warden της Google μας εντόπισε κάπως και είπε, "Γεια, εσείς.. άρα υποστηρίζετε 8 bit, ε;" Ναι, το κάνουμε. Και έτσι από εκεί, βγήκαμε αμέσως έξω και, όπως, ρε, έχουμε όλα [αυτά] τα έργα σε εξέλιξη. Τότε ήταν που πήγαμε και μεταφέραμε το TensorFlow στο Hexagon, γιατί είναι σαν να, έχουμε σαν αυτόν τον διανυσματικό επεξεργαστή που υποστηρίζεται 8 bit για να το κάνουμε αυτό, και ήταν στο Hexagon DSP μας. Αν έπρεπε να το ξαναπάω από την αρχή, πιθανότατα θα το ονόμαζα Εξάγωνο Επεξεργαστής Νευρωνικού Σήματος. Και έχουμε ακόμα το άλλο DSP, έχουμε βαθμωτούς DSP και αυτό είναι ένα DSP με την πιο αληθινή έννοια. Και τότε ονομάζουμε αυτό το είδος διανύσματος DSP. Ίσως θα έπρεπε να το μετονομάσουμε, ίσως θα έπρεπε να το ονομάσουμε επεξεργαστή νευρωνικών σημάτων γιατί μάλλον δεν δίνουμε στους εαυτούς μας τόση πίστωση. θα έπρεπε για αυτό γιατί, όπως είπα, μερικοί άνθρωποι έχουν απλώς διανυσματικά DSP και τα αποκαλούν όπως και να 'χει, και δεν έχουν αποκαλύψει οτιδήποτε είναι. Απάντησα στην ερώτησή σου;»
Hexagon 690 Επισκόπηση. Πηγή: Qualcomm.
Μάριο Σεραφέρο: «Λοιπόν, ναι, μάλλον είναι σωστό το μεγαλύτερο μέρος».
Τράβις Λανιέ: "Ποια ήταν η δεύτερη ερώτηση;"
Μάριο Σεραφέρο: «Ακριβώς πώς είδατε μια τέτοια εξέλιξη εσωτερικά. Πώς ήταν: η εμπειρία, οι δυσκολίες, οι προκλήσεις, ό, τι θέλετε να μας πείτε; Πώς [έχετε] δει την εξέλιξη από την αρχή της επεξεργασίας εικόνας στον επιταχυντή τανυστή;».
Τράβις Λανιέ: «Ήταν λίγο απογοητευτικό γιατί είναι σαν αυτό που με κάνει να ανατριχιάζω είναι ότι κάποιοι από τους δημοσιογράφους θα σηκώσουν το χέρι τους και θα λένε, «Qualcomm, τι είσαι τόσο πίσω! Γιατί δεν το έκανες—Πότε θα γίνεις σαν ένας αποκλειστικός επεξεργαστής νευρικού σήματος;» και θέλω απλώς να μου αρέσει να σφυροκοπώ το κεφάλι μου. Σαν να ήμασταν οι πρώτοι που είχαμε διανυσματικό επεξεργαστή! Ωστόσο, το επεξεργαζόμαστε και πιθανότατα θα συνεχίσουν να υπάρχουν περισσότερα πράγματα καθώς μαθαίνουμε περισσότερα για την τεχνητή νοημοσύνη. Λοιπόν, προσθέσαμε αυτό το άλλο πράγμα και ναι αυτό είναι - κάνει μόνο τεχνητή νοημοσύνη, δεν κάνει επεξεργασία εικόνας ως μέρος του εξαγώνου συγκροτήματος, ώστε να προσφέρετε… όπως εξακολουθούμε να το αποκαλούμε Hexagon DSP, ονομάζουμε ολόκληρο το συγκρότημα Hexagon επεξεργαστή [για] να προσπαθήσουμε να αποκτήσουμε ένα καταγεγραμμένο όνομα για ολόκληρο εξάγωνο τώρα. Προσθέσαμε πράγματα που στην πραγματικότητα [είναι] πιο άμεσος υπολογισμός, δεν θα έπρεπε να πω απευθείας υπολογισμός, όπως αυτό έχει αυτήν την αυτόματη διαχείριση του τρόπου με τον οποίο κάνετε αυτόν τον χάρτη υψηλότερης τάξης όπου πολλαπλασιάζεστε μήτρες."
Μάριο Σεραφέρο: «Οι τανυστές είναι πραγματικά πολύ δύσκολο για μένα να τυλίξω το κεφάλι μου. Είναι σαν να τυλίγονται κι αυτοί γύρω από τον εαυτό τους, ούτως ή άλλως».
Τράβις Λανιέ: «Ναι, σκέφτηκα ότι έκανα τα μαθήματα γραμμικής άλγεβρας στο κολέγιο. Το έκανα σαν άντρας, «Ελπίζω να μην χρειαστεί να το ξανακάνω ποτέ!» Και γύρισαν με εκδίκηση. Υποθέτω ότι ήμουν σαν, "Ω, φίλε, οι διαφορικές εξισώσεις και η γραμμική άλγεβρα επέστρεψαν με μια εκδίκηση!".
Μάριο Σεραφέρο: "Νιώθω ότι πολλοί από τους συναδέλφους μου δεν το έχουν καταλάβει αυτό. Εξακολουθούν να πιστεύουν ότι υπάρχει αυτή η μυστηριώδης πτυχή του NPU όταν είναι απλώς μια δέσμη πολλαπλασιασμού μήτρας, γινόμενα κουκκίδων, συναρτήσεις μη γραμμικότητας, συνελίξεις, [και] ούτω καθεξής. Και δεν νομίζω ότι προσωπικά, αυτό το είδος του ονόματος της μηχανής νευρωνικής επεξεργασίας βοηθά, αλλά αυτό είναι το θέμα, σωστά; Πόσο από αυτό είτε δεν επεκτείνεται, μπερδεύεται, κάπως τα υποκείμενα μαθηματικά φτυαρισμένα, από τις συμβάσεις ονομασίας, και τι μπορεί να γίνει ίσως; Δεν ξέρω αν το σκέφτηκες αυτό. [Τι] μπορεί να γίνει για να ενημερωθούν οι άνθρωποι για το πώς λειτουργεί αυτό; Πώς δεν είναι ακριβώς όπως, για παράδειγμα, γιατί το DSP μπορεί να κάνει ό, τι μπορούν να κάνουν οι άλλες νέες μηχανές επεξεργασίας νευρώνων; Θέλω να πω, είναι απλώς μαθηματικά, αλλά δεν φαίνεται ότι οι χρήστες, οι αναγνώστες, κάποιοι δημοσιογράφοι το καταλαβαίνουν αυτό. Τι μπορεί—δεν λέω ότι είναι ευθύνη της Qualcomm—αλλά τι πιστεύετε ότι θα μπορούσε να γίνει διαφορετικά; Μάλλον είναι δική μου ευθύνη».
Τράβις Λανιέ: «Ειλικρινά, αρχίζω να παραδίδω. Ίσως πρέπει απλώς να ονομάσουμε τα πράγματα «νευρικά». Μόλις μιλήσαμε για το πώς η γραμμική άλγεβρα και οι διαφορικές εξισώσεις έκαναν το κεφάλι μας να περιστρέφεται όταν αρχίσαμε να κοιτάμε αυτά πράγματα, και έτσι όταν αρχίζετε να προσπαθείτε να το εξηγήσετε στους ανθρώπους, όπως όταν ξεκινάτε να κάνετε την ανάλυση παλινδρόμησης, κοιτάτε τις εξισώσεις και άλλα, τα κεφάλια των ανθρώπων εκραγεί. Μπορείτε να διδάξετε στους περισσότερους ανθρώπους τον βασικό προγραμματισμό, αλλά όταν αρχίσετε να τους διδάσκετε πώς λειτουργούν οι εξισώσεις backpropagation, θα το δουν και τα κεφάλια τους θα εκραγούν. Οπότε ναι, διασκεδαστικά πράγματα. Δεν θέλουν να δουν μερικά παράγωγα…»
Μάριο Σεραφέρο: "Αλυσίδες μερικών παραγώγων, όχι κατά μήκος βαθμωτών αλλά σε διανύσματα και συμπεριλαμβανομένων μη γραμμικών συναρτήσεων."
Τράβις Λανιέ: "Καλή τύχη με αυτό! Ναι, οπότε είναι δύσκολο και δεν ξέρω ότι οι περισσότεροι θέλουν να μάθουν γι' αυτό. Αλλά προσπαθώ: βάζω ένα μικρό πράγμα όπως, «Γεια, το μόνο που κάνουμε εδώ είναι διανυσματικά μαθηματικά. Έχουμε έναν διανυσματικό επεξεργαστή." Και νομίζω ότι οι άνθρωποι το βλέπουν και λένε: «Εντάξει, αλλά φίλε θέλω πολύ ένα νευρικό επιταχυντής." Το "Tensor" είναι ακόμα μαθηματικό, αλλά νομίζω ότι οι άνθρωποι μπορεί να το συσχετίσουν λίγο περισσότερο με την τεχνητή νοημοσύνη επεξεργασία."
Μάριο Σεραφέρο: «Θα μπορούσε να είναι σαν να γεφυρώνει το χάσμα, το σημασιολογικό χάσμα».
Τράβις Λανιέ: "Στο τέλος, νομίζω ότι προέκυψε, μάλλον πρέπει απλώς να βρούμε ένα διαφορετικό όνομα."
Όλα τα γραφικά σε αυτό το άρθρο προέρχονται από την παρουσίαση του Travis Lanier στο Snapdragon Tech Summit. Μπορείτε να δείτε τις διαφάνειες της παρουσίασης εδώ.