Το Benchmark Cheating Strikes: Πώς το OnePlus και άλλοι πιάστηκαν στα χέρια και τι έχουν κάνει για αυτό

click fraud protection

Η OnePlus και η Meizu έχουν πιαστεί να απατούν σε σημεία αναφοράς. Το XDA διερευνά πώς συνέβη και τι μπορεί να γίνει για να αποφευχθεί να συμβεί ξανά.

Πριν από μερικά χρόνια προκλήθηκε μεγάλη αναταραχή, όταν πολλοί μεγάλοι κατασκευαστές πιάστηκαν να εξαπατούν τα σημεία αναφοράς. OEM όλων των μεγεθών (συμπεριλαμβανομένων Samsung, HTC, Sony, και LG) συμμετείχαν σε αυτόν τον αγώνα εξοπλισμών που προσπάθησαν να ξεγελάσουν τους χρήστες χωρίς να πιαστούν, αλλά ευτυχώς τελικά σταμάτησαν την εξαπάτηση του σημείου αναφοράς τους μετά από μερικές ειλικρινείς συζητήσεις με εμπειρογνώμονες του κλάδου και δημοσιογράφοι.

Πίσω στο 2013, ήταν ανακαλύφθηκε ότι η Samsung ενίσχυε τεχνητά τις ταχύτητες του ρολογιού της GPU σε ορισμένες εφαρμογές, πυροδοτώντας μια σειρά από διερευνήσεις σε όλο το φάσμα των κατασκευαστών. Εκείνη την εποχή, η έρευνα διαπίστωσε ότι σχεδόν όλοι οι κατασκευαστές εκτός από την Google/Motorola συμμετείχαν σε εξαπάτηση συγκριτικής αξιολόγησης. Όλοι επένδυαν χρόνο και χρήμα σε προσπάθειες να αποκτήσουν λίγη επιπλέον απόδοση από τα τηλέφωνά τους σε σημεία αναφοράς, με τρόπους που δεν θα είχε καμία θετική επίδραση στην καθημερινή χρήση, σε μια προσπάθεια να ξεγελάσουν τους χρήστες να πιστεύουν ότι τα τηλέφωνά τους ήταν πιο γρήγορα από ό, τι στην πραγματικότητα ήταν. Αυτές οι προσπάθειες ανάπτυξης διέθεταν όλη τη γκάμα, από τη ρύθμιση ορόφων ταχύτητας ρολογιού, την επιβολή των ταχυτήτων του ρολογιού στις μέγιστες ρυθμίσεις τους, έως τη δημιουργία ειδικών υψηλότερων καταστάσεις ισχύος και ειδικές ταχύτητες ρολογιού που ήταν διαθέσιμες μόνο κατά τη συγκριτική αξιολόγηση, με αυτές τις προσπάθειες συχνά να καταλήγουν σε μόλις μια-δυο ποσοστιαίες μονάδες αυξήσεις σε σημείο αναφοράς.

Υπήρξε σημαντική οργή όταν ανακαλύφθηκε, καθώς αυτές οι απόπειρες εξαπάτησης συγκριτικής αξιολόγησης ήταν αντίθετες με το ίδιο το σημείο των ίδιων των σημείων αναφοράς. Τα περισσότερα σημεία αναφοράς δεν υπάρχουν για να σας πουν τη θεωρητική μέγιστη απόδοση ενός τηλεφώνου σε συνθήκες εργαστηρίου που δεν είναι αναπαράγονται σε καθημερινή χρήση, αλλά μάλλον είναι εκεί για να σας δώσουν ένα σημείο αναφοράς για πραγματικές συγκρίσεις μεταξύ τηλέφωνα. Μετά από λίγη δημόσια επίπληξη (και μερικές ιδιωτικές συνομιλίες) από εκδόσεις τεχνολογίας, ηγέτες του κλάδου και Το ευρύ κοινό, οι περισσότεροι κατασκευαστές έλαβαν το μήνυμα ότι η εξαπάτηση βάσει αναφοράς ήταν απλώς απαράδεκτη και σταμάτησε ως α αποτέλεσμα. Τα περισσότερα από τα λίγα που δεν σταμάτησαν σε εκείνο το σημείο σταμάτησαν αμέσως μετά, καθώς έγιναν ουσιαστικές αλλαγές σε πόσα σημεία αναφοράς εκτελούνται, σε μια προσπάθεια να αποθαρρύνουν την εξαπάτηση βάσει αναφοράς (μειώνοντας το όφελος από το). Πολλά σημεία αναφοράς έγιναν μακρύτερα, έτσι ώστε ο θερμικός περιορισμός από τη μεγιστοποίηση των ταχυτήτων ρολογιού να γίνει αμέσως εμφανής.

Οταν εμείς συνέντευξη Ο John Poole, ο δημιουργός του Geekbench, αναδείχθηκε το θέμα της εξαπάτησης των κριτηρίων αναφοράς και τι μπορούν να κάνουν εταιρείες όπως η Primate Labs για να το αποτρέψουν. Ειδικά τα Primate Labs έκαναν το Geekbench 4 αρκετά μακρύτερο από το Geekbench 3, εν μέρει για να μειώσει τις επιπτώσεις της εξαπάτησης των κριτηρίων αναφοράς. Μείωση των οφελών προκειμένου να διασφαλιστεί ότι η ανάπτυξη Το κόστος της εξαπάτησης βάσει αναφοράς δεν αξίζει τον κόπο.

«Το πρόβλημα είναι ότι όταν έχουμε αυτούς τους μεγάλους χρόνους εκτέλεσης, αν αρχίσετε να παίζετε παιχνίδια αυξάνοντας το ρολόι σας ταχύτητες ή απενεργοποιώντας τους κυβερνήτες ή κάτι τέτοιο, θα αρχίσετε να βάζετε πραγματικό κίνδυνο τηλέφωνο... Αν πρόκειται να το παίξεις... δεν θα πάρεις τόσα πολλά από αυτό. Μπορεί να παίρνετε ακόμα ένα δύο τοις εκατό, αλλά αξίζει πραγματικά τον κόπο;" - Τζον Πουλ


Τι συνέβη

Δυστυχώς, πρέπει να αναφέρουμε ότι ορισμένοι ΚΑΕ άρχισαν να εξαπατούν ξανά, πράγμα που σημαίνει ότι θα πρέπει να είμαστε σε επιφυλακή για άλλη μια φορά. Ευτυχώς, οι κατασκευαστές ανταποκρίνονται ολοένα και περισσότερο σε ζητήματα όπως αυτό και με την κατάλληλη προσοχή που δίνεται σε αυτό, αυτό μπορεί να διορθωθεί γρήγορα. Είναι λίγο σοκαριστικό να βλέπεις κατασκευαστές να εφαρμόζουν την εξαπάτηση συγκριτικής αξιολόγησης υπό το πρίσμα του πόσο κακή ήταν η αντίδραση την τελευταία φορά που επιχειρήθηκε (με ορισμένα σημεία αναφοράς να αποκλείουν εντελώς τις συσκευές εξαπάτησης από την απόδοσή τους κονίστρα). Με αυτή την αντίδραση να έρχεται σε αντίθεση με το πόσο μικροσκοπικά είναι συνήθως τα κέρδη απόδοσης από την εξαπάτηση συγκριτικής αξιολόγησης (με τα περισσότερα από τις προσπάθειες που είχαν ως αποτέλεσμα λιγότερο από 5% αύξηση βαθμολογίας την τελευταία φορά), ελπίζαμε πραγματικά ότι όλα αυτά θα ήταν πίσω μας.

Η χρονική στιγμή αυτής της προσπάθειας είναι ιδιαίτερα ακατάλληλη, καθώς πριν από μερικούς μήνες η εξαπάτηση αναφοράς άφησε τον κόσμο να είναι καθαρά ανησυχούν για τους ενθουσιώδεις και μπήκαν στη δημόσια σφαίρα όταν η Volkswagen και η Fiat Chrysler συνελήφθησαν και οι δύο να εξαπατούν τις εκπομπές τους σημεία αναφοράς. Και οι δύο εταιρείες εφάρμοσαν λογισμικό για να ανιχνεύουν πότε τα πετρελαιοκίνητα αυτοκίνητά τους υποβάλλονται σε δοκιμές εκπομπών ρύπων και τους έβαλαν να αλλάξουν σε λειτουργία χαμηλών εκπομπών που είδε την οικονομία καυσίμου τους να πέφτει, σε μια προσπάθεια να ανταγωνιστούν τα βενζινοκίνητα αυτοκίνητα στην απόδοση καυσίμου, ενώ εξακολουθούν να παραμένουν εντός των κανονιστικών ορίων για τις εκπομπές δοκιμές. Μέχρι στιγμής το σκάνδαλο είχε ως αποτέλεσμα δισεκατομμύρια σε πρόστιμα, δεκάδες δισεκατομμύρια κόστη ανάκλησης και επιβαρύνσεις -- σίγουρα όχι το είδος της τιμωρίας Οι ΚΑΕ θα έβλεπαν ποτέ για τη διόγκωση των βαθμολογιών αναφοράς τους, οι οποίες είναι καθαρά για συγκρίσεις χρηστών και δεν χρησιμοποιούνται για τη μέτρηση κανενός κανονιστικού απαιτήσεις.

Ενώ διερευνώντας πώς η Qualcomm επιτυγχάνει μεγαλύτερες ταχύτητες ανοίγματος εφαρμογών στον τότε νέο Qualcomm Snapdragon 821, παρατηρήσαμε κάτι περίεργο στο OnePlus 3T που δεν μπορούσαμε να αναπαράγουμε στο Xiaomi Mi Note 2 ή το Google Pixel XL, μεταξύ άλλων συσκευών Snapdragon 821. Ο αρχισυντάκτης μας, Mario Serrafero, χρησιμοποιούσε την Qualcomm Trepn και το Snapdragon Performance Visualizer για να παρακολουθεί πώς η Qualcomm «ενισχύει» την CPU ταχύτητα ρολογιού κατά το άνοιγμα εφαρμογών και παρατήρησε ότι ορισμένες εφαρμογές στο OnePlus 3T δεν έπεφταν στις κανονικές ταχύτητες ρελαντί μετά άνοιγμα. Ως γενικός εμπειρικός κανόνας, αποφεύγουμε τη δοκιμή σημείων αναφοράς με τα εργαλεία παρακολούθησης απόδοσης ανοιχτά όποτε είναι δυνατόν λόγω των πρόσθετων επιβαρύνσεων απόδοσης που επιφέρουν (ιδιαίτερα σε συσκευές που δεν είναι Snapdragon όπου δεν υπάρχουν επίσημα εργαλεία επιφάνειας εργασίας), ωστόσο σε αυτό το περιστατικό μας βοήθησαν να παρατηρήσουμε κάποια περίεργη συμπεριφορά που πιθανότατα θα είχαμε χάσει σε διαφορετική περίπτωση.

Κατά την είσοδο σε συγκεκριμένες εφαρμογές συγκριτικής αξιολόγησης, οι πυρήνες του OnePlus 3T θα έμεναν πάνω από τα 0,98 GHz για τους μικρούς πυρήνες και τα 1,29 GHz για τους μεγάλους πυρήνες, ακόμη και όταν το φορτίο της CPU έπεφτε στο 0%. Αυτό είναι πολύ περίεργο, καθώς συνήθως και τα δύο σετ πυρήνων πέφτουν στα 0,31 GHz στο OnePlus 3T όταν δεν υπάρχει φορτίο. Μόλις το είδαμε για πρώτη φορά, ανησυχήσαμε ότι η κλιμάκωση της CPU της OnePlus είχε ρυθμιστεί απλώς κάπως περίεργα, Ωστόσο, μετά από περαιτέρω δοκιμές καταλήξαμε στο συμπέρασμα ότι το OnePlus πρέπει να στοχεύει συγκεκριμένα εφαρμογές. Η υπόθεσή μας ήταν ότι η OnePlus στόχευε αυτά τα σημεία αναφοράς ονομαστικά και έμπαινε σε μια εναλλακτική λειτουργία κλιμάκωσης της CPU για να αυξήσει τις βαθμολογίες των κριτηρίων αναφοράς. Μία από τις κύριες ανησυχίες μας ήταν ότι η OnePlus έθετε ενδεχομένως πιο χαλαρούς θερμικούς περιορισμούς σε αυτήν τη λειτουργία για να αποφύγει τα προβλήματα που είχαν με το OnePlus One, OnePlus X και OnePlus 2, όπου τα τηλέφωνα χειρίζονταν κακώς τους πρόσθετους πυρήνες που έρχονται στο διαδίκτυο για την ενότητα πολλαπλών πυρήνων του Geekbench, και περιστασιακά μειώνεται σημαντικά ως αποτέλεσμα (στο σημείο που το OnePlus X μερικές φορές σημείωσε χαμηλότερη βαθμολογία στο τμήμα πολλαπλών πυρήνων από ό, τι στο single τμήμα πυρήνα). Μπορείτε να βρείτε βαρύ γκάζι στο δικό μας Κριτική για το OnePlus 2, όπου διαπιστώσαμε ότι η συσκευή θα μπορούσε να χάσει έως και το 50% της βαθμολογίας πολλαπλών πυρήνων Geekbench 3. Αργότερα, όταν αρχίσαμε να συγκρίνουμε το throttling και thermals σε όλες τις συσκευές, το OnePlus 2 έγινε ένα παράδειγμα σχολικού βιβλίου για το τι πρέπει να αποφεύγουν οι ΚΑΕ.

Απευθυνθήκαμε στην ομάδα στο Primate Labs (οι δημιουργοί του Geekbench), οι οποίοι έπαιξαν καθοριστικό ρόλο στην αποκάλυψη του πρώτου κύματος απάτης αναφοράς και συνεργάστηκαν μαζί τους για περαιτέρω δοκιμές. Φέραμε ένα OnePlus 3T στο γραφείο της Primate Labs στο Τορόντο για κάποια αρχική ανάλυση. Η αρχική δοκιμή περιελάμβανε μια ένδειξη ROM που διαπίστωσε ότι το OnePlus 3T αναζητούσε απευθείας αρκετές εφαρμογές με το όνομά τους. Πιο συγκεκριμένα, το OnePlus 3T αναζητούσε τα Geekbench, AnTuTu, Androbench, Quadrant, Vellamo και GFXBench. Καθώς σε αυτό το σημείο είχαμε αρκετά σαφή στοιχεία ότι η OnePlus εμπλέκεται σε εξαπάτηση συγκριτικής αξιολόγησης, η Primate Labs δημιούργησε ένα “Bob’s Mini Golf Putt” έκδοση του Geekbench 4 για εμάς. Χάρη στο ουσιαστικές αλλαγές μεταξύ Geekbench 3 και 4, το "Μίνι γκολφ" η έκδοση έπρεπε να ξαναχτιστεί από την αρχή ειδικά για αυτήν τη δοκιμή. Αυτή η έκδοση του Geekbench 4 έχει σχεδιαστεί για να αποφεύγει οποιαδήποτε ανίχνευση συγκριτικής αξιολόγησης, ώστε να επιτρέπει στο Geekbench να λειτουργεί κανονικά εφαρμογή σε τηλέφωνα που εξαπατούν (πέρα από τη μετονομασία του πακέτου που ξεγελάει τις περισσότερες απόπειρες συγκριτικής αξιολόγησης ζαβολιά).


Ένα εκπληκτικό παράδειγμα

Αμέσως με το άνοιγμα της εφαρμογής, η διαφορά ήταν ξεκάθαρη. Το OnePlus 3T ήταν ρελαντί στα 0,31 GHz, όπως συμβαίνει στις περισσότερες εφαρμογές, αντί στα 1,29 GHz για τους μεγάλους πυρήνες και στα 0,98 GHz για τους μικρούς πυρήνες, όπως συμβαίνει στην κανονική εφαρμογή Geekbench. Το OnePlus έκανε τον κυβερνήτη της CPU πιο επιθετικό, με αποτέλεσμα ένα πρακτικό τεχνητό επίπεδο ταχύτητας ρολογιού στο Geekbench που δεν υπήρχε στην κρυφή κατασκευή του Geekbench. Δεν βασιζόταν στο φόρτο εργασίας της CPU, αλλά στο όνομα του πακέτου της εφαρμογής, το οποίο η κρυφή έκδοση θα μπορούσε να ξεγελάσει. Ενώ η διαφορά στα μεμονωμένα τρεξίματα ήταν ελάχιστη, οι θερμικές χαλαρώσεις στραγγαλισμού λάμπουν στο τεστ συνεχούς απόδοσης, που φαίνεται παρακάτω.

Από τις δοκιμές μας, φαίνεται ότι αυτό ήταν ένα "χαρακτηριστικό" του Hydrogen OS εδώ και αρκετό καιρό και δεν προστέθηκε στο Oxygen OS έως ότου η κοινότητα δημιουργήσει μέχρι την κυκλοφορία του Nougat (μετά την δύο ROM συγχωνεύτηκαν). Είναι λίγο απογοητευτικό να βλέπουμε, ειδικά υπό το φως των προβλημάτων λογισμικού που είχε η OnePlus αυτόν τον μήνα μετά τη συγχώνευση των ROM, από ευπάθειες του bootloader προς την Ζητήματα συμμόρφωσης με την GPL. Ελπίζουμε ότι καθώς η σκόνη θα καταλαγιάζει μετά τη συγχώνευση των δύο ομάδων, η OnePlus θα επιστρέψει στη φόρμα και θα συνεχίσει να τοποθετείται ως μια επιλογή φιλική προς τους προγραμματιστές.

Με την "Μίνι γκολφ" έκδοση του Geekbench στο χέρι, βγήκαμε και αρχίσαμε να δοκιμάζουμε και άλλα τηλέφωνα για εξαπάτηση συγκριτικής αξιολόγησης. Ευτυχώς, οι δοκιμές μας δεν δείχνουν εξαπάτηση από τις εταιρείες που ενεπλάκησαν στο σκάνδαλο πριν από μισή δεκαετία. HTC, Xiaomi, Huawei, Honor, Google, Sony και άλλοι φαίνεται να έχουν σταθερή βαθμολογία μεταξύ της κανονικής κατασκευής Geekbench και της "Μίνι γκολφ" βασίζονται στις συσκευές δοκιμών μας.

Δυστυχώς, βρήκαμε πιθανές αποδείξεις για εξαπάτηση συγκριτικής αξιολόγησης που δεν μπορέσαμε ακόμη να επιβεβαιώσουμε από μερικές άλλες εταιρείες, τις οποίες θα διερευνήσουμε περαιτέρω. Το χειρότερο παράδειγμα αυτού ήταν το Meizu Pro 6 Plus με τροφοδοσία Exynos 8890, το οποίο οδήγησε την εξαπάτηση αναφοράς σε άλλο άκρο.


Τρομερό παράδειγμα

Η Meizu έχει ορίσει ιστορικά την κλιμάκωση της CPU εξαιρετικά συντηρητικά. Αξίζει να σημειωθεί ότι συχνά ρυθμίζουν τα τηλέφωνά τους έτσι ώστε οι μεγάλοι πυρήνες σπάνια να έρχονται στο διαδίκτυο, ακόμη και όταν βρίσκονται σε "λειτουργία απόδοσης", καθιστώντας τους κορυφαίους επεξεργαστές (όπως ο εξαιρετικός Exynos 8890) που τοποθετούν στα τηλέφωνα ναυαρχίδα τους λειτουργούν σαν επεξεργαστές μεσαίας κατηγορίας. Αυτό ήρθε στο προσκήνιο πέρυσι όταν Anandtech κάλεσε τη Meizu για την κακή της απόδοση στα σημεία αναφοράς JavaScript της Anandtech στο Meizu Pro 6 που βασίζεται στο Mediatek Helio X25 και σημείωσε ότι οι μεγάλοι πυρήνες παρέμειναν εκτός σύνδεσης για το μεγαλύτερο μέρος της δοκιμής (όταν η δοκιμή έπρεπε να εκτελείται σχεδόν αποκλειστικά σε μεγάλους πυρήνες). Η Anandtech παρατήρησε την περασμένη εβδομάδα ότι μια ενημέρωση λογισμικού είχε προωθηθεί στο Meizu Pro 6 που τελικά επέτρεπε στη Meizu να χρησιμοποιήσει αυτούς τους πυρήνες στο έπακρο. Ο ανώτερος συντάκτης smartphone της Anandtech, Matt Humrick, παρατήρησε ότι "Μετά την ενημέρωση στο Flyme OS 5.2.5.0G, το PRO 6 αποδίδει σημαντικά καλύτερα. Οι βαθμολογίες Kraken, WebXPRT 2015 και JetStream βελτιώνονται κατά περίπου 2x-2,5x. Η Meizu προφανώς προσάρμοσε την τιμή κατωφλίου φορτίου, επιτρέποντας στα νήματα να μετακινούνται στους πυρήνες A72 πιο συχνά για καλύτερη απόδοση."

Δυστυχώς, φαίνεται ότι αντί να βελτιώνεται η κλιμάκωση της CPU για τις νέες συσκευές τους για καλύτερη βαθμολογίες αναφοράς, φαίνεται ότι έχουν ρυθμίσει το τηλέφωνο να μεταβαίνει στη χρήση των μεγάλων πυρήνων όταν υπάρχουν ορισμένες εφαρμογές τρέξιμο.

Με το άνοιγμα μιας εφαρμογής συγκριτικής αξιολόγησης, το Meizu Pro 6 Plus συνιστά να μεταβείτε στη "Λειτουργία απόδοσης" (η οποία μόνο είναι αρκετό για να επιβεβαιώσει ότι αναζητούν συγκεκριμένα ονόματα πακέτων) και φαίνεται να κάνει ουσιαστική διαφορά. Όταν βρίσκεται στην τυπική "Λειτουργία ισορροπίας", το τηλέφωνο σημειώνει σταθερά περίπου 604 και 2220 στα τμήματα ενός πυρήνα και πολλαπλών πυρήνων του Geekbench, αλλά σε Το "Performance Mode" βαθμολογείται με 1473 και 3906, κυρίως χάρη στους μεγάλους πυρήνες που παραμένουν απενεργοποιημένοι για το μεγαλύτερο μέρος της δοκιμής στο "Balance Mode" και ενεργοποιούνται σε "Λειτουργία απόδοσης". Η Meizu φαίνεται να κλειδώνει τους μικρούς πυρήνες στη μέγιστη ταχύτητά τους των 1,48 GHz και θέτει ένα σκληρό πάτωμα για δύο από τους μεγάλους πυρήνες των 1,46 GHz κατά τη λειτουργία Geekbench ενώ βρίσκεται σε "Performance Mode" (με τους άλλους δύο μεγάλους πυρήνες να επιτρέπεται να κλιμακώνονται ελεύθερα και αρκετά επιθετικά), το οποίο δεν βλέπουμε πότε τρέχοντας το "Μίνι γκολφ" χτίζω.

Ενώ η δυνατότητα επιλογής μεταξύ μιας λειτουργίας υψηλής ισχύος και μιας λειτουργίας χαμηλής κατανάλωσης μπορεί να είναι ένα ωραίο χαρακτηριστικό, σε αυτήν την περίπτωση δεν φαίνεται να είναι τίποτα περισσότερο από ένα κόλπο στο σαλόνι. Το Meizu Pro 6 Plus βλέπει αξιοπρεπείς βαθμολογίες στη "Λειτουργία απόδοσης" για την κανονική εφαρμογή Geekbench, αλλά όταν χρησιμοποιείτε το "Μίνι γκολφ" κατασκευή του Geekbench, πέφτει αμέσως στο ίδιο επίπεδο απόδοσης που έχει όταν έχει ρυθμιστεί σε "Balance Mode". Η κατάσταση υψηλότερης απόδοσης στο Meizu Pro 6 Plus είναι μόνο για συγκριτική αξιολόγηση, όχι για πραγματική καθημερινή χρήση.

Ένα πράγμα που πρέπει να σημειωθεί είναι ότι όταν δοκιμάσαμε το Meizu Pro 6 Plus σε "Performance Mode" με το μυστικό κατασκευή του Geekbench, οι μεγάλοι πυρήνες ήρθαν στο διαδίκτυο αν καταγράφαμε τις ταχύτητες του ρολογιού με την Qualcomm Trepn. Δεν έχουμε ακόμη καθορίσει εάν το Meizu αναγνωρίζει ότι η Trepn τρέχει και ενεργοποιεί τους μεγάλους πυρήνες στο εν μέρει εξαιτίας αυτού ή αν απλώς ενεργοποιεί τους μεγάλους πυρήνες λόγω του επιπλέον φορτίου της CPU που έχει δημιουργεί. Ενώ μπορεί να ακούγεται αντιφατικό ότι ένα πρόσθετο φορτίο στο παρασκήνιο (όπως όταν διατηρούσαμε τα γραφήματα απόδοσης κατά τη διάρκεια της δοκιμής) αυξάνουν τα αποτελέσματα ενός σημείου αναφοράς, η συντηρητική κλιμάκωση της Meizu θα μπορούσε να σημαίνει ότι τα επιπλέον έξοδα ήταν αρκετά για να το σπρώξετε πάνω από την άκρη και να ενεργοποιήσετε τους μεγάλους πυρήνες, βελτιώνοντας έτσι την απόδοση για όλους καθήκοντα.


Όταν οι δεκτικοί OEM απευθύνουν σχόλια...

Μετά τις δοκιμές μας, επικοινωνήσαμε με την OnePlus σχετικά με τα προβλήματα που εντοπίσαμε. Σε απάντηση, Η OnePlus υποσχέθηκε αμέσως να σταματήσει τη στόχευση εφαρμογών συγκριτικής αξιολόγησης με την εξαπάτηση συγκριτικής αξιολόγησης, αλλά εξακολουθεί να σκοπεύει να τη διατηρήσει για παιχνίδια (τα οποία επίσης γίνονται συγκριτική αξιολόγηση). Σε μια μελλοντική έκδοση του OxygenOS, αυτός ο μηχανισμός δεν θα ενεργοποιείται από δείκτες αναφοράς. Η OnePlus δέχθηκε την πρότασή μας να προσθέσει επίσης μια εναλλαγή, ώστε οι χρήστες να γνωρίζουν τι συμβαίνει κάτω από το καπό, και τουλάχιστον το άδικο και παραπλανητικό πλεονέκτημα στα σημεία αναφοράς θα πρέπει να είναι διορθώθηκε. Ωστόσο, λόγω των διακοπών της Κινεζικής Πρωτοχρονιάς και του ανεκτέλετου λειτουργιών τους, ίσως χρειαστεί λίγος χρόνος μέχρι να δούμε επιλογές προσαρμογής που αντιμετωπίζουν οι χρήστες για αυτήν τη λειτουργία απόδοσης. Ενώ η διόρθωση της συμπεριφοράς από μόνη της είναι μια βελτίωση, εξακολουθεί να είναι λίγο απογοητευτικό να το βλέπει κανείς τακτικά εφαρμογές (όπως παιχνίδια), καθώς είναι ένα δεκανίκι να στοχεύσετε συγκεκριμένες εφαρμογές, αντί να βελτιώσετε την πραγματική απόδοση απολέπιση. Ενισχύοντας τεχνητά την επιθετικότητα του επεξεργαστή και συνεπώς τις ταχύτητες του ρολογιού για συγκεκριμένες εφαρμογές αντί να βελτιώνουν την ικανότητα των τηλεφώνων τους να αναγνωρίζουν πότε πραγματικά χρειάζεται υψηλότερη ταχύτητες ρολογιού, η OnePlus δημιουργεί ασυνεπή απόδοση για τα τηλέφωνά της, η οποία θα γίνει πιο εμφανής καθώς το τηλέφωνο μεγαλώνει και περισσότερα παιχνίδια που η OnePlus δεν έχει στοχεύσει είναι απελευθερώθηκε. Ωστόσο, η εφαρμογή αυτή τη στιγμή επιτρέπει στα παιχνίδια να έχουν καλύτερη απόδοση. Η OnePlus έδωσε επίσης μια δήλωση για αυτό το άρθρο, την οποία μπορείτε να διαβάσετε παρακάτω:

 «Για να δώσουμε στους χρήστες μια καλύτερη εμπειρία χρήστη σε εφαρμογές και παιχνίδια με ένταση πόρων, ιδιαίτερα με ένταση γραφικών αυτά, εφαρμόσαμε ορισμένους μηχανισμούς στην κοινότητα και Nougat build για να ενεργοποιήσει τον επεξεργαστή να τρέξει περισσότερο επιθετικά. Η διαδικασία ενεργοποίησης για εφαρμογές συγκριτικής αξιολόγησης δεν θα υπάρχει σε επερχόμενες εκδόσεις OxygenOS στα OnePlus 3 και OnePlus 3T.'

Είμαστε στην ευχάριστη θέση να ακούμε ότι η OnePlus θα αφαιρέσει την εξαπάτηση του σημείου αναφοράς από τα τηλέφωνά της. Στο εξής, θα συνεχίσουμε να προσπαθούμε να πιέζουμε τους OEM να είναι πιο φιλικοί προς τον καταναλωτή όποτε είναι δυνατόν και θα προσέχουμε για μελλοντικές εξαπατήσεις αναφοράς.

Δυστυχώς, η μόνη πραγματική απάντηση σε αυτό το είδος εξαπάτησης είναι η συνεχής επαγρύπνηση. Ως κοινότητα ενθουσιωδών smartphone, πρέπει να έχουμε τα μάτια μας μακριά για προσπάθειες εξαπάτησης χρηστών όπως αυτή. Δεν μας ενδιαφέρουν οι ίδιες οι βαθμολογίες αναφοράς, αλλά τι λένε τα σημεία αναφοράς για την απόδοση του τηλεφώνου. Ενώ η εξαπάτηση αναφοράς δεν ήταν ακόμη ενεργή στο OnePlus 3 όταν το εξετάσαμε, μια απλή ενημέρωση λογισμικού ήταν αρκετή για να προσθέσει αυτή την παραπλανητική «λειτουργία» και δείχνει ξεκάθαρα ότι ο έλεγχος των συσκευών για εξαπάτηση συγκριτικής αξιολόγησης κατά την πρώτη κυκλοφορία τους δεν είναι αρκετά. Θέματα όπως αυτό μπορούν να προστεθούν ημέρες, εβδομάδες, μήνες ή ακόμα και χρόνια μετά την κυκλοφορία της συσκευής, τεχνητά διογκώνοντας τους παγκόσμιους μέσους όρους που συγκεντρώθηκαν από δείκτες αναφοράς μήνες αργότερα, επηρεάζοντας την τελική βάση δεδομένων αποτέλεσμα. Πρέπει να σημειωθεί ότι ακόμη και με αυτές τις τροποποιήσεις που οι κατασκευαστές έπρεπε να επενδύσουν χρόνο και χρήμα για να αναπτύξουν, Συνήθως βλέπουμε μόνο μερικές ποσοστιαίες μονάδες αύξησης στις βαθμολογίες αναφοράς (εξαιρουμένων δύο περιθωριακών περιπτώσεων όπως το Meizu, όπου η εξαπάτηση καλύπτει πολύ μεγαλύτερα προβλήματα). Μερικές ποσοστιαίες μονάδες, το οποίο είναι πολύ μικρότερο από το χάσμα μεταξύ των συσκευών με την καλύτερη απόδοση και της χειρότερης απόδοσης. Θα υποστηρίξαμε, ωστόσο, ότι με τις συσκευές που χρησιμοποιούν όλο και πιο παρόμοιο υλικό, αυτές οι επιπλέον ποσοστιαίες μονάδες μπορεί να είναι ο αποφασιστικός παράγοντας στα γραφήματα κατάταξης που αναζητούν τελικά οι χρήστες. Η καλύτερη βελτιστοποίηση προγραμμάτων οδήγησης και η πιο έξυπνη κλιμάκωση της CPU μπορούν να έχουν μια απολύτως τεράστια επίδραση στην απόδοση της συσκευής, με τη διαφορά μεταξύ η βαθμολογία της συσκευής με κορυφαία απόδοση που βασίζεται σε Qualcomm Snapdragon 820 και της χειρότερης απόδοσης (από έναν σημαντικό OEM) που ξεπερνά το 20% σε Geekbench. Είκοσι τοις εκατό από τη βελτιστοποίηση προγραμμάτων οδήγησης, αντί για μερικές ποσοστιαίες μονάδες από τη δαπάνη χρόνου και χρημάτων για την εξαπάτηση των χρηστών σας. Και αυτό μιλάει μόνο για τις προσπάθειες ανάπτυξης που μπορούν να επηρεάσουν τις βαθμολογίες αναφοράς. Πολλά από τα μεγαλύτερα οφέλη της επένδυσης στη βελτίωση του λογισμικού μιας συσκευής μην εμφανίζονται πάντα σε σημεία αναφοράς, με την OnePlus να προσφέρει εξαιρετική απόδοση στον πραγματικό κόσμο στις συσκευές της. Θα πρέπει πραγματικά να είναι ξεκάθαρο πού πρέπει να επικεντρωθούν οι αναπτυξιακές προσπάθειες μιας εταιρείας σε αυτήν την περίπτωση. Απευθυνόμαστε σε περισσότερες εταιρείες που εξαπατούν τα σημεία αναφοράς καθώς τα βρίσκουμε και ελπίζουμε να είναι εξίσου δεκτικές με την OnePlus.


Θα θέλαμε να ευχαριστήσουμε την ομάδα του Primate Labs για άλλη μια φορά που συνεργάστηκε μαζί μας για να αποκαλύψει αυτό το ζήτημα. Θα ήταν πολύ πιο δύσκολο να δοκιμαστεί σωστά το Benchmark Cheating χωρίς την έκδοση «Mini Golf» του Geekbench.