Η Google, η Microsoft, η OpenAI και η Anthropic έχουν ενωθεί για να αντιμετωπίσουν πιθανούς κινδύνους και προκλήσεις των "μοντέλων τεχνητής νοημοσύνης συνόρων".
Βασικά Takeaways
- Η Google, η Microsoft, η OpenAI και η Anthropic συνεργάστηκαν για να αντιμετωπίσουν τις προκλήσεις και τους πιθανούς κινδύνους που θέτουν τα "μοντέλα τεχνητής νοημοσύνης συνόρων" μέσω της δημιουργίας του Frontier Model Forum.
- Τα μοντέλα Frontier είναι πιο προηγμένα από τα υπάρχοντα μοντέλα τεχνητής νοημοσύνης και μπορούν να εκτελέσουν ένα ευρύ φάσμα εργασιών, εγείροντας ανησυχίες σχετικά με την ευθυγράμμισή τους με τις ανθρώπινες αξίες και το δημόσιο συμφέρον.
- Οι βασικοί στόχοι του Φόρουμ περιλαμβάνουν την ανάπτυξη βέλτιστων πρακτικών, την ανταλλαγή πληροφοριών, την προώθηση της έρευνας για την ασφάλεια της τεχνητής νοημοσύνης και τη συνεργασία με τους ενδιαφερόμενους για την επίτευξη συναίνεσης σε θέματα ανάπτυξης τεχνητής νοημοσύνης. Οι συνδρομές είναι διαθέσιμες για οργανισμούς που δεσμεύονται για υπεύθυνη ανάπτυξη AI.
Η ιστορία μας λέει πότε οι εταιρείες, ακόμη και όταν είναι ανταγωνιστές, έχουν κοινό συμφέρον να αντιμετωπίσουν τις προκλήσεις, συνεργάζονται για να τις αντιμετωπίσουν. Και για την Google, τη Microsoft, την OpenAI και την Anthropic, τα κοινά ζητήματα που τους φέρνουν κοντά είναι οι προκλήσεις και οι πιθανοί κίνδυνοι αυτού που αυτές οι εταιρείες αποκαλούν "μοντέλα τεχνητής νοημοσύνης συνόρων". Σε κοινή δήλωση, η Google, η Microsoft, η OpenAI και η Anthropic ανακοίνωσαν το "Frontier Model Forum", έναν νέο φορέα της βιομηχανίας για την προώθηση ασφαλών και υπεύθυνων μοντέλων τεχνητής νοημοσύνης.
Chatbots και υπηρεσίες AI όπως ChatGPT, Bing Chat, και Βάρδος ειδικεύονται στην εκτέλεση συγκεκριμένων εργασιών και δεν έχουν αποκτήσει νοημοσύνη σε ανθρώπινο επίπεδο. Αλλά υπάρχει ένας αυξανόμενος φόβος ότι θα μπορούσε σύντομα να αποκτήσει ευαισθησία και θα είναι πλήρως ικανό να δράσει ενάντια στο ευρύτερο δημόσιο συμφέρον. Όπως εξηγείται στην άρθρωση δήλωση, τα frontier μοντέλα είναι μοντέλα μηχανικής μάθησης μεγάλης κλίμακας που είναι πολύ πιο προηγμένα από τις δυνατότητες των υπαρχόντων μοντέλων και, ως εκ τούτου, μπορούν να εκτελέσουν μια μεγάλη ποικιλία εργασιών. Και δεδομένων των κινδύνων που εμπεριέχονται, το Φόρουμ θέλει να εισαγάγει ισχυρούς μηχανισμούς για να διασφαλίσει ότι αυτά τα μοντέλα είναι περισσότερο ευθυγραμμισμένα με τις ανθρώπινες αξίες και ότι θα εργαστούν προς την εξυπηρέτηση των συμφερόντων των ανθρώπων.
Οι βασικοί στόχοι του Φόρουμ θα είναι ο εντοπισμός βέλτιστων πρακτικών για την ανάπτυξη και την ανάπτυξη τεχνητής νοημοσύνης μοντέλα, διευκολύνουν την ανταλλαγή πληροφοριών μεταξύ εταιρειών και κυβερνήσεων και προάγουν την ασφάλεια της τεχνητής νοημοσύνης έρευνα. Μέρος της έρευνας για την ασφάλεια της τεχνητής νοημοσύνης θα περιλαμβάνει τη δοκιμή και τη σύγκριση διαφορετικών μοντέλων τεχνητής νοημοσύνης και τη δημοσίευση των σημείων αναφοράς σε μια δημόσια βιβλιοθήκη για κάθε βασικό παράγοντα του κλάδου να κατανοήσει τους πιθανούς κινδύνους και να ενεργήσει για την εξάλειψη τους.
Το Frontier Model Forum θα δημιουργήσει μια Συμβουλευτική Επιτροπή που θα αποτελείται από παίκτες από διαφορετικά υπόβαθρα και προοπτικές για να καθορίσει στρατηγικές και προτεραιότητες. Επιπλέον, οι ιδρυτικές εταιρείες θα διαμορφώσουν επίσης θεσμικές ρυθμίσεις για τη συνεργασία όλων των ενδιαφερόμενων μερών για την οικοδόμηση συναίνεσης σε θέματα που αφορούν την ανάπτυξη της τεχνητής νοημοσύνης. Το Φόρουμ θα αξιοποιήσει επίσης τις υπάρχουσες γνώσεις και πόρους που έχουν ήδη προωθηθεί από ομάδες της κοινωνίας των πολιτών, ερευνητές και άλλους. Θα μάθει και θα υποστηρίξει υφιστάμενες πρωτοβουλίες τεχνητής νοημοσύνης, όπως το Partnership on AI και το MLCommons, για την πρακτική εφαρμογή των κατευθυντήριων γραμμών που έχουν ορίσει.
Το Frontier Model Forum προσφέρει επίσης συνδρομές σε οργανισμούς που δεσμεύονται σταθερά να τηρούν τους κανόνες για την ανάπτυξη και την ανάπτυξη υπεύθυνων μοντέλων τεχνητής νοημοσύνης στα σύνορα.