Αυτή την εβδομάδα, δύο από τις πιο σημαίνουσες φωνές της τεχνολογίας πρόσφεραν αντίθετα οράματα ανάπτυξης τεχνητής νοημοσύνης, υπογραμμίζοντας την αυξανόμενη ένταση μεταξύ καινοτομίας και ασφάλειας.
Ο Sam Altman CEO αποκάλυψε σε ένα βράδυ της Κυριακής α ανάρτηση σχετικά με την τροχιά της εταιρείας του ότι το OpenAI έχει τριπλασιάσει τη βάση χρηστών του σε περισσότερους από 300 εκατομμύρια ενεργούς χρήστες την εβδομάδα καθώς αγωνίζεται προς την τεχνητή γενική νοημοσύνη (AGI).
"Είμαστε πλέον βέβαιοι ότι ξέρουμε πώς να χτίσουμε το AGI όπως το καταλαβαίνουμε παραδοσιακά", δήλωσε ο Altman ότι οι πράκτορες AI θα είναι διαθέσιμοι το 2025. "συμμετάσχετε στο εργατικό δυναμικό" Μπορείτε επίσης να μάθετε περισσότερα για τα εξής: "αλλάξτε ουσιαστικά το αποτέλεσμα των εταιρειών».
Ο Altman ισχυρίζεται ότι το OpenAI θα εργαστεί σε πολύ περισσότερα από τους πράκτορες AI και AGI. «υπερνοημοσύνη με την αληθινή έννοια της λέξης».
Η αβεβαιότητα περιβάλλει το χρονοδιάγραμμα παράδοσης για AGI και superintelligence. Το OpenAI δεν απάντησε αμέσως στο αίτημά μας για σχόλιο.
Όμως ο Vitalik Buterin είχε ήδη αντιδράσει στα νέα την Κυριακή. Ακολουθεί μια λίστα με προτεινόμενες εναλλακτικές λύσεις στη λέξη "Εγώ" Η τεχνολογία Blockchain μπορεί να χρησιμοποιηθεί για την ανάπτυξη παγκόσμιων συστημάτων ασφαλείας για προηγμένα συστήματα που βασίζονται σε τεχνητή νοημοσύνη. "ήπια παύση" Εάν εντοπιστούν προειδοποιητικά σήματα, η τεχνητή νοημοσύνη μπορεί να περιοριστεί προσωρινά.
Ασφάλεια AI με χρήση κρυπτογραφίας
Ο Buterin μιλάει εδώ για "d/acc" ή αποκεντρωμένη/αμυντική επιτάχυνση. Με την απλούστερη έννοια, το d/acc είναι μια παραλλαγή του e/acc, ή της αποτελεσματικής επιτάχυνσης, ένα φιλοσοφικό κίνημα που υποστηρίζεται από πρόσωπα υψηλού προφίλ της Silicon Valley, όπως ο Marc Andreessen του a16z.
Το d/acc της Buterin είναι επίσης υποστηρικτής της τεχνολογικής προόδου, αλλά δίνει προτεραιότητα σε βελτιώσεις που αυξάνουν την ασφάλεια και ενισχύουν την ανθρώπινη δράση. Ενώ η αποτελεσματική επιτάχυνση λαμβάνει υπόψη την ανθρώπινη δράση, η d/acc επικεντρώνεται περισσότερο στην τεχνολογική πρόοδο. "ανάπτυξη με κάθε κόστος" Η προσέγγιση d/acc εστιάζει στην ανάπτυξη αμυντικών δυνατοτήτων.
«Το D/acc είναι μια επέκταση των υποκείμενων αξιών της κρυπτογράφησης (αποκέντρωση, αντίσταση στη λογοκρισία, ανοιχτή παγκόσμια οικονομία και κοινωνία) σε άλλους τομείς της τεχνολογίας», έγραψε ο Μπούτεριν.
Ο Buterin, ανατρέχοντας στην πρόοδο του d/acc τον περασμένο χρόνο, έγραψε για το πώς θα μπορούσαν να χρησιμοποιηθούν υπάρχοντες μηχανισμοί κρυπτογράφησης, όπως τα zero-knowledgeproofs, για την εφαρμογή μιας πιο συντηρητικής προσέγγισης προς το AGI και το υπερέξυπνο σύστημα.
Σύμφωνα με την πρόταση του Buterin, οι μεγάλοι υπολογιστές AI θα χρειάζονταν εβδομαδιαία έγκριση από τρεις διεθνείς ομίλους για να συνεχίσουν να λειτουργούν.
«Οι υπογραφές θα ήταν ανεξάρτητες από τη συσκευή (εάν το επιθυμείτε, θα μπορούσαμε να ζητήσουμε ακόμη και μια απόδειξη μηδενικής γνώσης ότι δημοσιεύτηκαν σε μια αλυσίδα μπλοκ), επομένως θα ήταν όλα ή τίποτα: δεν θα υπήρχε πρακτικός τρόπος να εξουσιοδοτηθεί μια συσκευή να συνεχίσει να λειτουργεί χωρίς να εξουσιοδοτήσει όλες τις άλλες συσκευές», εξήγησε ο Μπούτεριν.
Το σύστημα θα λειτουργούσε σαν ένας κύριος διακόπτης στον οποίο είτε εκτελούνται όλοι οι εγκεκριμένοι υπολογιστές είτε κανένας, εμποδίζοντας οποιονδήποτε να κάνει επιλεκτικές επιβολές.
«Μέχρι να συμβεί μια τόσο κρίσιμη στιγμή, το να έχουμε απλώς τη δυνατότητα για ήπια παύση θα προκαλούσε μικρή ζημιά στους προγραμματιστές», παρατήρησε ο Μπούτεριν, περιγράφοντας αυτό το σύστημα ως ένα ασφαλιστήριο συμβόλαιο έναντι καταστροφών.
Σε κάθε περίπτωση, η εκρηκτική ανάπτυξη του OpenAI από το 2023 —από 100 εκατομμύρια σε 300 εκατομμύρια εβδομαδιαίους χρήστες σε μόλις δύο χρόνια— δείχνει πώς η υιοθέτηση της τεχνητής νοημοσύνης προχωρά με ταχείς ρυθμούς.
Ο Άλτμαν αναγνώρισε τις δυσκολίες ανάπτυξης μιας εταιρείας από ένα ανεξάρτητο εργαστήριο τεχνολογίας. «μια ολόκληρη εταιρεία, σχεδόν από την αρχή, γύρω από αυτή τη νέα τεχνολογία».
Οι προτάσεις αντιπροσωπεύουν μια ευρύτερη συζήτηση εντός του κλάδου σχετικά με τον τρόπο διαχείρισης της ανάπτυξης AI. Οι προτάσεις αντικατοπτρίζουν ευρύτερες συζητήσεις του κλάδου γύρω από τη διαχείριση της ανάπτυξης AI.
«Ένας χρόνος «πολεμικής λειτουργίας» μπορεί εύκολα να αξίζει εκατό χρόνια δουλειάς υπό συνθήκες εφησυχασμού», έγραψε ο Μπούτεριν. «Αν πρέπει να περιορίσουμε τους ανθρώπους, φαίνεται καλύτερο να περιορίσουμε τους πάντες επί ίσοις όροις και να κάνουμε τη σκληρή δουλειά να προσπαθήσουμε πραγματικά να συνεργαστούμε για να το οργανώσουμε αυτό αντί ένα κόμμα να επιδιώκει να κυριαρχήσει σε όλους τους άλλους».
Ο Sebastian Sinclair είναι ο συντάκτης