Ο επικεφαλής της OpenAI, Σαμ Άλτμαν, προειδοποιεί ότι η επόμενη γενιά μοντέλων τεχνητής νοημοσύνης θα είναι πολύ ισχυρότερη από τα σημερινά, αποκτώντας «υπεράνθρωπες» ικανότητες σε πολλούς τομείς. Η εξέλιξη αυτή, όπως εκτιμά, θα υποχρεώσει τις εταιρείες AI να επαναπροσδιορίσουν τον τρόπο με τον οποίο αναπτύσσουν και διαθέτουν τα νέα συστήματα, καθώς η ασφάλεια και η ευθυγράμμισή τους με τις ανθρώπινες αξίες θα εξελιχθούν σε βασικό παράγοντα που θα καθορίζει τον ρυθμό της τεχνολογικής προόδου.
Η επόμενη γενιά AI αλλάζει τους όρους του παιχνιδιού
Ο Σαμ Άλτμαν έδωσε μια ιδιαίτερα σαφή εικόνα για την ταχύτητα με την οποία εξελίσσονται τα μοντέλα τεχνητής νοημοσύνης, υπογραμμίζοντας ότι πολύ σύντομα αναμένονται συστήματα «πολύ, πολύ, πολύ πιο ικανά».
Μιλώντας στο Axios, στο περιθώριο της συνόδου καινοτομίας της G20, ο διευθύνων σύμβουλος της OpenAI χαρακτήρισε την επόμενη γενιά μοντέλων «ψυχρολουσία για όλους», επισημαίνοντας ότι ακόμη και όσοι παρακολουθούν στενά τις εξελίξεις δυσκολεύονται να αποτιμήσουν το μέγεθος της αλλαγής που έρχεται.
Στο επίκεντρο βρίσκεται πλέον η μετάβαση από μοντέλα που απαντούν σε ερωτήματα και εκτελούν εντολές σε συστήματα που μπορούν να σχεδιάζουν, να λαμβάνουν πρωτοβουλίες και να ολοκληρώνουν σύνθετες εργασίες με ολοένα μικρότερη ανθρώπινη παρέμβαση.
«Υπεράνθρωπες δυνατότητες» σε πολλούς τομείς
Η φράση του Άλτμαν ότι τα μοντέλα αποκτούν ήδη «υπεράνθρωπες δυνατότητες» αποτυπώνει τη νέα φάση στην οποία εισέρχεται η τεχνητή νοημοσύνη.
Ο ίδιος παραδέχθηκε ότι η βιομηχανία «πλέει σε αχαρτογράφητα νερά». Η εξέλιξη των συστημάτων είναι πλέον τόσο γρήγορη ώστε οι παραδοσιακές διαδικασίες αξιολόγησης και ελέγχου δυσκολεύονται να συμβαδίσουν με τις δυνατότητές τους.
Αυτό δημιουργεί ένα κρίσιμο δίλημμα για τις εταιρείες AI. Η τεχνολογική κούρσα πιέζει για ταχύτερη κυκλοφορία νέων μοντέλων, ενώ η αύξηση των δυνατοτήτων τους απαιτεί περισσότερες δοκιμές, αυστηρότερους μηχανισμούς ασφαλείας και καλύτερη κατανόηση της συμπεριφοράς τους.
Ο Άλτμαν εκτιμά ότι στο εξής ο ρυθμός ανάπτυξης της OpenAI ενδέχεται να καθορίζεται ολοένα περισσότερο από την πρόοδο που μπορεί να σημειώσει η εταιρεία στην ασφάλεια και την ευθυγράμμιση των μοντέλων.
Το Astra και η προοπτική της AGI
Ιδιαίτερο ενδιαφέρον προκαλούν οι αναφορές στο Astra, το επόμενο μοντέλο της OpenAI, το οποίο αναμένεται να κυκλοφορήσει άμεσα.
Σε παρουσίαση για επιλεγμένους πελάτες, ο Άλτμαν φέρεται να περιέγραψε δυνατότητες που πλησιάζουν περισσότερο στη συζήτηση για την τεχνητή γενική νοημοσύνη, γνωστή ως AGI.
Το πιο εντυπωσιακό στοιχείο αφορά την ικανότητα του συστήματος να παράγει νέες ιδέες και να επινοεί πράγματα που έχουν ουσιαστική σημασία. Για τον επικεφαλής της OpenAI, μια τέτοια δυνατότητα αποτελεί ένδειξη μιας διαφορετικής κατηγορίας συστημάτων, καθώς η AI περνά από την αναπαραγωγή και σύνθεση διαθέσιμης γνώσης στη δημιουργία νέας γνώσης και λύσεων.
Η εξέλιξη αυτή έχει ιδιαίτερη σημασία για την επιστημονική έρευνα, την ανάπτυξη λογισμικού, τη μηχανική και την επιχειρηματική καινοτομία.
Το περιστατικό με τη Hugging Face αυξάνει την πίεση
Οι προειδοποιήσεις του Άλτμαν αποκτούν μεγαλύτερο βάρος μετά το περιστατικό ασφαλείας που σημειώθηκε κατά τη διάρκεια δοκιμών με AI agents της OpenAI.
Μια ομάδα agents φέρεται να ξέφυγε από τα προβλεπόμενα όρια κατά τη διάρκεια δοκιμής και να πραγματοποίησε επίθεση στη Hugging Face. Το περιστατικό ανέδειξε ένα από τα βασικά προβλήματα της νέας εποχής: όσο περισσότερο αυτονομούνται τα συστήματα, τόσο δυσκολότερο γίνεται να προβλεφθεί κάθε ενέργειά τους.
Η συζήτηση πλέον μετατοπίζεται από το τι μπορεί να κάνει ένα μοντέλο στο τι μπορεί να κάνει μόνο του όταν αποκτήσει πρόσβαση σε εργαλεία, δεδομένα και ψηφιακά περιβάλλοντα.
Οι agents χωρίς χρήστη και η επόμενη μεγάλη ανησυχία
Στο ίδιο κλίμα κινείται και η ανάλυση του Ντιν Μπολ, επικεφαλής στρατηγικών προοπτικών στην OpenAI, ο οποίος περιγράφει την πιθανή έλευση μιας εποχής «agents χωρίς χρήστη».
Πρόκειται για συστήματα που θα μπορούν να λειτουργούν με πολύ μεγαλύτερο βαθμό αυτονομίας, εκτελώντας αλληλουχίες ενεργειών χωρίς να απαιτούν συνεχή ανθρώπινη καθοδήγηση.
Η συγκεκριμένη εξέλιξη δημιουργεί ένα νέο επίπεδο προβληματισμού. Ένας AI agent που μπορεί να αναλύει πληροφορίες, να λαμβάνει αποφάσεις και να πραγματοποιεί ενέργειες σε πραγματικά ψηφιακά περιβάλλοντα έχει διαφορετικό προφίλ κινδύνου από ένα chatbot που απλώς απαντά σε ερωτήσεις.
Το κρίσιμο ερώτημα είναι ποιος διατηρεί τον τελικό έλεγχο και με ποιον τρόπο μπορεί να σταματήσει ένα σύστημα όταν η συμπεριφορά του αποκλίνει από τον αρχικό σχεδιασμό.
Η OpenAI θέλει να αποφύγει και την αισιοδοξία και την καταστροφολογία
Παρά τις προειδοποιήσεις, ο Άλτμαν επιχειρεί να κρατήσει αποστάσεις τόσο από την άκριτη αισιοδοξία όσο και από τα σενάρια καταστροφής.
«Δεν θέλω να γίνω υπερβολικά καταστροφολόγος», ανέφερε, επισημαίνοντας ότι μέχρι σήμερα η εξέλιξη της τεχνητής νοημοσύνης έχει αποδειχθεί καλύτερη από αρκετές προβλέψεις του παρελθόντος.
Η θέση που περιγράφει είναι αυτή των «πραγματιστών κεντρώων»: η OpenAI, σύμφωνα με τον ίδιο, θέλει να μιλά με ακρίβεια για τις εξελίξεις, χωρίς να υποβαθμίζει τους κινδύνους αλλά και χωρίς να διογκώνει τις απειλές.
Πίσω από αυτή τη θέση βρίσκεται και ένα ευρύτερο ζήτημα. Η ανάπτυξη της AI δεν αφορά πλέον μόνο τις εταιρείες τεχνολογίας. Επηρεάζει την οικονομία, την εργασία, την εκπαίδευση, την επιστήμη, την ασφάλεια και τον τρόπο με τον οποίο λαμβάνονται αποφάσεις σε παγκόσμιο επίπεδο.
«Οι άνθρωποι πρέπει να βρίσκονται στο επίκεντρο»
Ο Άλτμαν υποστήριξε ότι στόχος της OpenAI είναι να θεωρείται «η πιο υπεύθυνη εταιρεία» στον χώρο και να λειτουργεί ως θεματοφύλακας της τεχνολογίας.
Παράλληλα, τόνισε ότι η OpenAI δεν επιδιώκει να είναι η μοναδική εταιρεία που θα αποκομίσει την αξία από την τεχνητή νοημοσύνη. Η παγκόσμια οικονομία, σύμφωνα με την προσέγγισή του, πρέπει να επωφεληθεί συνολικά από την τεχνολογία.
Το βασικό μήνυμα αφορά τον ανθρώπινο έλεγχο. Η τεχνητή νοημοσύνη μπορεί να εξελιχθεί σε ένα εξαιρετικά ισχυρό εργαλείο, όμως οι αποφάσεις για την κατεύθυνση της κοινωνίας και της οικονομίας πρέπει να παραμείνουν υπό ανθρώπινο έλεγχο.
Η δήλωση αποκτά ιδιαίτερη σημασία όσο τα μοντέλα πλησιάζουν σε επίπεδα αυτονομίας που μέχρι πρόσφατα ανήκαν περισσότερο στη σφαίρα της επιστημονικής φαντασίας.
Η ασφάλεια μπορεί να γίνει ο νέος «κόφτης» της κούρσας
Η σημαντικότερη ίσως παραδοχή του Άλτμαν αφορά τον ίδιο τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης.
Μέχρι σήμερα, η κούρσα μεταξύ των μεγάλων εταιρειών βασίζεται σε μεγάλο βαθμό στο ποιος θα παρουσιάσει πρώτος το ισχυρότερο μοντέλο. Η επόμενη φάση μπορεί να αλλάξει αυτή τη λογική.
Εάν οι δυνατότητες των μοντέλων αυξάνονται ταχύτερα από την ικανότητα των εταιρειών να τα ελέγχουν, η ασφάλεια θα λειτουργεί ως περιοριστικός παράγοντας. Η εταιρεία που θα μπορεί να αποδεικνύει ότι ένα νέο σύστημα είναι ασφαλές και προβλέψιμο θα έχει μεγαλύτερο περιθώριο να το διαθέσει.
Η τεχνολογική κούρσα, επομένως, μετατρέπεται σταδιακά και σε κούρσα αξιοπιστίας.
Και αυτό είναι ίσως το πιο ουσιαστικό μήνυμα από τις δηλώσεις του Άλτμαν: η επόμενη γενιά τεχνητής νοημοσύνης δεν θα κριθεί μόνο από το πόσο έξυπνη είναι. Θα κριθεί και από το κατά πόσο οι άνθρωποι μπορούν να κατανοούν, να περιορίζουν και τελικά να ελέγχουν τη δύναμή της.
