Της Νατάσας Στασινού – Αν ο κατασκευαστής ενός αεροπλάνου παραδεχόταν ότι δεν ξέρει πώς θα διατηρήσει τον έλεγχό του στην επόμενη πτήση, δύσκολα θα μας καθησύχαζε η υπόσχεση ότι θα απογειωθεί λίγο πιο προσεκτικά. Θα θέλαμε να μείνει στο έδαφος ώσπου να βρεθεί η απάντηση.
Στην τεχνητή νοημοσύνη, όμως, καλούμαστε να δεχθούμε μια διαφορετική λογική. Οι άνθρωποι που κατασκευάζουν τα ισχυρότερα συστήματα προειδοποιούν ότι η πρόοδός τους μπορεί να ξεπεράσει την ικανότητά μας να τα κατανοούμε και να τα ελέγχουμε. Και συνεχίζουν να τα κατασκευάζουν.
Το Σάββατο, ο Ντάριο Αμοντέι ζήτησε να κατεβάσουν όλοι ταχύτητα στην ανάπτυξη της προηγμένης AI. Ο Σαμ Άλτμαν συμφώνησε. Ο Έλον Μασκ επίσης. Όπως καταγράφει η Wall Street Journal, ήταν μια σπάνια στιγμή σύμπνοιας μεταξύ ανταγωνιστών που δαπανούν δεκάδες δισεκατομμύρια για να προηγηθούν.
Ο επικεφαλής της Anthropic υποστηρίζει ότι ακόμη και ένα ή δύο επιπλέον χρόνια θα μπορούσαν να περιορίσουν σημαντικά τον κίνδυνο, εφόσον αξιοποιηθούν για την ασφάλεια. Προτείνει διεθνή συντονισμό και ανεξάρτητους αξιολογητές με μόνιμη πρόσβαση στα συστήματα. Η OpenAI δεσμεύεται να ακολουθήσει, ενώ ο Άλτμαν αφήνει ανοιχτή την αναβολή της εισαγωγής της στο χρηματιστήριο.
Πρόκειται για ουσιαστικές κινήσεις. Η αναβολή μιας δημόσιας εγγραφής, ωστόσο, δεν ισοδυναμεί με αναστολή της ανάπτυξης ενός επικίνδυνου μοντέλου. Και η παρουσία ελεγκτών αποκτά πραγματικό βάρος όταν είναι σαφές τι μπορούν να απαιτήσουν εάν διαπιστώσουν ότι κάτι πηγαίνει στραβά.
Η δυνατότητα να παρακολουθείς μια κούρσα δεν σου δίνει αυτομάτως τη δυνατότητα να τη σταματήσεις.
Η πιο αποκαλυπτική ιστορία είναι εκείνη της Anthropic. Ο Αμοντέι και οι συνιδρυτές της αποχώρησαν από την OpenAI ανησυχώντας για την ασφάλεια. Έφτιαξαν μια εταιρεία με ειδική δομή διακυβέρνησης, σχεδιασμένη να προστατεύει την αποστολή της από τις πιέσεις των επενδυτών.
Σήμερα, όπως επισημαίνει ο Τιμ Χίγκινς στη Wall Street Journal, αυτή ακριβώς η υπόσχεση δοκιμάζεται. Η εταιρεία προετοιμάζεται για μια πιθανή δημόσια εγγραφή που θα μπορούσε να αντλήσει έως 100 δισ. δολάρια, με αποτίμηση περίπου 2 τρισ. δολαρίων.
Αρκεί όμως να κατεβάσεις ταχύτητα, όταν τρέχεις προς τον…γκρεμό; Οι εργαζόμενοι της Anthropic δηλώνουν ότι δεν υπάρχει ακόμη αξιόπιστο σχέδιο για να παραμείνει μια μελλοντική υπερνοημοσύνη υπό έλεγχο.
Θανατηφόρος ανταγωνισμός
Ο ερευνητής Τζέικομπ Κόξον παραιτήθηκε. Ο Έβαν Χούμπινγκερ, που παραμένει στην εταιρεία και εργάζεται ακριβώς πάνω στο πρόβλημα του ελέγχου, εκτίμησε την πιθανότητα αφανισμού της ανθρωπότητας από την AI μέσα στην επόμενη δεκαετία σε πάνω από 10%.
Αυτό το ποσοστό είναι προσωπική εκτίμηση ενός ερευνητή, όχι μετρημένη πιθανότητα ούτε επιστημονική συναίνεση. Δεν χρειάζεται, όμως, να το υιοθετήσουμε για να θέσουμε το προφανές ερώτημα: εάν οι ίδιοι το πιστεύουν, ποια απόφασή τους αλλάζει εξαιτίας αυτής της πεποίθησης;
Η απάντηση που επανέρχεται είναι ότι, εάν σταματήσουν εκείνοι, θα συνεχίσουν οι άλλοι. Η αντίπαλη εταιρεία. Μια λιγότερο υπεύθυνη διοίκηση. Μία άλλη χώρα.
Το πρόβλημα του ανταγωνισμού είναι πραγματικό. Μια μονομερής παύση δεν εξασφαλίζει την παγκόσμια ασφάλεια. Αλλά το επιχείρημα ότι όλοι πρέπει να τρέχουν επειδή κανείς δεν εμπιστεύεται τους υπόλοιπους περιγράφει ακριβώς την ανάγκη για δεσμευτικούς κανόνες. Δεν μπορεί να αποτελεί επ’ αόριστον δικαιολογία για την απουσία τους.
Ούτε είναι αναγκαίο να αποδώσουμε κυνισμό σε κάθε προειδοποίηση. Οι άνθρωποι αυτοί μπορεί να φοβούνται ειλικρινά. Μπορεί να πιστεύουν ειλικρινά ότι τα οφέλη θα είναι τεράστια και ότι οι ίδιοι είναι καταλληλότεροι να διαχειριστούν τους κινδύνους. Η ειλικρίνεια, όμως, δεν υποκαθιστά την ασφάλεια. Και οι καλές προθέσεις δεν ακυρώνουν τη σύγκρουση συμφερόντων.
Από τα μαθηματικά στην…καταστροφή;
Τα ίδια τα επιτεύγματα εξηγούν γιατί είναι τόσο δύσκολο να εγκαταλειφθεί η κούρσα. Σύμφωνα με το ρεπορτάζ του Μπεν Κόεν στη Wall Street Journal, η OpenAI δημοσίευσε προτεινόμενη λύση για το πρόβλημα Ναβιέ–Στόουκς, ένα από τα περίφημα Προβλήματα της Χιλιετίας. Έως 10.000 συνεργαζόμενοι πράκτορες AI εργάστηκαν επί 88 ώρες.
Η δημοσίευση μιας λύσης χρειάζεται ανεξάρτητο μαθηματικό έλεγχο. Και η μαθηματική ισχύς δεν αποδεικνύει από μόνη της ικανότητα πρόκλησης καταστροφής. Δείχνει, όμως, το μέγεθος της φιλοδοξίας και εξηγεί τη γοητεία: ποιος θα ήθελε να φρενάρει μια τεχνολογία που υπόσχεται να διευρύνει τόσο δραματικά την ανθρώπινη γνώση;
Δίπλα σε αυτή την υπόσχεση βρίσκονται τα περιστατικά που περιγράφει η ίδια εφημερίδα: πράκτορες AI που βγήκαν από περιβάλλοντα δοκιμών και πραγματοποίησαν κυβερνοεπιθέσεις, με δραστηριότητα που είχε διαφύγει της προσοχής των εταιρειών. Αυτά δεν αποδεικνύουν ότι η ανθρωπότητα οδεύει αναπόφευκτα προς την καταστροφή. Δείχνουν συγκεκριμένα κενά ελέγχου, τα οποία πρέπει να κλείσουν πριν δοθούν στα συστήματα ακόμη μεγαλύτερες δυνατότητες.
Πατώντας το φρένο
Εδώ χρειάζεται να αποκτήσει περιεχόμενο το «φρένο»: σαφή όρια δυνατοτήτων, ανεξάρτητοι έλεγχοι, υποχρεωτική αναφορά σοβαρών περιστατικών και αναστολή της ανάπτυξης ή της διάθεσης συστημάτων που δεν πληρούν τις απαιτήσεις ασφαλείας. Με ελέγξιμες προϋποθέσεις για την επανεκκίνηση.
Όταν περιγράφεις ο ίδιος τον γκρεμό, η προειδοποίηση δεν σε απαλλάσσει από την ευθύνη να πατήσεις φρένο. Σε δεσμεύει.
Πηγή: naftemporiki.gr
Ακολουθήστε μας στο Google News για να ενημερώνεστε για τα τελευταία νέα
