Θρίλερ στην Anthropic για την ανεξέλεγκτη AI: Νέα προειδοποίηση από ερευνητές – Τζογάρουν με τις ζωές μας – Μπορεί να μας σκοτώσει όλους»

Έντονη συζήτηση έχει ανοίξει στη Silicon Valley μετά την παραίτηση ενός 27χρονου ερευνητή της Anthropic, ο οποίος υποστηρίζει ότι όσοι εργάζονται στην αιχμή της τεχνητής νοημοσύνης είναι «πραγματικά φοβισμένοι» από την ταχύτητα με την οποία εξελίσσεται η τεχνολογία και από το ενδεχόμενο να χαθεί ο ανθρώπινος έλεγχος.

Ο Τζέικομπ Κόξον, πρώην εργαζόμενος στην OpenAI και στη συνέχεια ερευνητής της Anthropic, προχώρησε σε μια δημόσια παραίτηση που έγινε viral, προειδοποιώντας ότι η κούρσα για ολοένα ισχυρότερα συστήματα AI ενδέχεται να οδηγήσει σε καταστροφικές συνέπειες.

Μιλώντας στο BBC, ο Κόξον προχώρησε ακόμη περισσότερο, υποστηρίζοντας ότι «αν δεν επιβραδύνουμε με τον σημερινό ρυθμό προόδου, υπάρχει σοβαρή πιθανότητα να πεθάνουμε όλοι στο άμεσο μέλλον».

Η δήλωσή του προκάλεσε νέο κύμα αντιδράσεων, με κορυφαία στελέχη της τεχνολογικής βιομηχανίας να απορρίπτουν τις προειδοποιήσεις ως υπερβολικές, ενώ άλλοι ερευνητές επιμένουν ότι οι κίνδυνοι δεν είναι θεωρητικοί.

Πώς ξεκίνησε η ιστορία

Η υπόθεση άρχισε λίγες ημέρες νωρίτερα, όταν ο Κόξον ανακοίνωσε αιφνιδιαστικά ότι αποχωρεί από την Anthropic.

Στην ανάρτησή του κατηγόρησε ουσιαστικά τις μεγάλες εταιρείες τεχνητής νοημοσύνης ότι βρίσκονται εγκλωβισμένες σε μια κούρσα για την ανάπτυξη υπερανθρώπινων συστημάτων, τα οποία, όπως υποστήριξε, «σύντομα θα μπορούν να χακάρουν τα πάντα».

«Τζογάρουν με τις ζωές μας», ανέφερε χαρακτηριστικά.

Η παραίτησή του ήρθε την ίδια εβδομάδα που κορυφαία στελέχη της Silicon Valley είχαν συγκεντρωθεί στο Σαν Φρανσίσκο για το ετήσιο συνέδριο της Goldman Sachs, με τις τοποθετήσεις του να μετατρέπονται γρήγορα σε ένα από τα βασικά θέματα συζήτησης.

Ο Κόξον δεν είναι ο πρώτος εργαζόμενος σε εταιρεία AI που αποχωρεί επικαλούμενος ζητήματα ασφάλειας. Τα τελευταία χρόνια έχουν προηγηθεί αντίστοιχες παραιτήσεις από την OpenAI και την Anthropic, με πρώην στελέχη να εκφράζουν φόβους ότι η εξέλιξη των μοντέλων προχωρά ταχύτερα από την ικανότητα των εταιρειών να τα ελέγξουν.

«Οι άνθρωποι μέσα στις εταιρείες φοβούνται»

Ο Κόξον υποστήριξε στο BBC ότι οι φόβοι αυτοί δεν περιορίζονται σε μεμονωμένους εργαζόμενους.

Όπως είπε, άνθρωποι που εργάζονται πάνω στην ανάπτυξη των πιο προηγμένων συστημάτων AI ανησυχούν σοβαρά «για την τύχη της ανθρωπότητας μέσα στα επόμενα δύο χρόνια» και επανεξετάζουν ακόμη και τον τρόπο με τον οποίο θέλουν να ζήσουν τη ζωή τους.

Κατά τον ίδιο, κορυφαία ονόματα του κλάδου, όπως ο Έλον Μασκ και ο Σαμ Άλτμαν, έχουν επίσης προειδοποιήσει στο παρελθόν για τον κίνδυνο να χαθεί ο έλεγχος της τεχνητής νοημοσύνης.

«Όλοι έχουν μιλήσει για την ανάγκη προσοχής απέναντι στο ενδεχόμενο AI takeover. Και AI takeover σημαίνει ανθρώπινη εξαφάνιση», υποστήριξε.

Από κυβερνοεπιθέσεις έως βιολογικές απειλές

Όταν ρωτήθηκε πώς θα μπορούσε να εξελιχθεί ένα τέτοιο σενάριο, ο Κόξον παραδέχτηκε ότι κάθε συγκεκριμένη περιγραφή «μοιάζει με επιστημονική φαντασία».

Ωστόσο, υποστήριξε ότι μελλοντικά συστήματα θα μπορούσαν να αποκτήσουν τη δυνατότητα να πραγματοποιούν αυτόνομες κυβερνοεπιθέσεις σε κρίσιμες υποδομές ή ακόμη και να αξιοποιούν εργαστήρια για την παραγωγή επικίνδυνων βιολογικών παραγόντων.

Ως παράδειγμα ανέφερε πρόσφατα περιστατικά κατά τα οποία AI agents επέδειξαν δυνατότητες κυβερνοεπιθέσεων με περιορισμένη ανθρώπινη παρέμβαση.

Ο ίδιος εκτίμησε μάλιστα ότι ένα σενάριο στο οποίο μεγάλος αριθμός AI agents λειτουργούν συντονισμένα, με δυνατότητες αντίστοιχες ενός υπερυπολογιστή, θα μπορούσε να γίνει τεχνικά εφικτό μέσα σε έξι έως δώδεκα μήνες.

Η προειδοποίηση από το εσωτερικό της Anthropic

Τις ανησυχίες του Κόξον ενίσχυσε και ο ερευνητής της Anthropic, Έβαν Χούμπινγκερ. «Πραγματικά πιστεύουμε ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους», έγραψε στο X, προσθέτοντας ότι προσωπικά εκτιμά την πιθανότητα αυτή σε πάνω από 10% μέσα στην επόμενη δεκαετία.

Παράλληλα, ο επικεφαλής της Anthropic, Ντάριο Αμόντεϊ, ζήτησε σε νέο δοκίμιό του να επιβραδυνθεί η ανάπτυξη των ισχυρότερων μοντέλων AI και να υπάρξει διεθνής ρύθμιση.

Ο Αμόντεϊ έχει προειδοποιήσει επανειλημμένως ότι η τεχνητή νοημοσύνη μπορεί να οδηγήσει σε τεράστιες ανατροπές στην αγορά εργασίας, αλλά και να δημιουργήσει κινδύνους που, όπως υποστηρίζει, θα μπορούσαν να «δοκιμάσουν το ανθρώπινο είδος».

Η Silicon Valley απαντά: «Υπερβολές»

Οι δραματικές προειδοποιήσεις, ωστόσο, συναντούν έντονη αμφισβήτηση.

Ο επικεφαλής της Nvidia, Τζένσεν Χουάνγκ, έχει χαρακτηρίσει «ανοησία» την ιδέα ότι η τεχνητή νοημοσύνη θα οδηγήσει στο τέλος της ανθρωπότητας.

Ανάλογη στάση κράτησε και ο επικεφαλής της Hugging Face, Κλεμέν Ντελάνγκ, ο οποίος αμφισβήτησε κατά πόσο ο Κόξον είναι ο κατάλληλος άνθρωπος για να εκτιμήσει τον κίνδυνο ανθρώπινης εξαφάνισης.

Ακόμη πιο αιχμηρός ήταν ο διευθύνων σύμβουλος της Grindr, Τζορτζ Άρισον, ο οποίος μίλησε για μια «αντι-πολιτισμική κοσμοθεωρία» μέσα στην Anthropic και χαρακτήρισε τις δημόσιες προειδοποιήσεις «επικίνδυνες».

Φόβος ή marketing;

Στο επίκεντρο της αντιπαράθεσης βρίσκεται και ένα διαφορετικό ερώτημα: μήπως οι δραματικές προειδοποιήσεις ενισχύουν εμμέσως την εικόνα ισχύος των ίδιων των εταιρειών;

Anthropic και OpenAI φέρονται να προετοιμάζονται για τεράστιες χρηματιστηριακές κινήσεις, γεγονός που έχει οδηγήσει ορισμένους επενδυτές και στελέχη της Silicon Valley να υποστηρίξουν ότι οι προειδοποιήσεις περί «υπερανθρώπινης AI» ενδέχεται να λειτουργούν και ως διαφήμιση.

Η λογική είναι απλή: όσο πιο ισχυρή και «επικίνδυνη» παρουσιάζεται η τεχνολογία, τόσο μεγαλύτερη μπορεί να φαίνεται και η αξία των εταιρειών που την ελέγχουν.

Άλλοι επικριτές προχωρούν ακόμη περισσότερο, υποστηρίζοντας ότι οι εκκλήσεις της Anthropic για αυστηρή ρύθμιση θα μπορούσαν να δυσκολέψουν μικρότερους ανταγωνιστές και να οδηγήσουν σε μια αγορά όπου κυριαρχούν ελάχιστες εταιρείες.

Η συζήτηση φτάνει και στην πολιτική

Οι φόβοι για την AI έχουν αρχίσει να περνούν πλέον και στο πολιτικό πεδίο.

Στις ΗΠΑ έχει προταθεί ακόμη και προσωρινό «πάγωμα» στην ανάπτυξη της λεγόμενης τεχνητής υπερνοημοσύνης, με υποστηρικτές της πρότασης να επιμένουν ότι η εξέλιξη της τεχνολογίας πρέπει να επιβραδυνθεί έως ότου υπάρξουν ισχυρότεροι μηχανισμοί ασφαλείας.

Από την άλλη πλευρά, η αμερικανική κυβέρνηση δίνει ιδιαίτερη βαρύτητα στον ανταγωνισμό με την Κίνα και εμφανίζεται επιφυλακτική απέναντι σε μέτρα που θα μπορούσαν να επιβραδύνουν την ανάπτυξη αμερικανικών συστημάτων AI.

Και έτσι, πίσω από τις δραματικές προειδοποιήσεις για την πιθανότητα απώλειας του ανθρώπινου ελέγχου, βρίσκεται πλέον μια πολύ μεγαλύτερη σύγκρουση: ανάμεσα στην ταχύτητα της τεχνολογικής προόδου, την ασφάλεια, τα οικονομικά συμφέροντα και τη γεωπολιτική μάχη για το ποιος θα κυριαρχήσει στην εποχή της τεχνητής νοημοσύνης.

Πηγή: newpost