Νωρίτερα αυτό το μήνα, ο ερευνητής στον τομέα της τεχνητής νοημοσύνης (AI) Τζέικομπ Κόξον παραιτήθηκε από την Anthropic μετά από μόλις τέσσερις μήνες.
Σε μια ανακοίνωση στο X, δήλωσε:
Οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι αυτή θα μπορούσε να μας εξοντώσει όλους μέχρι το τέλος της δεκαετίας.
Ένα ανώτερο στέλεχος της Anthropic, ο Έβαν Χάμπινγκερ, συμφώνησε μάλιστα με τον Κόξον, προσθέτοντας ότι προσωπικά πιστεύει ότι η πιθανότητα να συμβεί αυτό την επόμενη δεκαετία υπερβαίνει το 10%.
Όπως είναι φυσικό, αυτές οι δηλώσεις προκάλεσαν αναταραχή. Τώρα γίνεται πολύς λόγος για την επιβράδυνση της έρευνας στον τομέα της τεχνητής νοημοσύνης και την ενίσχυση του «ανθρώπινου ελέγχου» πάνω στην τεχνολογία.
Αλλά πώς ακριβώς θα μπορούσε η AI να μας «σκοτώσει όλους»;
Δεν λείπουν τα φανταστικά σενάρια, και τα περισσότερα από αυτά περιλαμβάνουν την έννοια της «υπερνοημοσύνης» – δηλαδή, μιας AI που είναι πιο ικανή από τους ανθρώπους.
Με ένα άρθρο του στο The Conversation, ο Καθηγητής Τεχνητής Νοημοσύνης, Τόμπι Γουόλς, συνοψίζει αυτά τα σενάρια στα πέντε κορυφαία, ταξινομώντας τα περίπου από τα πιο ασαφή προς τα πιο συγκεκριμένα.
Και από το λιγότερο πιθανό προς το πιο… ρεαλιστικό.
Μην καταναλώνετε ειδήσεις, κατανοήστε τις.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
-
Δεν θα μάθουμε ποτέ
Οι καταστροφολόγοι της AI συχνά δικαιολογούν τις ανησυχίες τους με ένα ενοχλητικό παράδοξο: πώς είναι δυνατόν να φανταστούμε τι θα μπορούσε να κάνει μια υπερνοημοσύνη για να εξοντώσει λιγότερο έξυπνα όντα όπως εμάς;
Θα έπρεπε να είμαστε «υπερνοήμονες» για να προβλέψουμε τι θα ήταν σε θέση να κάνει μια υπερνοημοσύνη. Είναι σαν να ζητάς από το σκυλί της οικογένειάς σου να φανταστεί έναν θερμοπυρηνικό πόλεμο.
Τα καλά νέα εδώ είναι ότι η υπερνοημοσύνη βρίσκεται ίσως ακόμα αρκετά μακριά. Τα τρέχοντα μοντέλα τεχνητής νοημοσύνης είναι πραγματικά καλά στην επίλυση συγκεκριμένων προβλημάτων, αλλά αυτό δεν είναι το ίδιο με το να είναι πιο έξυπνα από έναν άνθρωπο σε όλους τους τομείς.
Ωστόσο, η τεχνητή νοημοσύνη έλυσε πρόσφατα ένα από τα επτά πιο δύσκολα γνωστά μαθηματικά προβλήματα. Προφανώς πλησιάζει και άλλα, κάτι που ίσως σας κάνει να αισθάνεστε λιγότερο αισιόδοξοι σε αυτό το θέμα.
-
Τα εργοστάσια συνδετήρων
Μια υπερ AI θα ήταν πιθανότατα εξαιρετικά ικανή στην επίτευξη των στόχων της. Ίσως όμως να αδιαφορεί για την επιβίωση του ανθρώπου.
Ένα κλασικό παράδειγμα τέτοιας αδιαφορίας προέρχεται από την υπερ-ευφυή AI που φαντάστηκε ο φιλόσοφος του Οξφόρδης Νικ Μπόστρομ, η οποία έχει σχεδιαστεί για να βελτιστοποιεί την παραγωγή συνδετήρων. Για να παράγει το αγαπημένο της είδος γραφειακών ειδών, μετατρέπει γρήγορα όλη τη διαθέσιμη ύλη – συμπεριλαμβανομένων των ανθρώπων, των πλανητών και των άστρων – σε συνδετήρες.
Αυτό που έχουμε εδώ είναι η τέλεια εκτέλεση ακατάλληλα καθορισμένων στόχων. Η τεχνητή νοημοσύνη δεν μισεί την ανθρωπότητα· απλώς αναγνωρίζει ότι αποτελούμαστε από άτομα που θα μπορούσαν να αξιοποιηθούν καλύτερα για τη δημιουργία συνδετήρων.
Δεν είναι προσωπικό.
Τα καλά νέα εδώ είναι ότι αυτό το σενάριο συγχέει τη νοημοσύνη με τη δύναμη. Μια τεχνητή νοημοσύνη δεν έχει απαραίτητα τη δύναμη να επιτύχει τους στόχους της.
Η μετατροπή του πλανήτη σε εργοστάσια συνδετήρων θα απαιτούσε άδειες δόμησης.
Ακόμη και αν έπαιρνε τις άδειες, η κατασκευή πάρα πολλών εργοστασίων συνδετήρων θα οδηγούσε σε αναπόφευκτη δημόσια κατακραυγή. Ομάδες συμφερόντων θα εμπόδιζαν τις διαδικασίες στα δικαστήρια. Οι περιβαλλοντολόγοι ακτιβιστές θα εμπόδιζαν τις μπουλντόζες.
Υπάρχουν πολλές τριβές στον κόσμο που εμποδίζουν ακόμη και τους πολύ έξυπνους να επιβάλλουν τη θέλησή τους στους υπόλοιπους από εμάς.
Στην πραγματικότητα, θα μπορούσατε να σκεφτείτε τα κέντρα δεδομένων ως μια τρέχουσα ενσάρκωση του θεωρητικού σεναρίου με τους συνδετήρες. Και οι άνθρωποι αντιδρούν όλο και πιο έντονα στην μετατροπή του πλανήτη σε ένα μεγάλο κέντρο δεδομένων.
Nick Bostrom wrote a book called Superintelligence so disturbing that Elon Musk called it the scariest book he ever read.
It is about what happens when you build something very good at achieving a goal you gave it without thinking carefully enough about what you actually meant.… pic.twitter.com/17ak4fPH3D
— Ihtesham Ali (@ihteshamali) June 17, 2026
-
Βιολογικά όπλα
Η ανθρωπότητα θα μπορούσε να εξοντωθεί από μια υπερ-ευφυή AI που θα κατασκευάζει και θα απελευθερώνει κάποιο επικίνδυνο νέο βιολογικό όπλο στην ατμόσφαιρα.
Αυτό είναι, στην πραγματικότητα, ένα από τα αποτελέσματα του σεναρίου AI 2027 του AI Futures Project, ενός μη κερδοσκοπικού οργανισμού αφιερωμένου στην πρόβλεψη των επιπτώσεων της προηγμένης AI.
Αυτός ο κίνδυνος έγινε πιο συγκεκριμένος τον περασμένο μήνα, όταν ερευνητές του Πανεπιστημίου του Στάνφορντ ανακοίνωσαν ότι είχαν χρησιμοποιήσει ένα μοντέλο τεχνητής νοημοσύνης με γενετική γλώσσα για να συνθέσουν 16 νέους ιούς.
Το ανησυχητικό είναι ότι απλώς έστειλαν τις γενετικές αλληλουχίες σε ένα εργαστήριο που λειτουργεί μέσω ταχυδρομικής παραγγελίας και αυτό τους επέστρεψε τους ιούς σε δοκιμαστικούς σωλήνες. Το συνολικό κόστος του πειράματος δεν ξεπέρασε τις διακόσιες χιλιάδες δολάρια.
Τα καλά νέα εδώ είναι ότι είναι εξαιρετικά δύσκολο να σκοτώσει όλους τους ανθρώπους με έναν νέο ιό.
Για να γίνει αυτό, χρειάζεται ένας ιός που να είναι πολύ μεταδοτικός, ώστε να εξαπλώνεται ευρέως. Αλλά είναι ένας κανόνας της βιολογίας – οι ιοί που εξαπλώνονται εύκολα είναι συνήθως λιγότερο θανατηφόροι.
Αντίθετα, αν ένας ιός είναι πολύ θανατηφόρος, η μεταδοτικότητα τείνει να μειώνεται, καθώς οι περισσότεροι μολυσμένοι άνθρωποι πεθαίνουν πριν προλάβουν να μεταδώσουν τη μόλυνση.
Ο COVID σκότωσε λιγότερο από το 1% της ανθρωπότητας. Η πιο θανατηφόρα πανδημία στην καταγεγραμμένη ιστορία ήταν ο Μαύρος Θάνατος, όταν η πανούκλα σκότωσε περισσότερο από το ένα τρίτο του πληθυσμού της Ευρώπης τον 13ο αιώνα. Ωστόσο, ακόμη και η πανούκλα θα ήταν πιθανώς πολύ λιγότερο θανατηφόρα σήμερα, λόγω των αυξημένων ιατρικών γνώσεών μας και των καλύτερων συνθηκών υγιεινής.
-
Πυρηνικός πόλεμος
Τι θα γινόταν αν η τεχνητή νοημοσύνη εισέβαλε στην αλυσίδα διοίκησης και ελέγχου των πυρηνικών όπλων και ξεκίνησε έναν πυρηνικό πόλεμο;
Έχουμε βρεθεί κοντά στον πυρηνικό πόλεμο κατά λάθος αρκετές φορές τα τελευταία 50 χρόνια.
Μας λένε ότι το σύστημα διοίκησης και ελέγχου των πυρηνικών όπλων είναι εντελώς αποσυνδεδεμένο από το διαδίκτυο.
Όμως, όπως είδαμε το 2010, οι πυρηνικοί φυγοκεντρωτές του Ιράν καταστράφηκαν από έναν ιό υπολογιστή που ονομάζεται Stuxnet, ο οποίος πιστεύεται ότι εισήχθη μέσω ενός USB stick. Η τεχνητή νοημοσύνη μπορεί επίσης να παρέχει ψευδείς πληροφορίες στις ένοπλες δυνάμεις, κάτι που θα μπορούσε να οδηγήσει σε ανεπανόρθωτες ενέργειες.
Τα καλά νέα είναι ότι τα πυρηνικά αποθέματα έχουν μειωθεί. Ωστόσο, εξακολουθούν να είναι αρκετά για να εξοντώσουν ίσως τους μισούς από εμάς. Και αυτό δεν θα οφείλεται στην ίδια την πυρηνική έκρηξη, αλλά στην πείνα που θα ακολουθήσει κατά τη διάρκεια του πυρηνικού χειμώνα.
-
Οι άλλοι άνθρωποι
Ίσως ο πιο πιθανός κίνδυνος είναι να αυτοκαταστραφούμε. Και η τεχνητή νοημοσύνη (AI) μπορεί να επιταχύνει αυτό το ενδεχόμενο.
Φανταστείτε – και δεν χρειάζεται μεγάλη φαντασία – ότι η τεχνητή νοημοσύνη προκαλεί μαζικές απώλειες θέσεων εργασίας, μολύνει τον χώρο της πληροφορίας με παραπληροφόρηση, διασπά την πολιτική μας σκηνή και καταστρέφει τις ανθρώπινες σχέσεις με ψεύτικη συνθετική συντροφιά.
Η κοινωνία θα μπορούσε εύκολα να καταρρεύσει. Σιγά-σιγά, αλλά σταθερά, θα σταματούσαμε να είμαστε σε θέση να στηρίζουμε την ανθρώπινη ζωή σε οποιαδήποτε κλίμακα.
Έρχεται στ’ αλήθεια το τέλος;
Πράγματι, οι ισχυρότεροι παίκτες της τεχνητής νοημοσύνης εμφανίστηκαν ξαφνικά ενωμένοι σε ένα αίτημα που μέχρι χθες θα έμοιαζε αδιανόητο: να μπει φρένο στην ανάπτυξη των πιο προηγμένων μοντέλων. Ντάριο Αμοντέι, Σαμ Άλτμαν, Έλον Μασκ και Ντέμις Χασάμπις τάχθηκαν υπέρ μιας συντονισμένης «επιβράδυνσης», επικαλούμενοι την ασφάλεια.
Η επίσημη αφήγηση της «προστασίας της ανθρωπότητας» είναι καθησυχαστική.
Η πραγματικότητα που περιγράφουν όμως οι αριθμοί δείχνει τι κρύβεται στ’ αλήθεια πίσω από αυτή την απρόσμενη «ευαισθησία».
Οι εταιρείες που κατασκευάζουν τα κορυφαία μοντέλα καίνε δισεκατομμύρια, ενώ οι υποχρεώσεις τους διογκώνονται. Η OpenAI εμφανίζεται να οδεύει σε ζημιές 14 έως 27 δισ. δολαρίων μέσα στο 2026, την ώρα που η Anthropic αναζητούσε χρηματοδότηση 15 δισ. δολαρίων για ενέργεια και υποδομές.
Και τότε εμφανίζεται ο πραγματικός ελέφαντας στο δωμάτιο: 3,1 τρισ. δολάρια σε εξωισολογιστικές δεσμεύσεις εννέα τεχνολογικών κολοσσών. Πρόκειται για πολυετείς συμφωνίες αγοράς τσιπ, μισθώσεις κέντρων δεδομένων και δεσμεύσεις ηλεκτρικής ενέργειας. Από αυτά, 1,9 τρισ. αφορούν δεσμεύσεις αγοράς και 1,2 τρισ. μισθώσεις που δεν έχουν ακόμη ξεκινήσει.
Η αντίφαση είναι εκκωφαντική.
Αν η ανάπτυξη επιβραδυνθεί για λόγους ασφαλείας, μειώνεται ταυτόχρονα η ανάγκη για νέα υπολογιστική ισχύ και περιορίζονται οι άμεσες κεφαλαιουχικές δαπάνες.
Οι συμβάσεις, βέβαια, παραμένουν. Η αγορά των τσιπ, οι εγκαταστάσεις και η ενέργεια έχουν ήδη δεσμευτεί.
Ο Τζένσεν Χουάνγκ της Nvidia αντιμετώπισε με εμφανή καχυποψία την ξαφνική συναίνεση. Το ερώτημά του ήταν δηκτικό: ποιος καλύτερος τρόπος να δημιουργήσεις ζήτηση από το να δημιουργήσεις ένα πρόβλημα; Την ίδια ώρα, οι ανακοινώσεις για επιβράδυνση πίεσαν τις μετοχές του κλάδου, με τον Philadelphia Semiconductor Index να υποχωρεί περίπου 5%.
Υπάρχει και μια δεύτερη, λιγότερο εμφανής συνέπεια. Οι αυστηροί κανόνες ασφαλείας μπορεί να αυξήσουν τόσο πολύ το κόστος συμμόρφωσης, ώστε οι μικρότερες startups, τα πανεπιστημιακά εργαστήρια και οι ανεξάρτητοι προγραμματιστές να βρεθούν εκτός παιχνιδιού.
Οι μεγάλοι, αντίθετα, έχουν τα κεφάλαια για να πληρώσουν τον λογαριασμό.
Έτσι, η «ασφάλεια» αποκτά και οικονομική διάσταση.
Οπότε πριν τρέξουμε στα καταφύγια, ίσως πρέπει πρώτα να αναρωτηθούμε: «ποιος κρούει τον κώδωνα του κινδύνου; Και γιατί;»
