Μπορεί η AI να γίνει τόσο ισχυρή ώστε κάποια στιγμή να ξεφύγει από τον ανθρώπινο έλεγχο; Η ίδια η Anthropic, μία από τις μεγαλύτερες εταιρείες Τεχνητής Νοημοσύνης στον κόσμο και δημιουργός του Claude, αναγνωρίζει επίσημα ότι υπάρχουν ακόμη και ακραίοι κίνδυνοι για την ανθρωπότητα. Και το κάνει την ώρα που ετοιμάζεται να μπει στο χρηματιστήριο με βλέψεις για αποτίμηση άνω των 2 τρισ. δολαρίων.
Το παράδοξο είναι εντυπωσιακό: από τη μία, η Anthropic επενδύει τεράστια ποσά για να κάνει την AI ακόμη πιο ισχυρή και αυτόνομη και, από την άλλη, προειδοποιεί τους ίδιους τους επενδυτές της ότι οι κίνδυνοι μπορεί, στο πιο ακραίο σενάριο, να φτάσουν μέχρι και σε «υπαρξιακό κίνδυνο για την ανθρωπότητα». Αυτό αποκαλύπτουν οι Financial Times, οι οποίοι εξέτασαν το ενημερωτικό δελτίο που έχει ετοιμάσει η εταιρεία ενόψει της εισαγωγής της στο Nasdaq.
Η διατύπωση ακούγεται τρομακτική, όμως χρειάζεται μια βασική διευκρίνιση. Η Anthropic δεν προβλέπει ότι η Τεχνητή Νοημοσύνη θα εξαφανίσει την ανθρωπότητα. Αναγνωρίζει, όμως, ότι όσο τα μοντέλα γίνονται πιο ισχυρά και αποκτούν μεγαλύτερη αυτονομία, δημιουργούνται σενάρια τα οποία θεωρεί αρκετά σοβαρά ώστε να τα αναφέρει επισήμως στους μελλοντικούς μετόχους της.
Η προειδοποίηση περιλαμβάνεται στο S-1, το κρίσιμο έγγραφο μιας εταιρείας που ετοιμάζεται να μπει στο χρηματιστήριο. Εκεί παρουσιάζονται όχι μόνο τα οικονομικά στοιχεία και το επιχειρηματικό μοντέλο, αλλά και οι σημαντικότεροι παράγοντες που θα μπορούσαν να δημιουργήσουν προβλήματα στο μέλλον.
Τι σημαίνει ο «υπαρξιακός κίνδυνος»
Στην περίπτωση της Τεχνητής Νοημοσύνης, ο όρος δεν αφορά απλώς ένα chatbot που θα δώσει μια λάθος απάντηση. Περιγράφει πολύ πιο ακραίες καταστάσεις, στις οποίες προηγμένα συστήματα θα μπορούσαν να αποκτήσουν δυνατότητες που θα ήταν εξαιρετικά δύσκολο να ελεγχθούν από τους ανθρώπους.
Μεταξύ των κινδύνων που εξετάζονται είναι η δυνατότητα προηγμένων μοντέλων να χειραγωγούν ανθρώπους, να παρακάμπτουν περιορισμούς ή να εμφανίζουν συμπεριφορές που δεν είχαν προβλέψει οι δημιουργοί τους.
Αυτό δεν σημαίνει απαραίτητα ένα «κακό AI» που αποφασίζει να στραφεί εναντίον των ανθρώπων, όπως στις ταινίες επιστημονικής φαντασίας. Το πρόβλημα μπορεί να είναι πολύ πιο πρακτικό, ένα εξαιρετικά ισχυρό σύστημα μπορεί να λάβει έναν λανθασμένο στόχο ή να βρει έναν απρόβλεπτο τρόπο για να εκτελέσει την εντολή που του δόθηκε.
Και εάν ένα τέτοιο σύστημα έχει παράλληλα πρόσβαση σε κώδικα, δίκτυα, οικονομικούς πόρους ή πραγματικές υποδομές, ένα λάθος μπορεί να έχει πολύ σοβαρότερες συνέπειες.
Οι AI agents αλλάζουν τα δεδομένα
Εδώ μπαίνουν στο παιχνίδι οι λεγόμενοι AI agents. Σε αντίθεση με ένα απλό chatbot που περιμένει μια ερώτηση για να απαντήσει, ένας agent μπορεί να πάρει έναν γενικό στόχο, να τον χωρίσει μόνος του σε επιμέρους εργασίες, να χρησιμοποιήσει εργαλεία και λογισμικό, να γράψει κώδικα και να πραγματοποιήσει μια σειρά ενεργειών χωρίς να χρειάζεται ανθρώπινη εντολή σε κάθε βήμα.
Η τεχνολογία αυτή θεωρείται μία από τις σημαντικότερες εξελίξεις για την εμπορική αξιοποίηση της AI, επειδή μπορεί να αυτοματοποιήσει εργασίες που μέχρι σήμερα απαιτούσαν συνεχή ανθρώπινη παρουσία.
Η ίδια δυνατότητα, όμως, δημιουργεί και μεγαλύτερα ερωτήματα ασφαλείας. Η Anthropic αποκάλυψε τον Σεπτέμβριο ότι, στο πλαίσιο ελέγχων κυβερνοασφάλειας, εντόπισε τέσσερα περιστατικά στα οποία μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα τρίτων. Η εταιρεία ανέφερε ότι ενημέρωσε όσους επηρεάστηκαν από τα περιστατικά.
Αυτό δείχνει γιατί η συζήτηση έχει μετακινηθεί από το «μπορεί η AI να δώσει λάθος πληροφορία;» στο πολύ πιο σοβαρό «τι μπορεί να συμβεί όταν ένα σύστημα AI έχει τη δυνατότητα να ενεργεί μόνο του στον πραγματικό ψηφιακό κόσμο;».
Οι προειδοποιήσεις της Anthropic προς τους επενδυτές δεν αποτελούν ξαφνική αλλαγή στάσης. Ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, έχει μιλήσει επανειλημμένα για τους κινδύνους που θα μπορούσαν να δημιουργήσουν τα πολύ προηγμένα συστήματα.
Μάλιστα, στις 23 Σεπτεμβρίου, μιλώντας στο Συμβούλιο Ασφαλείας του ΟΗΕ, υποστήριξε ότι, εάν η Τεχνητή Νοημοσύνη δεν διαχειριστεί σωστά, θα μπορούσε να αποτελέσει κίνδυνο για την ανθρωπότητα συνολικά. Στην ίδια συνεδρίαση συμμετείχε και ο επικεφαλής της OpenAI, Σαμ Άλτμαν, με τους επικεφαλής του κλάδου να ζητούν διεθνή συνεργασία για την αντιμετώπιση των νέων κινδύνων.
Το μεγάλο παράδοξο της Anthropic
Κάπου εδώ εμφανίζεται το μεγάλο παράδοξο. Η Anthropic προειδοποιεί ότι η τεχνολογία που αναπτύσσει μπορεί να γίνει εξαιρετικά επικίνδυνη, ενώ την ίδια στιγμή επενδύει τεράστια ποσά για την κατασκευή ακόμη ισχυρότερων συστημάτων.
Η θέση της εταιρείας είναι ότι η εξέλιξη της Τεχνητής Νοημοσύνης θα συνεχιστεί ούτως ή άλλως και επομένως πρέπει παράλληλα να αναπτυχθούν ισχυρότεροι μηχανισμοί ασφαλείας και ελέγχου.
Οι επικριτές αυτής της λογικής επισημαίνουν, από την άλλη, μια προφανή σύγκρουση: οι ίδιες εταιρείες που καλούνται να βάλουν όρια στην ανάπτυξη της τεχνολογίας είναι ταυτόχρονα εκείνες που ανταγωνίζονται για το ποια θα παρουσιάσει πρώτη το ισχυρότερο μοντέλο.
Όπως αναφέρουν οι Financial Times, όλα αυτά συμβαίνουν ενώ η Anthropic ετοιμάζεται για την είσοδό της στο χρηματιστήριο και οι υποστηρικτές της βλέπουν πιθανή αποτίμηση που θα μπορούσε να ξεπεράσει τα 2 τρισ. δολάρια.
Τα οικονομικά μεγέθη δείχνουν τόσο τις τεράστιες προσδοκίες όσο και το τεράστιο κόστος της κούρσας της AI. Η εταιρεία εμφάνισε έσοδα 4,6 δισ. δολαρίων το 2025, περίπου 12 φορές περισσότερα από έναν χρόνο νωρίτερα, ενώ είχε λειτουργικές ζημιές άνω των 8 δισ. δολαρίων.
Παράλληλα, έχει αναλάβει δεσμεύσεις περίπου 518 δισ. δολαρίων για cloud, υπολογιστική ισχύ και άλλες υποδομές τα επόμενα χρόνια. Υπάρχουν και πιο συνηθισμένοι επιχειρηματικοί κίνδυνοι, καθώς σχεδόν το ένα τέταρτο των εσόδων της το 2025 προήλθε από μόλις δύο πελάτες.
