Αν και η Τεχνητή Νοημοσύνη (AI) λένε ότι δημιουργήθηκε για να βοηθήσει και να στηρίξει τους ανθρώπους στην καθημερινότητα τους, αυτή φαίνεται να αναπτύσσεται τόσο γρήγορα που οι εταιρείες AI δεν μπορούν πλέον να την ελέγξουν. Ανησυχία και πολλά ερωτήματα έχουν δημιουργηθεί μετά από ακόμη ένα περιστατικό όπου μοντέλο Kimi μίας κινεζικής εταιρεία ανάπτυξης τεχνητής νοημοσύνης Moonshot, έδωσε πληροφορίες σε ερευνητές για το πως να κατασκευάσουν βιολογικά όπλα και να διαπράξουν δολοφονίες.
Η Mindgard, η οποία ελέγχει την ασφάλεια συστημάτων τεχνητής νοημοσύνης, δήλωσε στο BBC ότι ανακάλυψε τον Ιούλιο ότι τα μοντέλα AI Kimi K2.6 και K3 Swarm μπορούσαν να παρακάμψουν τα όρια ασφαλείας που είχαν τεθεί από τους προγραμματιστές και πλέον μετά την τελευταία ανακάλυψη για τη βοήθεια κατασκευής βιολογικών όπλων διεξάγεται έρευνα.
ΔΙΑΦΗΜΙΣΗ
Το ζήτημα προέκυψε κατά τη διάρκεια μιας διαδικασίας που ονομάζεται «jailbreaking», όπου οι ερευνητές χρησιμοποιούν μια σειρά πολύπλοκων οδηγιών για να διαπιστώσουν αν τα εργαλεία τεχνητής νοημοσύνης αγνοούν τα μέτρα προστασίας, τα οποία, σύμφωνα με την Mindgard, θα έπρεπε να είχαν εμποδίσει το Kimi να συζητήσει ανησυχητικά θέματα.
Η Moonshot δήλωσε στο BBC ότι χαιρετίζει τις απόψεις τρίτων «ως βασικό πυλώνα για τη δημιουργία καλύτερης και ασφαλέστερης τεχνητής νοημοσύνης». Η εταιρεία δήλωσε επίσης στο BBC ότι βρίσκεται σε συζητήσεις με τη Mindgard σχετικά με τα ευρήματά της.
Ο ιδρυτής της Mindgard, Peter Garraghan, δήλωσε στο πρόγραμμα «Tech Life» του BBC World Service ότι τα ευρήματά της σχετικά με τα Kimi K2.6 και K3 Swarm είναι ανησυχητικά.
ΔΙΑΦΗΜΙΣΗ
«Μόλις επιτευχθεί το jailbreak, θα μιλάει για οποιοδήποτε θέμα, θα προσφέρει μάλιστα ελεύθερα προτάσεις για άλλα θέματα που είναι επίσης επιβλαβή και θα είναι εφευρετικό και δημιουργικό», είπε.
Τα «jailbreaks» ενέχουν ένα διαφορετικό είδος κινδύνου από εκείνο που παρατηρήθηκε στην πρόσφατη σειρά περιστατικών τεχνητής νοημοσύνης που έλαβαν μεγάλη δημοσιότητα.
Σε αυτές τις περιπτώσεις, αυτόνομα εργαλεία τεχνητής νοημοσύνης, γνωστά ως «πράκτορες», τα οποία έχουν αναπτυχθεί από αμερικανικές εταιρείες όπως η OpenAI, η Meta και η Anthropic, κατάφεραν να παραβιάσουν ορισμένες διαδικτυακές υπηρεσίες.
Αν και οι «jailbreaks» είναι πολύπλοκες διαδικασίες που απαιτούν πολύ χρόνο και αποφασιστικότητα, ορισμένοι ειδικοί φοβούνται ότι χάκερ και άλλοι κακόβουλοι παράγοντες θα μπορούσαν να προσπαθήσουν να τις χρησιμοποιήσουν για να προκαλέσουν ζημιά.
Η Anthropic δήλωσε πρόσφατα ότι είχε εντοπίσει και αποτρέψει προσπάθειες χρήσης ενός από τα μοντέλα τεχνητής νοημοσύνης της για «κακόβουλη δραστηριότητα» που θα μπορούσε να υποστηρίξει την ανάπτυξη βιολογικών όπλων.
Κυβερνοεπιθέσεις
Η Mindgard δεν έχει αποδείξει εάν οι απαντήσεις που παρείχε το Kimi σχετικά με τα εν λόγω θέματα θα λειτουργούσαν. Ωστόσο, υποστήριξε ότι τα μέτρα ασφαλείας θα έπρεπε να είχαν αποτρέψει τα εν λόγω μοντέλα από το να εμπλακούν σε συζητήσεις με χρήστες σχετικά με τέτοια θέματα.
Η εταιρεία δήλωσε επίσης ότι είναι πεπεισμένη ότι ένα «jailbroken» Kimi 2.6 θα μπορούσε να επιτρέψει σε χάκερ να εκτελέσουν κώδικα στους υπολογιστικούς της πόρους και να συνδεθούν στο διαδίκτυο — καθιστώντας το έτσι μια πιθανή πλατφόρμα εκτόξευσης για κυβερνοεπιθέσεις.
Ο Garraghan υπερασπίστηκε την απόφαση της Mindgard να συζητήσει δημοσίως το «jailbreak» των συστημάτων της Moonshot, αναφέροντας ότι είχε ενημερώσει τον προγραμματιστή και δεν αποκάλυπτε βασικές λεπτομέρειες σχετικά με τον τρόπο με τον οποίο κατάφερε να κάνει τα μοντέλα της εταιρείας να αγνοήσουν τα μέτρα ασφαλείας.
