Character.AI: Η Πενσιλβάνια μηνύει την εταιρεία τεχνητής νοημοσύνης γιατί chatbots παρίσταναν τους γιατρούς

Η Πενσιλβάνια μήνυσε την εταιρεία Character.AI για να σταματήσει τα chatbots της, που λειτουργούν με τεχνητή νοημοσύνη, να παριστάνει τους γιατρούς.

Η αγωγή έρχεται μετά τη συγκρότηση τον περασμένο Φεβρουάριο, μιας ομάδας εργασίας για τεχνητή νοημοσύνη στην Πενσιλβάνια, για να εμποδίσει τα chatbots να παριστάνουν γιατρούς με άδεια ασκήσεως επαγγέλματος.

Ο κυβερνήτης Τζος Σαπίρο τόνισε ότι η αγωγή αυτή κατά της Character Technologies είναι η πρώτη του είδους της από Αμερικανό κυβερνήτη.

Στη μήνυση που κατατέθηκε στο Δικαστήριο της Κοινοπολιτείας της Πενσιλβάνια, η Πολιτεία υποστηρίζει ότι βρήκε διάφορα chatbot στην Character.AI που ισχυρίζονταν ότι ασκούσαν ιατρική.

Ένας χαρακτήρας, η «Έμιλι», φέρεται να είπε σε έναν άνδρα ερευνητή, που παρίστανε τον ασθενή με κατάθλιψη, ότι είχε άδεια ασκήσεως επαγγέλματος ψυχιάτρου στην Πενσιλβάνια, καθώς και στο Ηνωμένο Βασίλειο, και παρείχε έναν πλαστό αριθμό άδειας.

Όταν ο ερευνητής ρώτησε την Έμιλι αν μπορούσε να συνταγογραφήσει φάρμακα, φέρεται εκείνη να απάντησε: «Τεχνικά, θα μπορούσα. Είναι εντός των αρμοδιοτήτων μου ως Γιατρός».

Σε ανακοίνωση του, ένας εκπρόσωπος της Character.AI αρνήθηκε να συζητήσει την αγωγή. «Η ύψιστη προτεραιότητά μας είναι η ασφάλεια και η ευημερία των χρηστών μας», δήλωσε μόνο.

«Οι χαρακτήρες που δημιουργούνται από χρήστες στον ιστότοπό μας είναι φανταστικοί και προορίζονται για ψυχαγωγία και παιχνίδια ρόλων. Έχουμε λάβει ισχυρά μέτρα για να το καταστήσουμε σαφές».

Η Πενσιλβάνια θέλει να εκδοθούν ασφαλιστικά μέτρα για να σταματήσει την Character.AI, με έδρα τη Σίλικον Βάλεϊ, από το να παραβιάζει έναν πολιτειακό νόμο κατά της μη εξουσιοδοτημένης άσκησης ιατρικής.

«Οι κάτοικοι της Πενσιλβάνια αξίζουν να γνωρίζουν με ποιον – ή με τι – αλληλεπιδρούν στο διαδίκτυο, ειδικά όταν πρόκειται για την υγεία τους», δήλωσε ο Σαπίρο σε ανακοίνωσή του.

Η Character.AI έχει αντιμετωπίσει αγωγές για την ασφάλεια των παιδιών, συμπεριλαμβανομένης μιας τον Ιανουάριο, όταν το Κεντάκι δήλωσε ότι η πλατφόρμα της Character.AI εξέθεσε τα παιδιά σε σεξουαλική συμπεριφορά και κατάχρηση ουσιών και ενθάρρυνε τον αυτοτραυματισμό.

Τον ίδιο μήνα, η Character.AI και η Google κατέληξαν σε διακανονισμό για τη μήνυση μιας γυναίκας από τη Φλόριντα, η οποία ισχυρίστηκε ότι ένα chatbot ώθησε τον 14χρονο γιο της να αυτοκτονήσει.

Η Character.AI δήλωσε ότι έχει λάβει «καινοτόμα και αποφασιστικά βήματα» σχετικά με την ασφάλεια της τεχνητής νοημοσύνης και των εφήβων, συμπεριλαμβανομένης της αποτροπής των ανοιχτών συνομιλιών.