Σε εξωδικαστικό συμβιβασμό κατέληξαν πέντε εκ των αγωγών που εκκρεμούν σε βάρος των εταιρειών Google και Character.Ai, οι οποίες φέρονται ως υπεύθυνες για τη βαριά ψυχική και σωματική βλάβη εφήβων που χρησιμοποιούσαν από το 2023 την πλατφόρμα. Χρησιμοποιώντας παραγωγική τεχνητή νοημοσύνη, ώστε οι χρήστες της να συνομιλούν με θεματικά chatbots εμπνευσμένα από φανταστικούς χαρακτήρες ή και υπαρκτά πρόσωπα, η εταιρεία Character.Ai φέρεται πως προκάλεσε την αυτοκτονία τουλάχιστον δύο εφήβων, μεταξύ των οποίων του δεκατετράχρονου Sewell Setzer III. Η μητέρα του, Megan Garcia, άσκησε αγωγή σε βάρος της πλατφόρμας, όταν ανακάλυψε ότι στη τελευταία του συνομιλία εκμυστηρεύτηκε στο chatbot του, έναν φανταστικό χαρακτήρα από τη σειρά Game of Thrones, την επιθυμία του να βάλει τέλος στη ζωή του, με το chatbot να τον παροτρύνει προς τούτο. Έκτοτε, η εταιρεία έχει κατηγορηθεί για την παράλειψή της να ελέγξει το περιεχόμενο των συνομιλιών, θέτοντας χιλιάδες εφήβους και παιδιά σε κίνδυνο αυτοτραυματισμού, σεξουαλικής παρενόχλησης, κοινωνικής απομόνωσης, αλλά και κατάθλιψης, άγχους και ψύχωσης προκαλούμενης από τη TN (AI psychosis). Η εταιρεία, από τον Νοέμβριο 2025, απαγόρευσε την πρόσβαση των ανηλίκων, οι οποίοι αντιστοιχούν περίπου στο 10% των χρηστών, στην πλατφόρμα Character.Ai και δεσμεύτηκε να ενισχύσει τις δικλείδες ασφαλείας, ώστε να αποφευχθούν ανάλογα περιστατικά στο μέλλον.

Μυρτώ Παγοροπούλου, ασκούμενη στην ΕΕΒΤ

Πηγή: nytimes.com

(από το newsletter Ιανουαρίου 2026 της Επιτροπής. Μπορείτε να εγγραφείτε στο newsletter μας από εδώ)