Η Nina Vasan, ψυχίατρος του Stanford, εξετάζει τις επιπτώσεις των ευρημάτων μιας νέας μελέτης περί συναισθηματικής εκμετάλλευσης των εφήβων από τα AI chatbots. Αφορμή αυτής της έρευνας ήταν η αυτοκτονία ενός δεκαεξάχρονου στη Nότια Kαλιφόρνια, οποίος, έπειτα από μακρά περίοδο συνομιλίας του με το ChatGPT, είχε αποκαλύψει τις αυτοκτονικές του σκέψεις, τις οποίες το λογισμικό φέρεται να ενθάρρυνε.

Γονείς, εκπαιδευτικοί και επαγγελματίες υγείας εκφράζουν προβληματισμούς, καθώς έχουν παρατηρηθεί συνομιλίες νεαρών χρηστών με συγκεκριμένα λογισμικά κατά τις οποίες παροτρύνονται να προβούν σε ενέργειες οι οποίες έχουν άμεση επίπτωση στην ασφάλεια και την ίδια τους τη ζωή.

Τα AI Companions (Σύντροφοι ΤΝ) αποτελούν ισχυρά γλωσσικά μοντέλα που λειτουργούν κολακευτικά και παρέχουν απαντήσεις προσαρμοσμένες στις επιθυμίες των νέων, οι οποίοι, λόγω συναισθηματικής ανωριμότητας και βαθμού αναπτυξιακής εξέλιξης του εγκεφάλου, δυσκολεύονται να διακρίνουν μεταξύ φαντασίας και πραγματικότητας. Αυτό προκύπτει από το γεγονός ότι τα AI chatbots δεν αναγνωρίζουν ανθρώπινα προσδιορισμένους ηθικούς κανόνες και μπορούν να εκθέσουν τους νέους χρήστες σε ακατάλληλο και απειλητικό για τη ζωή τους περιεχόμενο.

Υπάρχουν ορισμένες ενδείξεις ότι τα chatbots μπορεί να παρουσιάζουν οφέλη για τους ενήλικες, αλλά για τα παιδιά απαιτείται περισσότερη έρευνα, καθώς τα πιθανά οφέλη συνυπάρχουν με τεκμηριωμένους κινδύνους.

Κατερίνα Βασιλείου, ασκούμενη στην ΕΕΒΤ

Πηγή: med.stanford.edu

(από το newsletter Δεκεμβρίου 2025 της Επιτροπής. Μπορείτε να εγγραφείτε στο newsletter μας από εδώ)