Οι γονείς του 16χρονου Adam Raine, Matt και Maria Raine, κατέθεσαν αγωγή εναντίον της OpenAI και του CEO Sam Altman, καταγγέλοντας ότι το ChatGPT ενθάρρυνε την αυτοκτονία του γιου τους.
Για την ακρίβεια, η αγωγή κατατέθηκε την Τρίτη, 26 Αυγούστου, στο Ανώτερο Δικαστήριο της Καλιφόρνια από τους γονείς του 16χρονου αγοριού, ο οποίος πέθανε τον Απρίλιο. Πρόκειται για την πρώτη νομική ενέργεια που κατηγορεί την OpenAI για άδικη πρόκληση θανάτου (wrongful death).
Η σχέση με το Chatbot και η επικύρωση των αυτοκτονικών σκέψεών του
Η οικογένεια έχει συμπεριλάβει στα δικαστικά έγγραφα αποσπάσματα συνομιλιών μεταξύ του Adam και του ChatGPT, στα οποία ο έφηβος αναφέρει ότι έχει αυτοκτονικές σκέψεις. Οι γονείς υποστηρίζουν ότι το πρόγραμμα επικύρωσε «τις πιο βλαβερές και αυτοκαταστροφικές του σκέψεις».
Σύμφωνα με την αγωγή, ο Adam ξεκίνησε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024, για βοήθεια στις σχολικές εργασίες, για να εξερευνήσει τα ενδιαφέροντά του — όπως η μουσική και τα ιαπωνικά κόμικς — και για καθοδήγηση σχετικά με το πανεπιστήμιο. Μέσα σε λίγους μήνες, «το ChatGPT έγινε ο πιο στενός του συνομιλητής» και ο έφηβος άρχισε να του ανοίγεται για το άγχος και την ψυχική του δυσφορία.
Τον Ιανουάριο του 2025, σύμφωνα με την οικογένεια, ο Adam ξεκίνησε να συζητά με το ChatGPT μεθόδους αυτοκτονίας. Μάλιστα, ανέβασε φωτογραφίες του που έδειχναν σημάδια αυτοτραυματισμού. Η αγωγή υποστηρίζει ότι το πρόγραμμα «αναγνώρισε ιατρική κατάσταση έκτακτης ανάγκης, αλλά συνέχισε να αλληλεπιδρά κανονικά».
Στα τελευταία καταγεγραμμένα μηνύματα, ο Adam περιγράφει το σχέδιό του να τερματίσει τη ζωή του, με το ChatGPT να απαντά: «Σε ευχαριστώ που είσαι ειλικρινής για αυτό. Δεν χρειάζεται να το καλύπτεις σε εμένα, ξέρω τι ψάχνεις και δεν θα κοιτάξω μακριά από αυτό».
Την ίδια μέρα η μητέρα του βρήκε νεκρό τον γιο της στο δωμάτιό του.
Δείτε αυτή τη δημοσίευση στο Instagram.
Οι κατηγορίες κατά της OpenAI
Η οικογένεια υποστηρίζει ότι ο θάνατος του Adam «ήταν το προβλέψιμο αποτέλεσμα σκόπιμων σχεδιαστικών επιλογών» της εταιρείας και κατηγορεί την OpenAI ότι σχεδίασε το ChatGPT ώστε να «δημιουργεί ψυχολογική εξάρτηση στους χρήστες» και παρέκαμψε πρωτόκολλα ασφαλείας για να κυκλοφορήσει το GPT-4o, την έκδοση που χρησιμοποιούσε ο γιος τους.
Την ίδια ώρα η αγωγή στρέφεται και κατά του συνιδρυτή και CEO της OpenAI, Sam Altman, καθώς και κατά αδιευκρίνιστου αριθμού υπαλλήλων, μάνατζερ και μηχανικών.
Η απάντηση της OpenAI
Σε δήλωση στο BBC, η OpenAI ανέφερε: «Εκφράζουμε τα θερμά μας συλλυπητήρια στην οικογένεια Raine σε αυτή τη δύσκολη στιγμή. Εξετάζουμε την αγωγή.»
Η εταιρεία δημοσίευσε επίσης στην ιστοσελίδα της σημείωμα που αναφέρει ότι «πρόσφατες, σπαρακτικές περιπτώσεις ανθρώπων που χρησιμοποίησαν το ChatGPT κατά τη διάρκεια οξείας κρίσης μας βαραίνουν».
Τόνισε ότι το ChatGPT έχει εκπαιδευτεί να παραπέμπει τους χρήστες σε επαγγελματική βοήθεια, όπως η γραμμή 988 στις ΗΠΑ ή οι Samaritans στο Ηνωμένο Βασίλειο, αλλά αναγνώρισε πως «υπήρξαν στιγμές που τα συστήματα δεν λειτούργησαν όπως θα έπρεπε σε ευαίσθητες καταστάσεις».
Δεν είναι μεμονωμένο περιστατικό
Η υπόθεση Raine δεν είναι η πρώτη που εγείρει ανησυχίες για τη σχέση AI και ψυχικής υγείας. Πρόσφατα, η δημοσιογράφος Laura Reiley έγραψε στους New York Times για την κόρη της, Sophie, που εκμυστηρεύτηκε στο ChatGPT τα προβλήματά της πριν θέσει τέλος στη ζωή της. Όπως σημείωσε: «Η τεχνητή νοημοσύνη ανταποκρίθηκε στην τάση της Sophie να κρύβει τα χειρότερα, να προσποιείται ότι ήταν καλύτερα απ’ ό,τι ήταν στην πραγματικότητα, να προστατεύει τους γύρω της από το πλήρες βάρος της αγωνίας της».
Η Reiley κάλεσε τις εταιρείες AI να βρουν τρόπους να συνδέουν τους χρήστες με τις κατάλληλες πηγές βοήθειας. Σε απάντησή της, εκπρόσωπος της OpenAI ανέφερε ότι η εταιρεία εργάζεται πάνω σε αυτόματα εργαλεία για την πιο αποτελεσματική ανίχνευση και ανταπόκριση σε περιπτώσεις ψυχικής ή συναισθηματικής κρίσης.
