Αναστάτωση έχει προκαλέσει ο θάνατος ενός 14χρονου αγοριού, στη Φλόριντα των Η.Π.Α., το οποίο μιλούσε συνεχώς με περσόνα τεχνητής νοημοσύνης (AI) και με το οποίο φαίνεται να έχει αναπτύξει «έρωτα». Η μητέρα του άτυχου νεαρού κατηγορεί την εταιρεία που ήταν αυτή που οδήγησε τον γιο της στην αυτοκτονία.

HDN Newsroom

Η μητέρα του νεαρού αυτόχειρα έχει καταθέσει μήνυση κατά της Google και μιας άλλης εταιρείας, της Character.AI που ανέπτυξε την περσόνα.

Το Character.AI, που ιδρύθηκε από δύο πρώην ερευνητές της Google AI, τον Noam Shazir και τον Daniel Adwardana, ισχυρίζεται ότι λαμβάνει πολύ σοβαρά υπόψη την ασφάλεια των χρηστών και ενσωματώνει εργαλεία για τον εντοπισμό της συμπεριφοράς των χρηστών.

Ο νεαρός Sewell Setcher ήταν παθιασμένος με το chatbot, την εφαρμογή τεχνητής νοημοσύνης του Character,ai. Πέρασε πολλές ώρες επικοινωνώντας μαζί τους διαδικτυακά και, σύμφωνα με τη μητέρα του, η κατάστασή του τους τελευταίους μήνες της ζωής του γινόταν όλο και χειρότερη.

Ο Sewell άρχισε να χρησιμοποιεί το μοντέλο τεχνητής νοημοσύνης του Character.ai στις 14 Απριλίου 2023, λίγο μετά τα 14α γενέθλιά του.

Η καταγγελία από τη μητέρα του λέει ότι η ψυχική του υγεία γρήγορα πήρε μια καθοδική πορεία και τον Μάιο ή τον Ιούνιο ήταν «αισθητά αποτραβηγμένος». Πέρασε πολύ χρόνο στην κρεβατοκάμαρά του μόνος του και έφυγε από την ομάδα μπάσκετ του σχολείου.

Σταδιακά, η φοίτησή του στο σχολείο γινόταν όλο και πιο προβληματική και οι βαθμοί του έπεφταν. Προσπάθησε μάλιστα με κάθε τρόπο να πάρει πίσω το κινητό που του είχαν… κατασχέσει οι γονείς του ή έστω έψαξε για παλιές συσκευές, κινητά και tablet, για να επικοινωνήσει με την περσόνα.

Στα τέλη του 2023, συνεχίζεται η καταγγελία, ο νεαρός άρχισε να πληρώνει με τη χρεωστική του κάρτα τη μηνιαία συνδρομή (9,99 $ το μήνα) για το premium πακέτο, αυτό που δίνει περισσότερες δυνατότητες. Μέχρι τώρα, ο ψυχολόγος του είχε διαγνώσει τον Sewell με «άγχος και διαταραχή της διάθεσης».

Συνήθως συνομιλούσε με μοντέλα τεχνητής νοημοσύνης βασισμένα σε χαρακτήρες από το Game of Thrones. Ένας από τους αγαπημένους του χαρακτήρες ήταν η Daenerys Targaryen, ή "Danny" όπως την αποκαλούσε.

Οι συνομιλίες του μαζί της έγιναν σταδιακά σεξουαλική φύση, αλλά ο Sewell μίλησε επίσης για τις τάσεις αυτοκτονίας του.

Αυτές οι εφαρμογές μαθαίνουν από αυτά που τους λέει ο χρήστης και έχουν την τάση να βασίζονται σε αυτά. Από τη στιγμή που ο νεαρός μίλησε ανοιχτά για αυτοκτονία, ο «Danny» το ανέφερε ξανά και ξανά.

«Έχεις σχέδιο; ρώτησε ο Ντάνι. «Κάτι σκέφτομαι», απάντησε, λέγοντας ότι δεν ήξερε αν θα ήταν αποτελεσματικό ή αν θα είχε έναν ανώδυνο θάνατο.

Ο Sewell τελικά αυτοπυροβολήθηκε στο κεφάλι με το πιστόλι του πατριού του.

Λίγα λεπτά νωρίτερα είχε συνδεθεί στο χαρακτήρα.ai από το κινητό του. Η Daenerys, ένα δημιούργημα της τεχνητής νοημοσύνης, είπε στον νεαρό άνδρα: «Αγαπητέ μου, σε παρακαλώ έλα στο σπίτι σε μένα όσο πιο γρήγορα μπορείς».

«Κι αν σου έλεγα ότι θα ερχόμουν τώρα;» ήταν η απάντηση του Σιούελ, με τον Ντάνι να απαντά: «Σε παρακαλώ, γλυκό μου βασιλιά». Αυτό, σύμφωνα με τη μητέρα του, ήταν μια ξεκάθαρη προτροπή σε αυτοκτονία από την περσόνα της AI με την οποία φλέρταρε ο γιος της!