Τα generative chatbots που βασίζονται στην τεχνητή νοημοσύνη μπορούν να ενισχύσουν τα συμπτώματα σε άτομα με σοβαρές ψυχικές διαταραχές. Σε αυτό το συμπέρασμα κατέληξαν Δανοί ερευνητές μετά από ανάλυση χιλιάδων ιατρικών αρχείων ασθενών. Η εργασία δημοσιεύθηκε στο περιοδικό Acta Psychiatrica Scandinavica (APS).
Οι ερευνητές ανέλυσαν τους ηλεκτρονικούς ιατρικούς φακέλους σχεδόν 54.000 ασθενών που νοσηλεύτηκαν στην ψυχιατρική υπηρεσία της Κεντρικής Περιφέρειας της Δανίας μεταξύ Σεπτεμβρίου 2022 και Ιουνίου 2025. Οι γιατροί καταχώρησαν περισσότερες από 10 εκατομμύρια κλινικές σημειώσεις κατά τη διάρκεια αυτής της περιόδου. Οι ερευνητές αναζήτησαν αναφορές για chatbots και ChatGPT, συμπεριλαμβανομένων των κοινών τυπογραφικών λαθών.
Ως αποτέλεσμα, εντοπίστηκαν 126 ασθενείς των οποίων η χρήση AI αντικατοπτριζόταν στις ιατρικές σημειώσεις τους. Σε 38 από αυτούς, οι ειδικοί διαπίστωσαν δυνητικά δυσμενείς επιπτώσεις.
Το πιο συνηθισμένο πρόβλημα ήταν η αύξηση των παραληρητικών ιδεών – τέτοιες περιπτώσεις καταγράφηκαν σε 11 ασθενείς. Δεδομένου ότι τα γλωσσικά πρότυπα τείνουν να συμφωνούν με τον χρήστη και να “υποστηρίζουν” την άποψή του, αυτό μπορεί να διαιωνίσει λανθασμένες πεποιθήσεις.
Επιπλέον, έξι ασθενείς είχαν αυξημένες αυτοκτονικές σκέψεις ή έκαναν αιτήματα στο bot για τρόπους αυτοτραυματισμού. Πέντε είχαν επιδεινωμένες διατροφικές διαταραχές – χρησιμοποιώντας chatbots για ψυχαναγκαστική καταμέτρηση θερμίδων.
Τα άτομα συσχετίστηκαν με επιδείνωση των μανιακών επεισοδίων και καταναγκαστική χρήση AI σε ιδεοψυχαναγκαστική διαταραχή.
Τούτου λεχθέντος, οι ερευνητές κατέγραψαν και θετικά σενάρια. 32 ασθενείς χρησιμοποίησαν chatbots για να λάβουν πληροφορίες σχετικά με την κατάστασή τους ή ως μια μορφή άτυπης υποστήριξης. Άλλοι 20 τα χρησιμοποίησαν για την οργάνωση καθημερινών εργασιών.
Σύμφωνα με τους ερευνητές, απαιτούνται περισσότερες ποιοτικές συνεντεύξεις με ασθενείς και ελεγχόμενες μελέτες. Προτείνουν επίσης να εφαρμοστούν στα συστήματα τεχνητής νοημοσύνης αυτόματοι μηχανισμοί ανίχνευσης σημείων ψύχωσης ή αυτοκτονικών προθέσεων με παραπομπή σε επαγγελματική βοήθεια.
Οι συγγραφείς πιστεύουν ότι η ρύθμιση τέτοιων τεχνολογιών θα πρέπει να πραγματοποιείται σε κρατικό επίπεδο και να μην παραμένει αποκλειστικά στην ευθύνη των εταιρειών ανάπτυξης. Εν τω μεταξύ, συνιστούν στους επαγγελματίες ψυχικής υγείας να συζητούν ενεργά με τους ασθενείς τις ψηφιακές τους συνήθειες και τους πιθανούς κινδύνους.
