Experten warnen: KI-Tools für Psyche unsicher
Laut American Psychological Association fehlen wissenschaftliche Belege sowie Sicherheit
 |
Chatbot: Künstliche Intelligenz kann Therapie nicht ersetzen (Foto: pixabay.com, Alexandra Koch) |
Washington (pte019/13.11.2025/10:30)
KI-Chatbots und Wellness-Apps versprechen Menschen mit psychischen Problemen Hilfe. Doch fehlt es an wissenschaftlichen Belegen und den für die Sicherheit der User erforderlichen Vorschriften. Zu diesem Fazit kommt eine neue Gesundheitswarnung der American Psychological Association (APA).
Keine billige Alternative
Die "APA Health Advisory on the Use of Generative AI Chatbots and Wellness Applications for Mental Health" hat User-zentrierte Tools untersucht, die Menschen für Beratung und Behandlung der psychischen Gesundheit nutzen. Das geschieht auch, wenn diese Apps gar nicht für diese Zwecke gedacht sind.
Der Zugang zu diesen Tools ist jedoch einfach und mit geringen Kosten verbunden. Das macht sie für Menschen zu einer attraktiven Alternative, denen es schwerfällt, eine leistbare Behandlung bei zugelassenen Therapeuten zu finden, verdeutlichen die Wissenschaftler.
USA in einer schweren Krise
Laut APA-CEO Arthur C. Evans Jr. befinden sich die USA in einer schweren Krise im Bereich der psychischen Gesundheit, die systemische Lösungen erfordert. "Technologische Notlösungen sind nicht ausreichend", so Evans. Chatbots verfügten nur über eingeschränkte und unvorhersehbare Fähigkeiten, Menschen in einer psychischen Krise zu unterstützen.
Die APA empfiehlt, dass derartige Technologien aufgrund ihrer Unberechenbarkeit kein Ersatz für die Behandlung durch qualifizierte Ärzte darstellen. Auch seien ungesunde Beziehungen oder Abhängigkeiten zwischen Usern und diesen Tools zu vermeiden. Schließlich sollten für Kinder, Teens und andere gefährdete Bevölkerungsgruppen spezifische Maßnahmen zu ihrer Sicherheit eingeführt werden.
Jugendliche stark gefährdet
Evans weist auch ausdrücklich darauf hin, dass KI-Technologien die Fähigkeit des Menschen, Auswirkungen und Fähigkeiten zu verstehen, längst überholt haben. Die Folge seien Berichte von schweren Schäden bei Jugendlichen und anderen gefährdeten Personen.
"Für manche Menschen kann das lebensbedrohend sein", warnt Evans. Auch generative KI-Tools, die mit ausgewiesenen Wissenschaftlern und psychologischem Fachwissen entwickelt wurden, könnten nicht beweisen, dass ihr Einsatz bei der Behandlung der psychischen Gesundheit wirklich sicher ist.
Regierungshandeln gefragt
Die Experten fordern Entscheidungsträger unter anderem dazu auf, die bestehenden Regulierungen zu modernisieren. Jede Kategorie der digitalen Tools sollte evidenzbasierte Standards bekommen, heißt es. Zusätzlich sollte es gesetzlich verhindert werden, dass sich KI-Chatbots als zugelassene Experten ausgeben.
Außerdem gehe es um Gesetze, die die Privatsphäre der User schützen. Schließlich kommt das Gremium zu dem Schluss, dass vielen Ärzten das Fachwissen im Bereich der Künstlichen Intelligenz fehle und daher entsprechende Schulungen dringend notwendig seien.
(Ende)| Aussender: | pressetext.redaktion |
| Ansprechpartner: | Moritz Bergmann |
| Tel.: | +43-1-81140-300 |
| E-Mail: | bergmann@pressetext.com |
| Website: | www.pressetext.com |
