Trainings-KI für Studenten macht keine Fehler

Große KI-Sprachmodelle wie ChatGPT von OpenAI können Fragen falsch beantworten - vor allem in der Ausbildung für angehende Mediziner ist das fatal. Forscher des Dartmouth College haben diese Gefahr jetzt beseitigt und KI zum perfekten Sparringspartner für Studenten gemacht. Thomas Thesen und sein Schüler Soo Hwan Park haben den KI-Lehrassistenten "NeuroBot TA" entwickelt. Dieser bietet Studenten in Thesens Kurs "Neurowissenschaften und Neurologie" individuelle Unterstützung.

"Halluzinationen" vermieden

Thesen und Park haben die Plattform unter Verwendung von der Technik "Retrieval-Augmented Generation" (RAG) entwickelt. Diese bindet die Antworten großer Sprachmodelle an bestimmte Informationsquellen. Das führt zu genauen und relevanten Antworten. "Halluzinationen" sollen auf diese Weise vermieden werden - also KI-generierte Informationen, die oft überzeugend klingen, aber ungenau oder falsch sind.

NeuroBot TA schöpft seine Antworten ausschließlich aus anerkannten Quellen wie Lehrbüchern, Vorlesungsfolien und klinischen Leitlinien. Im Gegensatz zu allgemeinen Chatbots, die dafür bekannt sind, Fakten zu erfinden, sind alle Antworten des NeuroBot TA korrekt, heißt es. Thesen und Park haben untersucht, ob der RAG-Ansatz mehr Vertrauen bei den studentischen Nutzern weckt und wie sie solche gesicherten Systeme tatsächlich in ihr Lernen integrieren könnten. Ihr Fazit: Studenten schenken dem kuratierten Wissen von NeuroBot TA überwiegend mehr vertrauten als allgemein verfügbaren Chatbots.