Wissenschaftler treiben KI den Hochmut aus
Diagnose-KI soll laut MIT nachdenklicher werden - Ziel ist Partnerschaft mit Ärzten statt Dominanz
 |
KI in Aktion: Algorithmus soll Diagnose-Hoheit abgeben (Foto: Chokniti Khongchum, pixabay.com) |
Cambridge/Boston (pte001/25.03.2026/06:00)
Forscher des Massachusetts Institute of Technology (MIT) bringen Künstlicher Intelligenz (KI) Zurückhaltung und Bodenhaftung bei. Diese soll sich selbst nicht als allwissend empfinden - insbesondere, wenn die KI zur Unterstützung bei der Diagnose von Krankheiten oder bei Fragen zur Finanzveranlagung zum Einsatz kommt. Wenn sie sich bei einer Entscheidung nicht sicher ist, soll sie das offen zugeben und den Nutzer zum Einholen weiterer Informationen auffordern.
KI als Co-Pilot "degradiert"
"Wir nutzen KI derzeit als Orakel, aber wir können KI auch als Coach einsetzen", sagt MIT-Forscher Leo Anthony Celi, der auch als Arzt am Beth Israel Deaconess Medical Center tätig ist und als außerordentlicher Professor an der Harvard Medical School lehrt. "Wir wollen KI lieber als Co-Piloten nutzen. Das würde nicht nur unsere Fähigkeit verbessern, Informationen abzurufen, sondern auch unsere Handlungsfähigkeit stärken, um Zusammenhänge herzustellen."
Celi und seine Kollegen haben ein Rahmenwerk entwickelt, das KI-Entwicklern als Leitfaden dienen soll, um Systeme zu entwerfen, die zur Selbstkritik fähig sind. Das könnte es Ärzten und KI-Systemen ermöglichen, als Partner zusammenzuarbeiten und dazu beitragen, dass KI keinen gefährlich großen Einfluss auf die Entscheidungen von Ärzten nimmt.
Ärzte nicht überstimmen
Die Vision der Wissenschaftler: Stellt das System fest, dass die Beweise, die für eine Entscheidung herangezogen werden, nicht ausreichen, kennzeichnet es seine Unsicherheit und empfiehlt zusätzliche Tests oder die Konsultation eines Spezialisten. Das Ziel ist daher eine KI, die nicht nur Antworten liefert, sondern auch signalisiert, wann diese womöglich mit Vorsicht zu genießen sind.
Übermäßig selbstbewusste KI-Systeme können laut dem MIT-Team zu Fehlern vor allem im medizinischen Umfeld führen. Frühere Studien haben gezeigt, dass sich beispielsweise Ärzte auf der Intensivstation auf KI-Systeme verlassen, die sie als zuverlässig empfinden - selbst wenn ihre eigene Intuition dem Vorschlag der KI widerspricht. Sowohl Ärzte als auch Patienten neigen dazu, falsche KI-Empfehlungen zu akzeptieren, selbst wenn diese als merkwürdig wahrgenommen werden, heißt es.
(Ende)| Aussender: | pressetext.redaktion |
| Ansprechpartner: | Wolfgang Kempkens |
| Tel.: | +43-1-81140-300 |
| E-Mail: | kempkens@pressetext.com |
| Website: | www.pressetext.com |
