Künstliche Intelligenz hilft beim Kinderschutz

MIT-Wissenschaftler verbessern Glaubwürdigkeit von Vorhersagemodellen und stärken Vertrauen

Hände: Software soll Kinderschutz verbessern (Bild: Christine Daniloff, mit.edu)

Cambridge (pte037/29.10.2021/12:30)

Kinderschutzbehörden in den USA, die jedes Jahr Millionen Fälle von Kindesmissbrauch und Vernachlässigung bearbeiten müssen, setzen zunehmend auf Software, basierend auf künstlicher Intelligenz und maschinellem Lernen, um die Fälle so schnell wie möglich zu beurteilen und festzulegen, welche genauer unter die Lupe genommen werden sollen.  Doch dieses Verfahren nützt nichts, wenn die Menschen, die es unterstützen soll, die Ergebnisse nicht verstehen oder ihnen nicht vertrauen.

[b]Einfluss einzelner Faktoren ist wichtig[/b]

Forscher am Massachusetts Institute of Technology https://www.mit.edu/ (MIT) in Cambridge/USA starteten deshalb ein Forschungsprojekt, um die Benutzerfreundlichkeit der Beurteilungssoftware zu verbessern. In Zusammenarbeit mit einer Kinderschutzbehörde im US-Bundesstaat Colorado untersuchten die Forscher, wie Fälle mit und ohne Hilfe von Vorhersagen des Programms bewertet werden. 

Die Forscher fanden heraus, dass die Sachbearbeiter mehr daran interessiert sind zu sehen, wie die einzelnen Faktoren, zu denen auch das Alter des Kindes zählt, eine Prognose beeinflussen, anstatt die Berechnungsgrundlage der Software zu verstehen. Ihre Ergebnisse zeigen auch, dass selbst ein einfaches Modell Verwirrung stiften kann, wenn seine Merkmale nicht in einer einfachen Sprache beschrieben werden.

[b]Was zu mangelndem Vertrauen führt[/b]

Die Forscher begannen die Studie vor mehr als zwei Jahren, indem sie sieben Faktoren identifizierten, die das Vertrauen in die Prognosesoftware beeinträchtigen, darunter mangelndes Vertrauen in die maschinelle Vorhersage und Meinungsverschiedenheiten zwischen Sachbearbeitern und dem Output des Modells.

Mit diesen Faktoren im Hinterkopf flogen Alexandra Zytek, Doktorandin im Bereich Elektrotechnik und Informatik, und Postdoc Dongyu Liu im Winter 2019 nach Colorado, um aus erster Hand von Sachbearbeitern in einer Kinderschutzabteilung zu lernen. Diese Abteilung nutzt ein von Rhema Vaithianathan, Professorin für Wirtschaftswissenschaften und Direktorin des Center for Social Data Analytics an der Auckland University of Technology https://www.aut.ac.nz/ in Neuseeland und Professorin für Social Data Analytics an der University of Queensland https://www.uq.edu.au/ in Australien entwickeltes maschinelles Lernsystem. Dieses generiert für jeden Fall eine Risikobewertung und prognostiziert die Wahrscheinlichkeit, dass das betreffende Kind aus seiner Umgebung herausgelöst werden muss. Der so ermittelte Wert basiert auf mehr als 100 demografischen und historischen Faktoren, wie dem Alter der Eltern und deren Auffälligkeit bei Straftaten.

[b]Fallspezifische Detailschnittstelle[/b]

Die Wissenschaftler beobachteten, wie Teams von Sachbearbeitern die meiste Zeit damit verbrachten, die mit dem jeweiligen Fall verbundenen Risikofaktoren zu diskutieren. Das inspirierte die Forscher, eine fallspezifische Detailschnittstelle zu entwickeln, die zeigt, wie jeder Faktor den Gesamtrisikowert beeinflusst hat, indem sie farbcodierte, horizontale Balkendiagramme einführten, die die Wichtung jedes Faktors in positiver oder negativer Richtung anzeigen.

Basierend auf Beobachtungen und detaillierten Interviews bauten die Forscher vier zusätzliche Schnittstellen ein, die Erklärungen des Modells liefern, darunter eine, die einen aktuellen Fall mit früheren Fällen mit ähnlichen Risiken vergleicht. 

[b]Fallvergleichsschnittstelle fiel durch[/b]

Befragungen ergaben, dass mehr als 90 Prozent der Sachbearbeiter die fallspezifische Detailschnittstelle als nützlich empfanden und ihr Vertrauen in die Vorhersagen des Modells sich verbesserte. Auf der anderen Seite mochten die Sachbearbeiter die Fallvergleichsschnittstelle nicht. Sie waren besorgt, dass sie zu Entscheidungen führen könnte, die auf früheren Fällen und nicht auf dem aktuellen basieren. Ehe das Programm zur breiten Nutzung empfohlen wird wollen die Forscher noch einige Verfeinerungen anbringen.

Aussender:	pressetext.redaktion
Ansprechpartner:	Wolfgang Kempkens
Tel.:	+43-1-81140-300
E-Mail:	kempkens@pressetext.com
Website:	www.pressetext.com