KI-Tool entschärft antidemokratische Beiträge

Algorithmus verschiebt negativen Content automatisch nach unten, ohne diesen zu löschen

Parteipolitische Differenzen: Neues Tool verschiebt Negatives (Bild: Larisa, pixabay.com)

Stanford (pte001/01.12.2025/06:00)

Ein neues Tool von Forschern der Stanford University verringert parteipolitische Feindseligkeit im X-Feed, ohne dabei politische Beiträge zu entfernen. Es ordnet die Inhalte neu, die der Nutzer sieht. Antidemokratische und feindselige Beiträge werden nach unten verschoben. Identifiziert und eingestuft werden diese Beiträge von Künstlicher Intelligenz (KI).

Überparteilicher Effekt

In einem Experiment haben die Entwickler das Tool während der US-Wahlen 2024 über einen Zeitraum von zehn Tagen mit etwa 1.200 Teilnehmern getestet. Bei ihnen wurden antidemokratische Inhalte herabgestuft und riefen eine positivere Einstellung gegenüber der gegnerischen Partei hervor. Der Effekt war auch überparteilich und galt sowohl für Menschen, die sich als liberal als auch als konservativ identifizierten.

"Social-Media-Algorithmen haben einen direkten Einfluss auf unser Leben, aber bisher hatten nur die Plattformen die Möglichkeit, sie zu gestalten. Wir haben einen Ansatz vorgestellt, der auch Forschern und Endnutzern diese Möglichkeit eröffnet", sagt Forschungsleiter Michael Bernstein. Das Tool könne nicht nur parteipolitische Feindseligkeiten abbauen, sondern auch ein größeres soziales Vertrauen und einen gesünderen demokratischen Diskurs fördern.

Gefährliche Inhalte erkannt

Bei der Identifizierung antidemokratischer Inhalte hat sich das Team auf frühere soziologische Forschungen aus Stanford gestützt und Kategorien antidemokratischer Einstellungen und parteipolitischer Feindseligkeiten identifiziert, die eine Gefahr für die Demokratie darstellen können. Dazu gehören neben der Befürwortung extremer Maßnahmen gegen die gegnerische Partei auch Äußerungen, die eine Ablehnung parteiübergreifender Zusammenarbeit zeigen

Im Fokus stehen zudem die Skepsis gegenüber Fakten, die die Ansichten der anderen Partei stützen, und die Bereitschaft, demokratische Prinzipien aufzugeben, um der bevorzugten Partei zu helfen. Solche Inhalte lösen oft eine unmittelbare, unvermeidbare emotionale Reaktion aus, so Psychologin Jeanne Tsai.

Antisympathien gedämpft

Das Tool steht in Verbindung mit einem KI-basierten großen Sprachmodell, das Beiträge auf antidemokratische und extrem negative parteipolitische Äußerungen überprüft. Es ordnet dann die Beiträge im X-Feed des Nutzers innerhalb von Sekunden neu, sodass die gemäßigten Beiträge zuerst zu sehen sind.

"Wenn die Teilnehmer weniger von diesen Inhalten sahen, empfanden sie mehr Sympathie für die Menschen der gegnerischen Partei", verdeutlicht Tiziano Piccardi, ein ehemaliger Postdoktorand in Bernsteins Labor, der heute Assistenzprofessor für Informatik an der Johns Hopkins University ist.

Aussender:	pressetext.redaktion
Ansprechpartner:	Wolfgang Kempkens
Tel.:	+43-1-81140-300
E-Mail:	kempkens@pressetext.com
Website:	www.pressetext.com