Hightech

HIGHTECH

21.02.2020 - 12:00 | ESET Deutschland GmbH
21.02.2020 - 10:30 | pressetext.redaktion
21.02.2020 - 10:00 | ESET Deutschland GmbH

BUSINESS

21.02.2020 - 12:30 | pressetext.redaktion
21.02.2020 - 09:05 | Der Werbetherapeut
21.02.2020 - 06:15 | pressetext.redaktion

MEDIEN

21.02.2020 - 11:30 | pressetext.redaktion
21.02.2020 - 06:10 | pressetext.redaktion
20.02.2020 - 10:30 | pressetext.redaktion

LEBEN

24.02.2020 - 06:00 | pressetext.redaktion
23.02.2020 - 10:00 | Neusiedler See Tourismus GmbH
21.02.2020 - 14:50 | Österreichisch-Deutsche Gesellschaft Berlin-Brandenburg e.V.
pte20200116002 Technologie/Digitalisierung, Medien/Kommunikation

KI-System findet Hass in sozialen Medien

Wissenschaftliche Analyse von Millionen Kommentaren, um "Help speech" hervorzuheben


Rohingya in Myanmar häufig als Ziel von Hass-Postings (Foto: cmu.edu)
Rohingya in Myanmar häufig als Ziel von Hass-Postings (Foto: cmu.edu)

Pittsburgh (pte002/16.01.2020/06:05) - Experten der Carnegie Mellon University (CMU) http://cmu.edu bekämpfen Hass-Postings im Social Web nun technisch. Eine Künstliche Intelligenz (KI) durchforstet Millionen von Meldungen in Sekunden und unterscheidet dabei "Hate speech" von positiven Kommentaren ("Help speech"). Letztere können dann von menschlichen Moderatoren aufgegriffen und in den Social-Feeds der Nutzer hervorgehoben werden, um das Internet generell "sicherer und umgänglicher" zu gestalten, so die Forscher.

"Internet zu besserem Ort machen"

"Auch wenn das Web mittlerweile mit negativen Inhalten vollgestopft wird, können wir trotzdem immer noch positive Kommentare finden", erklärt Ashiqur KhudaBukhsh, Post-Doc am Language Technologies Institute (LTI) der CMU. Das Problem sei allerdings, dass es dem Einzelnen in Anbetracht der rapiden Zunahme an Hass-Postings meist nur mehr schwer möglich sei, überhaupt auf diese positiven Meldungen zu stoßen. "Indem wir genau diese Inhalte finden und hervorheben, können wir das Internet genauso zu einem besseren Ort machen, wie wenn wir schädlichen Content aufspüren und ausmerzen und ihre Verursacher aussperren", ist der Experte überzeugt.

Natürlich sei es für Menschen völlig unmöglich, sich durch Millionen von Postings zu arbeiten, um die Spreu vom Weizen zu trennen. Für diese Aufgabe brauche es eine ausgereifte KI, wie LTI-Leiter Jaime Carbonell betont: "Die Analyse derart großer Datenmengen in so kurzer Zeit ist nur möglich aufgrund der jüngsten Fortschritte im Bereich des Maschinellen Lernens. Nur so können Maschinen wirklich verstehen, was ein Autor mit seinem Kommentar eigentlich sagen will."

Test zur Flüchtlingskrise der Rohingya

Um ihre Methode zu testen, ließen die CMU-Wissenschaftler ihre KI-Software eine umfassende Analyse von insgesamt knapp einer Viertel Million YouTube-Kommentaren durchführen, die sich mit der Flüchtlingskrise der Rohingya in Myanmar auseinandersetzen. "Diese Minderheit ist der Hate speech im Netz größtenteils völlig hilflos ausgeliefert. Die meisten Mitgleiter können kein Englisch, verfügen über keinen Internetzugang oder sind einfach zu beschäftigt damit, am Leben zu bleiben, um selbst Inhalte online zu stellen", stellt KhudaBukhsh klar.

Das Ergebnis: Als normaler Nutzer stößt man auf Googles Videoportal im Schnitt lediglich auf rund zehn Prozent von Meldungen, die sich positiv zum Thema äußern. Sobald man allerdings die KI-unterstützte Methode anwendet, um positive Inhalte zu finden, und diese anschließend von Moderatoren stärker in den News-Feeds hervorheben zu lassen, steigt die Zahl der positiven Kommentare sprungartig auf 88 Prozent an. "Das zeigt, wie viel Potenzial dieser Ansatz hat", meint KhudaBukhsh.

(Ende)
Aussender: pressetext.redaktion
Ansprechpartner: Markus Steiner
Tel.: +43-1-81140-314
E-Mail: steiner@pressetext.com
Website: www.pressetext.com
|
|
98.290 Abonnenten
|
177.649 Meldungen
|
72.311 Pressefotos
Top