Medien

HIGHTECH

23.09.2021 - 06:15 | pressetext.redaktion
22.09.2021 - 12:30 | pressetext.redaktion
22.09.2021 - 06:15 | pressetext.redaktion

BUSINESS

23.09.2021 - 06:10 | pressetext.redaktion
22.09.2021 - 13:58 | pressetext.redaktion
22.09.2021 - 12:30 | bit media e-solutions GmbH

MEDIEN

23.09.2021 - 06:05 | pressetext.redaktion
22.09.2021 - 11:33 | pressetext.redaktion
22.09.2021 - 06:05 | pressetext.redaktion
pte20210226021 Medien/Kommunikation, Technologie/Digitalisierung

Twitter plant "Safety Mode" gegen Cybermobber

Innovativer KI-basierter Algorithmus blockiert automatisch Accounts mit Hasskommentaren


Twitter:
Twitter: "Safety Mode" gegen Cybermobber (Foto: unsplash.com, Sara Kurfeß)

San Francisco/Wien (pte021/26.02.2021/11:30) - Die US-Mikroblogging-Plattform Twitter plant einen "Safety Mode", der für individuelle User automatisch Accounts von Cybermobbern blockiert. Aktivieren Anwender das Tool, sperrt die Künstliche Intelligenz (KI) der Plattform alle Postings, die Beleidigungen oder Hasskommentare enthalten.

"KI ist radikaler als Mensch"

"Der Ansatz einer technologischen Lösung für das Problem des Cybermobbings ist nicht von der Hand zu weisen. Aber ein kompletter Schutz ist nicht garantiert. Algorithmen werden zwar immer genauer, können jedoch oft nicht zwischen den Zeilen lesen. Sie neigen auch dazu, deutlich radikaler und undifferenzierter zu sein als Menschen. Auch ist Transparanz dabei wichtig, wer die KI programmiert hat und ob sie dadurch befangen ist", gibt Matthias Jax, Projektleiter bei Saferinternet http://saferinternet.at , gegenüber pressetext zu bedenken.

User sollen laut Twitter selbst entscheiden können, ob sie den Safety Mode aktivieren oder nicht. Der Algorithmus achtet vor allem auf bestimmte Schlüsselwörter, die mit Cybermobbing in Verbindung stehen. Darunter sind Schimpfwörter und beleidigende Ausdrücke. Ist ein Account gegenüber Usern bösartig, blockiert das System dessen Bemerkungen für den Zeitraum von sieben Tagen.

Benachrichtigung bei Sperre

Jedes Mal, wenn die Twitter-KI einen Account blockiert, erhalten Anwender eine entsprechende Benachrichtigung. Der Plattform zufolge kann der Algorithmus mehr als 50 Prozent der Hasskommentare entdecken, bevor Nutzer diese melden. Jedoch kann eine KI hier oft Fehler machen. Einer neuen Studie der Carnegie Mellon University zufolge hält sie etwa harmlose Konversationen zu Themen wie Schach häufig für Rassismus (pressetext berichtete: http://pte.com/news/20210222004 ).

(Ende)
Aussender: pressetext.redaktion
Ansprechpartner: Georg Haas
Tel.: +43-1-81140-306
E-Mail: haas@pressetext.com
Website: www.pressetext.com
|
|
98.331 Abonnenten
|
193.165 Meldungen
|
79.583 Pressefotos
Top