Medien

HIGHTECH

14.01.2022 - 11:30 | pressetext.redaktion
14.01.2022 - 06:05 | pressetext.redaktion
13.01.2022 - 14:30 | ESET Deutschland GmbH

BUSINESS

14.01.2022 - 13:30 | pressetext.redaktion
14.01.2022 - 11:00 | Heemann Vermögensverwaltung AG
14.01.2022 - 06:15 | pressetext.redaktion
pte20210226021 Medien/Kommunikation, Technologie/Digitalisierung

Twitter plant "Safety Mode" gegen Cybermobber

Innovativer KI-basierter Algorithmus blockiert automatisch Accounts mit Hasskommentaren


Twitter:
Twitter: "Safety Mode" gegen Cybermobber (Foto: unsplash.com, Sara Kurfeß)

San Francisco/Wien (pte021/26.02.2021/11:30) - Die US-Mikroblogging-Plattform Twitter plant einen "Safety Mode", der für individuelle User automatisch Accounts von Cybermobbern blockiert. Aktivieren Anwender das Tool, sperrt die Künstliche Intelligenz (KI) der Plattform alle Postings, die Beleidigungen oder Hasskommentare enthalten.

"KI ist radikaler als Mensch"

"Der Ansatz einer technologischen Lösung für das Problem des Cybermobbings ist nicht von der Hand zu weisen. Aber ein kompletter Schutz ist nicht garantiert. Algorithmen werden zwar immer genauer, können jedoch oft nicht zwischen den Zeilen lesen. Sie neigen auch dazu, deutlich radikaler und undifferenzierter zu sein als Menschen. Auch ist Transparanz dabei wichtig, wer die KI programmiert hat und ob sie dadurch befangen ist", gibt Matthias Jax, Projektleiter bei Saferinternet http://saferinternet.at , gegenüber pressetext zu bedenken.

User sollen laut Twitter selbst entscheiden können, ob sie den Safety Mode aktivieren oder nicht. Der Algorithmus achtet vor allem auf bestimmte Schlüsselwörter, die mit Cybermobbing in Verbindung stehen. Darunter sind Schimpfwörter und beleidigende Ausdrücke. Ist ein Account gegenüber Usern bösartig, blockiert das System dessen Bemerkungen für den Zeitraum von sieben Tagen.

Benachrichtigung bei Sperre

Jedes Mal, wenn die Twitter-KI einen Account blockiert, erhalten Anwender eine entsprechende Benachrichtigung. Der Plattform zufolge kann der Algorithmus mehr als 50 Prozent der Hasskommentare entdecken, bevor Nutzer diese melden. Jedoch kann eine KI hier oft Fehler machen. Einer neuen Studie der Carnegie Mellon University zufolge hält sie etwa harmlose Konversationen zu Themen wie Schach häufig für Rassismus (pressetext berichtete: http://pte.com/news/20210222004 ).

(Ende)
Aussender: pressetext.redaktion
Ansprechpartner: Georg Haas
Tel.: +43-1-81140-306
E-Mail: haas@pressetext.com
Website: www.pressetext.com
|
|
98.477 Abonnenten
|
196.087 Meldungen
|
81.053 Pressefotos
Top