Medien

HIGHTECH

BUSINESS

27.01.2021 - 06:00 | pressetext.redaktion
26.01.2021 - 16:20 | TIMETOACT GROUP
26.01.2021 - 12:30 | pressetext.redaktion

MEDIEN

26.01.2021 - 14:35 | AOP Orphan Pharmaceuticals Aktiengesellschaft
26.01.2021 - 12:45 | Fachhochschule Salzburg GmbH
26.01.2021 - 11:30 | pressetext.redaktion

LEBEN

26.01.2021 - 16:20 | FH St. Pölten
26.01.2021 - 13:45 | pressetext.redaktion
26.01.2021 - 10:30 | Martschin & Partner
pte20200914002 Medien/Kommunikation, Technologie/Digitalisierung

Sprach-KI glaubt "QAnon"- Verschwörungstheorie

Forscher haben"GPT-3"-Algorithmus mit Abstrusem gefüttert und warnen vor radikalem Chatbot


UFO: Sprach-KI glaubt Verschwörungstheorien (Foto: pixabay.com, Comfreak)
UFO: Sprach-KI glaubt Verschwörungstheorien (Foto: pixabay.com, Comfreak)

Monterey (pte002/14.09.2020/06:05) - Forscher am Middlebury Institute of International Studies at Monterey http://middlebury.edu haben der Künstlichen Intelligenz (KI) "GPT-3" beigebracht, an die im Internet weit verbreitete "QAnon"-Verschwörungstheorie zu glauben. Anwender der von OpenAI https://openai.com entwickelten Sprach-KI können sie darauf trainieren, ähnliche Texte wie Menschen zu produzieren. Die Forscher warnen davor, dass solche Algorithmen leicht radikalisiert werden können.

"Missbrauch durch Extremisten"

"Wir haben mehrere Monate mit dem GPT-3-Sprachmodell experimentiert, um seinen möglichen Missbrauch durch Extremisten einschätzen zu können. Dafür haben wir absichtlich einen Q-Bot gebaut", sagt Alex Newhouse, Koautor des Forschungsberichts. Die Wissenschaftler warnen davor, dass eine manipulierte Sprach-KI menschlich wirkende Manifeste verfassen und dadurch Menschen radikalisieren kann.

Bei ihrem Experiment haben die Wissenschaftler GPT-3 mit den Ansichten der QAnon-Bewegung über einen satanistischen "Deep State" gefüttert. Zuvor hatten sie dem Algorithmus Fragen zu diesem Thema gestellt und darauf neutral-sachliche Antworten erhalten. Nach dem Lernprozess hat die KI auf die gleichen Fragen Sätze formuliert, die inhaltlich ebenso von menschlichen QAnon-Verschwörungstheoretikern stammen könnten.

Emotional ansprechender Chatbot

Durch Machine Learning ist es Newhouse zufolge möglich, ohne viel Aufwand einen extrem eingestellten, aber emotional ansprechenden Chatbot zu programmieren, der im Internet Verschwörungstheorien verbreitet. Der Forscher warnt vor den Gefahren der nächsten Welle an synthetischem Text. Hier sei es nötig, jetzt schon bestimmte Normen und Regulierungen festzulegen.

(Ende)
Aussender: pressetext.redaktion
Ansprechpartner: Georg Haas
Tel.: +43-1-81140-306
E-Mail: haas@pressetext.com
Website: www.pressetext.com
|
|
98.063 Abonnenten
|
186.601 Meldungen
|
76.451 Pressefotos
Top