Medien

HIGHTECH

27.01.2023 - 11:30 | pressetext.redaktion
27.01.2023 - 06:05 | pressetext.redaktion
26.01.2023 - 15:00 | Österreichische Vereinigung für Raumenergie

MEDIEN

27.01.2023 - 12:30 | pressetext.redaktion
27.01.2023 - 06:15 | pressetext.redaktion
26.01.2023 - 18:30 | goodRanking SEO & Online Marketing Agentur

LEBEN

28.01.2023 - 10:00 | Scientology Kirche Deutschland e.V.
28.01.2023 - 09:00 | Mag. Hintermüller Carmen Maria
27.01.2023 - 11:45 | FH St. Pölten
pte20200914002 Medien/Kommunikation, Technologie/Digitalisierung

Sprach-KI glaubt "QAnon"- Verschwörungstheorie

Forscher haben"GPT-3"-Algorithmus mit Abstrusem gefüttert und warnen vor radikalem Chatbot


UFO: Sprach-KI glaubt Verschwörungstheorien (Foto: pixabay.com, Comfreak)
UFO: Sprach-KI glaubt Verschwörungstheorien (Foto: pixabay.com, Comfreak)

Monterey (pte002/14.09.2020/06:05) - Forscher am Middlebury Institute of International Studies at Monterey http://middlebury.edu haben der Künstlichen Intelligenz (KI) "GPT-3" beigebracht, an die im Internet weit verbreitete "QAnon"-Verschwörungstheorie zu glauben. Anwender der von OpenAI https://openai.com entwickelten Sprach-KI können sie darauf trainieren, ähnliche Texte wie Menschen zu produzieren. Die Forscher warnen davor, dass solche Algorithmen leicht radikalisiert werden können.

"Missbrauch durch Extremisten"

"Wir haben mehrere Monate mit dem GPT-3-Sprachmodell experimentiert, um seinen möglichen Missbrauch durch Extremisten einschätzen zu können. Dafür haben wir absichtlich einen Q-Bot gebaut", sagt Alex Newhouse, Koautor des Forschungsberichts. Die Wissenschaftler warnen davor, dass eine manipulierte Sprach-KI menschlich wirkende Manifeste verfassen und dadurch Menschen radikalisieren kann.

Bei ihrem Experiment haben die Wissenschaftler GPT-3 mit den Ansichten der QAnon-Bewegung über einen satanistischen "Deep State" gefüttert. Zuvor hatten sie dem Algorithmus Fragen zu diesem Thema gestellt und darauf neutral-sachliche Antworten erhalten. Nach dem Lernprozess hat die KI auf die gleichen Fragen Sätze formuliert, die inhaltlich ebenso von menschlichen QAnon-Verschwörungstheoretikern stammen könnten.

Emotional ansprechender Chatbot

Durch Machine Learning ist es Newhouse zufolge möglich, ohne viel Aufwand einen extrem eingestellten, aber emotional ansprechenden Chatbot zu programmieren, der im Internet Verschwörungstheorien verbreitet. Der Forscher warnt vor den Gefahren der nächsten Welle an synthetischem Text. Hier sei es nötig, jetzt schon bestimmte Normen und Regulierungen festzulegen.

(Ende)
Aussender: pressetext.redaktion
Ansprechpartner: Georg Haas
Tel.: +43-1-81140-306
E-Mail: haas@pressetext.com
Website: www.pressetext.com
|
|
98.801 Abonnenten
|
205.972 Meldungen
|
85.079 Pressefotos

IR-NEWS

27.01.2023 - 20:10 | SCI AG
27.01.2023 - 19:00 | BAWAG Group AG
27.01.2023 - 16:28 | Eloro Resources Ltd.

TERMINE

15.02.2023 - 16:00
30.08.2023 - 10:00
Top