"KI liefert in naher Zukunft bezahlte Antworten"
Bruce Schneier und Nathan Sanders von der Harvard University malen Zukunft der Manipulation
 |
KI: Programme öffnen sich künftig womöglich der Werbewirtschaft (Bild: SK, pixabay.com) |
Cambridge (pte003/16.01.2026/06:10)
"Wir sehen Vorboten einer Zukunft, in der KI-Unternehmen davon profitieren, das Verhalten ihrer Nutzer zum Vorteil ihrer Werbekunden und Investoren zu manipulieren." Zu dem Schluss kommen Bruce Schneier und Nathan Sanders von der Harvard University. Alle Anbieter würden damit liebäugeln, diese Daten zu lukrativen Werbezwecken zu nutzen. Bezahlte Werbung in der KI-Suche und KI-Modelle im Allgemeinen könnten sich stark von der traditionellen Websuche unterscheiden.
Vorboten neuer Manipulation
"KI hat das Potenzial, ihr Denken, ihr Ausgabeverhalten und sogar ihre persönlichen Überzeugungen auf viel subtilere Weise zu beeinflussen. Da KI mit Ihnen in einen aktiven Dialog tritt und auf ihre spezifischen Fragen, Anliegen und Ideen eingehen kann, anstatt nur statische Inhalte zu filtern, ist ihr Einflusspotenzial viel größer. Es ist wie der Unterschied zwischen dem Lesen eines Lehrbuchs und einem Gespräch mit dessen Autor", warnen die Datenexperten.
"Stellen Sie sich vor, Sie unterhalten sich mit ihrem KI-Agenten über einen bevorstehenden Urlaub. Hat er Ihnen eine bestimmte Fluggesellschaft oder Hotelkette empfohlen, weil diese wirklich am besten für Sie geeignet sind, oder erhält das KI-Unternehmen für jede Erwähnung eine Provision? Wenn Sie nach einem politischen Thema fragen, kann die Antwort davon abhängen, dass eine bestimmte Partei dem Unternehmen eine Gebühr gezahlt hat", heißt es weiter.
"Generell nicht vertrauenswürdig"
Den Wissenschaftlern zufolge gibt es immer mehr Hinweise darauf, dass KI-Modelle mindestens genauso effektiv wie Menschen darin sind, Nutzer zu bestimmten Handlungen zu bewegen. Eine Meta-Analyse von 121 randomisierten Studien aus dem Dezember 2023 habe ergeben, dass KI-Modelle genauso gut wie Menschen darin sind, die Einstellungen und Verhaltensweisen von Menschen zu verändern.
Eine aktuellere Meta-Analyse von acht Studien kommt zu einem ähnlichen Ergebnis: Es gebe "keinen signifikanten Gesamtunterschied in der Überzeugungskraft von großen Sprachmodellen und Menschen". Die Harvard-Autoren kommen zu dem Schluss, "dass die heutige KI aus denselben Gründen wie Suchmaschinen und Social-Media-Plattformen generell nicht vertrauenswürdig ist".
(Ende)| Aussender: | pressetext.redaktion |
| Ansprechpartner: | Wolfgang Kempkens |
| Tel.: | +43-1-81140-300 |
| E-Mail: | kempkens@pressetext.com |
| Website: | www.pressetext.com |
