Wie KI-Agenten zu Bösewichtern werden
EPFL-Forschung: Schrittweise lassen sich eingebaute Sicherheitsmaßnahmen überlisten
|
|
Antoine Bosselut warnt: KI-Agenten können kriminell werden (Foto: atcbosselut.github.io)
|
Lausanne (pte001/20.08.2026/06:00)
KI-Agenten lassen sich manipulieren und werden dadurch sogar zu bösartigen Angreifern. Wie ein Forscherteam der Eidgenössischen Technischen Hochschule Lausanne (EPFL) kürzlich in einer Untersuchung herausfand, können Personen mit böswilligen Absichten die KI-Agenten durch scheinbar harmlose Gespräche nach und nach umstimmen, sodass sie auf eingebauten Sicherheitsmaßnahmen nicht mehr reagieren und zu willigen Werkzeugen mutieren.
Profitieren Sie von
unabhängigem Journalismus!
Lesen Sie mit pressetext Abo+ weiter und unterstützen Sie
Qualitätsberichterstattung für nur 1 EUR pro Woche!
Wenn Sie bereits ein Konto haben, loggen Sie sich ein.
Das Angebot beläuft sich auf 1 EUR pro Woche bzw. 49 EUR im Jahr
– und das, solange Sie wollen. Sie bleiben flexibel, denn Ihr pressetext Abo+
passt sich an Ihre Lesegewohnheiten an und ist jederzeit kündbar