Wer KI-Systeme testet, muss auch für die Folgen haften
Juraj Janosik, VP of AI beim IT-Sicherheitshersteller ESET, ordnet aktuelle KI-Vorfälle ein
|
|
Juraj Janosik, Vice President of Artificial Intelligence bei ESET (Copyright: ESET)
|
Jena (pts023/31.07.2026/15:15)
"Die jüngsten Vorfälle bei OpenAI und Anthropic sollten vor allem als Warnsignal für die IT-Sicherheit verstanden werden und nicht als Beleg dafür, wie leistungsfähig moderne KI bereits ist", sagt Juraj Janosik, Vice President of Artificial Intelligence beim europäischen IT-Sicherheitshersteller ESET.
Wenn ein klassischer Software- oder Sicherheitsanbieter ein System testen würde, das seine vorgesehenen Grenzen überschreitet und auf fremde IT-Infrastrukturen zugreift, wären kritische Nachfragen und eine umfassende Untersuchung selbstverständlich. Für KI-Unternehmen sollten die gleichen Maßstäbe gelten.
Aufstieg der KI ist vergleichbar mit früheren Techtrends
Dieses Muster ist in der Technologiebranche nicht neu. Auch beim Aufstieg des Cloud Computing stand zunächst die schnelle Verbreitung der Technologie im Vordergrund, während Sicherheitskonzepte erst später nachgezogen wurden. Ähnliches sehen wir heute bei künstlicher Intelligenz: Die Entwicklung und Vermarktung neuer KI-Systeme schreitet rasant voran, während Sicherheitsfragen häufig erst im Nachhinein adressiert werden. Angesichts der wachsenden Fähigkeiten dieser Systeme ist das jedoch keine tragbare Strategie mehr.
Vorfall wird eher als Marketing-Gag denn als Problem behandelt
Besonders problematisch ist, dass solche Vorfälle teilweise so kommuniziert werden, dass die technischen Fähigkeiten der KI im Mittelpunkt stehen. Dadurch entsteht der Eindruck, ein Sicherheitsproblem sei gleichzeitig eine Art Leistungsnachweis. Das ist der falsche Fokus. Sicherheitsvorfälle sollten transparent aufgearbeitet werden und nicht als Marketinginstrument im Wettbewerb der KI-Anbieter dienen.
KI-Hersteller müssen nachbessern
Mit zunehmender Leistungsfähigkeit von KI-Agenten müssen auch die Sicherheitsanforderungen steigen. Dazu gehören strikt abgeschottete Testumgebungen, wirksame Zugriffskontrollen, unabhängige Sicherheitsprüfungen sowie eine schnelle und transparente Information betroffener Organisationen. Die Branche sollte bewährte Sicherheitsstandards konsequent anwenden, bevor solche Systeme in großem Maßstab eingesetzt werden.
Die wichtigste Erkenntnis lautet: Innovation entbindet KI-Unternehmen nicht von ihrer Verantwortung. Für sie müssen dieselben hohen Sicherheitsstandards gelten wie für jeden anderen Technologieanbieter.
Das ist passiert
Wie das KI-Unternehmen Anthropic berichtet hat, gelang es mehreren Versionen seines Sprachmodells Claude im Rahmen von Cybersicherheitstests, aufgrund eines Konfigurationsfehlers auf öffentliche Netzwerke zuzugreifen und dabei Schwachstellen in den IT-Systemen von drei Organisationen auszunutzen.
(Ende)| Aussender: | ESET Deutschland GmbH |
| Ansprechpartner: | Philipp Plum |
| Tel.: | +49 (0) 3641-3114-141 |
| E-Mail: | philipp.plum@eset.com |
| Website: | www.eset.de |
