Sicherheit wird zum Schlüsselfaktor für KI

OpenAI und Anthropic zeigen: Vertrauen in KI braucht Sicherheit, Transparenz & Nachvollziehbarkeit

Hagenberg/Wien (pts011/16.09.2026/10:55)

Die Diskussion um künstliche Intelligenz verlagert sich zunehmend von reiner Leistungsfähigkeit hin zu Vertrauen, Sicherheit und unabhängiger Überprüfbarkeit. Aktuelle Aussagen von OpenAI und Anthropic zeigen: AI Governance, Safety und unabhängige Evaluierung werden zu zentralen Voraussetzungen für den verantwortungsvollen Einsatz von KI.

Während OpenAI die Herausforderungen rund um AI Safety und Alignment als strategischen Erfolgsfaktor hervorhebt, fordert Anthropic mit dem Konzept unabhängiger "Embedded Evaluators" eine stärkere externe Bewertung leistungsfähiger KI-Systeme. Die Botschaft ist klar: Vertrauen in KI darf sich nicht allein auf die Aussagen ihrer Entwickler stützen.

"Je mehr Verantwortung wir an KI übertragen, desto weniger reicht es, wenn sich Entwickler selbst das Zeugnis ausstellen. Vertrauen braucht unabhängige Evidenz", sagt Michael Weberberger, Geschäftsführer von TRUSTIFAI.

Von Governance zu unabhängiger Assurance

Mit der zunehmenden Verbreitung von KI in geschäftskritischen Prozessen steigen die Anforderungen an Transparenz, Nachvollziehbarkeit und Risikomanagement. Unternehmen müssen nicht nur definieren, wie KI eingesetzt werden darf, sondern auch belegen können, dass Systeme die festgelegten Anforderungen tatsächlich erfüllen.

AI Governance schafft den organisatorischen Rahmen, AI Safety implementiert Schutzmaßnahmen und Testing überprüft das Verhalten von Systemen. Ergänzend dazu gewinnt AI Assurance an Bedeutung: die unabhängige Bewertung von Risiken, Kontrollen und Systemverhalten.

"Gute AI Governance definiert die richtigen Regeln. Entscheidend ist aber, ob wir auch belegen können, dass KI-Systeme diese Regeln in der Praxis wirklich einhalten", so Weberberger.

Wie TRUSTIFAI Unternehmen unterstützt

Als unabhängiger Spezialist für vertrauenswürdige KI begleitet TRUSTIFAI, ein Joint Venture von TÜV AUSTRIA und dem Software Competence Center Hagenberg (SCCH), Unternehmen entlang des gesamten Lebenszyklus von KI-Systemen. Das Leistungsportfolio umfasst unter anderem:

• Unabhängige AI-Assessments und Audits
• Evaluierung von KI-Risiken und Safety-Maßnahmen
• Validierung von Governance- und Compliance-Anforderungen
• Robustheitsanalysen
• Vorbereitung auf regulatorische Anforderungen wie den EU AI Act
• Aufbau belastbarer Evidenz für interne und externe Stakeholder

Ziel ist es, Vertrauen in KI nicht nur zu behaupten, sondern nachweisbar zu machen. "Unabhängige Evaluierung entwickelt sich zunehmend von einer regulatorischen Anforderung zu einer wirtschaftlichen Notwendigkeit. Unternehmen benötigen belastbare Nachweise darüber, wie ihre KI-Systeme funktionieren, welche Risiken bestehen und wie wirksam Schutzmaßnahmen sind. Genau hier setzt TRUSTIFAI an", erklärt Weberberger.

Die Entwicklungen bei OpenAI und Anthropic zeigen, dass die Branche auf ein neues Verständnis von vertrauenswürdiger KI zusteuert. Mit steigender Leistungsfähigkeit und wachsender Autonomie von KI-Systemen gewinnt die unabhängige Überprüfung von Sicherheit, Robustheit und Compliance weiter an Bedeutung.

"Wer KI erfolgreich skalieren möchte, benötigt nicht nur leistungsfähige Technologie, sondern auch belastbare Evidenz für deren Vertrauenswürdigkeit", so Michael Weberberger abschließend.

trustifai.at

(Ende)