KI-Governance im Unternehmensalltag umsetzen
ISO/IEC 42001 ist eine internationale Norm, die speziell für das Management von Systemen der Künstlichen Intelligenz entwickelt wurde. Die Norm legt die Anforderungen für die Einrichtung, Umsetzung, Pflege und kontinuierliche Verbesserung eines KI-Managementsystems fest. Dabei schafft sie einen Rahmen, der sicherstellt, dass KI-Systeme ethisch einwandfrei, transparent und zuverlässig sind. ISO/IEC 42001 ist für alle Organisationen relevant, die Produkte oder Dienstleistungen verwenden, entwickeln oder anbieten, die Künstliche Intelligenz nutzen.
„Viele Unternehmen, die über eine Anwendung der ISO/IEC 42001 nachdenken, verfügen bereits über etablierte Informationssicherheits-Managementsysteme,“ meint Dr. Ibrahim Halfoui, AI Quality Lead bei TÜV SÜD. „Ein integriertes Managementsystem, das ISO/IEC 42001 mit ISO/IEC 27001 kombiniert, ist nicht nur effizienter auditierbar, sondern schließt auch die entscheidende Lücke: Die Absicherung von Vertraulichkeit, Integrität und Verfügbarkeit durch ISO/IEC 27001 wird durch ISO/IEC 42001 um die nachweisbare Steuerung verantwortlicher Entwicklung und Nutzung von KI ergänzt. Dazu zählen beispielsweise Anforderungen an die Dokumentation von Daten und Modellen, die Nachvollziehbarkeit von Ergebnissen, die Überwachung von Modellveränderungen sowie die Bewertung möglicher Auswirkungen von KI-Anwendungen.“
Praxisbeispiele im Webinar
Wie Unternehmen bestehende Managementsysteme erweitern können, welche Schnittstellen zwischen ISO/IEC 27001 und ISO/IEC 42001 bestehen und welche Erfahrungen Auditoren aus der Praxis mitbringen, erläutern Dr. Ibrahim Halfoui, AI Quality Lead bei TÜV SÜD, und Sebastian Tetzlaff, Lead Auditor ISO/IEC 42001 und ISO/IEC 27001 bei Syngenity, im Webinar „ISO/IEC 42001 verstehen und anwenden“.
Eine Anmeldung für das Webinar ist über diese Seite möglich: tuvsud.com/dede/veranstaltungen/ms/webinar-iso-42001-verstehen
Im Jahr 1866 als Dampfkesselrevisionsverein gegründet, ist TÜV SÜD heute ein weltweit tätiges Unternehmen. Mehr als 30.000 Mitarbeitende sorgen an über 1.000 Standorten in rund 50 Ländern für die Optimierung von Technik, Systemen und Know-how. Sie leisten einen wesentlichen Beitrag dazu, technische Innovationen wie Industrie 4.0, autonomes Fahren oder Erneuerbare Energien sicher und zuverlässig zu machen. tuvsud.com/de
TÜV SÜD
Westendstraße 199
80686 München
Telefon: +49 (89) 5791-0
Telefax: +49 (89) 5791-1551
http://www.tuvsud.com/de
Pressesprecherin
Telefon: +49 (89) 5791-2935
E-Mail: laura.albrecht@tuvsud.com
TÜV SÜD und QuantPi bündeln Kompetenzen für sichere KI
Regulatorische Anforderungen treffen auf neue technologische Realität
Mit dem EU AI Act und der neuen Maschinenverordnung (EU) 2023/1230 steigen die Anforderungen an den Nachweis der Sicherheit KI-basierter Funktionen. Insbesondere wenn KI als Sicherheitskomponente eingesetzt wird oder Sicherheitsfunktionen übernimmt, müssen Hersteller nachweisen, dass die Systeme zuverlässig funktionieren. Für KI-Systeme in regulierten Produkten sieht der EU AI Act entsprechende Anforderungen an die Konformitätsbewertung vor.
Eine zentrale Herausforderung liegt dabei in der Erzeugung belastbarer und nachvollziehbarer Testnachweise. Für KI-basierte Systeme existieren bislang nur begrenzt etablierte Verfahren, die Testergebnisse mit statistischer Aussagekraft, reproduzierbarer Methodik und durchgängiger Nachvollziehbarkeit für eine Konformitätsbewertung nutzbar machen. Gleichzeitig werden internationale Standards für die Verbindung von künstlicher Intelligenz und funktionaler Sicherheit derzeit weiterentwickelt. Dazu gehört unter anderem die ISO/IEC-22440-Reihe, die sich mit Anforderungen und Leitlinien für KI in sicherheitsrelevanten Anwendungen befasst.
Statistische Nachweise statt reiner Benchmark-Werte
Hier setzt die Zusammenarbeit von QuantPi und TÜV SÜD an. Die QuantPi-Plattform ermöglicht es, das Verhalten von KI-Systemen mit statistischen Garantien und definierten Konfidenzgrenzen zu beschreiben. Dadurch entstehen quantifizierbare und reproduzierbare Aussagen über die Leistungsfähigkeit eines KI-Systems, die über klassische Benchmark-Ergebnisse oder qualitative Bewertungen hinausgehen.
Die Methode ist modellunabhängig und erfordert weder Zugriff auf die internen Modellparameter noch auf Trainingsdaten. QuantPi betreibt die Plattform unter einem Qualitätsmanagementsystem, das an ISO/IEC 17025:2017 ausgerichtet ist. Dadurch lassen sich sowohl die Prozesse als auch die erzeugten Ergebnisse nachvollziehen und auditieren. Die Kombination aus statistischer Aussagekraft und einem auditierbaren Prüfprozess schafft damit eine belastbare Grundlage für die Nutzung der Testergebnisse als Nachweis im Rahmen von Konformitätsbewertung und Zertifizierung.
„QuantPi hat die Fähigkeit unter Beweis gestellt, hochwertige und wissenschaftlich belastbare Ergebnisse für KI-Tests zu liefern. Damit ergänzt das Unternehmen unser KI-Test- und Zertifizierungsprogramm in idealer Weise“, sagt Benedikt Pulver, Head of Machine Safety bei TÜV SÜD. „Durch die Zusammenarbeit verbinden wir unsere jeweiligen Kompetenzen, um auch hochkomplexe KI-Systeme zu bewerten und unseren Kunden einen klaren Weg zu einer künftigen Zertifizierung und Konformitätsbewertung zu eröffnen.“
Philipp Adamidis, CEO und Co-Founder von QuantPi, ergänzt: „Unternehmen, die KI-basierte Produkte und Dienstleistungen für regulierte Märkte und sicherheitskritische Anwendungen entwickeln, stehen häufig vor derselben Herausforderung: Ihre Systeme funktionieren wie vorgesehen, doch es fehlen belastbare Nachweise, die den Anforderungen einer Zertifizierungsstelle entsprechen. Mit der formalen Anerkennung der von QuantPi erzeugten Nachweise durch eine für die Maschinenregulierung zuständige Benannte Stelle entsteht für Unternehmen ein klarer und praktikabler Weg, KI-Systeme systematisch zu testen und die Ergebnisse für die Konformitätsbewertung zu nutzen.“
Physical AI stellt KI-Sicherheit vor besondere Herausforderungen
Besonders relevant ist die neue Testmethodik für Physical AI, autonome Maschinen und Robotik. Humanoide Roboter, autonome mobile Roboter (AMR) und andere KI-basierte Maschinen bewegen sich in dynamischen Umgebungen und interagieren mit Menschen. Ihr möglicher Betriebsraum lässt sich nur begrenzt vollständig abbilden und testen.
Statistische Verfahren können hier eine wichtige Grundlage schaffen, um aus einer definierten Zahl von Tests belastbare Aussagen über das Verhalten eines Systems abzuleiten. Dies gewinnt mit der zunehmenden Verbreitung autonomer Systeme weiter an Bedeutung.
Parallel dazu entstehen neue internationale Ansätze, um künstliche Intelligenz und funktionale Sicherheit methodisch miteinander zu verbinden. Die derzeit in Entwicklung befindliche ISO/IEC-22440-Reihe adressiert unter anderem Anforderungen und Leitlinien für den Einsatz von KI in sicherheitsrelevanten Funktionen.
„Die Entwicklung hin zu Physical AI verändert die Anforderungen an Sicherheit grundlegend. KI-Systeme übernehmen zunehmend Aufgaben, die unmittelbar mit der physischen Welt verbunden sind“, sagt Benedikt Pulver. „Für Hersteller wird es deshalb entscheidend sein, Sicherheit messbar, nachvollziehbar und über den gesamten Bewertungsprozess hinweg belastbar nachweisen zu können.“
Gemeinsamer Rahmen für KI-Tests und Zertifizierung
Mit ihrer Zusammenarbeit bündeln QuantPi und TÜV SÜD ihre jeweiligen Kompetenzen zu einem umfassenden Rahmenwerk für die effiziente, robuste, transparente und nachvollziehbare Bewertung von KI-Systemen. Das Framework unterstützt sowohl die strukturierte Durchführung von KI-Tests als auch die Vorbereitung der Ergebnisse auf eine anschließende Konformitätsbewertung und Zertifizierung.
Der erste Schwerpunkt liegt auf Physical AI und regulierten industriellen Anwendungen. In diesem Bereich treffen die zunehmende Marktreife KI-basierter Produkte und Robotik auf besonders hohe Anforderungen an Sicherheit und Nachweisführung.
Die Zusammenarbeit ist zugleich in das wachsende internationale Ökosystem für Physical-AI-Sicherheit eingebettet. TÜV SÜD und QuantPi sind Mitglieder des NVIDIA Halos-Ökosystems. Halos ist eine umfassende Safety-Plattform für Physical AI und stellt mit dem AI Systems Inspection Lab ein ANAB-akkreditiertes Inspektionsprogramm für AI Functional Safety in Physical AI bereit. Das Ziel besteht darin, die Bewertung von Sicherheitssystemen zu strukturieren und den Weg zur Prüfung durch unabhängige Stellen zu ebnen.
Damit entsteht ein zunehmend geschlossenes Ökosystem: KI-Systeme werden entwickelt, systematisch getestet, ihre Ergebnisse statistisch abgesichert und für die anschließende unabhängige Bewertung vorbereitet.
Vertrauen in KI wird messbar
Mit dem zunehmenden Einsatz von KI verlagert sich die Frage nach Sicherheit und Vertrauen zunehmend in die technische Infrastruktur von Produkten. Für Hersteller wird es somit immer wichtiger, die Leistungsfähigkeit und das Verhalten ihrer KI-Systeme mit belastbaren Daten nachweisen zu können. TÜV SÜD und QuantPi schaffen hierfür einen konkreten Ansatz: KI-Sicherheit wird messbar, nachvollziehbar und somit für regulierte Märkte besser nutzbar. Dies kann insbesondere für europäische Hersteller von Bedeutung sein, die KI-basierte Produkte sicher, konform und skalierbar in internationale Märkte bringen wollen.
Über QuantPi
QuantPi validiert KI im Unternehmenseinsatz. Die QuantPi-Plattform zeigt Kunden, was ein KI-System tatsächlich tut, bei jedem Modell, jeder Modalität, agentisch oder physisch, und das ohne Zugriff auf Modellinterna oder Trainingsdaten. Zugleich beziffert QuantPi, wie belastbar das Ergebnis ist: statistische Konfidenzintervalle für jeden Messwert, erzeugt in der Umgebung des Kunden. QuantPi ist eine Ausgründung des CISPA Helmholtz-Zentrums für Informationssicherheit und von TÜV SÜD als Prüflabor für KI anerkannt. Das Unternehmen hat seinen Sitz in Saarbrücken. quantpi.com
Weitere Informationen:
• tuvsud.com/de-de/dienstleistungen/produktpruefung-und-produktzertifizierung/eu-ai-act
• tuvsud.com/de-de/themen/kuenstliche-intelligenz
Im Jahr 1866 als Dampfkesselrevisionsverein gegründet, ist TÜV SÜD heute ein weltweit tätiges Unternehmen. Mehr als 30.000 Mitarbeitende sorgen an über 1.000 Standorten in rund 50 Ländern für die Optimierung von Technik, Systemen und Know-how. Sie leisten einen wesentlichen Beitrag dazu, technische Innovationen wie Industrie 4.0, autonomes Fahren oder Erneuerbare Energien sicher und zuverlässig zu machen. tuvsud.com/de
TÜV SÜD
Westendstraße 199
80686 München
Telefon: +49 (89) 5791-0
Telefax: +49 (89) 5791-1551
http://www.tuvsud.com/de
Pressesprecher
Telefon: +49 (89) 5791-1592
E-Mail: Dirk.Moser-Delarami@tuvsud.com
Software-Escrow als Baustein für Business Continuity, Governance und Investitionsschutz
Digitale Resilienz als strategische Managementaufgabe
In industriellen Wertschöpfungsketten, der Medizintechnik oder im Energiesektor ist Software heute integraler Bestandteil von Produktion, Betrieb und Service. Gleichzeitig bestehen häufig enge Abhängigkeiten von einzelnen Herstellern oder proprietären Anwendungen. Fällt der Anbieter aus oder steht die Weiterentwicklung der Software nicht mehr zur Verfügung, kann dies unmittelbare Auswirkungen auf Geschäftsabläufe, Lieferfähigkeit und Sicherheit haben.
Software-Escrow-Vereinbarungen schaffen hier eine strukturierte Vorsorge: Der Quellcode sowie relevante Dokumentationen werden bei einer unabhängigen Instanz wie TÜV SÜD hinterlegt und können unter definierten Bedingungen an den Lizenznehmer freigegeben werden. Unternehmen erhalten so eine zusätzliche Absicherung für den Weiterbetrieb und die Wartung geschäftskritischer Anwendungen. Neben dem Quellcode können auch Build-Umgebungen, Konfigurationsdateien, Installationsroutinen und technische Dokumentationen Bestandteil der Hinterlegung sein.
„Digitale Resilienz bedeutet heute auch, Abhängigkeiten von Softwarelieferanten aktiv zu managen“, sagt Kristijan Cizmar, Head of Department Cyber, Software & New Energy bei TÜV SÜD. „Professionell strukturierte Escrow-Modelle helfen Unternehmen, den Geschäftsbetrieb auch in außergewöhnlichen Situationen aufrechtzuerhalten.“
Wachsende Bedeutung im regulatorischen Umfeld
Parallel zur zunehmenden Digitalisierung steigt der regulatorische Druck auf Organisationen, ihre IT-Risiken systematisch zu steuern. Neue und erweiterte Anforderungen an Resilienz, Ausfallsicherheit und Lieferkettenkontrolle erhöhen die Relevanz strukturierter Vorsorgemaßnahmen im Softwarebereich.
Vor diesem Hintergrund gewinnt Software-Escrow als Bestandteil eines ganzheitlichen
IT-Risikomanagements an Bedeutung. Die Hinterlegung kritischer Software-Artefakte kann Unternehmen dabei unterstützen, Risiken in der digitalen Lieferkette transparent zu adressieren und organisatorische Vorsorgekonzepte zu stärken. Zugleich schafft die dokumentierte Hinterlegung nachvollziehbare Prozesse für Audit- und Compliance-Nachweise.
Vertrauens- und Investitionsschutz im B2B-Softwaregeschäft
Neben Aspekten der Betriebssicherheit spielt Software-Escrow auch im B2B-Geschäft eine zunehmend wichtige Rolle als vertrauensbildende Maßnahme zwischen Softwareanbieter und Anwender. Gerade bei langfristigen Projekten, komplexen Integrationen oder individuell entwickelten Anwendungen wird die Hinterlegung von Software zunehmend Bestandteil vertraglicher Vereinbarungen.
Für Anwender bedeutet dies Schutz ihrer Investitionen in geschäftskritische Systeme. Anbieter wiederum können durch transparente Absicherungsmechanismen Vertrauen bei Kunden und Partnern schaffen und ihre Wettbewerbsfähigkeit stärken. „Software ist für viele Unternehmen ein zentraler Bestandteil ihrer Wertschöpfung, da deren Ausfall die Geschäftskontinuität gefährden kann“, so Cizmar. „Eine unabhängige Hinterlegung schafft Planungssicherheit für beide Seiten und unterstützt langfristig stabile Geschäftsbeziehungen.“
Unabhängige Hinterlegung und strukturierte Freigabeprozesse
Als unabhängiger Dritter übernimmt TÜV SÜD die strukturierte Hinterlegung von Software oder anderen Dokumenten sowie die Verwaltung und Freigabeprozesse gemäß den im Vorfeld vertraglich definierten Bedingungen der Hinterlegungsvereinbarung zwischen Hinterleger und Hinterlegungsbegünstigtem sowie TÜV SÜD. Neben der sicheren Verwahrung umfasst die Dienstleistung auch optionale technische Prüfungen und Validierungen der hinterlegten Software-Artefakte. Diese können beispielsweise Vollständigkeitsprüfungen, Integritätskontrollen, Virenprüfungen sowie funktionale Verifizierungen der hinterlegten Software umfassen.
Durch die Kombination aus technischer Expertise, rechtlichem und regulatorischem Verständnis sowie der neutralen Rolle als unabhängige Instanz positioniert sich TÜV SÜD als technischer Treuhänder für Unternehmen, die ihre digitalen Abhängigkeiten systematisch absichern möchten. Die strukturierte Verwaltung der Hinterlegungen sowie klar geregelte Aktualisierungsprozesse stellen sicher, dass hinterlegte Software oder andere Dokumente nachvollziehbar und im Bedarfsfall nutzbar sind.
Weitere Informationen:
• Hinterlegung von Software (Escrow)
Im Jahr 1866 als Dampfkesselrevisionsverein gegründet, ist TÜV SÜD heute ein weltweit tätiges Unternehmen. Rund 30.000 Mitarbeitende sorgen an über 1.000 Standorten in rund 50 Ländern für die Optimierung von Technik, Systemen und Know-how. Sie leisten einen wesentlichen Beitrag dazu, technische Innovationen wie Industrie 4.0, autonomes Fahren oder Erneuerbare Energien sicher und zuverlässig zu machen. tuvsud.com/de
TÜV SÜD
Westendstraße 199
80686 München
Telefon: +49 (89) 5791-0
Telefax: +49 (89) 5791-1551
http://www.tuvsud.com/de
Pressesprecher
Telefon: +49 (89) 5791-1592
E-Mail: Dirk.Moser-Delarami@tuvsud.com
Ist Unternehmens-KI vertrauenswürdig?
„Schon ein einzelner KI-Vorfall kann heute ausreichen, um Vertrauen bei Kunden oder Investoren nachhaltig zu erschüttern“, erklärt Thomas Janz, Product Compliance Manager IT‑Standards bei TÜV SÜD. „Deshalb brauchen Unternehmen einen Governance-Ansatz, der KI-Risiken von Beginn an sichtbar macht und während des gesamten KI-Lebenszyklus zuverlässig steuert. Die ISO/IEC 42001 setzt genau hier an.“
Vertrauen während des gesamten KI-Lebenszyklus
Das Prinzip „Trust by Design“ folgt einer klaren Management‑Logik: Vertrauen in KI darf nicht vom Zufall oder einzelnen Projekten abhängen, sondern muss von Anfang an strukturell im Unternehmen verankert werden. Dazu gehören die Komponenten Fairness, Transparenz, Verantwortlichkeit und ethisches Handeln. Eine vertrauenswürdige KI muss somit sowohl technisch als auch sozioorganisatorisch umgesetzt werden.
Von Compliance zu wirtschaftlicher Absicherung
Die ISO/IEC 42001 übersetzt dieses Prinzip in konkrete, prüfbare Managementanforderungen. Sie adressiert nicht einzelne KI-Systeme oder Anwendungen, sondern die gesamte Governance-Fähigkeit der Organisation, von der Verantwortung der Führungsebene über das Risikomanagement und wirksame Kontrollmechanismen bis hin zu kontinuierlichen Verbesserungsprozessen. Das Ergebnis: geringeres Haftungs- und Reputationsrisiko, schnellerer Marktzugang und ein starkes Vertrauenssignal für Kunden und Partner.
Wie Unternehmen Trust by Design pragmatisch umsetzen
Das neue TÜV SÜD Whitepaper macht deutlich, dass der Einstieg in ISO/IEC 42001 kein technisches Projekt ist, sondern ein Management-Vorhaben mit Menschen, Prozessen und Technologien. Eine strukturierte Vorgehensweise hilft bei seiner Umsetzung:
- Verantwortung klar festlegen
KI-Governance muss als strategische Aufgabe verankert werden. - Transparenz über den KI-Einsatz schaffen
Eine klare Definition, welche KI-Systeme in den Governance-Anwendungsbereich fallen, schafft Transparenz. Was sind die technischen, ethischen und regulatorischen Faktoren? - Geschäftsrelevante KI-Risiken bewerten
Die Kriterien Fairness, Transparenz, mögliche Voreingenommenheit und StakeholderAuswirkungen werden im Rahmen der Risikoanalyse bewertet. - Governance-Maßnahmen im gesamten KI-Lebenszyklus
Maßnahmen werden entwickelt und an bestehende Management-Frameworks angeglichen. Ebenso werden Überwachungs- und Validierungsmechanismen über den gesamten KI-Lebenszyklus implementiert. - Aufbau einer verantwortungsvollen KI-Kultur
Mitarbeitende und relevante Partner werden durch gezielte Schulungen eingebunden. - Regelmäßig überprüfen und verbessern
KI‑Governance wird in den Management‑Zyklus integriert; regelmäßige Audits und eine mögliche Zertifizierung sichern kontinuierliche Verbesserungen
„Viele Unternehmen beginnen ihre KI‑Governance bei besonders geschäftskritischen Anwendungen“, so Janz. „Wesentlich ist jedoch, Vertrauen systematisch und langfristig aufzubauen. Gerade in einer Zeit, in der Vertrauen über Marktchancen, Haftungsrisiken und den Unternehmenswert entscheidet, wird KI‑Governance nach ISO/IEC 42001 zu einem zentralen Element moderner Unternehmensführung.“
Das Whitepaper „Trust by Design: Aufbau einer KI-Governance mit der ISO/IEC 42001:2023“ mit vielen Best Practices gibt es hier zum Download: tuvsud.com/de-de/wissenswert/whitepaper/iso-42001
Im Jahr 1866 als Dampfkesselrevisionsverein gegründet, ist TÜV SÜD heute ein weltweit tätiges Unternehmen. Rund 30.000 Mitarbeitende sorgen an über 1.000 Standorten in rund 50 Ländern für die Optimierung von Technik, Systemen und Know-how. Sie leisten einen wesentlichen Beitrag dazu, technische Innovationen wie Industrie 4.0, autonomes Fahren oder Erneuerbare Energien sicher und zuverlässig zu machen. tuvsud.com/de
TÜV SÜD
Westendstraße 199
80686 München
Telefon: +49 (89) 5791-0
Telefax: +49 (89) 5791-1551
http://www.tuvsud.com/de
Pressesprecherin
Telefon: +49 (89) 5791-2935
E-Mail: laura.albrecht@tuvsud.com
Digitalisierung richtig machen – CDE als strategische Datenplattform nutzen
Digitalisierung und Informationsmanagement stehen im Zentrum moderner Bau- und Infrastrukturprojekte. Mit zunehmender Komplexität der Vorhaben wächst der Bedarf an einer zuverlässigen und strukturierten Datenbasis. Ein Common Data Environment bietet eine zentrale Plattform zur strukturierten Erfassung, Verwaltung und Bereitstellung von projektbezogenen Informationen – von der Planung über den Bau bis zum Betrieb.
Die internationale Normenreihe ISO 19650 liefert die definitorische und prozessuale Grundlage für den Umgang mit Informationen im Bauwesen und damit für den Aufbau sowie den Einsatz eines funktionalen CDE. Ein CDE nach ISO 19650 bietet eine strukturierte Arbeitsumgebung für den gesamten Informationsfluss eines Projekts und ist damit auch der methodische Rahmen für die Zusammenarbeit aller Beteiligten auf Basis klar geregelter Prozesse und Rollen.
Das TÜV SÜD Whitepaper „CDE richtig machen mit Klarheit, Struktur und Unterstützung“ zeigt den Mehrwert eines CDE auf, benennt die wichtigsten „Stolpersteine“ bei der Einführung, gibt Hinweise zur Auswahl einer passenden CDE-Lösung auf Basis der DIN SPEC 91391 und informiert über die systemneutrale CDE-Beratung von TÜV SÜD.
Autor des Whitepapers ist Sebastian Bolle, Consultant Digital Transformation der TÜV SÜD Advimo GmbH – mit Beratungsschwerpunkt in den Bereichen CDE, Informationsmanagement, Digitalisierung und Prozessautomatisierung und Fokus auf der strategischen Einführung digitaler Informationsstrukturen – die in der Praxis funktionieren.
Das Whitepaper „CDE richtig machen mit Klarheit, Struktur und Unterstützung“ kann unter tuvsud.com/de-de/wissenswert/white-paper/common-data-environment angefordert werden.
Im Jahr 1866 als Dampfkesselrevisionsverein gegründet, ist TÜV SÜD heute ein weltweit tätiges Unternehmen.
Rund 30.000 Mitarbeitende sorgen an über 1.000 Standorten in rund 50 Ländern für die Optimierung von Technik, Systemen und Know-how. Sie leisten einen wesentlichen Beitrag dazu, technische Innovationen wie Industrie 4.0, autonomes Fahren oder Erneuerbare Energien sicher und zuverlässig zu machen. tuvsud.com/de
TÜV SÜD
Westendstraße 199
80686 München
Telefon: +49 (89) 5791-0
Telefax: +49 (89) 5791-1551
http://www.tuvsud.com/de
Pressesprecher
Telefon: +49 (89) 5791-2372
Fax: +49 (89) 5791-2269
E-Mail: thomas.oberst@tuvsud.com
AI Act Risk Navigator für Künstliche Intelligenz bei TÜV SÜD
Hilfe bei der Klassifizierung von KI-Anwendungen nach dem EU AI Act
Der AI Act Risk Navigator schlüsselt die gesetzliche Grundlage in anwenderfreundliche Multiple-Choice-Fragen auf. Verweise auf den zugrundeliegenden Gesetzestext und weitere Detailinformationen unterstützen beim Verständnis der Fragen. Der AI Act Risk Navigator hat den Anspruch, die regulatorische Grundlage der KI-Verordnung mit hoher juristischer Präzision abzubilden und diese gleichzeitig niedrigschwellig für Nutzergruppen ohne ausgeprägte juristische Fachkenntnisse zugänglich zu machen. Das Klassifizierungs-Tool hilft Unternehmen zu verstehen, ob und wie sie von der KI-Verordnung betroffen sind, ersetzt aber keine rechtliche Prüfung.
KI-Risikoklassen mit unterschiedlichen Anforderungen
Unternehmen, die KI-Systeme entwickeln oder einsetzen, müssen die Anforderungen der EU KI-Verordnung künftig mitdenken: Die Regulierung der Europäischen Union stuft KI-Anwendungen in 4 Risikoklassen mit jeweils unterschiedlichen Auflagen und Anforderungen ein, die abgestuft in den kommenden Monaten zur Anwendung kommen: KI-Systeme mit inakzeptablem Risiko sind beispielsweise seit Februar 2025 verboten.
Transparenz, Sicherheit und Überwachung
Hochrisikosysteme, die etwa im medizinischen Sektor, in kritischen Infrastrukturen oder im Personalmanagement eingesetzt werden, unterliegen in Zukunft strengen Auflagen und müssen umfassende Anforderungen an Transparenz, Sicherheit und Überwachung erfüllen. Für Verstöße drohen Geldbußen bis zu 15 Millionen Euro oder bis zu 3 Prozent des globalen Jahresumsatzes. Systeme mit begrenztem Risiko, wie etwa Chatbots, müssen Transparenzanforderungen befolgen, während Systeme mit minimalem Risiko, wie einfache Spiele, kaum reguliert werden. Die risikobasierte Klassifizierung soll sicherstellen, dass der Einsatz von KI sicher und vertrauenswürdig ist, ohne die Innovationskraft der Technologie zu hemmen.
TÜV SÜD und KI
TÜV SÜD beschäftigt sich seit vielen Jahren mit Künstlicher Intelligenz. Von der Idee autonom fahrender Fahrzeuge bis zu den ersten Zulassungen – TÜV SÜD begleitete die Prozesse. TÜV SÜD-Experten haben bereits in 2020 einen KI-Qualitätsrahmen entwickelt, der rechtliche Anforderungen weltweit und Qualitätskriterien vereint. Neben Schulungen rund um Künstliche Intelligenz bieten der Dienstleister auch Qualitäts- und Risiko-Assessments an und Zertifizierungen nach internationalen Standards wie der ISO 42001 oder dem IEEE-Programm CertifAIEdTM, das weltweit erste Zertifizierungsprogramm zur Bewertung ethischer Aspekte von KI-Systemen. Mehr Informationen rund um die KI-Angebote von TÜV SÜD erfahren Sie hier tuvsud.com/ki oder per E-Mail: ai@tuvsud.com.
TÜV AI.Lab – Katalysator für sichere KI-Anwendungen
Das TÜV AI.Lab wurde im Oktober 2023 als eigenständiges Joint Venture der TÜV-Unternehmen TÜV SÜD, TÜV Rheinland, TÜV NORD, TÜV Hessen und TÜV Thüringen gegründet. Das TÜV AI.Lab hat zum Ziel, die regulatorischen Anforderungen an KI in die Praxis zu übersetzen und Europa zum Hotspot für sichere und vertrauenswürdige KI zu machen. Hierfür entwickelt es quantifizierbare Konformitätskriterien und geeignete Prüfmethoden für KI. Zudem unterstützt das AI.Lab aktiv die Entwicklung von Standards und Normen für KI-Systeme. tuev-lab.ai/ und tuev-risk-navigator.ai/
TÜV SÜD
Westendstraße 199
80686 München
Telefon: +49 (89) 5791-0
Telefax: +49 (89) 5791-1551
http://www.tuvsud.com/de
Pressesprecherin
Telefon: +49 (89) 5791-2935
Fax: +49 (89) 5791-2269
E-Mail: heidi.atzler@tuvsud.com
Neues TÜV SÜD-Prüfzeichen für KI mit geringem Risiko
Mit der EU-Verordnung 2024/1689 (auch „AI Act“ genannt) führt Europa erstmals einheitliche Vorgaben für Künstliche Intelligenz (KI) ein, die sich nach dem Risiko der jeweiligen Anwendung richten. Für Systeme mit geringem Risiko bestehen dabei keine gesetzlichen Prüfpflichten. Dennoch wächst der Bedarf nach Orientierung und Vertrauensbildung. „Viele Unternehmen wollen schon heute Verantwortung übernehmen und ihre KI-Systeme freiwillig bewerten lassen, auch wenn sie dazu nicht verpflichtet sind“, sagt Benedikt Pulver, Head of the Machine Safety Department bei TÜV SÜD. „Unser neues Prüfzeichen macht genau das sichtbar – nachvollziehbar, strukturiert und auf Basis technischer Kriterien.“
Ziel: Transparenz für Fachwelt und Nutzer
Das neue TÜV SÜD-Prüfzeichen soll einerseits Fachkunden eine objektive Bewertungsgrundlage liefern und andererseits aber auch Endnutzer ansprechen, etwa bei automatisierten Gebäudefunktionen oder Robotikanwendungen im Handel oder der Logistik. Grundlage sind anwendungsspezifische Prüfprogramme, die beispielsweise Energieeffizienz, Robustheit, Datenverarbeitung und funktionale Sicherheit berücksichtigen. Ein konkretes Beispiel sind autonome mobile Roboter, die sich innerhalb von Werkshallen untereinander abstimmen, um Wege zu optimieren. Solche Systeme gelten als „Low Risk“ nach dem AI Act – das neue TÜV SÜD-Prüfzeichen bestätigt, dass sie zusätzlich nach nachvollziehbaren Maßstäben bewertet wurden.
Freiwilligkeit mit Signalwirkung
Das Prüfzeichen ist Teil eines modularen Konzepts, das auch künftige Entwicklungen berücksichtigt, etwa eine freiwillige Selbstverpflichtung der Hersteller gemäß Artikel 69 AI Act. „Wir glauben, dass Vertrauen in KI nicht allein durch Regulierung entsteht“, so Benedikt Pulver weiter. „Freiwillige Zertifizierungen setzen ein starkes Zeichen für Qualität und Verantwortung – gerade dort, wo es (noch) keine Vorschriften gibt.“
Das Prüfzeichen ist in deutscher und englischer Sprache verfügbar und kann auf Wunsch auch mit ergänzenden Verbraucherinformationen versehen werden.
Weitere Informationen:
• Prüfung von Robotern und Robotersteuerungen | TÜV SÜD
1 Wie beispielsweise die Aufzeichnungspflichten bzw. die Überwachung des Betriebs von Hochrisiko-KI-Systemen.
Im Jahr 1866 als Dampfkesselrevisionsverein gegründet, ist TÜV SÜD heute ein weltweit tätiges Unternehmen. Rund 30.000 Mitarbeitende sorgen an über 1.000 Standorten in rund 50 Ländern für die Optimierung von Technik, Systemen und Know-how. Sie leisten einen wesentlichen Beitrag dazu, technische Innovationen wie Industrie 4.0, autonomes Fahren oder Erneuerbare Energien sicher und zuverlässig zu machen. tuvsud.com/de
TÜV SÜD
Westendstraße 199
80686 München
Telefon: +49 (89) 5791-0
Telefax: +49 (89) 5791-1551
http://www.tuvsud.com/de
Pressesprecher
Telefon: +49 (89) 5791-1592
Fax: +49 (89) 5791-2269
E-Mail: Dirk.Moser-Delarami@tuvsud.com
Künstliche Intelligenz: Weiterbildungen und Seminare der TÜV SÜD Akademie
„Das Tempo, in dem sich KI weiterentwickelt, ist enorm. Hinzu kommt mit dem EU AI Act eine komplexe regulatorische Grundlage und mit der ISO 42001 für KI Managementsysteme eine immer wichtiger werdende Norm“, meint Peter Sakal, Produktverantwortlicher bei der TÜV SÜD Akademie. „Damit Unternehmen den größtmöglichen Mehrwert mithilfe von KI generieren können, schulen wir Mitarbeitende zielgruppengerecht, praxisorientiert und rechtssicher.“
EU AI Act, ISO 42001 und Zertifikat für KI-Praktiker
Der EU AI Act ist ein komplexes Regelwerk. Um es zu verstehen, bietet die TÜV SÜD Akademie eine entsprechende Schulung an. Wer zusätzlich das Training zur ISO 42001 besucht, ist gut gerüstet, um KI zukunftssicher im Unternehmen zu verankern.
Doch das Schulungsangebot der TÜV SÜD Akademie vermittelt nicht nur Fachkompetenz sondern auch ganz allgemeines KI-Wissen: Im Angebot ist unter anderem eine Online-Schulung zu Prompt Engineering und Workflow-Optimierung.
Auch eine Zertifizierung ist bei der TÜV SÜD Akademie möglich: KI-Praktiker können sich als AI Quality Engineer – AIQCP Level 1 zertifizieren lassen. Die Zertifizierung gilt als Nachweis für KI-Kompetenz und bereitet Absolventen darauf vor, Verantwortung im KI- und Daten-Qualitätsmanagement zu übernehmen.
KI in Medizintechnik und Automotive
Im branchenspezifischen Training „KI in der Medizintechnik“ erlangen die Teilnehmenden einen Überblick über die Grundlagen von KI und maschinellem Lernen in der Medizin sowie über regulatorische Anforderungen durch MDR, IVDR und FDA. Strategien für Sicherheits- und Risikomanagement bei KI-basierten Medizinprodukten und Methoden zur Integration von KI in die Produktentwicklung und in das Qualitätsmanagement sind weitere Inhalte des Trainings.
Auch im Training für die Automobilindustrie steht die Praxis im Mittelpunkt: Anhand von Fallbeispielen und einem interaktiven Experiment können Teilnehmende die Herausforderungen und Potenziale von KI greifbar nachvollziehen. Mit diesem Grundlagen-Seminar verstehen Teilnehmende, wie sie KI-Projekte in ihrem eigenen Unternehmen in der Automobilbranche umsetzen.
KI für Marketing und Sales
Ein spezieller Workshop für Marketing- und Sales-Verantwortliche gibt Einblicke in aktuelle KI-Tools – von der Lead-Generierung über die Kundenansprache bis zur Erfolgsmessung. Interaktive Übungen und Diskussionen helfen dabei, Ansatzpunkte für innovative eigene Marketing- und Sales-Aktivitäten zu entwickeln.
Eine Übersicht über alle KI-Schulungstermine und detaillierte Kursinhalte finden Sie unter tuvsud.com/de-de/store/akademie/seminare-management/kuenstliche-intelligenz.
Im Jahr 1866 als Dampfkesselrevisionsverein gegründet, ist TÜV SÜD heute ein weltweit tätiges Unternehmen. Rund 30.000 Mitarbeitende sorgen an über 1.000 Standorten in rund 50 Ländern für die Optimierung von Technik, Systemen und Know-how. Sie leisten einen wesentlichen Beitrag dazu, technische Innovationen wie Industrie 4.0, autonomes Fahren oder Erneuerbare Energien sicher und zuverlässig zu machen. tuvsud.com/de
TÜV SÜD
Westendstraße 199
80686 München
Telefon: +49 (89) 5791-0
Telefax: +49 (89) 5791-1551
http://www.tuvsud.com/de
Pressesprecherin
Telefon: +49 (89) 5791-2935
Fax: +49 (89) 5791-2269
E-Mail: laura.albrecht@tuvsud.com
Mit TÜV SÜD NIS 2- und DORA-Konformität erreichen
„Schätzungen gehen davon aus, dass EU-weit mehr als 100.000 Organisationen allein von NIS-2 betroffen sind“, meint Richard Skalt, Advocacy Manager Cybersecurity Office bei TÜV SÜD. „Selbst auf Organisationen mit Firmensitz außerhalb der EU können diese Regulierungen Auswirkungen haben. Auch wenn sich in vielen Mitgliedsstaaten die Umsetzung verzögert, stellen sich viele Unternehmen die Frage, wie sie sicherstellen können, dass sie die gesetzlichen Vorgaben erfüllen und mithilfe welcher Maßnahmen sie ihre Cyber-Resilienz nachhaltig verbessern können.“
Was ist DORA?
Der Digital Operational Resilience Act kommt seit dem 17. Januar dieses Jahres voll zur Anwendung. Er betrifft alle Finanzinstitute in der EU und deren kritische IT-Service-Provider. DORA fordert bestimmte Risikomanagementmaßnahmen, wie beispielsweise ein Risk Assessment durch Dritte. Auch IT-Service-Provider mit Sitz außerhalb der EU können durch die nationalen Aufsichtsbehörden aufgefordert werden, eine Niederlassung in der EU zu eröffnen. Organisationen, die die Vorgaben nicht erfüllen, müssen mit hohen Geldstrafen rechnen.
Was ist NIS2?
Die europäische Richtlinie zur Sicherheit von Netz- und Informationssystemen, kurz NIS-2, verlangt, dass Organisationen in kritischen Sektoren geeignete Sicherheitsmaßnahmen ergreifen, um die Risiken für ihre Systeme zu minimieren. Eine Nichteinhaltung kann verschiedene negative Folgen – wie finanzielle Strafen, Cybersecurity-Risiken oder Probleme bei Geschäftsbeziehungen – mit sich ziehen. Betroffen sind Unternehmen in kritischen Bereichen wie der Energieversorgung, im Gesundheitswesen oder Transport.
Die Rolle von ISO-Standards
Viele der von NIS 2 und DORA betroffenen Organisationen sind bereits nach den international weit verbreiteten Cybersicherheits-Standards ISO 27001 und IEC 62443 zertifiziert. ISO 27001 hilft bei der Einrichtung und Aufrechterhaltung eines effektiven Informationssicherheits-Managementsystems (ISMS). In Unternehmen, in denen OT-Sicherheit eine wichtige Rolle spielt, ist auch die internationale Normenreihe IEC 62443 relevant.
„ISO-Standards helfen Unternehmen bei der Erfüllung der Vorgaben von NIS2 und DORA“, meint Skalt. „ISO 27001-zertifizierte Unternehmen müssen beispielsweise ein effektives Risikomanagement von Lieferanten und Dienstleistern nachweisen, wie es in NIS-2 gefordert wird.“
Das TÜV SÜD Webinar „Ensuring Cyber Resilience – Navigating NIS2 and DORA Compliance Across Critical Sectors” findet am 25. Februar um 10 Uhr statt. Eine Anmeldung ist unter tuvsud.com/en-in/resource-centre/webinar/nis2 möglich.
Im Jahr 1866 als Dampfkesselrevisionsverein gegründet, ist TÜV SÜD heute ein weltweit tätiges Unternehmen. Mehr als 28.000 Mitarbeitende sorgen an über 1.000 Standorten in rund 50 Ländern für die Optimierung von Technik, Systemen und Know-how. Sie leisten einen wesentlichen Beitrag dazu, technische Innovationen wie Industrie 4.0, autonomes Fahren oder Erneuerbare Energien sicher und zuverlässig zu machen. tuvsud.com/de
TÜV SÜD
Westendstraße 199
80686 München
Telefon: +49 (89) 5791-0
Telefax: +49 (89) 5791-1551
http://www.tuvsud.com/de
Pressesprecher
Telefon: +49 (89) 5791-2372
Fax: +49 (89) 5791-2269
E-Mail: thomas.oberst@tuvsud.com
Gebäudeenergiegesetz fordert Gebäudeautomation
Das Gebäudeenergiegesetz 2024 stellt konkrete Anforderungen an technische Anlagen in Nichtwohn-gebäuden: Sie müssen mit einem System für die Gebäudeautomatisierung ausgerüstet sein, wenn die Nennleistung der Heizungsanlage oder der kombinierten Heizungs- und Lüftungsanlage über 290 kW liegt. „Dabei sollen die technischen Anlagen mindestens dem Automatisierungsgrad B der DIN V 15899-11 entsprechen“, sagt Patrick Lützel, Business Development Manager Smart Buildings & Security bei der TÜV SÜD Industrie Service GmbH. Zudem müssen die Betreiber den Anlagenbetrieb in einer kompletten Heiz- und Kühlperiode beobachten und dokumentieren.
Diese Dokumentationspflicht lässt sich nur mit einem entsprechenden Technischen Monitoring erfüllen, wobei das GEG keine konkreten Angaben dazu macht, wie das Monitoring aussehen soll. „Es gibt auch noch keine verbindliche Norm für ein Technisches Monitoring“, erklärt der TÜV SÜD-Experte. Allerdings bieten die VDI-Richtlinie 6041 „Facility Management – Technisches Monitoring von Gebäuden und gebäudetechnischen Anlagen“ und die Empfehlung 158 des Arbeitskreises Maschinen- und Elektrotechnik staatlicher und kommunaler Verwaltungen (AMEV) konkrete Hinweise für den Aufbau eines Monitoringsystems, mit dem die GEG-Anforderungen erfüllt werden können.
„Die Funktionalität der technischen Anlagen nach Inbetriebnahme kann durch ein Anlagen-monitoring nach VDI 6041 nachgewiesen werden, das in der Betriebsphase in einem umfassenderen Technischen Monitoring nach AMEV 158 weitergeführt wird“, so Patrick Lützel. „Die Prüfung der Funktionalität ist unbedingt erforderlich. Sie ist die Basis für die Optimierung der gebäudetechnischen Anlagen im Betrieb.“
TÜV SÜD unterstützt Unternehmen bei der Einführung eines Monitoringsystems mit entsprechenden Bewertungen und Dokumentationen. Die Ergebnisse werden in einem Zwischen- und Abschlussbericht zusammengefasst, zudem ist der Zugriff auf die Daten über ein Dashboard jederzeit möglich. Das Monitoringsystem von TÜV SÜD ist bei der BAFA als förderfähig gelistet. Zu den Leistungen der Expertinnen und Experten gehört auch der Nachweis des Automatisierungsgrades nach DIN V 15899-11, der für die Bundesförderung von effizienten Nichtwohngebäuden (BEG NWG) ausschlaggebend ist.
Sicherheit für Investoren und Käufer
Die Anforderungen des GEG 2024 an die Gebäudeautomatisierung sollten Investoren und Käufer laut Patrick Lützel unbedingt im Blick haben, wenn sie kein Risiko eingehen wollen. Das betrifft nicht nur mögliche Kontrollen durch die zuständigen Behörden, sondern beispielsweise auch Zertifizierungen und Re-Zertifizierungen von Energiemanagementsystemen nach ISO 50001 oder auf der Basis von Nachhaltigkeitssystemen wie BREEAM. Auch hier sind die rechtlichen Anforderungen bezüglich Energieeffizienz und Energieverbrauch und damit auch die Anforderungen des GEG 2024 zu berücksichtigen.
Durch neutrale Bewertungen der Funktionalität der gebäudetechnischen Anlagen und der Ergebnisse des Technischen Monitorings können Bauherren und Bauträger den Wert und die Zukunftsfähigkeit ihrer Projekte dokumentieren.
Weitere Informationen zum Technischen Monitoring und zur Unterstützung durch TÜV SÜD gibt es im Internet unter tuvsud.com/de-buildingautomation
Im Jahr 1866 als Dampfkesselrevisionsverein gegründet, ist TÜV SÜD heute ein weltweit tätiges Unternehmen. Mehr als 28.000 Mitarbeitende sorgen an über 1.000 Standorten in rund 50 Ländern für die Optimierung von Technik, Systemen und Know-how. Sie leisten einen wesentlichen Beitrag dazu, technische Innovationen wie Industrie 4.0, autonomes Fahren oder Erneuerbare Energien sicher und zuverlässig zu machen. tuvsud.com/de
TÜV SÜD
Westendstraße 199
80686 München
Telefon: +49 (89) 5791-0
Telefax: +49 (89) 5791-1551
http://www.tuvsud.com/de
Pressesprecher
Telefon: +49 (89) 5791-2372
Fax: +49 (89) 5791-2269
E-Mail: thomas.oberst@tuvsud.com
