Transparenz für KI: Warum wir eine SBOM for AI brauchen

Transparenz für KI: Warum wir eine SBOM for AI brauchen

Künstliche Intelligenz ist längst kein Zukunftsthema mehr, sondern fester Bestandteil unseres Alltags. In der Industrie, bei öffentlichen Diensten und in digitalen Anwendungen übernehmen KI-Systeme zunehmend wichtige Aufgaben. Gleichzeitig wird ihre technische Basis immer komplexer: KI-Anwendungen bestehen häufig aus mehreren Modellen, Datenquellen, Software-Bibliotheken und Komponenten, deren Herkunft und Zusammensetzung nur schwer nachvollziehbar ist. Genau hier setzt das Konzept einer SBOM for AI an.

Eine SBOM – Software Bill of Materials – ist im Kern eine Zutatenliste für Software. Übertragen auf KI bedeutet das: Es soll transparent werden, welche Modelle, Daten und technischen Abhängigkeiten ein KI-System enthält. Auf dem G7-Arbeitstreffen zur Cybersicherheit im Mai 2025 in Ottawa wurde dieses Konzept als gemeinsamer Vorschlag der Cybersicherheitsbehörden vorgestellt. Das Ziel: mehr Transparenz, mehr Sicherheit und mehr Vertrauen in KI-Systeme.

Wichtigste Erkenntnisse

• Eine SBOM for AI schafft Transparenz über Modelle, Daten und Komponenten eines KI-Systems.

• Sie stärkt die Sicherheit entlang der gesamten KI-Lieferkette und unterstützt bei Audits.

• Die G7-Initiative definiert erste Mindestanforderungen und fördert internationale Standards.

• ISO/IEC 42001 ergänzt die SBOM for AI als Managementrahmen für vertrauenswürdige KI.

Was ist eine SBOM for AI?

Im Vergleich zu klassischer Software ist ein KI-System deutlich schwerer zu durchschauen. Viele Anwendungen basieren auf vortrainierten Modellen, die aus verschiedensten Datenquellen gespeist wurden. Hinzu kommen komplexe Trainings- und Feinabstimmungsprozesse, die oft nur unzureichend dokumentiert oder von außen nicht nachvollziehbar sind. Das erschwert die Bewertung von Qualität, Sicherheit und Vertrauenswürdigkeit.

Eine klassische SBOM, wie sie heute in der Softwareentwicklung genutzt wird, reicht hierfür nicht aus. Sie bildet zwar Abhängigkeiten zwischen Code-Komponenten ab, berücksichtigt aber nicht KI-spezifische Besonderheiten – etwa den Einfluss von Trainingsdaten auf das Modellverhalten oder die fortlaufende Weiterentwicklung durch Nachtraining und Updates.

Deshalb braucht KI eine eigene SBOM. Eine SBOM for AI soll nicht nur technische Komponenten erfassen, sondern Informationen über den gesamten KI-Lebenszyklus abbilden. Nur so lassen sich zentrale Fragen beantworten:

• Woher stammen die Daten?

• Wie wurde das Modell trainiert?

• Welche Risiken bestehen durch mögliche Verzerrungen oder Sicherheitslücken?

Warum braucht KI eine eigene SBOM?

KI kann nur dann vertrauenswürdig sein, wenn Herkunft und Funktionsweise nachvollziehbar sind. Gerade in sicherheitskritischen Bereichen ist es entscheidend zu wissen:

• Welche Komponenten ein KI-System nutzt

• Wie diese zusammenwirken

• Welche Risiken sich daraus ergeben

Angriffe auf Lieferketten – sogenannte Supply-Chain-Angriffe – gehören heute zu den größten Bedrohungen für IT-Systeme. KI bildet hier keine Ausnahme.

Eine SBOM for AI schafft mehr Klarheit. Sie ermöglicht es,

• gezielt nach Schwachstellen zu suchen,

• bekannte Sicherheitslücken schneller zu erkennen,

• Gegenmaßnahmen strukturiert abzuleiten

• und Audits sowie Compliance-Prüfungen deutlich zu vereinfachen.

Wer auf einen Blick sieht, welche Modelle, Datenquellen und Sicherheitsmaßnahmen in einem KI-System eingesetzt werden, kann Risiken wesentlich besser einschätzen und dokumentieren.

Hinzu kommt ein wirtschaftlicher Vorteil: Durch Transparenz steigt die Wiederverwendbarkeit bereits geprüfter Komponenten, was Entwicklungsaufwand und Kosten reduziert. Gleichzeitig unterstützt die SBOM beim Lizenzmanagement und bei der Einhaltung regulatorischer Anforderungen. Für alle Beteiligten im KI-Lebenszyklus – von Entwicklern über Betreiber bis hin zu Prüfinstanzen – bringt sie spürbare Entlastung.

Was soll eine SBOM for AI enthalten?

Damit eine SBOM for AI ihren Zweck erfüllt, muss sie die Besonderheiten von KI-Systemen abbilden. Sie sollte daher nicht nur klassische Angaben wie Komponentenname, Version und Anbieter enthalten, sondern auch Informationen, die speziell für KI relevant sind.

Die G7-Cybersicherheitsgruppe hat in Ottawa eine erste Sammlung von „Minimum Elements“ vorgeschlagen. Sie sollen als Grundlage für eine internationale Standardisierung dienen und unter anderem folgende Punkte umfassen:

• Modelle Informationen über die eingesetzten KI-Modelle, einschließlich Herkunft, Trainingsmethode und vorgesehenem Einsatzzweck.

• Trainingsdaten Beschreibung der Datenquellen, ihrer Qualität, Herkunft und möglicher Verzerrungen.

• Lernprozesse Eingesetzte Techniken, Algorithmen und Datenpipelines im Trainings- und Weiterentwicklungsprozess.

• Sicherheits- und Compliance-Merkmale Hinweise auf getroffene Schutzmaßnahmen, dokumentierte Prüfungen und eingehaltene Sicherheitsstandards.

• Systemverhalten Beschreibung, wie das Modell Daten verarbeitet und wie die verschiedenen Komponenten miteinander verknüpft sind.

• Leistungskennzahlen Angaben zu Testergebnissen, Benchmarks und Qualitätsmetriken des Modells.

• Lizenzen Informationen zu rechtlichen Rahmenbedingungen und Lizenzmodellen der verwendeten Komponenten.

• Technische Infrastruktur Details zu benötigter Software, Plattformen und Hardware für den Betrieb des KI-Systems.

Diese Informationen sollten in einem strukturierten, maschinenlesbaren Format bereitgestellt werden. Ziel ist es, automatisierte Prüfungen zu ermöglichen und die Integration in bestehende Sicherheits-, Compliance- und Transparenzprozesse zu erleichtern.

Schritt für Schritt zum zertifizierbaren ISMS

Mit dem ISMS-Tool von fuentis setzen Sie aktuelle Standards automatisiert und effizient um. Unsere schlüsselfertigen Module, geführten Workflows und die Unterstützung durch Experten machen den Aufbau eines ISMS einfach – egal, ob Sie neu starten oder bestehende Strukturen modernisieren.

• Multi-Compliance ISMS Vollständiges ISMS-Tool, das Sie sicher zur ISO 27001-Zertifizierung führt und gleichzeitig andere Anforderungen wie BSI-Grundschutz, TISAX® oder NIS2 abdeckt.

• Automatisierte Prozesse Automatisierte ISMS-Prozesse und Workflows, die Sie Schritt für Schritt durch den Zertifizierungsprozess führen – auch ohne Vorkenntnisse.

• Review Questionnaires Einfache, anpassbare Fragebögen, mit denen Sie Schutzbedarf schnell und verständlich bestimmen. Risikobasierte Informationssicherheit war noch nie so einfach.

• Persönlicher Support Persönliche Begleitung durch erfahrene Berater – von der ersten Analyse bis zur Auditvorbereitung und darüber hinaus.

Durch die Kombination aus Managementsystemen (z. B. ISO 27001, ISO/IEC 42001) und digitalen Tools machen Sie KI- und Informationssicherheit nicht nur konform, sondern auch effizient und prüfbar.

Herausforderungen und offene Fragen

So vielversprechend das Konzept einer SBOM for AI ist, so groß sind die Herausforderungen in der Praxis.

Eine zentrale Hürde ist die Standardisierung. Während klassische SBOMs auf etablierten Formaten basieren, fehlen im KI-Umfeld noch einheitliche Datenmodelle, Schnittstellen und Werkzeuge. Bestehende Artefakte wie Model Cards oder System Cards sind häufig nicht maschinenlesbar, schwer automatisierbar und nur bedingt in Unternehmensprozesse integrierbar.

Hinzu kommen rechtliche Fragestellungen. Modelle, Trainingsdaten oder Pipelines sind oft geschäftskritisch und vertraulich. Eine zu weitgehende Offenlegung kann Geschäftsgeheimnisse oder geistiges Eigentum gefährden. Gleichzeitig verlangen Regulierungsbehörden und Anwender mehr Transparenz und Nachvollziehbarkeit. Es gilt, einen Ausgleich zwischen Offenheit und Schutzinteressen zu finden.

Auch die Dynamik von KI-Systemen ist eine Herausforderung. Verfahren wie Modell-Distillation, der Einsatz synthetischer Daten oder laufende Nachtrainings erschweren die vollständige Dokumentation. Damit eine SBOM for AI aktuell bleibt, muss sie:

• kontinuierlich gepflegt werden,

• in Change- und Release-Management eingebunden sein,

• und durch automatisierte Prozesse sowie klare Verantwortlichkeiten unterstützt werden.

Eine wichtige Entwicklung in diesem Zusammenhang ist ISO/IEC 42001. Als erste internationale Managementsystemnorm speziell für KI adressiert sie viele der genannten Lücken. Sie legt Anforderungen fest, wie Unternehmen den verantwortungsvollen, transparenten und sicheren Einsatz von KI über den gesamten Lebenszyklus organisieren – inklusive Themen wie algorithmische Entscheidungsfindung, Datenethik und Rückverfolgbarkeit.

ISO/IEC 42001 ergänzt etablierte Normen wie ISO 27001 oder ISO 9001 und bietet einen strukturierten Rahmen, der sich eng mit einer SBOM for AI verknüpfen lässt. Gemeinsam können beide Ansätze dazu beitragen, KI-Systeme nicht nur transparenter, sondern auch auditierbar und langfristig steuerbar zu machen.

Ausblick: Der G7-Prozess als Wegbereiter

Das Konzept der SBOM for AI wurde im Rahmen der G7-Cybersecurity-Arbeitsgruppe unter Leitung des BSI und der italienischen Cybersicherheitsbehörde entwickelt. Die internationale Zusammenarbeit ist bewusst gewählt – KI ist global, und ihre Risiken sind es ebenfalls.

Ein zentrales Ergebnis des Treffens in Ottawa war die Verständigung auf grundlegende Informationskategorien, die in einer SBOM for AI enthalten sein sollten. Im nächsten Schritt soll ein „Minimum Set of Elements“ definiert werden – eine standardisierte Grundlage, mit der Hersteller, Entwickler und Prüfinstanzen KI-Systeme strukturiert und vergleichbar dokumentieren können.

Geplant ist, die Zusammenarbeit mit Anbietern von SBOM-Frameworks zu vertiefen und den Dialog mit Unternehmen, Behörden und Forschungseinrichtungen auszuweiten. Ziel ist es, SBOMs für KI aus der Theorie in die Praxis zu bringen – und damit eine neue Qualität von Transparenz und Sicherheit zu schaffen.

Nächster Schritt

Jetzt weiter über KRITIS und Resilienzanforderungen für kritische Infrastrukturen lesen – und erfahren, wie Sie SBOM for AI, ISO/IEC 42001 und ein ISMS zu einer zukunftssicheren Sicherheits- und Compliance-Strategie verbinden.