EU AI Act: Transparenz

Transparenz zu KI-gestützten Funktionen

Superheld nutzt KI- und Machine-Learning-Methoden, um Sicherheitsrisiken (z. B. Phishing, Social Engineering, schädliche Apps) zu erkennen und passende Schutzmaßnahmen vorzuschlagen oder auszuführen.

KI-Einsatz in Superheld

Komponente	KI-Methode	Einsatzzweck
Detection Engine	Transformer (NLP) + CNN (Bild)	Klassifikation von Bedrohungen
Context Risk Engine	Regelbasiertes Scoring mit kalibrierten Schwellwerten	Risikobewertung durch Signal-Kombination
URL-Scanner	Pattern Matching + bekannte Bedrohungsdatenbanken	Phishing- und Malware-Erkennung
Anruf-Heuristik	Metadaten-Analyse (keine Sprachverarbeitung)	Erkennung verdächtiger Anrufmuster

Was Superheld nicht tut

Kein generatives KI-System: Superheld erzeugt keine Texte, Bilder oder Medien
Kein LLM-Einsatz: Es werden keine Large Language Models als Produktkomponente eingesetzt
Keine Sprachaufzeichnung: Kein Zugriff auf Gesprächsaudio, keine Transkription
Keine biometrische Identifikation: Keine Gesichtserkennung oder Stimmerkennung zur Identifikation

EU AI Act Einordnung

Artikel 50 — Transparenzpflichten

Der EU AI Act (Verordnung (EU) 2024/1689) sieht in Artikel 50 Transparenzpflichten vor für:

KI-Systeme, die direkt mit Menschen interagieren — Nutzer müssen informiert werden, dass sie mit einem KI-System interagieren (sofern nicht offensichtlich)
Deepfakes — KI-generierte oder wesentlich manipulierte Inhalte müssen gekennzeichnet werden
Emotion Recognition / Biometrische Kategorisierung — Betroffene müssen informiert werden

Superheld-Konformität

Zu (1) — KI-Interaktion: Superheld ist kein Chatbot oder interaktives KI-System. Die KI arbeitet als Analysesystem im Hintergrund. Wenn eine Sicherheitsentscheidung wesentlich durch KI-Analyse beeinflusst wurde, wird dies in der Warnung transparent gemacht (“KI-basierte Erkennung” mit Angabe der Erkennungsbasis und Hinweis auf mögliche Fehlalarme).

Zu (2) — Deepfakes: Superheld generiert keine Deepfakes. Die Deepfake-Erkennung basiert auf Metadaten-Heuristik und kennzeichnet Ergebnisse transparent als KI-gestützte Einschätzung mit Angabe der Konfidenz und Grenzen.

Zu (3) — Biometrie: Superheld setzt keine biometrische Identifikation oder Emotionserkennung ein.

Datenaufbewahrung und Löschung

Sicherheitsereignisse werden für definierte Zeiträume gespeichert, um Schutz, Nachvollziehbarkeit und Support zu ermöglichen:

Datentyp	Aufbewahrung	Löschoption
Lokaler Event Store	90 Tage	Geräteseitig löschbar
Cloud Events	180 Tage	Löschantrag über API/Dashboard
Policy-Audit-Log	12 Monate	Nur nach Ablauf
Aggregierte Metriken	24 Monate, danach anonymisiert	Automatisch
IP-Adressen (Load Balancer)	7 Tage	Automatisch

Details zu Löschprozessen und Betroffenenrechten: siehe Datenschutz & Sicherheit.

Modell-Updates und Integrität

Update-Frequenz: Monatlich regulär, on-demand bei akuten Bedrohungen
Signatur: Ed25519-Signaturen auf allen Modell-Paketen
Integritätsprüfung: SHA-256-Checksumme vor Signaturprüfung
Rollback: Automatischer Fallback auf vorherige Modellversion bei fehlgeschlagener Validierung
Formate: TFLite (Android), CoreML (iOS), ONNX (Windows/macOS/Linux)

Konfidenz und Grenzen

Alle KI-basierten Erkennungen werden mit einem Konfidenzwert (0.0–1.0) ausgegeben. Superheld kommuniziert transparent:

Konfidenz: Wie sicher die Erkennung ist
Erkennungsbasis: Welche Signale zur Einschätzung geführt haben
Grenzen: Expliziter Hinweis auf mögliche Falsch-Positive und Falsch-Negative
Handlungsempfehlung: Was Nutzer als nächstes tun sollten