Funktionale Sicherheit

Funktionale Sicherheit KI

Da der Entscheidungsweg einer KI durch den Menschen nicht nachvollziehbar ist, kann die Sicherheit und Zuverlässigkeit der KI nicht ohne weiteres bewertet werden. Da diese Nachvollziehbarkeit aber für viele Anwendungen von größter Bedeutung ist, müssen Maßnahmen getroffen werden, um Unsicherheiten weitestgehend zu eliminieren.

Dies geschieht bei ReliaTec durch:

• Genaue Auswahl und Begutachtung der Trainingsdaten zur Vermeidung von z.B. Overfitting/Underfitting
• Überwachung des Trainings anhand relevanter Metriken
• Regressionstest mit vordefinierten Inputs
• Monitoring durch Erweiterte Software-Architektur
  • Plausibilitätsprüfung der KI-Entscheidungen
  • Visualisierung der KI-Entscheidungen
• Kontinuierliches Training mit neuen Daten zur Behebung erkannter Fehler