Zuverlässigkeit von KI in der Multimedia-Forensik

Zusammenfassung Die Multimedia-Forensik ermöglicht Untersuchung von Spuren in digitalen Medieninhalten, um Authentizität und Ursprung der Inhalte zu ermitteln. Solche Verfahren können beispielsweise Journalisten bei der Faktenprüfung unterstützen. Im Zuge der ,,KI- Revolution‘‘ der letzten Jahre werden auch in der Multimedia-Forensik zunehmend Verfahren entwickelt, die neuronale Netze mit Deep Learning (DL) nutzen. DL- Methoden überzeugen zwar im Allgemeinen durch eine hohe Leistungsfähigkeit, sie sind aber recht fehleranfällig für sogenannte Out-of-Distribution (OoD)-Eingaben, das sind Eingaben außerhalb des Trainingsbereichs der Methode. Für einen Analysten ist diese Art von Fehler schwierig festzustellen, da neuronale Netzen häufig Antworten erzeugen, die vorgeblich sehr sicher sind, obwohl die Eingabe eigentlich unbekannt ist. Bayes’sche Neuronale Netze (BNNs) können hier eine zuverlässigere Alternative darstellen. Die Unsicherheit einer Vorhersage ist in BNNs ein direkt nutzbares Nebenprodukt der probabilistischen Modellierung. Ein Analyst kann OoD-Eingaben über das Unsicherheitsmaß erkennen und geeignete Folgemaßnahmen ergreifen.