Follow
Machine-Learning-Modelle enthalten teilweise viele Milliarden Parameter und können empfindlich auf kleinste Eingabeänderungen reagieren. Diese Empfindlichkeit kann sicherheitsrelevant sein.
Eine Formulierung der Modelleigenschaften zur Bewertung und Erklärung der Vorhersagen ohne Parameteruntersuchung wird in https://arxiv.org/abs/1703.01365 vorgeschlagen. Damit wird eine weitere Möglichkeit zur Sicherheitsbewertung solcher ML-Modelle eröffnet.
