@bfdi Gut aufpassen, dass da nicht am falschen Ende hingeguckt und reguliert wird: Die Technologie zur KI ist eigentlich insgesamt eher langweilig und unterscheidet sich vom Regulierungsbedarf eigentlich kaum von normaler IT.

Was sich neu abzeichnet ist die Tendenz, Entscheidungsprozesse dem Computer zu überlassen. Das hat mit der Technik recht wenig zu tun, wird auf Dauer m.E. aber die größeren Probleme schaffen - zum Beispiel, wenn die Verantwortung zu Rechtsverstößen durch den "Das hat der Algorithmus gemacht, können wir nichts zu sagen"-Joker wegdiffundiert.

Von daher: wenn für jedes System, das in Deutschland wirkende Entscheidungen trifft, ein:e Verantwortliche:r im Rahmes des deutschen Rechts bestimmt werden müsste, um für die Entscheidungen einzustehen, als wären sie persönlich getroffen worden, wäre das Thema vom Tisch, oder?

Und ja, das betrifft dann auch Sachen wie Kredit-Scoring, selbst wenn es "ohne KI" zustande kommt.

(Gut, "KI" als Buzzword für Startups wäre dann tot, denn um diese Verantwortungsdiffusion geht es den meisten {Fin,Med,...}Tech-Klitschen anscheinend. Aus meiner Sicht eine Win-win Situation ;-) )

@bfdi Danke Herr Kelber, dass Sie sich für uns MENSCHEN und die Demokratie einsetzen. 👍

Sign in to participate in the conversation
social.bund.de

Dies ist der Mastodon-Server des Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI).