text: BfDI - Kurzmeldungen - Symposium des BfDI: Experten beleuchten das Thema Künstliche Intelligenz und Datenschutz
  Symposium des BfDI: Experten beleuchten das Thema Künstliche Intelligenz und Datenschutz
  Bonn/Berlin, 01. Oktober 2019
  Die aktuelle Technikdebatte ist vor allem vom Begriff der Künstlichen Intelligenz (KI) bzw. dem der Neuronalen Netze geprägt. Diese benötigen in der Regel eine Vielzahl an Daten, häufig auch solche mit Personenbezug. Um die daraus resultierenden Probleme aus verschiedenen Blickwinkeln näher zu beleuchten, waren mehr als 150 Gäste zum Sympsoium des BfDI "Chancen und Risiken für den datenschutzgerechten Einsatz von Künstlicher Intelligenz" am 24. September 2019 ins Harnack Haus der Max-Planck-Gesellschaft in Berlin gekommen.
  BfDI Ulrich Kelber bei seiner Eröffnungsrede beim Sympsium zu datenschutzgerechter KI Quelle: BfDI
  Zum Veranstaltungsort passend nutzte der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit in seiner Eröffnungsrede dann auch ein Zitat von Max Planck Dem Anwenden muss das Erkennen vorausgehen , um auf eine der großen Herausforderungen beim Thema KI hinzuweisen. Gerade bei selbstlernenden Systemen ist dies aber oft gar nicht so leicht umzusetzen führte Ulrich Kelber aus. Nicht selten stehen wir hier vor einer Blackbox. Insofern ist die datenschutzrechtliche Bewertung von KI-Systemen zwar durchaus schwierig, die Ansicht, Datenschutz und KI schließen sich, aus halte ich aber für grundlegend falsch. Das Ziel von KI muss es sein nicht nur innovativ, sondern auch transparent und fair zu sein. Hierzu leistet der Datenschutz einen wichtigen Beitrag.
  An letzten Punkt knüpfte auch Prof. Dr. Dieter Kugelmann an, der als aktueller Vorsitzender der Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) die von dieser verabschiedeten Hambacher Erklärung zur Künstlichen Intelligenz vorstellte.
  Eine Menge praktische Erfahrungen mit aktuellen KI-Anwendungen konnten viele der weiteren Redner beitragen. Zunächst sprach Jens Redmer über die Erfahrungen bei Google. Dort habe KI in den letzten drei Jahren vor allem dazu beigetragen die Nutzeroberfläche sowie Sprach- und Übersetzungssoftware entscheidend voranzubringen. Der Prozess sei aber längst nicht abgeschlossen, da Algorithmen bei maschinellem Lernen nie fertig würden.
  Dr. Alexander Schellinger berichtete über Pilotanwendungen bei der Techniker Krankenkasse, die z.B. eine genombasierte Entscheidungshilfe bei Krebsbehandlung ermöglicht. Er zeigte sich überzeugt, dass KI-Anwendungen künftig eine wesentliche Rolle im Gesundheitsbereich spielen werden, da ihre Stärke in der Mustererkennung liege und so Diagnosen entscheidend verbessert werden können. Außerdem fragten Patienten neue Produkte die ihre Behandlung verbessern nach, sobald diese marktreif sind.
  Das gute KI aber auch ohne personenbezogene Daten auskommen kann, zeigte Jürgen Bönninger von der FSD Fahrzeugsystemdaten GmbH auf. Das Unternehmen erhält auf Grundlage eines staatlichen Auftrags Fahrzeugdaten von allen Herstellern sowie Anbietern von Kfz-Hauptuntersuchungen. Auf dieser Grundlage entwickelte das Unternehmen mit Hilfe von KI Software, die z.B. defekte Stoßdämpfer mit großer Genauigkeit erkennt. Zwar sei die Devise der FSD "Wir wollen keinen Personenbezug in unseren Daten", dennoch lieferten die Hersteller oft personenbezogene Daten einfach mit. Diese "verschmutzt" Datensätzen müssten dann zunächst bereinigt werden.
  Mit den Akzeptanzproblemen der KI beschäftigte sich Prof. Dr. Sabine Sachweh. Sie erläuterte, dass die Wirkung einer nicht-nachvollziehbaren Antwort das Vertrauen in die tiefen Neuronalen Netze erschüttern kann, weshalb Reviewprozesse zwingend erforderlich seien. Ihrer Ansicht nach gelingt die Einführung von KI in Europa, wenn Vertrauen, Transparenz und Sichtbarkeit bei KI sichergestellt werden. Dabei sollte nicht in Richtung USA und China geschaut werden, sondern die Lösung der eigenen, europäischen Probleme angestrebt werden.
  Prof. Sabine Sachweh wird von Christian Sachsinger interviewt Quelle: BfDI
  Dass KI-Anwendungen bei deutschen Unternehmen noch nicht weit verbreitet sind machte im Anschluss Iris Plöger klar. Gerade kleine und mittlere Unternehmen benötigten Unterstützung um konkrete Verbesserungen erreichen zu können. Die Datenschutz-Grundverordnung bliebe aber ein Hemmschuh bei der Entwicklung. Gerade der Grundsatz des Verbots mit Erlaubnisvorbehalt sei im KI-Zeitalter überholt und nicht mehr haltbar.
  In der abschließenden Podiumsdiskussion wurden die verschiedenen Themen zusammengeführt und Ideen diskutiert, wie die Vereinbarkeit von Künstlicher Intelligenz und Datenschutz gelingen könnte. Ein wichtiger Punkt sei dabei, dass in Europa dezentrale Modelle von KI entstehen sollten, die als Gegenpol zu den zentralen Ansätzen aus China und den USA gerade für die europäische Wirtschaft interessant sind.
  Am Ende konnten alle Beteiligten auf eine gelungene Veranstaltung zurückblicken. Der Tag hat gezeigt, wie breit angelegt und komplex das Thema KI tatsächlich ist resümierte der BfDI und kündigte an, den Austausch in Zukunft bei einem weiteren Symposium fortsetzen zu wollen.
  Eröffnungsrede des Bundesbeauftragten für den Datenschutz und die Informationsfreiheit
  "Chancen und Risiken für den datenschutzgerechten Einsatz von Künstlicher Intelligenz" (PDF, 48KB, Datei ist nicht barrierefrei)