text: KI-Innovationswettbewerb Studie beleuchtet aktuellen Stand zur Erklärbaren KI
  15.06.2021 Autor / Redakteur: Christoph Kurth / Nico Litzel
  KI-basierte Anwendungen halten immer mehr Einzug in unseren Alltag. Doch den Anwendern fällt es immer schwerer nachzuvollziehen, wie die KI ihre Entscheidung fällt. Eine aktuelle Studie im Auftrag des Bundesministeriums für Wirtschaft und Energie (BMWi) ergab, dass trotz des hohen Bedarfs an erklärbarer KI es an entsprechenden Best Practices mangelt.
  Neue Studie zur erklärbaren KI gibt Orientierungshilfe für KI-Anwender.
  (Bild: KI-Innovationswettbewerb)
  Im Rahmen der Studie befragte die Begleitforschung zum Technologieprogramm "Künstliche Intelligenz als Treiber für volkswirtschaftlich relevante Ökosysteme" (KI-Innovationswettbewerb) über 200 KI-Experten aus Unternehmen und Forschungseinrichtungen zum Thema "Erklärbare KI".
  Tom Kraus, einer der Autoren, sagt: "Mit der Studie möchten wir eine möglichst praxisnahe Orientierungshilfe geben in einem Anwendungsfeld von KI, das bisher hauptsächlich von der Wissenschaft oder von einigen wenigen Hightech-Konzernen adressiert wird."
  Bei den Umfrageteilnehmern kommen schon heute sowohl "White-Box"-Modelle, wie etwa statistische bzw. probabilistische Modelle oder Entscheidungsbäume, als auch "Black-Box"-Modelle wie neuronale Netze zum Einsatz.
  Der Studie zufolge ist die Erklärbarkeit von Entscheidungen besonders im Gesundheitsbereich sehr wichtig, da Fehlentscheidungen verheerende Folgen haben können. Ebenfalls wichtig ist die Erklärbarkeit in den Bereichen der Finanzwirtschaft, Produktion, Bauwirtschaft und Prozessindustrie.
  Es gibt jedoch noch einige regulatorische und technische Herausforderungen, wie eine der Autorinnen, Lene Ganschow, sagt: "Aus regulatorischer Sicht müssen die Anforderungen an die Erklärbarkeit von KI überhaupt erst einmal geklärt werden. Nur wenn Unternehmen die Anforderungen überhaupt kennen, können sie entscheiden, wie sie ihre Produkte gestalten, und sie auf den Markt bringen."
  Technisch gesehen soll es zunächst darum gehen, Best Practices zu erstellen, von denen Unternehmen für sich ableiten können, welche Erklärungsstrategien sich für das eigene Produkt am besten eignen.
  Link: Die Ergebnisse der KI-Studie
  (ID:47461161)
  AIvelin Radkov@stock.adobe.com; gemeinfrei; KI-Innovationswettbewerb; Clipdealer; © Nmedia - stock.adobe.com; Vogel IT-Medien; https://store.arduino.cc/; IT-Novum; Hazelcast; Instaclustr; F5; Kaggle.com; HPE; TigerGraph; Sinequa; Sicos BW GmbH; Screenshot / Microsoft; Cluster Mobility & Logistics; Anacision GmbH; © putilov_denis - stock.adobe.com; © BillionPhotos.com - stock.adobe.com; © Alex - stock.adobe.com; Lantronix; PublicDomainPictures; PAIRS; © aga7ta - stock.adobe.com