Aus „Big Data, Smart Data, next?“: Autonomie und Lernfähigkeit – KI benötigt den Test im Reallabor

Von Smart Data Begleitforschung Vor 2 WochenKeine Kommentare
Home  /  Allgemein  /  Aus „Big Data, Smart Data, next?“: Autonomie und Lernfähigkeit – KI benötigt den Test im Reallabor

Prof. Dr. Andreas Oberweis, FZI Forschungszentrum Informatik, © FZI Forschungszentrum Informatik

Von Prof. Dr. Andreas Oberweis.

Ein Kernproblem in der aktuellen Debatte um Künstliche Intelligenz (KI) in Deutschland sind die häufig vollkommen unterschiedlichen Vorstellungen davon, was Künstliche Intelligenz eigentlich ist, und damit auch Erwartungen an die KI. Wichtig scheinen dabei jedoch vor allem zwei Entwicklungen. Diese zentralen Charakteristika künftiger KI-Systeme sind Autonomie und maschinelle Lernfähigkeit. Bei konsequenter Umsetzung dieser beiden Eigenschaften sind im Extremfall zwei wichtige Aspekte traditioneller Informatiksysteme nicht mehr gegeben: Zur Laufzeit ständige  Beherrschbarkeit durch den Menschen und zur Entwurfszeit Nachweisbarkeit von gewünschten oder unerwünschten Verhaltenseigenschaften.

Dem System Grenzen setzen

Grundsätzlich gibt es zwei Möglichkeiten, damit umzugehen: Die Autonomie des Systems wird eingeschränkt und dem maschinellen Lernen werden gewisse Schranken gesetzt. Das bedeutet, es gibt Situationen, in denen das System nicht autonom handeln darf, sondern menschlicher Kontrolle unterworfen ist, und es gibt Aspekte, die ein selbstlernendes System nicht lernen kann. Eine Herausforderung besteht darin, die entsprechenden Grenzen festzulegen.

Dabei müssen rechtliche Fragen, etwa zur Haftung im Schadensfall, ebenso berücksichtigt werden, wie ethische Fragen, etwa zu Fragen fairen, nicht-diskriminierenden Verhaltens. Auch Fragen der Akzeptanz und Ergonomie müssen betrachtet werden, wenn Menschen am Arbeitsplatz oder im Privatleben auf KI-Systeme treffen und mit ihnen interagieren. Offensichtlich ist dies eine  interdisziplinäre Aufgabenstellung, die alleine durch die Informatik nicht bewältigt werden kann.

KI muss im praktischen Einsatz getestet werden

Da ein formaler Nachweis bestimmter Eigenschaften eines KI-Systems zur Entwurfszeit im Allgemeinen nicht praktikabel ist, müssen für KI-Systeme vollständig neue Testverfahren im Rahmen von Reallaboren oder auch Testfeldern entwickelt werden. In diesen Testfeldern können die KI-Systeme in einer abgesicherten Umgebung für einen bestimmten Zeitraum im praktischen Einsatz getestet werden. Solche Testphasen könnten für kritische Anwendungsdomänen sogar gesetzlich vorgeschrieben werden.

Um Restrisiken nach der Testphase möglichst weitgehend zu reduzieren oder in besonders kritischen Anwendungsdomänen auch komplett auszuschließen, müssen die Rahmenbedingungen für den praktischen Einsatz entsprechend gestaltet werden. Dies kann zum Beispiel in der entsprechenden Absicherung von Prozessen und Organisationsstrukturen in einem Unternehmen erfolgen. Die Geschäftsprozesse müssen abgesichert werden im Hinblick auf mögliche Fehler von KI-Systemen. Dies ist vergleichbar mit lange bekannten und vielfach praktizierten Maßnahmen der  Fehlertoleranz in technischen Systemen. Die entsprechenden Risiko-Managementmaßnahmen können im Reallabor auch bereits im Hinblick auf ihre praktische Eignung überprüft werden.

Der gesamte Debattenband „Big Data, Smart Data, next?“ steht hier zum kostenlosen Download zur Verfügung.

„Ein Kernproblem in der deutschen Debatte um KI sind vollkommen unterschiedliche Vorstellungen davon, was KI eigentlich ist.“ - Andreas Oberweis Klick um zu Tweeten
Kategorien:
  Allgemein, Begleitforschung, Big Data Debattenband, Datenanalyse, Gesellschaft, Künstliche Intelligenz

Artikel teilen

[easy-social-share buttons="twitter,facebook,google,xing,linkedin,flipboard" counters=0 style="icon" url="http://www.smartdata-blog.de/2019/01/07/aus-big-data-smart-data-next-autonomie-und-lernfaehigkeit-ki-benoetigt-den-test-im-reallabor/" text="Aus „Big Data, Smart Data, next?“: Autonomie und Lernfähigkeit – KI benötigt den Test im Reallabor"]
Über

 Smart Data Begleitforschung

  (50 Artikel)

Hinterlassen Sie einen Kommentar

Die E-Mail Adresse wird nicht veröffentlicht.