Technische und rechtliche Betrachtungen zur Autonomie kooperativ-intelligenter Softwareagenten

Abstract

Die Automatisierung technischer Systeme basiert auf präzisen Definitionen für deren Verhalten und der ebenso präzisen Umsetzung in zuverlässige und robuste Lösungen. Zukünftige Automatisierungsansätze, wie bspw. das autonome Fahren [vgl. Bundesanstalt für Straßenbau (2012)], werden jedoch viel umfassender als bisher auf Sensordaten, Kontextwissen, Adaptions- und Interaktionsfähigkeit technischer Systeme angewiesen sein. So befahren “teilautomatisierte” Fahrzeuge im Probebetrieb schon heute ohne Fahrereingriffe das öffentliche Straßennetz. KI-basierte Lösungsansätze spielen dabei eine zunehmend wichtigere Rolle (vgl. u.a. die Ansätze und Ergebnisse der Forschungsprogramme Autonomik und Industrie 4.0), insbesondere eröffnen sie die Möglichkeit, einen technisch geprägten Autonomie-Begriff zu entwickeln, der über das Konzept der Automatisierung hinausreicht. Dies ist allerdings mit zwei Problemen verbunden: Einerseits garantieren nicht alle KI-Methoden Determinismus und Determiniertheit, andererseits kann es bei Interaktion autonomer Systeme (im Folgenden als Agenten bezeichnet) mit ihrer Umwelt selbst dann zu unerwünschten Situationen kommen, wenn diese technisch einwandfrei funktionieren – es sei denn, es gelänge dem Entwickler, alle möglichen Zustände und Verhaltensweisen der Umwelt in vollem Umfang zu antizipieren und im Gesamtsystemmodell abzubilden. Dies wirft rechtliche Fragen auf. Tritt der Mensch damit zunehmend seine Verantwortung für notwendige Entscheidungen in seinem gesellschaftlichen Umfeld an Softwareagenten ab? Kann der Agent für sein Handeln verantwortlich gemacht werden, wird er für die Folgen seines Verhaltens haften? Aber auch, wenn mehrere Agenten bspw. gemeinsam ein Musikstück komponieren: wem gehören die Rechte, müssen für dessen Abspielen ebenfalls GEMA-Gebühren bezahlt werden – und wer bekommt die Einnahmen? Und wer haftet, wenn ein autonomes Fahrzeug (ohne Fahrer) Unfälle verursacht?