Entscheidungsautonomie und KI - Methodische Hinweise zur Untersuchung von KI-Nutzung in Sicherheitsbehörden

Abstract

Künstlicher Intelligenz (KI) werden immense Potentiale zugeschrieben. Dies trifft auch auf den Bereich der zivilen Sicherheit zu und wird u.A. in dem BMBF geförderten Forschungsprojekt KISTRA: Einsatz von KI zur Früherkennung von Straftaten erforscht. Ziel des Projektes ist der rechtlich, ethisch und sozial vertretbare Einsatz von KI-Klassifizierern durch das Bundeskriminalamt (BKA) zur Erkennung und Verfolgung von Hasskriminalität in sozialen Netzwerken. Dieser Artikel stellt Forschungsziele aus dem Bereich der Mensch-Technik Interaktion vor und geht hierbei insbesondere auf deren methodische Herangehensweisen und Herausforderungen, sowie erste Ergebnisse des Forschungsprojektes ein. Hierdurch werden für die Forschungsziele Anforderungsanalyse, Konzeption von Nutzerschnittstellen, und Usabilityevaluation Handlungsempfehlungen für zukünftige HCI-Forschung formuliert, wobei insbesondere auf den technischen Kontext der künstlichen Intelligenz und den organisationalen Kontext der Sicherheitsbehörde eingegangen wird.