In ihrer Dissertation, welche nun bei Springer Vieweg erschienen ist, untersucht Thea Riebe Dual-Use Informations- und Kommunikationstechnologien und erarbeitet Methoden um die Diffusion, die Governance und das Design zu bewerten. Dazu verbindet sie aktuelle Arbeiten aus den Bereichen der Technikfolgenabschätzung, Kritischer Sicherheitsforschung und Mensch-Computer Interaktion, um so Risiken durch den Dual-use besser erkennen und im Forschungs- und Entwicklungsprozess von Artefakten berücksichtigen zu können. Dabei werden Fallstudien verwenden, die u.a. Autonome Waffensysteme und KI, Soziale Medien und Open Source Intelligence betrachten.
Thea Riebe (2023): Technology Assessment of Dual-Use ICTs – How to Assess Diffusion, Governance and Design. Springer Vieweg. DOI:10.1007/978-3-658-41667-6, (ISBN 978-3-658-41667-6), (978-3-658-41666-9), https://link.springer.com/book/10.1007/978-3-658-41667-6
Motivation: Technologien, die sowohl in militärischen als auch zivilen Anwendungen genutzt werden können, werden als Dual-Use bezeichnet. Aufgrund ihres Dual-Use-Charakters ergeben sich für Forschung und Entwicklung neue Herausforderungen im Hinblick auf nationale, internationale und menschliche Sicherheit im Bereich der Informations- und Kommunikationstechnologien. Die Maßnahmen zur Bewältigung der Risiken im Zusammenhang mit verschiedenen Dual-Use-Technologien, wie Verbreitungskontrolle, Gestaltungsansätze und politische Maßnahmen, variieren stark. Zum Beispiel sind autonome Waffensysteme (AWS) bisher nicht reguliert, während kryptographische Produkte Export- und Importbeschränkungen unterliegen. Die Innovationen in den Bereichen Künstliche Intelligenz (KI), Robotik, Cybersicherheit und automatisierte Analyse öffentlich zugänglicher Daten werfen neue Fragen zu den jeweiligen Dual-Use-Risiken auf.
Herausforderungen: Bisher wurden Dual-Use-Risiken vor allem in den Biowissenschaften systematisch diskutiert, was zur Entwicklung von Methoden zur Bewertung und zum Risikomanagement beigetragen hat. Dual-Use-Risiken entstehen unter anderem dadurch, dass sicherheitskritische Technologien leicht verbreitet, verändert oder als Teil einer Waffe eingesetzt werden können. Bei der Entwicklung und Anpassung von Robotern und Software ist daher eine eigenständige Betrachtung erforderlich, die auf den Erkenntnissen verwandter Diskurse zum Dual-Use aufbaut. Aus diesem Grund untersucht die vorliegende Dissertation den Umgang mit solchen Risiken im Hinblick auf Verbreitung, Regulierung und Gestaltung individueller Dual-Use-Informationstechnologien. Die Technikfolgenabschätzung (TA) bildet den epistemologischen Rahmen dieser Arbeit, in der die Konzepte und Ansätze der Kritischen Sicherheitsforschung (CSS) und der Mensch-Computer-Interaktion (HCI) zusammengeführt werden, um eine Bewertung und Gestaltung von Dual-Use-Technologien zu ermöglichen.
Inhalt: Um eine frühzeitige Erkennung der Verbreitung von Dual-Use zu ermöglichen, untersucht die Dissertation zunächst die Verbreitung von Dual-Use-Innovationen zwischen ziviler und militärischer Forschung in Expertennetzwerken auf LinkedIn sowie anhand von KI-Patenten in einem Patentnetzwerk. Die Ergebnisse zeigen eine geringe Diffusion und bestätigen tendenziell vorhandene Studien zur Verbreitung in Patentnetzwerken. Im nächsten Abschnitt werden in der Arbeit die Regulierung von Dual-Use-Technologien anhand von zwei Fallstudien untersucht. In einer Diskursanalyse zeigt die erste Studie die Wertekonflikte in Bezug auf die Regulierung von autonomen Waffensystemen mithilfe des Konzepts der „Meaningful Human Control“ (MHC) auf. Die zweite Studie ist eine Langzeit-vergleichende Fallstudie, die den Wandel und die Konsequenzen der Regulierung von starker Kryptographie in den USA sowie der Programme der Geheimdienste zur Massenüberwachung analysiert. Beide Fälle deuten auf die zentrale Rolle privater Unternehmen hin, sowohl bei der Produktion von autonomen Waffensystemen als auch als Vermittler bei der Verbreitung von Verschlüsselungstechnologien und als Intermediäre bei der Überwachung. Anschließend untersucht die Dissertation das Design einer Dual-Use-Technologie anhand eines Open-Source-Intelligence-Systems (OSINT) für die Cybersicherheit. Hierfür werden konzeptuelle, empirische und technische Studien durchgeführt, die Teil des Value-Sensitive-Design (VSD)-Frameworks sind. Die Studien haben Implikationen für die Forschung und Gestaltung von OSINT aufgezeigt. Eine repräsentative Befragung der deutschen Bevölkerung hat gezeigt, dass Transparenz der Maßnahmen in Verbindung mit einem Abbau von Misstrauen mit einer höheren Akzeptanz solcher Systeme assoziiert wird. Zudem hat sich gezeigt, dass Datensparsamkeit durch die Nutzung von Expertennetzwerken viele positive Effekte hat, nicht nur in Bezug auf die Leistungsfähigkeit des Systems, sondern auch aus rechtlichen und sozialen Gründen bevorzugt werden sollte. Dadurch trägt die Arbeit zum Verständnis spezifischer Dual-Use-Risiken von KI, zur Regulierung von autonomen Waffensystemen und Kryptographie sowie zur Gestaltung von OSINT in der Cybersicherheit bei. Durch die Kombination von Konzepten aus der Kritischen Sicherheitsforschung (CSS) und den Methoden der partizipativen Gestaltung in der Mensch-Computer-Interaktion (HCI) stellt diese Arbeit einen interdisziplinären und multimethodischen Beitrag dar.
Über die Autorin: Dr. Thea Riebe ist Postdoktorandin am Lehrstuhl Wissenschaft und Technik für Frieden und Sicherheit (PEASEC) im Fachbereich Informatik der Technischen Universität Darmstadt. Sie ist Mitarbeiterin im BMBF-Projekt CYWARN (2020-2023, BMBF) zu Entwicklung von Strategien und Technologien zur Analyse und Kommunikation der Sicherheitslage im Cyberraum. Thea Riebe studierte Internationale Studien / Friedens- und Konfliktforschung (M.A.) an der Goethe Universität Frankfurt, der TU Darmstadt und der Université de Lausanne. Zwischen 2017-2021 war sie überdies wissenschaftliche Mitarbeiterin in dem Forschungsprojekt KontiKat (2017-2021, BMBF) am Lehrstuhl Computerunterstützte Gruppenarbeit und Soziale Medien von Prof. Volkmar Pipek an der Universität Siegen.