Information, Wissenschaft und Verantwortung - aktuelle ethische Herausforderungen der IT

  • Type: Lecture (V)
  • Semester: SS 2022
  • Time:

    We, 18:00 - 19:30 (weekly)


  • Lecturer: Prof. Dr. Ralf Reussner
    PD Dr. Alexander Bagattini
  • Lv-No.: 2400033
  • Information: Online

Gastvorlesung am 25.05.2022, 18:00–19:30 Uhr (online via Zoom)

Hannes Hartenstein (KIT): Bewerten, beforschen, befolgen: Ethik und die Frage des Zugriffs in IT-Systemen

Abstract:

„Wenn Technik eine Droge ist – und sie fühlt sich wie eine Droge an – was genau sind dann die Nebenwirkungen?“ (Charlie Brooker). In dem Vortrag beleuchte ich ethische Aspekte hinsichtlich des Zugriffs auf Information. Diese Aspekte spielen eine herausragende Rolle hinsichtlich Sicherheit und Privatheit in dezentralen Systemen, also in Systemen, die von verschiedenen Parteien gemeinsam betrieben werden. Prominente aktuelle Beispiele für dezentrale Systeme sind Bitcoin und Ethereum ebenso wie Cloud Computing. IT-basierte Ökosysteme wie etwa beim roboterunterstützten betreuten Wohnen oder beim kooperativen Fahren stellen ebenso dezentrale Systeme dar. In diesen Systemen stellt sich gerade wegen der verschiedenen beteiligten Parteien die Frage: wer kann und wer darf auf welche Information zugreifen – und zu welchem Zweck? Das Beispiel der Kontaktnachverfolgung etwa hat deutlich den Bezug zu ethischen Aspekten vor Augen geführt.

Ich gliedere den Vortrag in drei Perspektiven: wie kann man Werte bezüglich Entwicklung und Einsatz von IT-Systemen einbeziehen? Welche unserer Forschungsaktivitäten haben welchen ethischen Hintergrund? Und wo müssen wir als Forschende und Lehrende uns selbst an vorgegebene ethische Richtlinien halten? Dabei greife ich auf eigene Erfahrungen als Hochschullehrer, Forscher, aber auch „IT-Lokalpolitiker“ zurück und versuche mich an „provokanten“ Thesen: i) Ethische Abwägungen kann man nicht informatisch lösen, ii) unklare Forschungsergebnisse besitzen oft einen unklaren ethischen Hintergrund und iii)  Ethik sollte nicht als Feigenblatt in Forschung und Lehre dienen.


Kurzbiographie:

Prof. Hannes Hartenstein wurde im Oktober 2003 auf den Lehrstuhl „Dezentrale Systeme und Netzdienste“ (DSN) berufen und leitet seitdem die DSN-Forschungsgruppe am Karlsruher Institut für Technologie (vormals Universität Karlsruhe (TH)). Er war von Oktober 2010 bis September 2013 Geschäftsführender Direktor des Steinbuch Centre for Computing (SCC), von Oktober 2015 bis März 2017 Dekan der Fakultät für Informatik und von April 2017 bis April 2020 Bevollmächtigter für die Informationsverarbeitung und -versorgung (IV-B) des KIT. Hannes Hartenstein ist Principal Investigator in KASTEL.

Vorlesungseinheiten

 

 

 

 

 

 

 

 

Termine Programm
11.05.2022 Tobias Matzner (Universität Paderborn): Diskriminierung durch Algorithmen
18.05.2022 Alexander Pretschner (TUM): Ethik in der agilen Software-Entwicklung
25.05.2022 Hannes Hartenstein (KIT): Bewerten, beforschen, befolgen: Ethik und die Frage des Zugriffs in IT-Systemen
01.06.2022 Manuela Lenzen (Freie Wissenschaftsjournalistin): Es sind Werkzeuge! Warum der menschelnde Blick auf KI problematisch ist
15.06.2022 Sven Nyholm (Universität Utrecht): Mind the Gap(s): KI und vier Arten von Verantwortungslücken
22.06.2022 Christian Hummert (Forschungsdirektor der Bundesagentur für Innovation und Cybersicherheit): Cybersicherheit und Demokratie
06.07.2022 Judith Simon (Universität Hamburg): Vertrauenswürdige Künstliche Intelligenz? Zum Verhältnis von Vertrauen, Wissen und Technologie
13.07.2022 Kevin Baum (Universität Saarbrücken): „Wieso wird Kevin soviel besser bewertet als Jeanne? — Über den Zusammenhang von Erklärbarkeit von und Diskriminierung durch KI"
Inhalt

Selbstfahrende Autos, Pflegeroboter, Apps, Software für Einstellungsverfahren oder für die Anwendung in komplexen medizinischen Diagnoseverfahren wie dem MRT. Längst ist klar, dass viele neue Technologien im Bereich der IT gleichermaßen Vorteile aber auch Gefahren mit sich bringen. Heute sind wir fast alle persönlich von phishing emails und spam betroffen, und die adversen Effekte von social media – wie Vereinsamung und damit korrelierende psychische Erkrankungen – sind allgemein bekannt. Eine wesentlich größere Tragweite wird deutlich, wenn man an die Möglichkeiten moderner Überwachungssysteme, Gesichtserkennungstechnologien und Big Data Algorithmen in sozio-globalen Kontexten betrachtet, wo sie, wie beim Cambridge Analytica Skandal, politische Wahlen und sogar ganze politische Systeme unterminieren können. Diese Ambivalenz neuer Technologien führt auch zur Frage nach der Verantwortung für die mit ihnen verbundenen Folgen. Es greift hier sicherlich zu kurz, den einzelnen Informatiker allein in der Pflicht zu sehen, schließlich handelt es sich um ein gesamtgesellschaftliches Problemfeld, an dem beispielsweise politische Akteure und Firmen beteiligt sind, was sich angesichts der oftmals globalen Dimension kooperativer Projekte im Bereich der IT noch komplizierter darstellt. Allerdings sind Informatiker oftmals diejenigen, die als erste mit ethischen Problemen konfrontiert sind. Um hier eine eigene Position beziehen zu können, ist wichtig zu lernen, wie man sich souverän in den für ethische Fragestellungen typischen Grauzonen (in denen es oft kein klares Wahr oder Falsch gibt) argumentativ bewegen kann.

 

Das Ziel dieser Ringvorlesung ist es, hierzu einen Beitrag zu leisten, indem wir gemeinsam mit einschlägigen Expert*innen über grundsätzliche und anwendungsbezogene ethische Fragen im Bereich der IT diskutieren. Hierbei ist uns ein offener Diskurs wichtig, bei dem zu den oftmals kontroversen Themen alle Argumente gehört und bewertet werden können.