Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen –...
Transcript of Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen –...
![Page 1: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/1.jpg)
Präsentation Master
Juni 2016
Wir und die Algorithmen –
Beziehungsstatus: kompliziert
Ralph Müller-EiseltBertelsmann Stiftungwww.algorithmenethik.de@bildungsmann @algoethik18.02.2020
![Page 2: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/2.jpg)
Unser Projektziel: Die Gesellschaft unterstützen, algorithmische Prozesse gemeinwohlförderlich zu nutzen.
24.02.2020Wir und die Algorithmen - Beziehungsstatus: kompliziert 2
Gesellschaft sensibilisierenDiskurs ermöglichen
und versachlichen
Lösungen entwickeln
und pilotieren
Gesellschaftliche Gestaltung
algorithmischer Prozesse
!
![Page 3: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/3.jpg)
Eine Frage zum Einstieg
Wenn Sie an Algorithmen und Künstliche Intelligenz denken, denken Sie dann an
Wir und die Algorithmen - Beziehungsstatus: kompliziert
oder ?
24.02.2020 3
![Page 4: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/4.jpg)
Deutschland und die Algorithmen: Unkenntnis, Unbehagen, Unentschlossenheit
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Quelle: Was Deutschland über Algorithmen weiß und denkt (Bertelsmann Stiftung, 2018)
24.02.2020 4
![Page 5: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/5.jpg)
…welche Gefangenen vorzeitig frei kommen
Algorithmen bestimmen längst unser Leben!
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Algorithmenentscheiden
…auf welche Schule unsere Kinder gehen
…wer eine Aufenthaltserlaubnis bekommt
…wer zum Job-Interview eingeladen wird
24.02.2020 5
![Page 6: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/6.jpg)
Algorithmen können unsere Schwächen ausgleichen.
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Umgang mit Komplexität
FairnessEffizienz
Konsistenz
24.02.2020 6
![Page 7: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/7.jpg)
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Heute bekommen 96% der
Schüler einen Platz an ihrer
Wunschschule…
…aber Frankreich scheitert mit
einem intransparenten
Studienplatz-Vergabesystem.
Umgang mit Komplexität: 41% der New Yorker Schüler landeten nicht an der Wunschschule – trotz freier Plätze
24.02.2020 7
![Page 8: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/8.jpg)
Automatisierte Sprachtests können
Herkunftsangaben plausibilisieren und
und so Entscheidungen über
Aufenthaltserlaubnisse informieren…
…können aber auch für Muttersprachler
eine unüberwindliche Hürde sein.
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Effizienz: Behörden leiden unter Überlast und Stoßzeiten. Software kann ihre Aufgabenerfüllung beschleunigen.
24.02.2020 8
![Page 9: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/9.jpg)
Fairness: Golfer stellen Golfer ein, und Segler Segler. Personalwesen hat algorithmisches Potential nach oben.
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Immer häufiger entscheiden
Algorithmen – vorurteilsfrei –,
wer zum Vorstellungsgespräch
eingeladen wird…
…schließen aber bestimmte
Bewerber auch komplett vom
Arbeitsmarkt aus.
24.02.2020 9
![Page 10: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/10.jpg)
Software hilft den Richtern in den
USA bei der Berechnung des Flucht-
und Rückfallrisikos…
…kann aber auch bestehende
Diskriminierung verstärken.
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Konsistenz: Richter urteilen subjektiv und volatil. Algorithmen können bei Risikoprognosen unterstützen.
24.02.2020 10
![Page 11: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/11.jpg)
Algorithmen können unsere Fehler verstärken.
Wir und die Algorithmen - Beziehungsstatus: kompliziert 24.02.2020 11
![Page 12: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/12.jpg)
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Trainings-
datenDaten
Algorithmus
(Programmiercode)Zielvorgaben
Interpretation und
Implementierung+ + + +
Prozess algorithmischer Entscheidungsfindung
Das Problem: Es gibt sehr viele Fehlerquellen im Prozess algorithmischer Entscheidungsfindung.
DiskriminierendeZielvorgaben
Verzerrte Trainingsdaten
Falsche Implementierung
24.02.2020 12
![Page 13: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/13.jpg)
Algorithmen verstärken menschliche Entscheidungen: Siesind Katalysator für mehr oder weniger soziale Gerechtigkeit
MEHR TEILHABE FÜR ALLE
MEHR SOZIALE UNGLEICHEIT
ALGORITHMISCHE SYSTEME
Wir und die Algorithmen - Beziehungsstatus: kompliziert 24.02.2020 13
![Page 14: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/14.jpg)
Lösungen: Algorithmen sind nur so gut, wie wir sie machen
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Gesellschaftliche Debatte
Vielfalt
Kontrolle
Was wir tun müssen
Lösungs-ansätze
Kompetenzaufbau
24.02.2020 14
![Page 15: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/15.jpg)
Debattieren: Wir brauchen einen öffentliche und politische Debatte sowie Transparenz über den Einsatz von Algorithmen und ihre Ziele
Öffentliche Konsultationen
„Beipackzettel“
Wir und die Algorithmen - Beziehungsstatus: kompliziert 24.02.2020 15
![Page 16: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/16.jpg)
Kontrollieren: Abhängig von Reichweite, Marktstruktur, Teilhaberelevanz und Schadenspotenzial
VORAB FORTWÄHREND NACHTRÄGLICH
Medikamentenzulassung
Kfz-Zulassung
Baugenehmigung
Lebensmittelkontrolle
Wirtschaftsprüfer
Rechnungshöfe
Bundesstelle für
Flugunfalluntersuchung
Wir und die Algorithmen - Beziehungsstatus: kompliziert 24.02.2020 16
![Page 17: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/17.jpg)
Vielfalt fördern: Diverse Ziele, Betreiber und Gestalter algorithmischer Systeme sichern Wettbewerb, Innovation und Gemeinwohl
Keine (Daten-)monopole,
Vergabekriterien,
Gemeinwohlprojektförderung
Interdisziplinäre und
diverse Teams
Wir und die Algorithmen - Beziehungsstatus: kompliziert 24.02.2020 17
![Page 18: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/18.jpg)
Wissen und verstehen: Wir brauchen breite Algorithmen-Kompetenz auf allen Ebenen
Verankerung in
schulischen Curricula
Bundeszentrale für
algorithmische
Kompetenz
Staatlicher
Kompetenzaufbau
Professionsethik (nicht
nur) für Programmierer
Wir und die Algorithmen - Beziehungsstatus: kompliziert 24.02.2020 18
![Page 19: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/19.jpg)
Algorithmisches System zur Verteilung von Patient*innen auf Betten – mögliche Ziele:
• bestmögliche Auslastung des
Krankhauses
• größtmögliche Abrechenbarkeit der
Leistungen bei Versicherungen
• höchstmögliche Versorgungsqualität
für die Patient*innen
• Renommee einer Institution
24.02.2020Wir und die Algorithmen - Beziehungsstatus: kompliziert 19
Beispiel Professionsethik: Ziele von ADM-Systemen sollten nicht von Programmierer:innen und Data Scientist getroffen werden
![Page 20: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/20.jpg)
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Beispiel Professionsethik: Algo.Rules – ein Ansatz zur ethischen Gestaltung algorithmischer Systeme mit vielen Beteiligten
Personen, die über den Zweck und
die Ziele eines algorithmischen
Prozesses entscheiden.
Personen, die einen Algorithmus
testen, weiterentwickeln oder
anpassen.
Personen, die den Prozess
anwenden oder über die Art der
Anwendung entscheiden.
Personen, die einen
Algorithmus programmieren.
Personen, die Daten sammeln,
analysieren, kategorisieren und
kuratieren.
Personen, die designen, wie
algorithmische Ergebnisse
Anwender:innen präsentiert werden.
www.algorules.org
24.02.2020 20
![Page 21: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/21.jpg)
Algo.Rules: 9 Regeln für die Gestaltung algorithmischer Systeme
Wir und die Algorithmen - Beziehungsstatus: kompliziert
#1 KOMPETENZ AUFBAUENDie Funktionsweise und die möglichen Auswirkungen eines
algorithmischen Systems müssen verstanden werden.
#2 VERANTWORTUNG DEFINIERENFür die Auswirkungen des Einsatzes eines algorithmischen
Systems muss stets eine natürliche oder juristische Person
verantwortlich sein.
#3 ZIELE UND ERWARTETE WIRKUNG DOKUMENTIERENDie Ziele und die erwartete Wirkung des Einsatzes eines
algorithmischen Systems müssen vor dessen Einsatz
dokumentiert und abgewogen werden.
#4 SICHERHEIT GEWÄHRLEISTENDie Sicherheit eines algorithmischen Systems muss vor
dessen Einsatz getestet und fortlaufend gewährleistet
werden.
#5 KENNZEICHNUNG DURCHFÜHRENDer Einsatz eines algorithmischen Systems muss
gekennzeichnet sein.
#6 NACHVOLLZIEHBARKEIT SICHERSTELLENDie Entscheidungsfindung eines algorithmischen Systems
muss stets nachvollziehbar sein.
#7 BEHERRSCHBARKEIT ABSICHERNEin algorithmisches System muss während seines
gesamten Einsatzes gestaltbar sein und bleiben.
#8 WIRKUNG ÜBERPRÜFENDie Auswirkungen eines algorithmischen Systems müssen
regelmäßig überprüft werden.
#9 BESCHWERDEN ERMÖGLICHENFragwürdige oder die Rechte einer betroffenen Person
beeinträchtigende Entscheidungen eines algorithmischen
Systems müssen erklärt und gemeldet werden können.
24.02.2020 21
![Page 22: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/22.jpg)
Fazit: Wir können Algorithmen in unseren Dienst stellen –nicht als Opfer des Wandels, sondern als Gestalter der Zukunft
Wir und die Algorithmen - Beziehungsstatus: kompliziert
Nicht Mensch gegen Maschine… …sondern Mensch mit Maschine
24.02.2020 22
![Page 23: Wir und die Algorithmen - uni-muenchen.dePräsentation Master Juni 2016 Wir und die Algorithmen – Beziehungsstatus: kompliziert Ralph Müller-Eiselt Bertelsmann Stiftung](https://reader036.fdocument.pub/reader036/viewer/2022071018/5fd20fb34a4e5e4e802233f2/html5/thumbnails/23.jpg)
Fragen an:
oder per Twitter @bildungsmann & @algoethik
www.algorithmenethik.de
Wir und die Algorithmen - Beziehungsstatus: kompliziert 24.02.2020 23