#54 Carla Hustedt – Algorithmen – warum es wichtig ist, dass der Mensch die Führung behält

In diesem C! Podcast spricht Corinne M. Flick mit Carla Hustedt, Direktorin “Digitalisierte Gesellschaft” bei der Stiftung Mercator, zum Thema:

Algorithmen - warum es wichtig ist, dass der Mensch die Führung behält

Hier ihre Aussagen im Auszug:

Algorithmen sind, wie alle Technologien, nicht per se gut oder schlecht, sondern es kommt darauf an, welche Ziele ihnen zugrunde liegen.

Wir sehen beispielsweise, dass gerade Sicherheitsbehörden in den letzten Jahren mithilfe digitaler Technologien die Kontrolle von Bürgerinnen und Bürgern stark erhöht haben.

Im Kontext der Gesichtserkennung kann es zur Gefährdung demokratischer Strukturen führen. Weil Menschen sich einfach, wenn sie das Gefühl haben, ständig überwacht zu werden, anders verhalten, sich stärker entlang von Normen orientieren. Dadurch können auch oppositionelle Kräfte und Kreativität stark eingeschränkt werden.

Algorithmen sind konsistent, sie treffen jede Entscheidung nach dem gleichen Muster. Das ist eine Chance zur Fehlerreduktion. Was sie nicht gut können, anders als Menschen, ist mit Ausnahmen umgehen.

Wir sollten verstehen, dass auch Systeme immer Fehler machen werden, und dass es deshalb auch menschliche Aufsicht braucht. Wenn Algorithmen Fehler machen, skalieren diese sehr schnell.

Techno solutionism besagt, dass man die Fähigkeiten der Technologie überschätzt und die Komplexität des sozialen Problems unterschätzt. Deshalb benötigen wir Maßnahmen, um diese Software ordentlich einzubetten.

Wenn Algorithmen Bildungs-, Gesundheits-, Personalfragen entscheiden, dann müssen wir vor dem Einsatz prüfen, ob sie bestimmte diskriminierende Eigenschaften aufweisen.

Previous #53 Bazon Brock – Was bedeutet es, Europäer zu sein? Ein Gespräch über Identität

KONTAKT

Convoco gemeinnützige Stiftung-GmbH

Zur Förderung der Wissenschaft und Bildung

Brienner Str. 28
80333 Munich
Germany

NEWSLETTER

Melden Sie sich jetzt für den exklusiven Newsletter an. Wir verwenden Ihre persönlichen Daten wie in unserer Datenschutzrichtlinie beschrieben.

© 2021. All Rights Reserved