Ethics by Design – Der Mensch im Mittelpunkt
März 11, 2020
Aus dem Unterricht des CAS Digital Ethics mit Dozentin Dr. Sibylle Peuker berichtet Studentin Natalie Strutz:
Der heutige Kurstag stand unter dem Motto ‘Ethics by Design – Wie man ethische Produkte mit dem User im Fokus entwickelt’. Die Spannung war gross, denn zum ersten Mal seit Start des CAS wurden die Unterlagen NICHT im Vorgang publiziert. Wir hatten also keine Ahnung, was und erwarten würde und der Spannungsbogen entsprechend gespannt bzw. die Erwartungen hoch.
Der Vormittag begann mit Theorie rund um das Thema User Centered Design. Bereits beim Intro von Sibylle Peuker, die sich selbst als “Anwältin der User” bezeichnet wurde klar, unsere Erwartungen sollten nicht enttäuscht werden!
Intro – die Takeaways
User Centered Design:
- ist facettenreich und an keinen bestimmten Industriezweig gebunden;
- funktioniert eigentlich überall egal ob im Business oder Privat;
- sollte unter dem Motto ‘Sachen besser machen und Probleme lösen’ passieren;
- die meisten ethischen Probleme passieren aus Versehen;
- das meiste und essenzielle lernt man von den Usern selbst durch bspw. User Beobachtung, Usability Testing usw.;
- User Centered Design ist immer auf das jetzt ausgerichtet, aber auch die Langzeitwirkung ist nicht ausser Acht zu lassen.
Doch was ist eigentlich Design?
Design heisst im Grunde Gestalten und ist ein kollektiver Prozess, an dem viele Menschen beteiligt sind. Das Ergebnis wird beeinflusst durch verschiedenste Faktoren wie bspw. Ziele, Absichten, Werte, Überzeugungen, Prozesse, Organisationsstrukturen, Politik, Umwelt, Soziales oder Technologie.
Dabei unterscheidet man verschiedene Spezialbereiche:
-
- User Experience (UX) Design
- Customer Experience (CX) Design
- User Interface (UI) Design
- Visual/Graphic Design
- Webdesign
- Industrial Design
- Mode Design
- User-Centered Design/ Human-Centered Design
- …
Supercrash-Kurs User-Centered Design
Beim User-Centered Design folgt man i.d.R. einem iterativen Prozess bestehend aus mehreren Phasen.
Quelle: http://seobility.net/de/wiki/User_Centered_Design, Autor: Seobility, Lizenz:CC BY-SA 4.0
- Analyse: Nutzerkontext und Anforderungen (> Empathie bilden)
Aber Achtung Stolperfallen sind:- #1: Wir kennen unsere User, wir brauchen kein User Research
- #2: Die User fragen, was sie sich wünschen
- #3: Grundbedürfnisse vergessen z.B. wichtige physische Eigenschaften «wegdigitalsieren»
- Prototyping: bestehend aus den Schritten Konzeption und Design
- Evaluierung und Optimierung: anhand von Usability Testing (mit Usern testen)
Mehr Informationen unter: https://usabilitygeek.com/user-centered-design-introduction/
Ein iterativer Prozess allein reicht allerdings nicht aus. Es braucht verschiedene Aspekte des sogenannten ethischen Designs.
Ethisches Design
Was genau verstehen wir unter ethischem Design bzw. was genau ist denn nun eigentlich ethisch bzw. unethisch?
Es ist sicher NICHT ethisch folgende ‘Designelemente’ zu nutzen:
- DARK PATTERNS (Leute dazu bringen etwas zu tun, was sie gar nicht tun wollen);
- relevante Informationen absichtlich zu verstecken (bspw. Support Telefonnummer absichtlich wenig present darstellen);
- irreführende Cookie Einstellungen zur Auswahl anzeigen;
- wichtige Navigationselemente wie bspw. das Menü unter Cookie Banner verstecken (nicht nur ein Problem für ethisches Design sondern auch für Usabality);
- nicht selbsterklärende Icons verwenden;
- verwirrende, unübersichtliche, kryptische und nicht userfreundliche Sprache (klassisches Beispiel FAQs);
- keine Nennung von Quellen (klassisches Beispiel Bildrechte);
- Menschen mit Beeinträchtigungen ausschliessen (Stichwort Accessibility & Inclusion);
- bewusst fehlleitende Informationsvisualisierung (je Diagrammtyp, Design etc. können die selben Informationen unterschiedlich dargestellt bzw. ausgelegt werden).
Mehr Informationen zu ethischem Design hier: https://page-online.de/branche-karriere/design-und-ethik-wie-designer-ihrer-verantwortung-gerecht-werden/
“Das ist eben schwierig darf keine Ausrede dafür sein, Dinge nicht verständlich zu machen (Sibylle Peuker)!”
Kurz und knapp, ethisches Design bedeutet:
- den Menschen in den Mittelpunkt stellen;
- transparent und wahrheitsgetreu zu kommunizieren;
- bereits während dem Design über unerwünschte Nebeneffekte nachdenken;
- beachten, dass es nicht nur den “Happy Flow” gibt, bitte auch Auswege für unerwartete Szenarien einplanen;
- auch an die Langzeitwirkung denken;
- Grundsätze von Accessibility & Inclusion beachten.
Die User Experience von KI und Vertrauen
Künstliche Intelligenz (KI) ist in aller Munde und hält immer weiter Einzug in unseren Alltag und integriert sich, ob bemerkt oder unbemerkt, immer mehr in die Produkte und Designs. So ist es fast selbsterklärend, dass bei der Verwendung von KI bzw. dem Design von KI-Systemen Aspekte der User Experience sowie des etischen Designs beachtet werden müssen.
Dabei ist bei KI-Systemen ist Vertrauen ein zentrales Element, denn nicht nur in der nicht-digitalen Welt stellt das Vertrauen einen zentralen Grundpfeiler für ein effizientes Zusammenleben.
“If you don’t begin in a state of trust, you can’t have meaningful social encounters (Malcolm Gladwell).”
Da Vertrauen i.d.R. mit einer konkreten Aufgabe verbunden ist, sollte im Rahmen von KI jedoch besser von Vertrauenswürdigkeit gesprochen werden. Unsere Aufgabe muss es sein den Usern zu helfen, die
Vertrauenswürdigkeit eines Systems zu beurteilen. Denn wir wollen nicht, dass Sie blind vertrauen!
Menschen sind unterschiedlich d.h. der Grad des Vertrauens ist unterschiedlich. Im Allgemeinen richtet man sich an folgenden 3 Attributen aus:
Quelle: Slides Sibylle Peuker nach Onora O’Neill: “ What we don’t understand about trust”
https://www.ted.com/talks/onora_o_neill_what_we_don_t_understand_a
bout_trust
Dabei begegnen uns folgende UX Challenges:
- Kompetenz: die Erwartungen müssen klar und transparent gemanaged werden, d.h. man muss dem User helfen zu verstehen was ein System kann bzw. nicht kann.
- Zuverlässig: der User sollte die Möglichkeit haben ein System auszuprobieren, ohne sich gleich binden zu müssen bzw. Daten preiszugeben.
- Ehrlichkeit: KI-Systeme sind nie zu 100% sicher, sie liefern keine perfekte Lösungen, sondern Wahrscheinlichkeiten. Daher gibt es immer bestimmte Unsicherheiten, die auch dem Nutzer gespiegelt werden sollten.
“UX Methoden sind essentiell zur Entwicklung vertrauenswürdiger KI-Systeme (Sibylle Peuker).”
Was kannst DU für ethische KI tun?
Ethische KI ist unsere Chance die Welt mit oder trotz Künstlicher Intelligenz menschlicher zu machen. Hierzu sollten folgende Grundsätze von dir beachtet werden:
- Versuche den User und seinen Kontext zu verstehen;
- sei kritisch, frag woher die Daten kommen/wie der Algorithmus funktioniert;
- hilf dem User, ein mentales Modell zu bilden;
- denk nicht nur an den “Happy Flow”, versuche herauszufinden, was alles schief gehen könnte;
- hilf die Prozesse zwischen Mensch und Maschine so zu gestalten, dass es einen Plan B gibt, falls
etwas schief geht; - halte die Balance zwischen Euphorie und Verantwortung;
- achte auf eine entsprechende Firmenkultur und vielfältige Teams
- gestalte mit!
“Mit der Künstlichen Intelligenz ist es wie mit der Atomkraft: Es kommt darauf an, wie wir sie
einsetzen (Sibylle Peuker).”
Ethical Design Thinking Workshop
Nach diesem intensiven Vormittag widmete sich der Nachmittag voll und ganz der Praxis. In einem Ethical Design Thinking Workshop hatten wir, in kleineren Gruppen die Gelegenheit das eben gelernte konkret an praktischen Beispielen anwenden.
Hierfür folgten wir dem Ethical Design Thinking Prozess:
Quelle: Slides Sibylle Peuker
Basierend auf den gezeigten Prozessschritten haben wir in der Gruppe unser eigenes Produkt bzw. einen Prototypen entwickelt und einem Ethical Assessment unterzogen.
Fazit
Es war ein spannender, lehrreicher, humorvoller aber auch intensiver Unterrichtstag, der auf wundervolle Art und Weise von einer äusserst kompetenten Dozentin gestaltet wurde. Schnell wird klar, Sibylle Peuker trägt den Titel ‘Anwältin der User’ zu Recht.
Herzlichen Dank an Sibylle Peuker, die Erwartungen wurden definitiv nicht enttäuscht und wir nehmen sicher vieles mit.
Dieser Blogbeitrag wurde von einem Studierenden verfasst und beinhaltet subjektive Eindrücke, eigene Darstellungen und Ergänzungen.