Damian Paderta hat das KI-Toolkit entwickelt. Als Digitalberater und Webgeograph beschäftigt er sich intensiv mit den Schnittstellen von Technologie, Gesellschaft und Organisation. Sein beruflicher Schwerpunkt liegt auf der Förderung von Kooperation, der strategischen Öffnung von Organisationen und dem Einsatz von Offenen Bildungsressourcen (OER).
Im Zentrum seiner Arbeit steht das Ziel einer gemeinwohlorientierten Digitalisierung. Dazu gehört für ihn nicht nur die Entwicklung partizipativer Methoden wie diesem Toolkit, sondern auch die kritische Auseinandersetzung mit der Frage, wann der Einsatz – oder der bewusste Nicht-Einsatz – von KI sinnvoll und ethisch vertretbar ist.
Motivation
Künstliche Intelligenz bietet neue Möglichkeiten, datengestützte Lösungen zu entwickeln, die Prozesse effizienter, fairer oder hilfreicher machen als analoge Ansätze. Aber bisher gibt es nur wenige Tools und Methoden, die die Ideengenerierung von KI-Projekten unterstützen – vor allem für weniger technisch versierte Menschen.
Die KI-Toolkit-Methode zielt darauf ab, die Kombinationen aus Datenquellen, Modelltypen, Anwendungsfällen und Outputs zu erforschen und verantwortungsvolle Ansätze zu entwickeln. Zudem bietet die Methode kritische Perspektiven an, durch die die Ergebnisse analysiert und beurteilt werden können – insbesondere hinsichtlich Fairness, Transparenz und Datenschutz. Im Zentrum der Methode stehen die Probleme und Bedürfnisse von Menschen.
Warum partizipatives Design in der KI-Entwicklung notwendig ist
Das Konzept der „KI-Governance“ oder „Responsible AI“ wird in vielen verschiedenen Kontexten diskutiert und ist mit teilweise sehr unterschiedlichen Ansätzen verbunden. Viele KI-Strategien behaupten, dass die Beteiligung von Stakeholdern wichtig ist. Dennoch bleiben Bürger*innen, Beschäftigte und betroffene Gemeinschaften oft außen vor.
In diesem Zusammenhang möchte ich KI-Entwicklung als einen Prozess verstehen, bei dem die Nutzer*innen, Stakeholder und betroffenen Gruppen ihre zunehmend durch KI geprägte Umwelt bewusst mitgestalten – und auch anderen diese Mitgestaltung ermöglichen.
Dies kann traditionelle Schulungen und Trainings bedeuten. Doch traditionelle Bildungswege können mit den gegenwärtig schnelllebigen KI-Entwicklungen nur bedingt mithalten. Deshalb ist der kontinuierliche Aufbau von Fähigkeiten zur Verständigung und Zusammenarbeit in dynamischen Ökosystemen entscheidend.
Partizipatives Design umfasst Theorien, Praktiken und Studien, die sich auf Endnutzerinnen und Stakeholder beziehen. Diese nehmen als ebenbürtige Mitglieder an Prozessen teil, die zu besseren KI-Konzepten führen sollen. Die aktive Beteiligung der Nutzerinnen am Ideen-, Design- und Entwicklungsprozess durch partizipatives Design oder Co-Design-Techniken wird im KI-Diskurs nicht ausreichend berücksichtigt.
Um dies zu erreichen, braucht es die Beteiligung von Laien, die am Design und der Prototyp-Entwicklung von KI-Anwendungen mitwirken. Laien in der KI, die sich von den Expert*innen dadurch unterscheiden, dass sie keine Kenntnisse in Machine Learning, neuronalen Netzen oder Data Engineering haben. Sie müssen nicht einmal mit KI-Konzepten vertraut sein.
Eine Übung im demokratischen Gestalten
Der Kerngedanke liegt darin, dass viele alltägliche Prozesse in Verwaltung, Bildung und Zivilgesellschaft durch KI-Unterstützung verbessert werden können, aber nur dann, wenn die Gestaltung von Anfang an die Perspektive der Nutzer*innen berücksichtigt.
Das bedeutet, dass KI-Systeme:
- Daten aus ihrer Umgebung sammeln und diese analysieren,
- mit Menschen und anderen Systemen kommunizieren,
- transparente und nachvollziehbare Entscheidungen treffen,
- und Ökologien von unterstützenden Systemen aufbauen, die mit Organisationen und ihren Bürger*innen verflochten sind.
Wie kann man KI-Entwicklung demokratisieren?
KI gewinnt als technisches Werkzeug und Lösung für unterschiedlichste gesellschaftliche Herausforderungen an Bedeutung. Dennoch gibt es wenige Versuche, die Bürgerinnen durch KI-Governance gestalterisch zu befähigen. Stattdessen werden sie oft nur zu trainierten Anwenderinnen erzogen – oder von Entscheidungen ausgeschlossen.
Beim Bau von KI-Systemen ist es nicht der Algorithmus allein, der für ein erfolgreiches Projekt sorgt. Nutzerinnen suchen nach nutzbaren, vertrauenswürdigen Erfahrungen. KI-Systeme müssen sich demnach in komplexe Szenarien integrieren lassen, und ein Modell kann zwar eine Schlüsselrolle spielen, aber selten isoliert betrachtet werden. Die größte Herausforderung ist daher die Gestaltung eines überzeugenden Angebots, das vorhersieht, wie Endnutzerinnen das System nutzen werden – eines, das nicht nur die Grundfunktionalität erfüllt, sondern seinen Wert darüber hinaus erweitert und Vertrauen aufbaut.
Nur dann akzeptieren die Nutzer*innen ein System nicht nur als Werkzeug, das sie vielleicht nutzen müssen, sondern als etwas, das die anstehende Aufgabe wesentlich erleichtert und dabei fair und transparent arbeitet. Angesichts dieser Herausforderung wurde die Methode KI-Toolkit als Hilfsmittel entwickelt , um Ideen und Lösungen im KI-Bereich zu generieren, ohne dabei in technischen Details steckenzubleiben oder Hypes blind zu folgen.
KI-Toolkit ausprobieren
Entdecken Sie, wie Sie mit dem KI-Toolkit partizipativ und kreativ neue Ideen entwickeln können.
Sie können das Toolkit als Online-Version direkt im Browser nutzen oder alle Materialien für Ihren eigenen Workshop herunterladen.