Partizipative Softwareentwicklung als Grundlage der Qualitätssicherung bei KI-Anwendungen in der Suchthilfe

Kurzzusammenfassung in leicht verständlicher Sprache

Qualitätssicherung bei KI-Anwendungen muss auf partizipativen, iterativen und empirisch fundierten Entwicklungsprozessen basieren.

Abstract

Hintergrund und Fragestellung
Der Einsatz generativer Künstlicher Intelligenz (KI) stellt hohe Anforderungen an Qualitätssicherung, ethische Reflexion und datenschutzkonforme Implementierung. Vor diesem Hintergrund stellt sich die Frage, wie KI-Anwendungen so entwickelt werden können, dass sie den spezifischen Anforderungen der Suchthilfe entsprechen und verantwortungsvoll eingesetzt werden können. Der Beitrag adressiert diese Frage anhand des Forschungsprojekts „KIA – KI-gestützte Assistenz für digitale psychosoziale Beratung“ und fokussiert die Rolle partizipativer Softwareentwicklung als Grundlage der Qualitätssicherung.

Methoden
Der entwickelte KI-Prototyp wurde in drei aufeinander aufbauenden Test- und Evaluationsphasen mit 49 Fachkräften aus unterschiedlichen Feldern der Onlineberatung, inkl. DigiSucht, erprobt. Neben systematischen Walkthroughs fanden mehrwöchige Testeinsätze statt, in denen Fachkräfte in realitätsnahen Settings Beratungsverläufe simulierten und dabei KI-Funktionen nutzten. Die Evaluation kombinierte die Analyse von qualitativen und quantitativen Erhebungen, insbesondere strukturierte Bewertungen und reflexive Einschätzungen der Fachkräfte zu Nutzungserfahrungen, wahrgenommenem Mehrwert, Grenzen sowie Auswirkungen auf professionelle Entscheidungs- und Reflexionsprozesse.

Ergebnisse
Die Ergebnisse zeigen, dass KI-Assistenzsysteme von Fachkräften insbesondere als strukturierende und reflexionsanregende Unterstützung wahrgenommen werden. Gleichzeitig werden klare Anforderungen an Transparenz, Nachvollziehbarkeit und die Wahrung professioneller Autonomie von den Fachkräften kommuniziert.

Der Gesamtprojektverlauf verdeutlicht, dass die kontinuierliche Einbindung von Fachkräften wesentlich zur fachlichen Passung und Akzeptanz der Anwendung beiträgt. Ein zentrales Projektergebnis stellt die Entwicklung eines praxisorientierten Leitfadens sowie eines Ethikmanuals dar, die konkrete Orientierungsrahmen für die Entwicklung, Implementierung und Qualitätssicherung von KI-Anwendungen in verschiedenen Feldern der Beratung bieten.

Diskussion und Schlussfolgerung
Qualitätssicherung bei KI-Anwendungen darf nicht allein technisch verstanden werden, sondern muss wesentlich auf partizipativen, iterativen und empirisch fundierten Entwicklungsprozessen basieren. Bei der Bereitstellung von KI-Systemen müssen neben der Funktionalität auch Datenschutz, Datensicherheit und professionelle Verantwortungsstrukturen zuverlässig abgesichert werden. Für die fachlich verantwortbare Nutzung ist zudem die Herstellung von Transparenz und die Bereitstellung eines Human-in-the-loop-Designs zentral. Gerade im sensiblen Handlungsfeld der Suchthilfe kommt der systematischen Reflexion von Risiken, professionellen Rollen und ethischen Anforderungen eine besondere Bedeutung zu.

Interessenskonflikte sowie Erklärung zur Finanzierung
Ich bzw. die Koautorinnen und Koautoren erklären, dass während der letzten 3 Jahre keine wirtschaftlichen Vorteile oder persönlichen Verbindungen bestanden, die die Arbeit zum eingereichten Abstract beeinflusst haben könnten.


Erklärung zur Finanzierung: Das Projekt KIA wird vom Bundesministerium für Bildung, Familie, Senioren, Frauen und Jugend gefördert. Förderkennzeichen: 3923406K03