Partizipative Evaluation des KI-basierten Chatbots SuchtGPT: Qualitätsmanagement, Inanspruchnahme und Akzeptanz

Kurzzusammenfassung in leicht verständlicher Sprache

KI-basierte Unterstützungsangebote in der Suchthilfe sind ein wichtiges Thema, weil viele Menschen niedrigschwellige und schnell erreichbare Hilfe benötigen. Mit dem KI-basierten Chatbot SuchtGPT wollen wir herausfinden, wie gut dieser von Nutzer:innen angenommen wird und welche Qualitätsanforderungen für einen verantwortungsvollen Einsatz wichtig sind. Dafür analysieren wir die Nutzung des Chatbots und sammeln Rückmeldungen von Nutzer:innen und Fachkräften. Wir finden heraus, dass SuchtGPT insgesamt gut akzeptiert wird und kontinuierliche Feedback- und Kontrollprozesse entscheidend für die Qualität sind. Die Erkenntnisse können helfen, sichere und hilfreiche KI-basierte Unterstützungsangebote für Prävention, Beratung und Suchthilfe zu entwickeln.

Abstract

Hintergrund und Fragestellung
Generative Künstliche Intelligenz (KI) eröffnet neue Möglichkeiten für niedrigschwellige Informations- und Unterstützungsangebote in der Suchthilfe. Mit dem KI-basierten Chatbot SuchtGPT, gefördert vom Bundesministerium für Gesundheit, wurde ein Anwendungsbeispiel entwickelt, das nach einer partizipativen Konzeption nun im Hinblick auf Qualität, Nutzung und Akzeptanz systematisch evaluiert wird.

Methoden
Die Evaluation folgt einem Mixed-Methods-Ansatz, der quantitative Nutzungsdaten (z. B. Anzahl der Nachrichten pro Chat, Nutzungsszenarien, Zufriedenheit) mit qualitativem Userfeedback kombiniert. Zusätzlich werden Chat-Verläufe kontinuierlich durch professionelle Suchtberaterinnen supervidiert. Strukturierte Feedbackprozesse wurden implementiert, um Qualitätskriterien zu entwickeln und eine iterative Weiterentwicklung zu ermöglichen. Zentrale Kriterien umfassen u. a. inhaltliche Korrektheit, Angemessenheit der Kommunikation sowie die Einhaltung fachlicher und ethischer Grenzen.

Ergebnisse
Erste Ergebnisse deuten auf eine insgesamt hohe Akzeptanz und eine vielfältige Nutzung des Chatbots hin. Kontinuierliche Supervisions- und Feedbackprozesse erweisen sich als wesentlich für die Schärfung fachlicher, kommunikativer und ethischer Qualitätskriterien. Die partizipative Einbindung von Nutzer:innen und Fachkräften ist zentral, um Qualitätsanforderungen zu identifizieren, das System kontinuierlich zu optimieren und die Akzeptanz nachhaltig zu fördern. Herausforderungen bestehen insbesondere in der fortlaufenden Aktualisierung der zugrunde liegenden Informationen, der erneuten systematischen Testung weiterentwickelter Sprachmodelle sowie in der klaren Definition der Grenzen KI-basierter Unterstützung.

Diskussion und Schlussfolgerung
Ein kontinuierliches, partizipatives Qualitätsmanagement ist zentral für den verantwortungsvollen Einsatz von KI in der Suchthilfe. Die Kombination aus Nutzungsdaten und Feedback ermöglicht eine evidenzbasierte Weiterentwicklung und kann die Akzeptanz bei Ratsuchenden und Fachkräften fördern. Die Ergebnisse zeigen Ansatzpunkte für die Entwicklung und nachhaltige Implementierung qualitätsgesicherter KI-basierter Anwendungen in Prävention, Beratung und Versorgung.

Interessenskonflikte sowie Erklärung zur Finanzierung
Ich bzw. die Koautorinnen und Koautoren erklären, dass während der letzten 3 Jahre keine wirtschaftlichen Vorteile oder persönlichen Verbindungen bestanden, die die Arbeit zum eingereichten Abstract beeinflusst haben könnten.