KI in der Unterstützung der Sachbearbeitung

Die Sachbearbeitung in der Sozialverwaltung umfasst verschiedenste Tätigkeiten wie Leistungsbearbeitung, Arbeitsvermittlung und/oder Beratung mit unterschiedlich umfassenden sozialen Interaktionen mit bedürftigen sowie vulnerablen Personen. Für alle Tätigkeitsbereiche gibt es erste modellhafte KI-unterstützte Anwendungen, die das Ziel haben, Verwaltungsprozesse effizienter und effektiver zu gestalten wie z. B. in der Bundesagentur für Arbeit, in den Jobcentern (Unterstützung bei der Stellenvermittlung), bei der Wohngeldbearbeitung oder durch den Einsatz von Chatbots. Erste Landesverwaltungen führen zudem eigene KI basierte Textassistenten (F13, Baden-Württemberg) ein, um Recherchen und Zusammenfassungen zu ermöglichen (als Ersatz für ChatGPT). Dabei beschränken sich die Anwendungen bislang vor allem auf die Unterstützung von menschlichen Entscheidungen in Form von Analysehilfen und betreffen weniger die datenschutzrechtlich problematischere vollautomatisierte Entscheidungsfindung. Darüber hinaus bezieht sich KI-Nutzung aber ausdrücklich auch auf nicht verwaltungsspezifische Nutzungen wie z.B. den Einsatz von ChatGPT und andere KI-Dienste, welche zwar meist keine offiziellen für die Sachbearbeitung vorgesehenen Anwendungen sind, aber faktisch z.B. für Übersetzungen oder Zusammenfassungen und Recherchen in Sozialverwaltungen eingesetzt werden.

Im Teilprojekt sollen systematisch solche KI-Anwendungen in Sozialverwaltungen (z. B. Arbeitsagenturen, Jobcenter, kommunale Sozialverwaltungen, Rentenversicherung) analysiert werden. Ein erstes Arbeitspaket zielt dabei auf die detaillierte Untersuchung von ausgewählten KI-Unterstützungsanwendungen, die bereits real in Verwaltungen im Einsatz sind. Im Wege qualitativer Experteninterviews sollen die Kontexte der jeweiligen Implementation analysiert werden. Im Fokus stehen einerseits aufgetretene Widerstände und Befürchtungen, die gerade in der Sozialverwaltung als einer sehr am Einzelfall und der sozialen Arbeit orientierten Verwaltung verhandelt werden sollten, aber andererseits auch die evaluativen Fragen nach den Wirkungen der KI auf die Verfahrenseffizienz und -qualität sowie möglichen Optimierungen. So ist der tatsächliche Nutzen der eingesetzten KI-Systeme zu erheben und mit den Erwartungen und Bedarfen der Verwaltungen und ihrer Beschäftigten ins Verhältnis zu setzen.

Im zweiten Arbeitspaket wird eine quantitative Umfrage unter Beschäftigten unterschiedlicher Sozialverwaltungen (insb. in Jobcentern) durchgeführt, um ihre Erfahrungen mit KI und Einstellungen zur KI-Nutzung und -Akzeptanz systematisch und vergleichend zu erheben. Das Arbeitspaket schließt somit an Forschungen an, in welchen Situationen und unter welchen Bedingungen Verwaltungsbeschäftigte KI verwenden. Übernehmen Sachbearbeitende KI-generierte Ergebnisse weitgehend unkritisch, reflektieren sie diese gegenüber ihrem professionellen Erfahrungswissen oder lehnen sie KI-Erkenntnisse von vornherein ab? Darauf aufbauend sollen Aussagen zu Bias-Verhalten im komplexen Zusammenspiel von menschlicher Sachbearbeitung  und KI ermöglicht werden, die für die Sozialverwaltung eine besondere Relevanz haben.