Anwendungen wie ChatGPT oder Gemini basieren auf sogenannten Basismodelle, also großen KI-Systemen, die mit riesigen Datenmengen trainiert werden. Doch was, wenn die Datengrundlage dieser Modelle brüchig ist? Der Report „Fragile Foundations. Hidden Risks of Generative AI“ der Bertelsmann Stiftung zeigt, dass viele Modelle auf unzureichend geprüften, verzerrten oder nicht repräsentativen Datensätzen beruhen. Das birgt Risiken für Fairness, Verlässlichkeit und Vertrauen.
Gerade Verwaltungen stehen damit vor einer doppelten Herausforderung: Einerseits eröffnet generative KI neue Möglichkeiten, Arbeitsabläufe zu vereinfachen und den Zugang zu Informationen zu verbessern, etwa durch Chatbots in Bürger:innenservices. Andererseits muss sichergestellt werden, dass diese Systeme keine systematischen Verzerrungen oder Fehlinformationen weitergeben.
Der Vortrag stellt zentrale Erkenntnisse des Reports vor und lädt dazu ein, über Chancen und Grenzen generativer KI in der Verwaltung zu diskutieren.
Teresa Staiger ist Politikwissenschaftlerin und Expertin für gemeinwohlorientierte Künstliche Intelligenz (KI). Sie analysiert Entwicklungen rund um KI aus einer gesellschaftskritischen und international vergleichenden Perspektive. Als Project Manager im Projekt „reframe[Tech]“ der Bertelsmann Stiftung verantwortete sie die strategische Ausrichtung des Themenfeldes zur verantwortungsvollen Entwicklung und Nutzung generativer KI. Zuvor leitete sie das Multistakeholder-Projekt „Tech-Exploration in der Wohlfahrt“, ein Programm zur Identifikation sinnvoller KI-Anwendungsideen in der Wohlfahrt.
Zusätzlich publiziert sie seit drei Jahren den Newsletter Erlesenes (zum Newsletter) , der zweiwöchentlich eine kuratierte Auswahl an Artikeln, Studien und aktuellen Debatten rund um KI und Gemeinwohl bietet.
Bei Rückfragen wenden Sie sich bitte an: kompetenzteam.ki@sk.hamburg.de
Der Vortrag findet am 25. November 2025 von 12:10 - 13:00 Uhr auf Webex statt.
Webex-Meeting beitreten
Es ist keine Anmeldung notwendig.
Das Kompetenzteam KI ist Teil des vom IT-Planungsrat beschlossenen Schwerpunktthemas Datennutzung (Patenschaft: Hamburg). Das Kompetenzteam KI hat zum Ziel, die föderale Verwaltung mit KI zukunftsfähiger, vertrauenswürdiger und innovativer zu gestalten sowie effizientere, datenbasierte Entscheidungen zu ermöglichen, um Bürger:innen und Unternehmen besser zu dienen.
Mehr Informationen zum Schwerpunktthema des IT-Planungsrats: