KI ist nicht mehr nur ein Thema für Strategiepapiere und Zukunftsdiskussionen. Sie ist mitten im Arbeitsalltag angekommen und unterstützt beim Schreiben, Ordnen, Verdichten, Vergleichen und Vorbereiten.
Genau damit rückt eine neue Führungsfrage in den Mittelpunkt. Was passiert, wenn KI nicht nur hilft, sondern Einschätzungen prägt und Entscheidungen mit vorbereitet?
Diesen wichtigen Anstoss verdanke wir den LinkedIn-Impulsen von Paul Meyrat zur KI in der Verwaltung und zu „Hochrisiko-KI im Alltag“. Sie machen einen zentralen Punkt sichtbar. Nicht jede KI-Nutzung ist gleich riskant. Eine Formulierungshilfe ist etwas anderes als ein KI-Impuls, der fachliche Einschätzungen oder Entscheidungen über Menschen beeinflusst. Herzlichen Dank für diese inspirierenden und differenzierten Beiträge.
Viele Organisationen reagieren auf KI mit Richtlinien. Das ist richtig und notwendig. Es braucht klare Leitplanken: keine vertraulichen Daten in ungeprüfte Tools eingeben, Ergebnisse kritisch prüfen, Datenschutz beachten, Quellen kontrollieren und rechtliche Risiken kennen.
Auch die öffentliche Verwaltung ist hier unterwegs. Die Stadt Zürich hat im August 2025 eine Richtlinie zur Nutzung generativer künstlicher Intelligenz in der Stadtverwaltung erlassen. Die Datenschutzstelle der Stadt Zürich weist zudem darauf hin, dass KI und Datenschutz besonders sorgfältig zusammengedacht werden müssen, wenn sensible Daten, externe KI-Werkzeuge und behördliche Aufgaben zusammentreffen.
Das ist ein wichtiger Schritt, aber es ist erst der Anfang.
Denn die eigentliche Führungsfrage beginnt nicht beim Prompt. Sie beginnt dort, wo KI fachliche Einschätzungen, Empfehlungen oder Entscheidungen beeinflusst.
Der entscheidende Unterschied: Nutzung oder Wirkung?
Nicht jede KI-Nutzung ist gleich riskant.
Ob ein KI-Tool einen Text sprachlich glättet, ist etwas anderes als die Frage, ob KI eine Einschätzung über einen Menschen vorbereitet.
In der Verwaltung wird dieser Unterschied besonders sichtbar. Wenn eine Lehrperson KI nutzt, um einen Elternbrief verständlicher zu formulieren, ist das eine Form der Textunterstützung. Wenn KI aber beigezogen wird, um eine Laufbahnentscheidung vorzubereiten, entsteht eine völlig andere Risikolage. Dann kann eine KI-Einschätzung den Bildungsweg eines Kindes beeinflussen.
Dieser Gedanke stammt unter anderem aus einem LinkedIn-Impuls von Paul Meyrat zur Frage von „Hochrisiko-KI im Alltag“. Er macht deutlich: Das Risiko liegt nicht nur im Tool, es liegt vor allem im Einsatzkontext.
Genau dieser Gedanke ist auch für Unternehmen hoch relevant.
Denn auch im Unternehmensalltag gibt es viele Situationen, in denen KI nicht einfach nur unterstützt, sondern Einschätzungen mitprägt. Im HR können KI-Tools Bewerbungsunterlagen strukturieren, Kompetenzprofile vergleichen, Interviewfragen vorbereiten oder Entwicklungsbedarfe sichtbar machen. In der Führung können sie helfen, Situationen zu analysieren, Optionen zu formulieren, Ideen zu generieren oder Entscheidungsgrundlagen aufzubereiten.
Das kann sehr hilfreich sein. Aber sobald KI in Einschätzungen über Menschen hineinwirkt, verändert sich die Verantwortung. Dann geht es nicht mehr nur um Effizienz. Dann geht es um Fairness, Nachvollziehbarkeit, Kontextverständnis und professionelle Urteilsfähigkeit.
Eine Zusammenfassung ist nicht dasselbe wie eine Beurteilung. Eine Formulierungshilfe ist nicht dasselbe wie eine Empfehlung. Eine Ideensammlung ist nicht dasselbe wie eine Entscheidungsvorbereitung über Menschen.
Diese Unterscheidung klingt einfach. In der Praxis ist sie anspruchsvoll und darf im Arbeitsalltag nicht vergessen werden.
Warum „der Mensch entscheidet“ nicht genügt
Viele Organisationen beruhigen sich mit dem Satz: «Am Ende entscheidet ja der Mensch.» Das stimmt und sollte auch so gehandhabt werden, aber es genügt nicht.
Denn entscheidend ist nicht nur, wer formal entscheidet. Entscheidend ist, ob diese Person das KI-Ergebnis wirklich einordnen kann.
Versteht sie, was das Ergebnis ist? Kann sie mögliche Verzerrungen ausmachen und weiss sie, welche Daten fehlen könnten? Die Person muss fachlich begründen, warum sie einem Vorschlag folgt oder gerade nicht folgt. Die Person muss somit auch in der Lage sein, ein plausibel formuliertes KI-Ergebnis bewusst zu verwerfen, wenn sie das so beurteilt.
Gerade hier entsteht ein neues Führungsrisiko.
KI klingt oft klar, strukturiert und überzeugend. Sie kann Unsicherheit reduzieren. Sie kann aber auch Unsicherheit verdecken. Besonders dort, wo Menschen fachlich noch wenig Erfahrung haben oder unter Zeitdruck entscheiden müssen, kann ein KI-Output wie eine objektive Einschätzung wirken.
Dann verschiebt sich Autorität und das nicht offiziell, aber praktisch.
Die Entscheidung liegt formal beim Menschen. Die gedankliche Richtung kann aber längst durch die KI geprägt sein.
Genau deshalb braucht KI nicht nur Nutzungskompetenz. Sie braucht Urteilskraft.
Was der EU AI Act sichtbar macht
Der EU AI Act zeigt diese Risikologik besonders deutlich. Im Bereich Bildung und berufliche Bildung werden bestimmte KI-Systeme als Hochrisiko eingestuft, etwa wenn sie Zugang, Zulassung, Zuweisung, Lernergebnisse oder Bildungsniveaus beeinflussen.
Der Grund ist nachvollziehbar. Solche Systeme können Bildungs- und Berufswege prägen. Sie können Chancen eröffnen, aber auch Chancen begrenzen. Und sie können bestehende Diskriminierungsmuster verstärken, wenn sie nicht sorgfältig geprüft und gesteuert werden.
Für Unternehmen, HR und Personalentwicklung ist dieser Gedanke wichtig.
Auch im Arbeitskontext gibt es Entscheidungen, die Zukunftswege beeinflussen. Rekrutierung, Potenzialbeurteilung, Förderung, Weiterbildung, Nachfolgeplanung, Leistungsbeurteilung oder Trennung.
Wo KI den Menschen beschreibt, bewertet, empfiehlt, analysiert oder einordnet, braucht es besondere Sorgfalt.
Nicht weil KI grundsätzlich gefährlich ist. Sondern weil ihre Wirkung bedeutsam sein kann.
Die Regulierung kommt. Die Praxis ist schon da.
In der Schweiz gibt es bisher keine umfassende spezifische KI-Gesetzgebung. Der Bundesrat hat jedoch entschieden, die KI-Konvention des Europarats umzusetzen. Das Bundesamt für Justiz erarbeitet dazu bis Ende 2026 eine Vernehmlassungsvorlage.
Das ist wichtig, aber die Praxis wartet nicht auf Regulierung.
KI wird heute schon genutzt. In Verwaltungen, Unternehmen, HR-Abteilungen, Bildungseinrichtungen, Beratungen, Coachingprozessen und Führungsentscheidungen.
Darum lautet die entscheidende Frage nicht: Warten wir, bis alles gesetzlich geregelt ist?
Die entscheidende Frage lautet: Was müssen Organisationen heute selbst klären?
KI braucht nicht nur Regeln. KI braucht Risikokompetenz.
Viele Organisationen beginnen mit KI-Schulungen. Mitarbeitende lernen, wie man gute Prompts schreibt, Ergebnisse verbessert und Tools effizient nutzt.
Das ist sinnvoll. Aber es ist nur ein Teil der Aufgabe.
Organisationen brauchen zusätzlich Risikokompetenz.
Risikokompetenz bedeutet, unterscheiden zu können, wann KI nur assistiert und wann KI eine fachliche Einschätzung beeinflusst. Sie bedeutet zu erkennen, wann Menschen, Chancen, Rechte oder Entwicklungsmöglichkeiten betroffen sind. Und sie bedeutet zu wissen, wann es Dokumentation, Freigabe, ein Vier-Augen-Prinzip oder klare Grenzen braucht.
Das ist keine Verhinderung von Innovation.
Es ist die Voraussetzung für verantwortliche Innovation.
Der Punkt ist nicht weniger KI.
Der Punkt ist bessere Verantwortung.
Was das für Führung bedeutet
KI macht Führung nicht überflüssig. Sie macht Führung anspruchsvoller. Führung muss heute klären, wo KI eingesetzt werden darf, wofür sie hilfreich ist und wo menschliche Urteilskraft unverzichtbar bleibt.
Dazu gehört auch, Mitarbeitenden Orientierung zu geben. Nicht nur technisch, sondern fachlich und ethisch.
Führungskräfte müssen Räume schaffen, in denen über KI-Nutzung gesprochen werden kann. Wo Unsicherheit erlaubt ist. Wo Erfahrungen geteilt werden. Wo heikle Anwendungsfälle besprochen werden. Und wo klar ist, KI kann unterstützen, aber sie nimmt niemandem die Verantwortung ab.
Gerade in KMU zeigt sich rasch, ob eine Organisation hier reif ist.
Wird KI zufällig und verdeckt genutzt oder gibt es gemeinsame Leitplanken? Dürfen Mitarbeitende Fragen stellen und werden kritische Situationen reflektiert? Gibt es Kriterien, wann KI nicht eingesetzt werden soll und ist allen klar, wer Entscheidungen verantwortet?
Führung heisst hier nicht Kontrolle bis ins Detail.
Führung heisst Orientierung schaffen.
Was das für HR und Personalentwicklung bedeutet
HR und Personalentwicklung haben in dieser Entwicklung eine Schlüsselrolle.
Denn sie arbeiten dort, wo KI besonders sensibel wird: bei Menschen, Kompetenzen, Entwicklung, Leistung, Auswahl und Zukunftsperspektiven.
KI kann HR entlasten. Sie kann helfen, Muster zu erkennen, Unterlagen zu strukturieren, Gespräche vorzubereiten oder Lernprozesse individueller zu gestalten.
Aber HR muss zugleich Hüterin der Fairness bleiben. Gerade deshalb braucht es nicht nur neue Tools, sondern neue Standards im Umgang mit KI.
In welchen HR-Prozessen darf KI eingesetzt werden und wo muss der Einsatz offengelegt werden? Welche Entscheidungen brauchen zwingend menschliche Prüfung und wie stellen wir sicher, dass KI nicht bestehende Muster verstärkt? Wie dokumentieren wir Begründungen und wie befähigen wir Führungskräfte, KI-Ergebnisse kritisch zu nutzen?
Personalentwicklung wird damit zu einem zentralen Ort für verantwortliche KI-Kompetenz.
Nicht als reine Toolschulung.
Sondern als Lernraum für Urteilskraft, Reflexion und Verantwortung.
Drei Fragen, die Unternehmen jetzt stellen sollten
Unternehmen müssen nicht alles auf einmal lösen. Aber sie sollten beginnen, ihre KI-Nutzung systematisch zu ordnen. Eine einfache Unterscheidung hilft:
Wo nutzen wir KI nur assistierend?
Das betrifft zum Beispiel Formulierungen, Zusammenfassungen, Ideensammlungen, Strukturierung oder Vorbereitung. Auch hier gelten Datenschutz und Qualitätsprüfung. Aber das Risiko ist anders gelagert.
Wo beeinflusst KI fachliche Einschätzungen?
Das betrifft zum Beispiel Bewerbungen, Mitarbeiterbeurteilungen, Kompetenzprofile, Lernpfade, Potenzialeinschätzungen, Kundenbeurteilungen oder Risikoeinschätzungen. Hier braucht es mehr Sorgfalt, klare Verantwortlichkeiten und fachliche Prüfung.
Wo darf KI nur eingeschränkt oder vorerst gar nicht eingesetzt werden?
Das betrifft sensible Entscheidungen über Menschen, Chancen, Rechte, Entwicklung oder Zukunftsperspektiven. Hier braucht es klare Grenzen, Freigaben, Dokumentation und häufig ein Vier-Augen-Prinzip.
Diese Unterscheidung schafft keine Bürokratie.
Sie schafft Klarheit.
Sicherheit ist Voraussetzung. Verantwortung beginnt danach.
Datenschutz, sichere Systeme, geprüfte Tools und klare Richtlinien sind unverzichtbar. Ohne sie entsteht kein Vertrauen. Aber Sicherheit allein beantwortet nicht die Frage, wie eine Organisation mit KI urteilsfähig bleibt.
Die anspruchsvollere Frage lautet:
Wie sorgen wir dafür, dass Menschen nicht nur KI nutzen, sondern ihre Wirkung verstehen?
Denn KI verändert nicht nur Arbeitsprozesse. Sie verändert, wie wir Informationen wahrnehmen, wie wir Fragen stellen, wie wir Optionen bewerten und wie wir Entscheidungen vorbereiten. Genau deshalb braucht KI Führung.
Fazit: KI schafft Struktur. Der Mensch schafft Bedeutung.
KI kann Arbeit erleichtern. Sie kann strukturieren, formulieren, vergleichen, beschleunigen und neue Perspektiven eröffnen. Aber sie ersetzt nicht die professionelle Verantwortung.
Das Gegenteil ist der Fall. Je stärker KI in Wissensarbeit, HR, Führung und Personalentwicklung hineinwirkt, desto wichtiger werden fachliche Kompetenz, kritisches Denken, ethisches Bewusstsein und menschliche Urteilskraft.
Die Verwaltung zeigt exemplarisch, worum es geht. Regeln sind wichtig. Merkblätter sind wichtig. Datenschutz ist wichtig. Doch der nächste Schritt ist anspruchsvoller.
Organisationen müssen klären, wo KI nur unterstützt, wo sie Entscheidungen beeinflusst und wo sie besondere Verantwortung verlangt.
Wenn KI mitentscheidet, muss Führung Verantwortung neu klären, nicht irgendwann, sondern jetzt.
Quellen und Inspiration
Paul Meyrat
LinkedIn-Impuls zur Frage von „Hochrisiko-KI im Alltag“ und zur Unterscheidung zwischen allgemeiner KI-Nutzung und KI-Wirkung in sensiblen Entscheidkontexten.
Link: https://www.linkedin.com/pulse/hochrisiko-ki-im-alltag-paul-meyrat-cyrqe/
Stadt Zürich
Stadtratsbeschluss Nr. 2281/2025 vom 20. August 2025 zur Richtlinie über die Nutzung von generativer künstlicher Intelligenz in der Stadtverwaltung.
Link: https://www.stadt-zuerich.ch/de/politik-und-verwaltung/politik-und-recht/stadtratsbeschluesse/2025/08/stzh-strb-2025-2281.html
Datenschutzstelle der Stadt Zürich
Tätigkeitsbericht 2025, insbesondere der Beitrag „KI und Datenschutz – Vereinbarkeit und Massnahmen im Berichtsjahr“.
Link: https://www.stadt-zuerich.ch/artikel/de/taetigkeitsbericht-datenschutzstelle-2025/das-jahr-2025/ki-datenschutz.html
Bundesrat / Bundeskanzlei
Informationen zur geplanten KI-Regulierung der Schweiz und zur Umsetzung der KI-Konvention des Europarats. Das Bundesamt für Justiz erarbeitet bis Ende 2026 eine Vernehmlassungsvorlage.
Link: https://www.admin.ch/de/nsb?id=104110
Bundesrat
Mitteilung zur Unterzeichnung der KI-Konvention des Europarats durch die Schweiz im März 2025.
Link: https://www.admin.ch/de/nsb?id=104646
Europäische Union / AI Act Service Desk
EU AI Act, Anhang III, Hochrisiko-KI-Systeme, insbesondere im Bereich Bildung und berufliche Bildung.
Link: https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3
Kanton Zürich
Informationen zum Einsatz von Künstlicher Intelligenz in der kantonalen Verwaltung, inklusive rechtlicher, ethischer und sozialer Fragestellungen.
Link: https://www.zh.ch/de/politik-staat/kanton/kantonale-verwaltung/digitale-verwaltung/kuenstliche-intelligenz.html
