Was gab den Ausschlag für die Entwicklung eines KI-basierten Anwendungsfalls?

Der Auftraggeber ist ein großer Anbieter einer KI-basierten Recruiting-Software. Eine Kernfunktion dieser Anwendung ist das Matching von Jobsuchenden mit offenen Stellen. Das KI-System war fertig entwickelt und bereits im Einsatz. Offen war etwas anderes: Woran erkennt das Unternehmen eigentlich, dass eine neue Version dieser Funktion gut genug ist, um live zu gehen? Diese Frage wiegt hier besonders schwer, weil KI im Recruiting nach dem EU AI Act als Hochrisiko-Anwendung gilt. Damit werden Tests, Dokumentation und klare Zuständigkeiten zur Pflicht.

Welche Erwartungen bzw. Anforderungen hatten Sie an die KI-Anwendung?

Unser Auftrag hatte deshalb zwei Teile. Zuerst eine Bestandsaufnahme: Welche Abläufe, die der AI Act erwartet, gibt es im Unternehmen schon, welche nicht? Danach eine Anleitung für den konkreten Anwendungsfall, die festhält, was geprüft werden muss und ab welchem Ergebnis eine Freigabe vertretbar ist.

Auf welche Partner waren Sie mit welcher Technologie bei der Entwicklung angewiesen?

Gearbeitet wurde direkt mit dem Governance-Team des Auftraggebers, das sich aus verschiedenen Abteilungen wie Ethik, Recht und Data Science zu-sammensetzt. Unsere Unterstützung richtet sich zum einen auf die interne Organisation, also Prozesse, Rollen, Zuständigkeiten und Freigaben, sowie auf die Technik, also Testverfahren und das tatsächliche Verhalten des KI-Systems.

Mit dem Einsatz von KI-Lösungen muss auch ein Wandel der Kompetenzen einhergehen. Wie sind Sie mit dieser Herausforderung in Bezug auf Ihre Mit-arbeitenden umgegangen?

Der Einstieg war unser AI Act Process Landscape Workshop, ein Halbtages-format, das vor Ort, online oder hybrid läuft. Im Workshop machen wir die AI-Act-relevante Prozesslandschaft sichtbar: Wir gleichen bestehende Prozesse systematisch ab – was existiert bereits, was teilweise, was noch nicht. Die abstrakten Anforderungen übersetzen wir in konkrete, beantwortbare Fragen über die eigenen Abläufe, vom Risikomanagement über Data Governance und Modellentwicklung bis zum Umgang mit Vorfällen und zur internen Prü-fung. Am Tisch sitzen alle betroffenen Bereiche: Governance, Compliance, AI und Data Science, dazu Produkt und Engineering – denn in vielen Unter-nehmen arbeiten diese Teams parallel am selben Thema, ohne gemeinsame Sprache und geteilte Priorisierung. Das Ergebnis ist ein Dashboard, mit dem das Unternehmen selbst weiterarbeitet; die eigentliche Arbeit bleibt im Haus.

In welchem Zeitraum haben Sie die KI-Lösung im Kunden-Unternehmen implementiert?

Das Projekt wurde über einen Zeitraum von 2 Monaten durchgeführt.

Ein Fazit zu Ihrer KI-Lösung:

Das Management von KI-Systemen ist am Ende kein Ordner für die Auf-sichtsbehörde, sondern etwas Praktisches: klare Verfahren, feste Kriterien und ein Ablauf, der regelt, wer wann draufschaut und welche Freigaben er-forderlich sind. Wenn das Fundament von innen stabil ist, hält es auch der Prüfung von außen stand. Das ist der Befund, den wir über mehrere Projekte hinweg bestätigt sehen: KI-Management funktioniert dort am besten, wo es in die Entwicklung eingebaut ist, und nicht dort, wo es als eigenes Kontrollsys-tem daneben steht.

Einen abschließenden Rat/Tipp an andere Unternehmer, die KI anwenden wollen:

Schauen Sie auf zwei Zahlen: Wie viele KI-Initiativen haben Sie im letzten Jahr begonnen, und wer könnte die zentralen Fragen rund um Aufbau und Risiken beantworten? Selten ist die Technik das Problem, denn die Prototy-pen funktionieren. Es fehlt die Antwort auf die Frage, wer entscheidet, dass ein System gut genug ist für echte Kunden oder Bewerber – und auf welcher Basis. Solange das nicht festgelegt ist, wird das Deployment zum Risikofak-tor.

Weitere Informationen:

www.kvj-consulting.com