Erklärung zur verantwortungsvollen KI

Virkla nutzt künstliche Intelligenz, um Recruiting-Teams effizienter und fairer arbeiten zu lassen. Wir verpflichten uns, KI transparent, erklärbar, menschenüberwacht und kontinuierlich auf unbeabsichtigte Folgen geprüft einzusetzen. Virkla verwendet keine Arbeitgeber- oder Bewerberdaten, um KI-Modelle zu trainieren oder zu optimieren. Diese Erklärung beschreibt unsere Grundsätze und deren praktische Umsetzung in der Plattform.

Unsere Prinzipien

Wir halten uns bei jedem KI-Feature, das wir entwickeln und betreiben, an sechs Kernprinzipien:

Transparenz: Nutzer können immer sehen, wo KI eingesetzt wurde und welches Ergebnis sie produziert hat
Erklärbarkeit: KI-Ausgaben werden mit Begründungen begleitet, die sie interpretierbar machen — nicht nur ein Score
Menschliche Aufsicht: jeder KI-unterstützte Schritt hat einen menschlichen Entscheidungspunkt — KI priorisiert und fasst zusammen, Menschen entscheiden
Fairness by Design: KI-Features werden entwickelt und getestet, um Vorurteile bei Einstellungsergebnissen zu reduzieren, nicht zu verstärken
Datensparsamkeit: KI-Modelle werden mit dem Minimum an Daten trainiert und betrieben, das für die Aufgabe notwendig ist
Rechenschaftspflicht: wir führen ein Prüfprotokoll der KI-Interaktionen und übernehmen Verantwortung für die Auswirkungen unserer Systeme

Wie KI in Virkla eingesetzt wird

KI-Features in Virkla werden an spezifischen, definierten Punkten im Einstellungsworkflow eingesetzt. Sie operieren nicht autonom und treffen keine verbindlichen Entscheidungen.

KI-Score-Matching: bewertet Kandidaten anhand rollenspezifischer, vom Recruiter definierter Kriterien. Erstellt eine rangierte Shortlist, keine Einstell- oder Ablehnungsentscheidung. Scores sind sichtbar, überschreibbar und an spezifische Kriterien geknüpft
KI-Debias — Stellenanzeigen-Analyse: prüft Stellenbeschreibungen auf Sprachmuster, die mit einer reduzierten Kandidatenpool-Vielfalt verbunden sind. Kennzeichnet Elemente zur menschlichen Überprüfung; bearbeitet keine Inhalte automatisch
KI-Debias — Blind-CV-Screening: entfernt persönliche Identifikatoren aus der CV-Anzeige in frühen Pipeline-Phasen, wenn vom Recruiter pro Stelle aktiviert
KI-Zusammenfassung: erstellt Kurzzusammenfassungen von Kandidatenprofilen und Bewertungsnotizen zur Reduzierung der Lesezeit. Zusammenfassungen werden stets neben dem vollständigen Quellmaterial angezeigt

Bias-Monitoring und -Mitigation

Wir nehmen das Risiko algorithmischer Voreingenommenheit im Hiring ernst. Unser Ansatz ist kontinuierlich, keine einmalige Bewertung.

KI-Scoring-Modelle werden während der Entwicklung und nach dem Deployment auf disparate Auswirkungen über demografische Kategorien hinweg bewertet
Wir überwachen Modellverhalten auf Drift und re-evaluieren Modelle bei wesentlichen Änderungen in den Eingabedaten
Blind-CV-Features sind explizit darauf ausgelegt, den Einfluss identitätskorrelierten Signale beim frühen Screening zu reduzieren
Wir verwenden keine geschützten Merkmale als Modelleingaben oder Bewertungsfaktoren
Kunden können auf Anfrage einen Bias-Impact-Bericht für ihren KI-unterstützten Einstellungsprozess anfordern

Anforderungen an menschliche Aufsicht

Virkla ist darauf ausgelegt, DSGVO Art. 22 einzuhalten, der rein automatisierte Entscheidungen mit wesentlichen Auswirkungen auf Einzelpersonen einschränkt. Alle Einstellungsentscheidungen auf der Virkla-Plattform werden von Menschen getroffen.

Kein Kandidat kann allein aufgrund einer KI-Ausgabe abgelehnt, weitergeleitet oder eingestellt werden
KI-Score-Matching erstellt eine rangierte Liste; der Recruiter entscheidet, wen er kontaktiert, weiterleitet oder ablehnt
Alle KI-generierten Ausgaben werden als Eingaben für menschliche Entscheidungsfindung präsentiert, nicht als Entscheidungen
Recruiter können KI-Vorschläge an jedem Punkt des Workflows überschreiben
Prüfprotokolle erfassen menschliche Entscheidungen getrennt von KI-Ausgaben zur Unterstützung der Compliance-Dokumentation

Datenpraktiken für KI

Der ethische Umgang mit Trainings- und Betriebsdaten ist grundlegend für verantwortungsvolle KI. Unsere zentrale Verpflichtung: Virkla verwendet keine Arbeitgeber- oder Bewerberdaten, um KI-Modelle zu trainieren oder zu optimieren. Unsere vollständigen Datenpraktiken:

Wir verwenden keine Arbeitgeber- oder Bewerberdaten, um KI-Modelle zu trainieren, zu optimieren oder zu verbessern — für keinen Kunden
KI-Scoring-Modelle werden mit öffentlich verfügbaren Arbeitsmarktdaten und kuratierten Kompetenzrahmen trainiert — nicht mit den Lebensläufen Ihrer Bewerber
Kundendaten werden nie verwendet, um Modelle zu trainieren, die anderen Kunden nützen
Wir wenden Datensparsamkeitsprinzipien an: KI-Modelle verwenden nur die für die Aufgabe notwendigen Merkmale
Alle KI-bezogenen Datenverarbeitungen sind in unserer Auftragsverarbeitungsvereinbarung dokumentiert

Transparenz für Kandidaten

Kandidaten haben ein Recht zu wissen, wenn KI in einem Prozess eingesetzt wurde, der ihre Bewerbung betrifft. Virkla stellt Arbeitgebern die Informationen bereit, die sie für die Offenlegung des KI-Einsatzes benötigen, wie von DSGVO und EU-KI-Verordnung gefordert.

Arbeitgeber, die KI-Score-Matching nutzen, erhalten kandidatenseitige Offenlegungssprache für Stellenanzeigen und Datenschutzhinweise
Kandidaten können beim Arbeitgeber Informationen über den KI-Einsatz in ihrem Bewerbungsprozess erfragen
Wir veröffentlichen und aktualisieren diese Erklärung öffentlich, wenn sich unsere Praktiken wesentlich ändern
Wir beobachten aktiv die Umsetzung der EU-KI-Verordnung und aktualisieren unsere Praktiken, wenn Anforderungen verbindlich werden

Rechenschaftspflicht und kontinuierliche Verbesserung

Verantwortungsvolle KI ist ein kontinuierliches operatives Engagement, keine einmalige Zertifizierung.

Regelmäßige interne Überprüfung der KI-Feature-Performance und Fairness-Metriken
Externe Sicherheits- und Bias-Bewertungen als Teil unseres Compliance-Programms
Öffentliches Bekenntnis zur Aktualisierung dieser Erklärung bei Änderungen unserer Praktiken
Eskalationspfad für Kunden, die unerwartetes KI-Verhalten beobachten: responsible-ai@virkla.de
Engagement mit EU-KI-Verordnungs-Leitlinien, ISO 42001 und relevanten DIN-Normen

Zurück zur Startseite