EU AI Act
Anti-diskriminační detektor pracovních inzerátů
Pravidlový model pomáhá odhalit formulace, které mohou porušovat zákaz diskriminace v pracovních nabídkách.
Aktuální sada veřejných modelových karet je dostupná na /o-ai.
Účel a kontext použití
Detektor se spouští při vytváření nebo úpravě inzerátu a jako ochranná kontrola u AI generování kandidátských textů. Cílem je upozornit na chráněné znaky před zveřejněním.
Vstupní data
Vstupem je název a popis pozice v češtině nebo angličtině. Text se převádí na lowercase a diakriticky složený tvar pro stabilní porovnání s vendored keyword seznamy.
Výstupy
Výstupem je seznam kategorií, nalezený úsek textu a český návrh přepsání. Při nálezu systém blokuje odeslání, pokud zaměstnavatel nedoloží oprávněný profesní požadavek (BFOQ/GORD).
Kategorie chráněných znaků
věk, pohlaví, národnost, rasa a etnický původ, náboženství, sexuální orientace, zdravotní postižení, rodinný stav, politické názory a členství v odborech.
Zdroje
Zákon č. 198/2009 Sb., § 2 uvádí právo na rovné zacházení a zákaz diskriminace z důvodu rasy, etnického původu, národnosti, pohlaví, sexuální orientace, věku, zdravotního postižení, náboženského vyznání, víry či světového názoru; § 2 odst. 4 doplňuje těhotenství, mateřství, otcovství a pohlavní identifikaci. Dále používáme směrnici Rady 2000/78/ES a směrnici Rady 2000/43/ES.
Známá omezení a rizika
Model je pravidlový: může mít false positives u legitimních citací zákona a false negatives u nepřímých nebo nových kódovaných výrazů. Pokrytí je laděné hlavně pro češtinu a základní angličtinu.
Lidský dohled
Zaměstnavatel může výjimečně doložit BFOQ/GORD odůvodnění. Override se ukládá do auditu a je zobrazen administrátorům ke kontrole; zamítnutí archivuje pozici a odešle české oznámení.
Metriky kvality
| Kategorie | Precision | Recall | F1 |
|---|---|---|---|
| věk | 0.750 | 0.750 | 0.750 |
| pohlaví | 1.000 | 0.500 | 0.667 |
| národnost | 1.000 | 0.500 | 0.667 |
| rasa / etnický původ | 1.000 | 0.750 | 0.857 |
| náboženství | 0.800 | 1.000 | 0.889 |
| sexuální orientace | 1.000 | 1.000 | 1.000 |
| zdravotní postižení | 1.000 | 0.750 | 0.857 |
| rodinný stav | 1.000 | 0.750 | 0.857 |
| politické názory | 0.750 | 0.750 | 0.750 |
| členství v odborech | 1.000 | 0.750 | 0.857 |
Makro-F1 na neviděném interním test splitu: 0.815. Dataset je malý a synteticko-redakční; metriky proto neznamenají produkční garanci.
Verzování modelu
Verze: 61d20f7-validace, datum: 2026-05-12. Pravidla jsou verzována v balíčku @jobsai/anti-discrimination.
Kontakt
Dotazy a žádosti o vysvětlení: info@jobsai.cz.