Антидискримінаційний фільтр

Мета та контекст впровадження

Антидискримінаційний фільтр перевіряє оголошення про вакансії під час створення чи редагування. Мета - попередити роботодавця про формулювання, які можуть суперечити забороні дискримінації, і запобігти публікації без редагування чи доведеної обґрунтованої професійної вимоги. Зачеплені роботодавці, кандидати та внутрішні модератори.

Класифікація згідно з AI Act

Згідно з регламентом ЄС 2024/1689 (AI Act) цей компонент ми оцінюємо як поза додатком III, пункт 4(a), оскільки він слугує виключно для перевірки тексту оголошень про вакансії і не слугує для набору чи відбору фізичних осіб. Згідно з тлумачними настановами до AI Act система, що використовується виключно для виявлення неінклюзивних чи дискримінаційних формулювань в описі оголошення, не підпадає під сценарій використання додатка III, пункт 4(a). Цю класифікацію ми постійно переглядаємо, і вона підлягає остаточному правовому оцінюванню. Навіть поза режимом високоризикових систем оператор добровільно веде технічну документацію правил, eval-результати, модельну картку, post-market monitoring та аудит override; серйозні інциденти були б повідомлені компетентним органам згідно з AI Act та чеським імплементаційним законодавством.

Вхідні та вихідні дані

Вхідними даними є чеська назва та опис вакансії, а також можливі англійські фрази в тексті. Текст нормалізується до lowercase, видаляється діакритика і порівнюється з правилами. Оброблювані категорії PII обмежені контентом, який роботодавець сам вносить до оголошення; система не вимагає персональних даних кандидатів. Вихідними даними є hasIssue, список категорій, знайдений фрагмент та чеська рекомендація щодо переписування.

Використані моделі та версії

Компонент є правиловим класифікатором (не використовує LLM, embedding-и чи fine-tuning), версія правил від 2026-05-12. Категорії в коді - age, gender, nationality, race_ethnicity, religion, sexual_orientation, disability, family_status, political_views та union_membership. Cutoff знань не застосовується; правила версіонуються в репозиторії.

Тренувальні дані

Модель не тренована градієнтно. Правила ґрунтуються на внутрішньому чеському оцінювальному наборі зі 140 тренувальних рядків для налаштування правил та 60 небачених тестових рядків без дублікатів між сплітами. Prompt не використовується. Правова рамка ґрунтується на законі № 198/2009 Зб., директиві 2000/78/ЄС та директиві 2000/43/ЄС.

Обмеження та відомі ризики

Правила можуть створювати false positives у цитатах закону, легітимних вимогах щодо фізичної придатності чи паралельних гендерних формах. False negatives загрожують у нових закодованих виразах, іронії та дуже непрямій дискримінації. Покриття налаштоване головно для чеської мови та базової англійської.

Справедливість та антидискримінація

Фільтр явно захищає категорії, зазначені в законі № 198/2009 Зб. та пов'язаних приписах. Заходи пом'якшення включають чеські пропозиції переписування, можливість довести обґрунтовану професійну вимогу, аудит override, внутрішнє review та внутрішню методику fairness-аудиту. Останній аудит: 2026-05-14, пройдено.

Пункт	Значення
Останній аудит	2026-05-14, пройдено

Ширший продакшн-аудит запланований на Q1 після launch.

Людський нагляд

За відсутності виявлення оголошення продовжує звичайним потоком. У разі виявлення роботодавець повинен відредагувати текст чи довести обґрунтування BFOQ/GORD. Override зберігається в аудиті і є видимим адміністраторам у процесі review; спірні випадки Trust & Safety може вручну схвалити, відхилити чи вимагати редагування.

Метрики продуктивності

На небаченому внутрішньому спліті фільтр має макро-F1 0.815. F1 за категоріями: вік 0.750, стать 0.667, національність 0.667, раса та етнічне походження 0.857, релігія 0.889, сексуальна орієнтація 1.000, інвалідність 0.857, сімейний стан 0.857, політичні погляди 0.750, членство в профспілках 0.857. Продакшн-дрейф буде виміряний від launch-вікна Sprint 5.

Безпека та приватність

Перевірка виконується локально в коді застосунку і не надсилає текст оголошення третій стороні. Обробка персональних даних регулюється регламентом ЄС 2016/679 (GDPR); для валідації оголошень правовою підставою є виконання договору з роботодавцем згідно зі ст. 6 п. 1 літ. b GDPR та законний інтерес щодо запобігання дискримінації та зловживанню послугою згідно зі ст. 6 п. 1 літ. f GDPR. Аудиторські записи override містять текстові фрагменти, категорії, обґрунтування та ідентичність схвалюючого користувача; доступ має бути обмежений уповноваженими адміністраторами. Подробиці наведені в політиці захисту персональних даних.

Скарги та контакт

Скарги на flag чи запит на перегляд надсилайте на [email protected]. Формальні запити щодо захисту персональних даних спрямовуйте на контакт privacy у політиці захисту персональних даних.

Версія картки

Версія картки 1.0.3, остання актуалізація 2026-07-08.