Transparence des systèmes d'IA et conformité EU AI Act

Cadre réglementaire et opposabilité

La présente page constitue une information de transparence au sens, notamment, des articles 13, 26, 27 et 50 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle (ci-après l'« EU AI Act »), lu en combinaison avec le RGPD, la directive (UE) 2019/1152 le cas échéant, et les principes généraux de loyauté et de loyauté informationnelle du droit français de la consommation et de la protection des données.

Elle ne constitue ni une certification, ni un marquage CE, ni une attestation de conformité délivrée par un organisme notifié, ni une garantie de résultat de recrutement, ni une renonciation aux moyens de défense de Fleury Capital. Les obligations de mise en conformité s'appliquent selon le calendrier d'application progressif de l'EU AI Act ; Fleury Capital met en œuvre une approche de conformité continue (compliance by design) proportionnée à la qualification du système et à l'état de l'art documenté.

Qualification : système d'IA à haut risque (annexe III)

CandidAct met en œuvre des composants d'intelligence artificielle destinés, dans le cadre du recrutement et de la sélection de personnes physiques, à évaluer des candidats, à produire des scores, des classements et des synthèses, et à assister le recruteur. Ces usages relèvent, en tant que de besoin, des systèmes d'IA à haut risque visés à l'annexe III, point 4, de l'EU AI Act (emploi, gestion des travailleurs et accès à l'emploi), sous réserve de l'interprétation authentique des institutions et des lignes directrices à venir.

Cette qualification emporte des obligations renforcées de gestion des risques, de gouvernance des données, de journalisation, de transparence, de supervision humaine et de robustesse. Elle n'emporte pas, à elle seule, l'interdiction du système, ni la qualification automatique de « pratique interdite » au sens de l'article 5, laquelle est expressément écartée pour les usages décrits dès lors que les garde-fous ci-après sont respectés.

Rôles : fournisseur, déployeur, responsable du traitement

Selon le contrat et le contexte : Fleury Capital peut agir comme fournisseur (provider) d'un système d'IA au sens de l'EU AI Act, et/ou comme déployeur (deployer) lorsqu'elle exploite le système pour son propre compte. Le client professionnel qui utilise CandidAct pour évaluer ses candidats agit en principe comme déployeur du système et comme responsable du traitement RGPD des données de candidature.

Les obligations respectives (information des candidats, supervision humaine opérationnelle, instructions documentées, registre) se répartissent conformément au contrat et aux textes. Toute action dilatoire tendant à imputer à Fleury Capital des manquements exclusivement imputables au déployeur client (paramétrage, critères discriminatoires imposés, absence d'information préalable des candidats, décision finale non humaine) sera contestée.

Finalité prévue, usage conforme et usages interdits

La finalité prévue (intended purpose) est d'assister le recrutement en proposant des mises en situation métier, une évaluation assistée par IA selon une grille validée, un entretien vocal assisté, et une synthèse à destination d'un décideur humain. L'usage conforme exclut : le scoring social généralisé interdit ; l'exploitation biométrique à des fins de catégorisation sensible prohibée ; toute décision de rejet exclusivement automatisée produisant des effets juridiques ou un effet significativement similaire sans intervention humaine utile ; toute manipulation subliminale ou exploitation de vulnérabilités au sens de l'article 5.

Tout usage détourné par un client (par exemple discrimination intentionnelle, collecte de données sensibles non nécessaires, surveillance hors finalité) engage la responsabilité exclusive de ce client et peut entraîner la suspension du service.

Information des candidats et transparence opérationnelle

Avant le début de l'épreuve, le candidat est informé, de manière claire et accessible, que des composants d'IA interviennent dans l'analyse de sa candidature, de sa mise en situation et/ou de son entretien vocal, que l'épreuve peut être surveillée (plein écran, caméra, journalisation d'événements techniques pertinents), et que la décision d'embauche demeure humaine. Cette information s'inscrit dans les exigences de transparence et, le cas échéant, d'information des personnes concernées au titre du RGPD.

Le déployeur client doit s'assurer que ses propres canaux (offre d'emploi, ATS, emails) ne contredisent pas cette information. Fleury Capital ne garantit pas la conformité des communications externes du client.

Supervision humaine (human oversight)

Conformément à l'esprit de l'article 14 de l'EU AI Act, le système est conçu pour permettre une supervision humaine effective : le recruteur accède au travail du candidat, à la grille, aux scores justifiés, aux extraits, à la transcription et aux signaux d'intégrité ; il peut convoquer, écarter, demander une relecture ou ignorer une recommandation automatisée.

La supervision humaine n'est pas une fiction : elle implique une possibilité réelle d'intervenir, et non un simple affichage cosmétique. Corrélativement, le client déployeur s'engage à ne pas configurer de processus interne qui neutraliserait cette supervision (par exemple rejet automatique sans revue humaine là où le droit l'interdit).

Absence de décision exclusivement automatisée prohibée

CandidAct n'est pas conçu pour produire, à lui seul, une décision de rejet d'embauche exclusivement automatisée au sens de l'article 22 du RGPD et des interdictions corrélatives. Chaque candidat a la possibilité de réaliser la mise en situation prévue ; le classement et les scores constituent une aide à la décision.

Toute présentation du service comme « remplacement total et non supervisé du recruteur » est inexacte. Les communications marketing doivent être lues à la lumière de la présente page, qui prévaut en cas de conflit d'interprétation sur le caractère automatisé des décisions.

Explicabilité, recours et canal de contact

Dans la mesure techniquement raisonnable et proportionnée, les évaluations s'appuient sur une grille de critères validée, des notes justifiées et des extraits. Le candidat reçoit un retour sur sa prestation et peut demander des précisions sur les modalités d'évaluation via le formulaire de contact publié sur le Site.

Le droit à l'explication n'impose pas la divulgation du code source, des poids de modèle, des prompts système complets, ni des secrets d'affaires, dès lors que les éléments fournis permettent de comprendre la logique générale, les critères principaux et le rôle de l'humain. Les demandes abusives, concurrentielles ou visant à reverse-engineerer le système pourront être refusées ou limitées.

Journalisation, traçabilité et conservation des logs

Des événements techniques et métier pertinents (démarrage d'épreuve, horodatage serveur, signaux anti-triche, états d'entretien) peuvent être journalisés afin d'assurer la traçabilité, la sécurité, la détection d'anomalies et la démonstration de diligence. Ces journaux sont conservés pour une durée proportionnée et ne constituent pas une preuve absolue de tous les faits du monde réel.

La communication intégrale des journaux à un tiers non autorisé peut être refusée lorsqu'elle compromet la sécurité, la vie privée d'autrui ou des secrets techniques, sous réserve des réquisitions légales.

Exactitude, robustesse, cybersécurité et limites

Fleury Capital met en œuvre des mesures visant l'exactitude, la robustesse et la cybersécurité proportionnées au risque (article 15 EU AI Act, dans son principe). Les modèles de langage et de parole présentent des limites intrinsèques (hallucinations, biais résiduels, variabilité). Les scores sont des estimations assistées, non des vérités métaphysiques.

L'utilisateur et le déployeur reconnaissent ces limites. Aucune garantie de « zéro erreur », de « zéro biais » ou de « prédiction certaine de performance en poste » n'est accordée. La responsabilité liée à une décision de recrutement demeure celle du décideur humain et, le cas échéant, de l'employeur.

Équité, non-discrimination et contrôle des biais

Le dispositif vise l'égalité de traitement procédural : même exercice et même grille pour les candidats d'un même poste, critères explicites, revue humaine. Des contrôles et revues peuvent être effectués pour détecter des dérives. Ces mesures ne garantissent pas l'élimination totale de tout biais statistique ou sociétal préexistant dans les données ou dans le monde réel.

Le client déployeur demeure responsable du respect du droit du travail et du droit de la non-discrimination dans ses décisions finales, ses intitulés de poste et ses critères métier. Toute instruction du client tendant à introduire un critère illicite pourra être refusée.

Gouvernance des données d'entrée et de sortie

Les données d'entrée (CV, réponses, audio, métadonnées d'épreuve) et de sortie (scores, synthèses, journaux) sont traitées selon les principes de minimisation, de finalité et de sécurité du RGPD, et selon une gouvernance visant à réduire les données non pertinentes ou de mauvaise qualité pour l'évaluation.

Les jeux de données d'entraînement de modèles fournis par des tiers relèvent de la documentation et des garanties de ces fournisseurs. Fleury Capital ne transfère pas la propriété des contenus candidats au public et n'autorise pas leur usage pour entraîner des modèles tiers hors cadre contractuel.

Responsabilité, exclusions et droit applicable

Dans les limites du droit impératif, Fleury Capital exclut les dommages indirects, la perte de chance d'embauche, et toute prétention fondée sur une interprétation extensive de la présente page comme créant une obligation de résultat. La page est régie par le droit français ; les litiges suivent les règles de compétence applicables, notamment celles des mentions légales.

Toute citation partielle trompeuse de la présente page dans une procédure ou une publication pourra être dénoncée. La version française prévaut en cas de divergence entre locales.

Contact réglementaire

Pour toute question relative à la transparence IA, à une demande d'explication ou à un signalement, utilisez exclusivement le formulaire de contact publié sur le Site. Les saisines hors canal, anonymes ou manifestement dilatoires peuvent ne pas être traitées dans les mêmes délais.