Pendant des mois, j'ai accompagné le déploiement de l'IA chez Crésus, au contact de personnes confrontées au surendettement. Ce terrain n'a rien d'abstrait : derrière chaque dossier, il y a une situation humaine fragile. Et c'est précisément là que se joue ce qu'on appelle, parfois trop facilement, l'« IA éthique ».
Une règle née du terrain
Quand une erreur d'algorithme peut aggraver la situation d'une personne déjà en difficulté, une règle s'impose d'elle-même : l'IA ne décide jamais seule. Elle prépare, elle suggère, elle fait gagner du temps — mais la décision reste humaine. Ce n'est pas un confort moral : c'est une condition de sécurité.
L'humain garde la main
Concrètement, cela signifie un contrôle humain systématique sur toute décision touchant les droits, l'accès aux services ou la situation financière d'une personne. L'outil éclaire ; il ne tranche pas à la place de l'agent ou du travailleur social.
Expliquer, pas seulement produire un résultat
Une IA utile auprès de publics fragiles doit être explicable : pouvoir dire pourquoi une suggestion est faite, et tracer d'où vient l'information. Pas de boîte noire sur des sujets qui engagent une vie. S'y ajoute une vigilance permanente sur les biais — car ce sont toujours les plus vulnérables qui en paient le prix.
Une exigence transposable partout
Ce que ce terrain m'a appris dépasse le cadre associatif. Dans une collectivité aussi, derrière la donnée, il y a des habitants. Contrôle humain, explicabilité, attention aux biais : ces principes valent pour chaque déploiement public. L'IA éthique n'est pas un slogan — c'est ce qui se joue dès qu'il y a un visage derrière la donnée.