La décision que personne ne possède

Ce que révèle un sondage mondial mené auprès de 300 dirigeants bancaires sur l’IA, la performance et le vide de responsabilité.

Soixante-trois pour cent.

C’est la proportion de dirigeants bancaires — 300 d’entre eux, répartis dans 31 pays, dans une nouvelle étude de FT Longitude, SAS et Microsoft — qui déclarent qu’ils utiliseraient un modèle d’IA « boîte noire », un modèle dont le raisonnement reste largement opaque, s’il offrait une meilleure performance qu’une solution explicable.

Relisez bien. Pas « le toléreraient ». Le choisiraient. En toute connaissance de cause.

Maintenant, placez ce chiffre à côté des autres données du même rapport. Seulement 18 % de ces institutions disposent aujourd’hui d’une gouvernance de l’IA pleinement opérationnelle et intégrée. Quarante-deux pour cent n’ont aucun mécanisme d’arrêt défini pour désactiver un modèle qui franchirait ses limites. Dix-neuf pour cent surveillent la dérive de leurs modèles en temps réel. Et 92 % reconnaissent qu’au moins un grand modèle de langage fonctionne déjà dans leur institution, en dehors de tout cadre de gouvernance formel.

On délègue les décisions plus vite que la responsabilité qui les accompagne.

Ce n’est pas un problème de technologie

Une décision qu’on ne peut pas expliquer est une décision que personne n’assume.

Quand un client demande : « Pourquoi mon crédit a-t-il été refusé ? », quelqu’un doit pouvoir répondre. « C’est le modèle qui a décidé » n’est pas une réponse — c’est une démission déguisée en innovation. L’explicabilité n’est pas une fonctionnalité destinée aux scientifiques de données. C’est le mécanisme qui relie une décision à une personne qu’on peut questionner, corriger et tenir responsable. Retirez-le, et la responsabilité ne se transfère pas à la machine. Elle s’évapore.

J’ai déjà vu ce scénario, sous une forme plus lente. Pendant deux décennies, l’industrie a optimisé ce qui se comptait — les cibles, les volumes, les résultats trimestriels — et découvert, à répétition et à grands frais, ce qu’il advient de la confiance quand la personne en face du client ne peut plus expliquer ni défendre ce que le système exige. L’ère des indicateurs a appris aux employés de première ligne à servir la mesure. L’ère de l’IA risque d’enseigner la même leçon à des institutions entières, à la vitesse de la machine.

La performance se mesure ce trimestre. La responsabilité, elle, ne devient visible que le pire jour — le jour où un modèle inexplicable commet une erreur lourde de conséquences, et où personne dans l’édifice ne peut dire pourquoi.

La ligne n’est pas « jamais » — c’est « proportionnel »

L’opacité n’est pas toujours une faute. La détection de la fraude ne doit un essai à personne. La reconnaissance de motifs appliquée à des décisions à faible enjeu et réversibles peut être déléguée en toute conscience.

La faute éthique commence là où les enjeux deviennent personnels et la décision contestable : un prêt refusé, un compte fermé, un client signalé. Ces décisions-là méritent un être humain capable d’en répondre.

Une institution canadienne citée dans le rapport décrit cet équilibre simplement. Chez Tangerine, plus de 90 % des décisions de crédit au détail reposent désormais sur l’IA, avec très peu d’intervention humaine — mais pour les portefeuilles à haut risque, la banque a délibérément gardé l’humain dans la boucle « jusqu’à ce que nous ayons davantage confiance en la technologie ». Une autonomie proportionnelle aux enjeux. Une explicabilité proportionnelle aux conséquences. Voilà la ligne.

Ce qu’« en répondre » exige vraiment

La gouvernance, ce n’est pas un comité et un PDF. C’est une courte liste de disciplines sans glamour :

  • Un inventaire. On ne peut pas gouverner des modèles qu’on n’a pas répertoriés. Quand 92 % des institutions découvrent des modèles qui tournent hors de leurs cadres, le premier problème n’est pas l’éthique — c’est la vue.
  • Un responsable nommé. Chaque modèle aux conséquences réelles devrait avoir un être humain dont le travail est d’en répondre.
  • Un mécanisme d’arrêt, et le cran de s’en servir. Quarante-deux pour cent des institutions n’en ont pas. Ce n’est pas un retard technologique ; c’est une décision, prise à l’avance, de laisser la machine rouler.
  • Une surveillance à la hauteur de l’autonomie. Plus le modèle est indépendant, plus la vigilance doit être rapprochée — pourtant, seulement 19 % surveillent la dérive en temps réel.
  • Une gouvernance à la vitesse de l’adoption. Le titre du rapport le dit lui-même : Why AI at Scale Needs Governance at Speed (pourquoi l’IA à grande échelle exige une gouvernance à la même vitesse).

Rien de tout cela ne ralentit une institution sérieuse. Comme le dit un chef du risque européen cité dans le rapport, la gouvernance, c’est avoir fait ses devoirs, créé les balises, fixé les règles — et ensuite, être prêt à avancer.

La facture arrive toujours

Trois dirigeants bancaires sur quatre s’attendent à ce que l’IA prenne des décisions autonomes de crédit et de risque à grande échelle d’ici cinq ans. Cet avenir s’en vient, peu importe ce que l’un ou l’autre d’entre nous écrira à son sujet.

La seule question ouverte : quand la première décision inexplicable causera un préjudice réel — et ce jour viendra — l’institution pourra-t-elle encore faire la seule chose sur laquelle la banque a toujours reposé : regarder un client, un régulateur ou un tribunal dans les yeux et s’expliquer ?

La performance se rapporte chaque trimestre. La confiance, elle, se compose sur des décennies — et peut se dépenser en une seule décision que personne ne peut expliquer.

Une décision que personne ne peut expliquer est une décision que personne ne possède. Et dans le secteur bancaire, les décisions sans propriétaire sont la façon dont de bonnes institutions finissent dans de mauvais journaux.


Jean-Philippe St-Jacques est un dirigeant des services financiers et associé chez 5 Mindset Consulting. Il écrit sur le leadership, l’éthique et la gouvernance de l’IA.

Source : FT Longitude, SAS et Microsoft, « Why AI at Scale Needs Governance at Speed » — sondage mondial mené auprès de 300 dirigeants bancaires dans 31 pays (rapport publié le 27 octobre 2026).