Toute décision doit avoir un responsable. Toute affirmation, une source.

Aujourd’hui, l’IA approuve ou bloque des transactions, fait remonter ou ignore des incidents, priorise des clients et déclenche d’autres systèmes. Dès qu’elle agit, une décision a été prise.

La plupart des entreprises ont démultiplié les décisions avant de démultiplier la responsabilité. Demandez qui est responsable des décisions de l’IA, et vous obtenez cinq réponses : l’IT l’a construite, l’équipe data l’a entraînée, le métier l’a définie, le fournisseur l’a livrée, la direction l’a validée. Chacun en détient un morceau. Personne ne détient la décision.

Scaled decisions. Unscaled accountability. That gap is where risk lives.

« C’est l’IA qui a décidé » n’est pas une réponse. L’IA n’a ni statut juridique ni responsabilité. Elle exécute ce que vous avez conçu. Et selon l’AI Act européen, le recrutement, la notation de crédit et les infrastructures critiques sont des usages à haut risque.

La responsabilité exige la transparence. Si vous ne pouvez pas expliquer comment une décision a été prise, vous ne pouvez pas l’assumer. C’est aussi vrai pour ce qu’OG publie lui-même :

• Le travail rémunéré est signalé sur le contenu lui-même. La visite de terrain au Kenya, par exemple, porte une mention Huawei.
• Les chiffres tirés d’études citent l’étude et sa date.
• Le nouveau livre le dit clairement : écrit par un humain, assisté par l’IA.

• Un responsable par décision. Chaque décision automatisée a un responsable nommé. Une personne, pas un comité.
• Concevoir la décision. Fixez les données, les règles, les seuils et les exceptions. L’IA exécute, les humains conçoivent.
• Contrôle en temps réel. Pouvoir intervenir avant que l’impact ne prenne de l’ampleur.
• Posez cinq questions : qui est responsable de chaque décision, pouvons-nous l’expliquer, avons-nous un contrôle en temps réel, pouvons-nous intervenir, sommes-nous responsables dès la conception ?

OG est titulaire de deux brevets américains délivrés dans les opérations IT, dont l’un porte sur la résolution de problèmes sur des appareils distants sans intervention humaine. À cette échelle, l’automatisation ne fonctionne que si les humains autour assument le résultat. Voir les brevets.