Risques, éthique et adoption

Le chapitre F liste quinze risques clés (p. 62-63). Regroupés, ils se ramènent à cinq inquiétudes :

• Des résultats injustes. Les modèles reprennent les biais de leurs données d'entraînement.
• Du contenu faux ou trompeur. Deepfakes, faux avis, fausses identités.
• Données et sécurité. Vie privée, fuites de données d'entraînement, attaques qui trompent le modèle.
• La confiance aveugle. On arrête de vérifier parce qu'on suppose que le modèle a raison.
• Des effets plus larges. L'emploi, une créativité humaine moins valorisée, la consommation d'énergie, des règles en retard, et des modèles qui se dégradent à mesure que le monde change.

La ligne du livre est claire : prudence, comme avec toute nouvelle technologie, mais l'inaction n'est pas une option (p. 62).

Le chapitre R propose cinq stratégies (p. 200-203) :

1. Transparence. Dites comment et pourquoi vous utilisez les données, et pourquoi le modèle décide ce qu'il décide.
2. Un modèle de maturité de l'IA éthique. Évaluez vos pratiques en matière d'équité, de vie privée, de responsabilité et de biais, puis progressez pas à pas.
3. Confidentialité et sécurité des données. Protégez les données au repos, en transit et pendant leur traitement.
4. IA explicable. Le modèle montre ce qui a guidé sa réponse, pour que chacun puisse la vérifier.
5. Législation. Gardez les équipes juridique, risques et conformité au sein du programme IA.

Le chapitre F ajoute une liste plus longue de quinze mesures, de la qualité des données et du contrôle des biais aux mécanismes de repli, aux audits externes et à une assurance spécifique à l'IA (p. 63-65).

Le livre décrit le projet européen tel qu'il était au moment de l'écriture : une approche par les risques. Le risque inacceptable est interdit. Le haut risque est autorisé, sous conditions. Le risque limité n'entraîne que de légères obligations de transparence (p. 202-203). Pour les États-Unis, il décrit le Blueprint for an AI Bill of Rights, un texte d'orientation et non une loi (p. 202).

Sa conclusion : les règles avancent moins vite que la technologie, donc les dirigeants doivent poser leurs propres garde-fous en attendant (p. 202-203).

L'humain dans la boucle (human-in-the-loop), c'est simple : des personnes relisent, corrigent et valident ce que produit l'IA avant toute diffusion (p. 92). Le chapitre F en fait une règle : garder des humains dans les décisions critiques, avec le pouvoir de passer outre l'IA (p. 64). Le chapitre T dit la même chose pour le code : le code écrit par l'IA doit toujours être testé et relu par un humain (p. 223).

Le livre ne prétend pas que les métiers vont rester les mêmes. Le chapitre N décrit un mélange de remplacement, de déplacement et de collaboration. Les plus exposés : le travail répétitif, la traduction, les réponses simples et les synthèses (p. 160). Son conseil : développer les compétences humaines que les machines copient mal, comme l'empathie, la créativité et le jugement éthique, et continuer à apprendre (p. 161).

Le chapitre P le résume en une phrase : l'IA générative ne remplacera pas les gens, mais ceux qui savent bien l'utiliser remplaceront ceux qui ne savent pas (p. 182). Le chapitre Q ajoute que toute entreprise devrait former ses dirigeants et les membres de son conseil d'administration à l'IA générative (p. 191).

Le chapitre H présente six étapes pour les dirigeants (p. 91) : construire le business case, prouver le concept, investir dans une équipe IA, mettre en place la gouvernance et une politique d'IA responsable et former les équipes, investir dans la sécurité des données, puis construire, tester et apprendre.

Le chapitre D ajoute onze leviers pour les dirigeants (p. 47-48). Quelques-uns ressortent : affirmer clairement la position de l'entreprise sur l'IA générative, former d'abord le conseil d'administration et les dirigeants, constituer une bibliothèque de prompts accessible à tous, créer une équipe centrale qui encadre les modèles approuvés, et inscrire le bon usage de l'IA dans les objectifs de chacun.

Le guide de bonnes pratiques n° 1 liste les rôles (p. 36-40). Pour construire : un sponsor exécutif, un chef de projet, un chief AI officer ou un architecte, des data scientists, des analystes métier, des ingénieurs en machine learning, des développeurs, et les équipes juridique et conformité. Après la mise en production : des ingénieurs support, un formateur pour les utilisateurs, et des data scientists et ingénieurs qui tiennent le modèle à jour. Une matrice RACI précise qui réalise, qui rend des comptes, qui est consulté et qui est informé.

Le guide n° 4 élargit le cercle. Les « citizen innovators » sont des collaborateurs hors DSI qui créent avec des outils low-code et génératifs. Le livre est pour eux, avec des garde-fous : formation, mentorat par la DSI, outils approuvés, et pas de shadow IT (p. 135-147).

Le guide n° 5 se termine par trois conseils (p. 174-180). Faites un vrai travail d'évaluation et de cadrage avant de construire. Prévoyez le support et la maintenance : le support réagit aux problèmes, la maintenance les prévient. Et restez indépendant des technologies : ne vous enfermez pas dans un seul modèle, un seul framework ou un seul fournisseur, car le domaine évolue trop vite.

La préface de Pascal Bornet dit la même chose, vue d'en haut (p. 8-9) : une stratégie claire, liée aux objectifs de l'entreprise, et l'éthique traitée comme une condition du succès, pas comme un supplément.