Ce qu'est l'IA générative, en termes simples

Avant ChatGPT, l'IA en entreprise était surtout spécialisée. Un modèle faisait une tâche, par exemple un score de churn qui indique quels clients risquent de partir. Il faisait bien cette tâche, et rien d'autre.

L'IA générative est généraliste. Donnez-lui une instruction en langage courant et elle crée du texte, des images, du code, de la musique, de la voix ou de la vidéo. Le livre la présente comme une branche de l'IA, pas comme son remplaçant (p. 12).

Le livre liste ce que les outils plus anciens font bien : le machine learning pour prédire, la lecture de textes, la lecture d'images, et la RPA (automatisation robotisée des processus) pour le travail répétitif. L'IA générative ajoute l'écriture, la synthèse, la création d'images et de sons, et la simulation de nombreux scénarios au lieu d'une seule prévision (p. 21-22). Inutile de choisir. Les deux fonctionnent mieux ensemble.

Les auteurs situent le tournant en novembre 2022, quand OpenAI a lancé ChatGPT 3.5 (p. 14). Deux choses ont changé. On lui parle en langage courant, donc pas besoin d'être data scientist. Et les grands modèles pré-entraînés sont accessibles via une interface ou une API, donc une entreprise n'a pas à payer pour en construire un à partir de zéro (p. 12, p. 42).

Le livre donne la vitesse : un million d'utilisateurs en moins de cinq jours, et 100 millions deux mois après le lancement (p. 12). Une figure du chapitre D présente l'IA comme un succès du jour au lendemain qui a mis 80 ans : les réseaux de neurones dans les années 1940 et 1950, l'IA reconnue comme science en 1956, le chatbot ELIZA en 1964, et les modèles ChatGPT dans la dernière ligne droite, de 2017 à 2024 (p. 43).

Son exemple concret : un cabinet d'avocats qui doit examiner 50 000 documents. Avant, il fallait une armée d'assistants juridiques. Avec l'IA générative, le même examen est plus rapide et moins cher, et c'est l'économie du cabinet qui change (p. 13).

Le livre dit aussi qui le ressent en premier : la traduction, l'écriture créative, le marketing, le droit, la technologie, la santé et le service client, où une grande partie du travail peut être automatisée plus tôt que prévu (p. 43).

Un grand modèle de langage, ou LLM, est un programme entraîné sur une énorme quantité de texte. Il apprend les régularités du langage, puis écrit de nouveaux textes qui les suivent. Il sait traduire, répondre à des questions et résumer (p. 127).

Le livre prend une image de cuisine. Le modèle est un chef doté d'une immense bibliothèque de recettes. Plus de recettes, des plats plus variés. Mais un chef avec de mauvais ingrédients sert quand même un mauvais repas, donc le modèle doit être entraîné et surveillé avec soin (p. 127).

Un modèle de fondation est le grand modèle généraliste qui sert de base. Il est entraîné une fois, à grande échelle, puis adapté à de nombreuses tâches. Le livre cite GPT-4 et BERT en exemples (p. 71).

Plus gros n'est pas la seule voie. Le chapitre M explique qu'on peut aussi entraîner des modèles plus petits pour un secteur ou un métier, comme une maquette d'avion est une version plus petite et plus simple du vrai (p. 152).

Le livre décrit trois méthodes (p. 229-230). L’apprentissage supervisé : le modèle étudie des exemples accompagnés de la bonne réponse, comme un élève avec son professeur. L’apprentissage non supervisé : le modèle reçoit des données sans étiquettes et trouve seul les régularités. Selon le livre, c’est la méthode principale derrière des modèles comme GPT-3 et GPT-4. L’apprentissage par renforcement : le modèle essaie, reçoit une récompense ou une pénalité, et s’ajuste.

Dans les systèmes réels, on combine les trois. L’apprentissage non supervisé permet à un modèle de lire beaucoup plus de données, mais avec moins de contrôle humain : biais et contenus nuisibles peuvent s’y glisser. On utilise ensuite des étapes supervisées et le retour humain pour assainir ce qu’il produit (p. 230).

Une hallucination, c’est une réponse fausse mais énoncée avec assurance. Le livre l’attribue surtout à des données d’entraînement pauvres ou trompeuses (p. 192).

Les remèdes proposés sont concrets : des données d’entraînement propres et variées, des prompts clairs et précis, demander ses sources au modèle, le connecter à des données externes pour vérifier ses réponses, le retour humain, et une température plus basse pour des réponses moins aléatoires (p. 192).

Un modèle généraliste ne connaît pas votre entreprise. La réponse du livre : la génération augmentée par récupération, ou RAG. Elle cherche d’abord les faits utiles dans vos propres documents, puis demande au modèle de rédiger la réponse à partir de ces faits (p. 203-204).

Le modèle génératif, c’est le romancier. Il écrit bien, mais il peut inventer. Mettez le bibliothécaire en premier et le romancier en second : la réponse se lit facilement et repose sur vos vraies données (p. 204).

Le chapitre L présente les Large Action Models, des modèles d’action. Un LLM peut vous suggérer une chambre d’hôtel. Un modèle d’action peut la suggérer et la réserver, en passant par les mêmes écrans qu’une personne (p. 127-128). Le livre y voit la prochaine étape, pas une technologie aboutie.

À suivre : la carte de A à Z du livre.