1. Qu'est ce qu'un ordinateur ?
2. Qu'est ce que l'IA ?
3. Résolution de problèmes
4. Réseaux de neurones
5. LLM
6. Conclusion

un outil mécanique / électrique / électronique

calculatrice, micro-ordinateur, supercalculateur

En quelque sorte un orgue de Barbarie

• n'est pas vivant
• ne possède pas de conscience propre ou de son environnement
• ne possède pas de volonté, pas de sentiments
• ne possède pas d'intelligence
• il exécute les instructions données par un humain
• pas de magie : tout est le résultat de calculs

les thinking machines

1956 Université d'été aux USA au Dartmouth College (New Hampshire)

Marvin Minsky, John McCarthy, Claude Shannon, Nathaniel Rochester, John Henry Holland, ...(lien Wikipedia)

Choix du terme IA

Définition de 1968

Science qui consiste à faire faire à des machines des choses qui exigeraient de l'intelligence si elles étaient faites par des hommes

Marvin Minsky (1927 - 2016)

trouver un chemin passant par tous les points d'un graphe complet une seule fois et de longueur minimale

Applications

• livraisons de colis
• ramassage des déchets
• maintenance d'infastructures (plusieurs sites)
• soudures de véhicules
• assemblage de fragments d'ADN

Problème d'optimisation de complexité en $O(n!)$ si $n$ villes

• force brute : $O(n!)$
• si $n = 20$ alors $n! \simeq 2,4 × 10^{18}$ chemins
• soit environ $77$ ans si on génère un chemin toutes les $1$ ns

la force brute n'est pas toujours adaptée

$117! \simeq 4 × 10^{192}$ soit $1,25 × 10^{176}$ ans pour résoudre le problème

on utilise des heuristiques (du grec ancien εὑρίσκω, heuriskô, «je trouve») qui sont des astuces

labyrinthe : se diriger en direction de la sortie

un réseau de neurones est une fonction de calcul qui possède

• $e$ entrées (neurones)
• $s$ sorties (neurones)
• $k$ couches intermédiaires (cachées) de $n_k$ neurones

le réseau «apprend» grâce aux exemples

un réseau de neurones permet de faire

• de la classification (ex: image $\rightarrow$ animal)
  $[0, 1, 0, 0]$
• de la prédiction (ex: évolution du cours d'une action)
  $[0.2, 0.45, 0.01, 0.82]$
• de la génération de contenu (ex: rédiger un texte)

il doit cependant «apprendre» avant de pouvoir inférer

• des entrées (valeurs réelles)
• une sortie (valeur réelle)
• une fonction d'activation : l'interrupteur ou le prédicteur

• données : longueur et largeur des sépales et pétales pour trois espèces (setosa, versicolor, virginica)
• comment reconnaître / identifier une espèce ?

"sepal.length","sepal.width","petal.length","petal.width","variety"
5.1, 3.5, 1.4,. 2, "Setosa"
4.9, 3.0, 1.4, .2, "Setosa"
...

longueur et largeur des sépales

I0000 00:00 StreamExecutor device (0): NVIDIA GeForce RTX 3050, 
Compute Capability 8.6
I0000 00:00 65852 cuda_dnn.cc:529] Loaded cuDNN version 90701

Temps d'exécution : 10.46 secondes pour 350 epochs

5/5 ━━━━━━━━━━━━━━━━━━━━ 1s 52ms/step
Accuracy NN: 0.99
Confusion Matrix NN:
        s  v  v
        e  s  i
        t  c  r
 set [[50  0  0]
 vsc  [ 0 49  1] ← mauvaise prédiction
 vir  [ 0  0 50]]
Classification Report NN:
               precision    recall  f1-score   support

      setosa       1.00      1.00      1.00        50
  versicolor       1.00      0.98      0.99        50
   virginica       0.98      1.00      0.99        50

    accuracy                           0.99       150
   macro avg       0.99      0.99      0.99       150
weighted avg       0.99      0.99      0.99       150   

à la base des IA génératives il y a les LLM

Grands Modèles de Langage

• un programme capable de comprendre, de traiter et de générer du langage humain
• basé sur la prédiction du mot suivant le plus probable dans une phrase
• des millions de texte (roman, chat, articles scientifiques, ...)
• apprentissage avec un réseau de neurones

Comment les LLM comprennent-ils ?

• tokenization : découpage des mots
• word embedding : vectorisation
• pré-training auto-supervisé : auto complete
• fine-tuning supervisé : éduquer le modèle
• fine-tuning par les préférences : alignement
• fine-tuning par le raisonnement : qualité de la réponse
• mécanisme d'Attention, RAG, Multimodal, ...

Transformer les mots en nombres : Word embeddings

Initialement :

• chat $[1, 0, ..., 0]$
• chien $[0, 1, ..., 0]$

• RN de $10\_000$ entrées si dictionnaire de $10\_000$ mots
• couche intermédiaire 300 neurones (compression de l'information)
• couche de sortie probabiliste de $10\_000$ mots

deviner le contexte : "Le ___ mange la souris" $\rightarrow$ "chat".

Au final : un espace vectoriel sémantique

• composé des valeurs des vecteurs de la couche de 300 neurones
• les mots ayant des sens proches se retrouvent proches géographiquement dans cet espace

$V("roi") - V("homme") + V("femme") \simeq V("reine")$

apprentissage de la structure du langage

• prédire le mot suivant d'un texte $\rightarrow$ auto-complete
• modèle de fondation : 2018 GPT1, 2019 GPT2, 2020 GPT3
• exemple : Deepseek 15000 milliards de mots
• pas d'esprit critique :

Gaston Lagaffe a découvert l'amérique à bord de la Santa Maria $\rightarrow$ en 1492

néanmoins l'ajout d'un pré-prompt permet de donner du sens à la conversation

Ceci est une conversation entre un élève et un professeur qui est là pour l'aider.
Elève : Je cherche à mieux comprendre le concept d'héritage en C++.
Professeur : $\rightarrow$ génération de la réponse

consiste à éduquer le modèle

• modèles instruct
• travailler la nature de l'interaction d'une conversation, la nature des réponses, tours de parole à partir d'exemples
• ne règle pas le problème de l'alignement

Exemple : exécution d'une tâche directe

Utilisateur : "Résume en trois points clés l'importance des abeilles pour l'écosystème."

Assistant : 1. Pollinisation : Elles permettent la reproduction de 80 % des plantes à fleurs et de nombreuses cultures alimentaires. 2. Biodiversité : ...

Exemple multi-tours : conservation du contexte

Utilisateur : "Qui a écrit 'Les Misérables' ?"

Assistant : C'est Victor Hugo qui a écrit ce chef-d'œuvre de la littérature française, publié en 1862.

Utilisateur : "Donne-moi ses trois autres romans les plus connus." (Note : Le modèle comprend que "ses" se rapporte à Victor Hugo).

Bien sûr ! Voici trois autres œuvres majeures de Victor Hugo : Notre-Dame de Paris (1831)...

feedback sur les réponses produites

• production de plusieurs réponses
• DPO (Direct Preference Optimization) : calcul de la probabilités pour les réponses (distribution de probabilités sur les mots)
• amélioration du modèle en fonction de la probabilité choisie

Variante avec modèle de récompense

• entraînement d'un réseau de neurone à partir d'un classement des réponses (modèle de récompense)
• amélioration automatique du modèle de langage en fonction du modèle de récompense

un raisonnement apporte plus d'exactitude

• actuellement les LLM passent par plusieurs étapes de raisonnement
• plus il y a de raisonnement, meilleure est la réponse
• un peu comme les humains
• chain of thoughts

constat : pour un humain, résoudre une équation complexe de tête est difficile, mais si on écrit chaque étape sur un papier, on réussit beaucoup mieux

Problème

Sarah a 5 pommes. Elle en donne 2 à son voisin. Elle achète ensuite 2 paquets de 3 pommes. Combien de pommes a-t-elle ?

sans CoT, le modèle peut se tromper

Sarah a 8 pommes

avec CoT

la «phrase magique» : Zero-Shot CoT

les chercheurs ont découvert en 2022 qu'il n'est même pas nécessaire de donner des exemples au modèle. Il suffit d'ajouter une simple phrase à la fin de sa question pour activer ce mode de pensée

réfléchissons étape par étape" (let's think step by step)

L'Attention : permet au modèle de pondérer l'importance de chaque mot par rapport aux autres

Le lion mange le zèbre, il est rassasié

il ? qui est rassasié ?

• pour un humain c'est évient
• pour une machine : elle ne sait pas mais l'attention résoud le problème

• LLM limité par la date de son entraînement
• absence de données privées

utilisation de sources de données externes spécialisées

1. retrieval : recherche dans la bibliothèque
2. augmented : ajout des données pertinentes
3. generation : rédaction de la réponse

MLLM - Multimodal Large Language Model

capacité à prendre en compte différentes sources de données

• texte
• image
• vidéo
• code source, tableur, pdf

Exemples

• photo du contenu du frigo : que puis-je cuisiner ?
• graphique financier : résume-moi la tendance principale
• vidéo YouTube : à quel moment exact parle-t-on d'IA ?"

L'IA = pas de magie, des calculs, simulation de la pensée

• pas de compréhension : dans les LLM les mots ne sont pas compris
• l'ordinateur «a appris» à mettre les mots dans le bon ordre
• ou à appliquer des schémas conversationnels
• montre cependant une certaine «conscience»

Cependant, L'IA commet des erreurs

• hallucinations, biais
• garder toujours un esprit critique quant au résultat produit par une IA
• bien rédiger un prompt permet d'obtenir la «bonne» réponse (détails)
• ne pas se reposer uniquement sur l'IA

• Mais, c'est quoi un réseau de neurones ? | Chapitre 1
• Les 4 étapes pour entrainer un LLM (Science Etonnante)
• La Fabrique à Idiots
• Apprendre avec l'IA au collège (Conférence 16 et 17 Décembre 2025)
  • aide moi à apprendre