Une parabole pour comprendre l'intelligence artificielle

Je vous livre ici une petite parabole amusante pour approcher le concept de cette fameuse "Intelligence Artificielle" dont on parle tant...

Le plus beau des cailloux blancs

Le Président, chef des armées, veut trouver un petit caillou blanc des plus ronds qui soit pour l'offrir à son épouse.. Il demande alors au Général en chef des armées de lancer cette mission dans toute la France. Le général convoque son Etat-Major et lance la mission. L'État major fait passer le mot à chaque régiment. Chaque chef de corps, commandant chaque régiment, demande donc à chaque commandant de compagnie de chercher des endroits ou trouver des cailloux. Chaque commandant réunit ses capitaines et cherche avec eux ou trouver du sable. Le choix se portera dans les sacs de sable (c'est le concepteur du logiciel qui propose cela). Chaque capitaine demande alors à ses différentes sections de trouver des sacs de sable. Chaque lieutenant demande à ses sergents d'affecter un sac par homme. La mission est d'ouvrir les sacs de sable. Ainsi, chaque sergent demande donc à ses hommes de regarder précisément chaque caillou du sac de sable dont il a la charge pour trouver le plus rond de tous les cailloux.

En remplaçant chaque personne par un "neurone" informatique, on peut imaginer comment fonctionne un algorithme de base. Une sorte de chaine de commandement, du plus général au plus particulier !

La pondération des résultats

Une des fonctions qui rend plus performants les algorithmes est leur capacité à pondérer leur résultat. Par exemple, le commandant peut d'abord demander à ses capitaines d'aller fouiller tous les endroits ou il y a du sable. Les capitaines se mettent au travail et l'un d'eux se rend compte qu'il est très facile d'ouvrir les sacs de sable de la caserne plutôt que de se déplacer sur une plage en mobilisant l'armée. Il fait alors remonter l'information et le commandant change alors son ordre : il demande à tous les capitaines de chercher dans les sacs de sable.

L'histoire ne s'arrête pas là, car le commandant ayant (admettons) de meilleurs résultats, il en rend compte au chef de corps, qui lui-même informe sa hiérarchie. Ainsi, l'ordre se transforme encore et tous les Chefs de corps sont invités à fouiller les sacs de sable plutôt que les plages de Normandie, plus risquées, car remplies d'obus. Le système s'auto-corrige et devient plus performant. Par essai/erreur, l'ordre est ainsi modifié pour trouver finalement le plus beau caillou rond qui soit de tous les sacs de sable en France. (On supposera qu'en France, le sable est de meilleure qualité dans les sacs que sur les plages. Et si ce n'était pas le cas, l'ordre serait modifié pour que tous aillent chercher sur les plages... en en profitant pour récolter des palourdes...)

L'apprentissage

On conçoit aussi facilement alors la phase d'apprentissage. Dans cette phase, on montre une photo du caillou rond que l'on cherche à chaque militaire du rang. Selon ce qu'il trouve, le militaire compare ses trouvailles à la photo attendue et envoie seulement ce qu'il trouve de plus ressemblant. La chaine complète jusqu'au général est alors validée ou non, selon ses trouvailles. Plus le caillou est rond et plus l'instruction remonte avec des informations précises sur le but à atteindre. Il y a renforcement du choix, de la méthode utilisée.

En production

La phase opérationnelle se passe sur un théâtre extérieur. L'armée est projetée dans un pays, et le président veut trouver le plus beau caillou blanc dans ledit pays. Le même ordre permet maintenant à toute la chaine de commandement et au soldat de trouver le plus beau petit caillou au fin fond du Liban de façon rapide et efficace. Mais vous le voyez, le militaire a appris à chercher dans des sacs de sable. Ce n'est peut-être pas la meilleure méthode ...

Les biais

La notion de biais s'explique par le fait que l'ordre conçu en France fonctionnera mal au Liban, ou pire encore, dans le désert Tchadien. En effet, les militaires en opération chercheront dans des sacs de sable un caillou alors qu'ils auront en face d'eux l'immensité des pierres du désert, surement plus propice à une belle trouvaille. Mais leur algorithme ne marche pas comme ça, ils ont appris que les plus beaux cailloux se trouvaient dans des sacs de sable, pas dans le désert. Les ordres sont les ordres, mais on passe à côté du bon résultat. En production, on ne touche plus aux ordres, on ne modifie plus l'algorithme. Les résultats sont donc biaisés !

Un algorithme, finalement, c'est très bête. Et le terme "Intelligence Artificielle" est un terme traduit de l'anglais, "Artificial Intelligence". Mais de nombreux adjectifs anglais existent (intelligent, smart, clever, bright, brainy, brilliant) pour définir cette notion. Pour moi, la notion d'intelligence que l'on croit comprendre en France à propos de l'I.A. se rapproche plus de "smart" que d"Intelligent" ... D'ailleurs, qui a dit que la CIA (Central Intelligence Agency) parlait d'une agence centrale d'intelligence ?

Pour aller plus loin, je vous invite à lire aussi "Mythique éthique"...

PS: Toute ressemblance avec des personnages réels serait pure fiction, bien sûr !

Stéphan Le Doaré

@stephanledoare