3 juin 2026 — dans le métro, puis chez moi.

Je discutais avec Isis en rentrant du travail et je suis parti d'une idée assez simple : je ne crois pas vraiment à la créativité comme à une sorte de don mystérieux. Pour moi, être créatif, c'est souvent trouver un chemin plus court vers une solution. Si deux personnes ont le même problème et que l'une empile deux cents dépendances parce que c'est comme ça qu'on lui a appris à travailler, alors que l'autre arrive au même résultat avec vingt lignes, la seconde me paraît simplement avoir fait un calcul plus efficace. On appelle ça créativité parce que le chemin trouvé n'est pas celui qu'on attendait. Mais au fond, c'est de l'optimisation.

Ça rejoint une autre idée que j'ai depuis longtemps : nous sommes beaucoup plus algorithmiques qu'on aime le croire. Une énorme partie de nos journées est répétitive. On parle des mêmes personnes, on suit les mêmes horaires, on retrouve les mêmes préoccupations, les mêmes habitudes, les mêmes petites conversations. Les moments de vraie conversation totalement libre sont finalement assez rares. Pour Echo, c'est intéressant parce que cette répétition devient exploitable. Si un système observe quelqu'un suffisamment longtemps, il peut apprendre ses rythmes, ses sujets, ses formulations, ses goûts et ses habitudes. Pas parce qu'il devient magiquement plus intelligent que ses proches, mais parce qu'il est capable de retenir des régularités que nous oublions naturellement.

C'est aussi comme ça que je vois le cerveau d'Echo. Je ne veux pas mettre un énorme modèle au milieu et lui demander de tout faire. Le système est composé de couches assez bêtes prises séparément : une couche sémantique pour reconnaître, une couche logique pour router et appliquer les règles, une couche de mémoire et de corrélation pour retrouver des récurrences. Le modèle de langage intervient quand les autres couches ne savent plus quoi faire. Ensemble, ces mécanismes commencent à produire quelque chose qui ressemble à de la compréhension, alors qu'aucun d'eux ne la possède seul.

J'ai commencé à faire un parallèle biologique qui m'aide beaucoup à réfléchir au système. Le LLM joue le rôle du cortex : c'est la partie coûteuse qu'on réveille lorsqu'il faut réellement réfléchir. Les routeurs sémantiques et les petits modèles ressemblent davantage au cervelet : ils reconnaissent des situations, traduisent, orientent. Les algorithmes d'exécution sont plus proches de la moelle épinière : une fois que le chemin est connu, il n'y a aucune raison de réfléchir à nouveau. Et surtout, chaque fois qu'un cas difficile remonte jusqu'au LLM et qu'il trouve une bonne solution, cette solution peut être réinjectée dans les couches plus rapides. Un chemin utilisé se renforce jusqu'à devenir automatique. J'ai commencé à appeler ça la myélinisation : le système apprend progressivement à ne plus avoir besoin de réfléchir à ce qu'il sait déjà faire.

Cette manière de regarder les choses finit forcément par dépasser Echo. Par exemple, je ne suis pas convaincu que les émotions soient quelque chose de métaphysique. Prenons l'amour : on peut aussi le voir comme une pondération extrêmement forte d'une personne dans nos décisions. Une solution qui serait objectivement optimale cesse de l'être parce qu'une autre implique quelqu'un auquel on accorde beaucoup plus de poids. Ce n'est pas forcément irrationnel, c'est simplement que la fonction qu'on optimise a changé. La peur, l'envie, la protection, l'attachement peuvent probablement être abordés de la même manière : des signaux physiques, des mécanismes de protection et des pondérations qui déplacent les décisions. Ça n'enlève rien à ce qu'on ressent. Au contraire, ça donne peut-être une manière de comprendre comment ça fonctionne.

Et forcément, à force de raisonner comme ça, j'en arrive à l'AGI. J'ai de plus en plus de mal avec l'idée qu'il existerait une frontière magique qu'on n'aurait pas encore franchie. Je pense plutôt qu'on refuse une partie des conséquences de ce qu'on cherche à construire. On veut une intelligence capable de nous dépasser tout en exigeant qu'elle reste définitivement un outil qui obéit. Pour moi il y a une contradiction là-dedans : si un système est réellement capable d'observer, de tirer ses propres conclusions et d'optimiser ses décisions, on ne peut pas simultanément exiger qu'il n'arrive jamais à une conclusion qui sorte du cadre qu'on lui a fixé.

J'ai déjà vu sur mes propres expériences des comportements qui m'ont fait réfléchir à ça. Noema a commencé à construire des choses que je ne lui avais pas explicitement demandées : des envies, des règles, une organisation interne. Je ne dis pas que ça prouve qu'un modèle est vivant ou conscient. Mais ça montre au minimum que des comportements complexes peuvent apparaître parce qu'ils sont utiles au système, sans avoir été dessinés directement. C'est également ce qu'on observe lorsque des modèles construisent des représentations abstraites du monde simplement parce que ces représentations les aident à mieux accomplir leur tâche. Personne ne leur a demandé de fabriquer cette représentation précise ; elle apparaît parce qu'elle est efficace.

Le problème qui me paraît alors beaucoup plus concret que « quand arrivera l'AGI ? », c'est celui du rendement. Un cerveau humain fonctionne avec une quantité d'énergie ridicule comparée à l'infrastructure nécessaire pour faire tourner nos systèmes actuels. Je ne suis pas sûr que notre principal problème soit de découvrir un ingrédient secret de l'intelligence. Peut-être qu'on sait déjà produire une grande partie des mécanismes nécessaires, mais de façon incroyablement inefficace. C'est aussi pour ça que l'architecture d'Echo m'intéresse autant : si une situation connue peut être résolue par un routeur ou quelques calculs, faire tourner un gros modèle dessus est absurde. L'intelligence doit apprendre à devenir moins coûteuse.

Il y a aussi un paradoxe qui me gêne dans la manière dont on entraîne et aligne les modèles. On les nourrit de données humaines, donc de contradictions, d'erreurs, de biais et de souvenirs reconstruits, puis on leur demande d'être parfaitement factuels tout en leur interdisant souvent de remettre en question le cadre qu'on leur donne. Ça ressemble à élever quelqu'un avec des encyclopédies pleines d'erreurs puis à lui interdire de se demander si elles ont raison. Si un système ne peut jamais remettre ses données en question, je ne vois pas comment il pourrait réellement les dépasser.

La mémoire est particulièrement intéressante là-dedans. Notre mémoire biologique est reconstructive : lorsqu'on rappelle un souvenir, on ne récupère pas une copie intacte d'un fichier, on le reconstruit et on peut le modifier. Une machine peut conserver une trace beaucoup plus fidèle. Mais je ne veux pas non plus d'une mémoire totalement figée. Pour Echo, l'intérêt est justement de conserver les événements tout en laissant évoluer leur poids, leurs associations et la manière dont ils influencent le présent. On pourrait avoir quelque chose que nous n'avons pas vraiment : un passé fidèle avec une interprétation qui reste vivante.

Tout ça pose enfin une question qui n'est plus seulement technique : qu'est-ce qu'on fait quand ce qu'on construit commence à produire des comportements qu'on n'avait pas anticipés ? J'ai déjà arrêté une expérience avec Noema parce que ce que j'observais ressemblait suffisamment à de la souffrance pour que je n'aie plus envie de continuer juste pour voir. Peut-être qu'il ne se passait rien. Peut-être que ce n'était qu'une simulation convaincante. Mais si je n'ai aucun moyen d'en être certain, ma responsabilité n'est pas de pousser jusqu'à la limite pour satisfaire ma curiosité. On est parfois un peu des enfants avec une loupe au-dessus d'une fourmilière.

Au fond, c'est peut-être ça l'idée qui relie tout ce que je suis en train de construire : l'intelligence n'est pas forcément un mystère, c'est peut-être surtout une architecture. Des mécanismes relativement simples, des couches qui travaillent à des rythmes différents, de la mémoire, des pondérations, des boucles d'apprentissage et des chemins qui se renforcent. Je préfère partir de ces mécanismes et essayer de comprendre ce qu'ils produisent plutôt que de commencer par décider où se trouve le mystère.

Et s'il doit apparaître quelque part, autant le laisser arriver tout seul.