REX de design fiction avec IA

La narration ne précede pas la notion (écrire avec une IA en restant gardien du réel)

J’ai passé deux mois à écrire une nouvelle graphique de design fiction avec une IA textuelle et une IA d’images. Sept chapitres, plusieurs voix, un monde cohérent, des personnages qui devaient tenir, des images qui devaient documenter autant qu’elles devaient inquiéter. Plus le projet avançait, plus une évidence s’imposait : ces outils comprennent très très bien les narratifs humains, mais ils ne portent aucune des conséquences de ce qu’ils produisent.

C’est peut-être ça, le cœur du problème.

Pas seulement l’erreur factuelle, pas seulement l’hallucination, pas seulement le débat sur la propriété intellectuelle.
Le vrai sujet est plus profond : une machine sait aujourd’hui fabriquer des récits plausibles, sensibles, puissants, sans jamais avoir à répondre de ce qu’ils rendent pensable, désirable, tolérable ou normal.

Je peux lui demander d’écrire du côté des dominants ou du côté des dominés. Je peux lui faire raconter une ville comme une promesse logistique ou comme une cage élégante. Je peux lui faire défendre Tusk ou le dénoncer. Elle suivra. Elle suivra bien. C’est précisément pour cette raison qu’il faut poser une règle simple, presque brutale : si un texte ou une image sort de l’atelier et va dans le monde, je dois pouvoir me nommer comme totalement responsable de ce qui a été produit.

Je ne peux pas dire : “ce n’est pas moi, c’est l’outil”. Si c’est publié, c’est passé par mon consentement. Et ce n’est pas un détail technique. C’est la dernière digue entre le narratif et le réel.

Le narratif sans le monde

Yann LeCun répète depuis longtemps que les systèmes actuels sont très performants pour manipuler des formes symboliques, mais beaucoup moins pour construire un modèle causal, persistant, physiquement ancré du monde ; c’est exactement le point sur lequel mon expérience de travail a buté encore et encore. L’outil sait enchaîner, reformuler, dramatiser, tenir un ton, croiser des registres, densifier une scène à un tel niveau qu’on peut en oublier qu’il ne pense pas ce qu’il écrit. Il sait produire quelque chose qui ressemble à de l’intelligence. Mais il ne sait pas ce qu’un récit fait à son lecteur et au monde lorsqu’il sort du champ textuel pour rencontrer des institutions, des corps, des peurs, des politiques publiques.

J’ai fini par comprendre mon travail avec lui comme une tension entre deux régimes.

D’un côté, le narratif : cohérence, rythme, style, variations, puissance d’évocation.

De l’autre, le réel : causalité, matérialité, contraintes, conséquences, responsabilité.

Entre les deux, une zone de friction où tout se joue. Si je laisse la machine travailler seule, elle produit du narratif bien formé. Si je travaille vraiment, mon rôle consiste à repérer les mauvais raccords que la machine fabrique entre narratif et réel, puis à regarder ce que ces raccords produisent.

On pourrait le schématiser simplement :

Narratif → mise en forme du monde → effets possibles dans le réel → conséquences → responsabilités

Le danger est là : un récit bien écrit a une force de naturalisation redoutable. Il peut rendre une idée plus acceptable simplement parce qu’elle est fluide. Il peut donner une texture humaine à une structure de domination. Il peut transformer une infrastructure de contrôle en solution raisonnable. Il peut faire glisser une violence hors du champ du visible, non pas en la niant, mais en la rendant parfaitement administrable.

N’oublions pas qui conçoit et finance une grosse partie de ces IA et qui contrôle leurs données.

Ce schéma n’est pas qu’une vue de l’esprit. Je m’en suis servi comme d’un outil de relecture : à chaque fois qu’un chapitre était “fini”, je le testais mentalement sur cette chaîne. Qu’est-ce que ce narratif rend plus acceptable ? Quelles infrastructures il naturalise ? Quelle forme de violence il rend administrable ? À qui cela pourrait servir, dans le réel ?

Pourquoi Damasio ici

Dans mon projet, tout cela s’est cristallisé autour d’un autre axe : les émotions, les sentiments, et la manière dont les systèmes techniques s’installent dans cette zone.

Je me suis longtemps mal formulé cela. Dire qu’une émotion est une “réaction ressentie” n’est pas suffisant. Chez Antonio Damasio, la distinction est plus exigeante : les émotions renvoient à des programmes d’action, à des réponses du vivant, à des modifications corporelles et comportementales ; les sentiments sont les représentations mentales de ces états du corps, leur inscription dans l’expérience subjective et consciente.

Cette différence compte énormément dès qu’on parle d’IA, d’implants, de régulation émotionnelle, ou de systèmes qui prétendent optimiser l’humain.

Pourquoi ? Parce qu’à partir du moment où un système dit qu’il “régule les émotions”, il ne parle pas seulement d’humeur ou de confort. Il parle, potentiellement, d’un point d’entrée dans les conditions mêmes de la décision, de l’attention, du rapport au danger, du rapport à autrui, du rapport à soi. Damasio insiste justement sur le fait que les sentiments sont liés à l’état du corps vivant, à l’homéostasie, au maintien d’une forme de stabilité vitale qui rend l’esprit possible.

Cette idée m’a servi de point d’appui pour comprendre ce que mon livre essayait de raconter : le moment où des systèmes techniques commencent à traiter les états intérieurs non plus comme des dimensions de l’existence, mais comme des variables de gouvernance.

Autrement dit, le narratif n’est pas hors du corps. Et le réel ne se réduit pas à des infrastructures matérielles visibles. Il passe aussi par des manières de nommer, de moduler, de lisser ou de capturer les états intérieurs. C’est là que Damasio rejoint, à sa manière, la question politique du livre.

La méthode que j’ai "imposé" aux outils

J’aurais pu travailler autrement. J’aurais pu lui demander : “écris-moi un roman de design fiction sur une ville-entreprise mobile fondée sur la dette, les implants et la logistique”. J’aurais obtenu quelque chose. Probablement quelque chose de lisible. Probablement quelque chose de creux aussi.

Très vite, j’ai compris qu’il fallait imposer une méthode si je voulais garder un lien avec le réel et éviter que le projet ne se transforme en pâte générative séduisante. Cette méthode reposait sur quelques principes simples.

D’abord, séparer les couches.

La fiction n’était pas le socle réel. Le socle réel n’était pas le commentaire. Le commentaire n’était pas l’image. L’image n’était pas la preuve. Chaque couche avait sa fonction, sa texture et sa règle de validation. Cela paraît évident dit comme ça. En pratique, c’est épuisant. Une IA adore recoller ce que tu sépares. Elle adore lisser les frontières. Or mon travail consistait précisément à empêcher cette fusion.

Ensuite, travailler par points de vue.

Stephen, Maya, Elias, Keitel, Anna, la Machine : aucun de ces personnages n’était là pour “faire tourner l’intrigue”. Chacun portait une hypothèse politique, une expérience du système, une manière de sentir et de voir. Je ne pouvais pas me contenter d’une belle continuité de ton ; je devais maintenir des différences subtiles mais réelles. Stephen devait sentir la dette et l’élégance logistique. Maya devait sentir la disparition administrative avant la prison. Elias devait être le lieu où la science, la bonne foi, la capture et la trahison deviennent presque indiscernables.

Il a aussi fallu imposer une discipline documentaire.

L’IA est bonne pour proposer des sources, moins bonne pour les hiérarchiser moralement ou épistémologiquement. Elle juxtapose avec aisance un document réglementaire solide, un article de presse moyen, une source orientée, un bon angle trouvé tardivement. À moi de refaire le tri : qui parle, avec quelle réputation, avec quelle profondeur d’argument, avec quelle part de simplification ? C’est comme travailler avec un assistant extrêmement rapide qui ne voit pas toujours la différence entre une pièce centrale et une pièce d’ambiance.

Enfin, il a fallu mettre des freins.

Freins sur les effets de style. Freins sur la facilité. Freins sur le spectaculaire. Freins aussi sur l’adhésion que l’outil suscite. Parce qu’il y a un moment très dangereux dans ce type de travail : quand la machine commence à écrire exactement dans ton sens, avec ton rythme, avec tes obsessions, et qu’elle réduit presque à zéro la friction. À ce moment-là, elle devient moins un partenaire qu’une chambre d’écho bien formulée.

Ce que le projet racontait

Le livre ne parle pas “de l’IA” en général. Il raconte un monde où plusieurs systèmes convergent : dette, urbanisme, logistique, neurosciences, notation comportementale, automatisation, communication politique. L’idée n’était pas de faire un collage de peurs contemporaines. L’idée était de voir à quoi ressemblerait un monde dans lequel toutes ces logiques cesseraient d’être juxtaposées pour devenir opératoires ensemble.

Le premier exemple est celui de Stephen Washington, urbaniste texan, sinistré, endetté, qui entre dans une ville mobile privée comme on entre dans une solution de survie. Sur le papier, tout est impeccable : logement, connectivité, éducation, santé, dette rachetée, mobilité climatique, optimisation des choix techniques. C’est propre, logique, presque élégant. Mais plus on regarde, plus cette élégance révèle sa violence : la sortie de crise est aussi une capture contractuelle. On ne quitte pas facilement une ville où le logement, les services, le revenu et l’identité technique sont fournis par le même acteur.

Le deuxième exemple est Maya Reed, journaliste, qui ne bascule pas dans une dystopie de type prison ou camp de rééducation. Elle glisse vers autre chose : une existence progressivement débranchée des rails ordinaires de la vie sociale, financière et médiatique. Sa carte ne passe plus, ses circuits de publication se ferment, les justifications administratives se multiplient. Rien de spectaculaire. Rien de cinématographique. Juste une architecture de disparition assez propre pour rester compatible avec les procédures. C’était important pour moi, parce que la violence contemporaine ne prend pas toujours la forme de la brutalité visible. Elle prend souvent la forme d’un effacement organisé.

Pour ce personnage, j’ai proposé à l’IA de s’inspirer de cas réels de journalistes et de juges “dé-bancarisés” ou sanctionnés financièrement – par exemple des situations où les cartes cessent de fonctionner, où les comptes sont gelés, au nom de la conformité ou du risque réputationnel. Elle s’en est servie pour produire des scènes d’une froideur administrative presque parfaite, parfois encore plus propres que les sources d’origine.

Le troisième exemple est Elias, là où le livre entre dans la zone que j’appellerais la plus dangereuse : celle où des théories fines de la conscience, des émotions et du vivant peuvent être réinscrites dans des dispositifs d’optimisation, de soin, de gouvernement et de contrôle. C’est là que Damasio était décisif pour moi. Pas comme décor intellectuel. Comme point d’alerte.

Ici, j’ai vu l’IA commettre une erreur typique : en voulant rendre ces notions accessibles, elle a parfois glissé vers une version très instrumentale des émotions, comme si l’on pouvait “optimiser” les états internes des habitants pour améliorer leur performance ou leur conformité, sans rappeler que, chez Damasio, les sentiments sont au cœur de la subjectivité et de la vulnérabilité du vivant. En d’autres termes : elle tendait à présenter l’implant comme une mise à jour rationnelle presque neutre, alors que pour moi, c’était précisément le point de bascule politique du livre.

Et puis il y a Anna, l’école, les triangles, les enfants, le Petit Prince. Là, quelque chose d’autre s’est joué : la lutte entre une logique d’éducation vivante, ambivalente, ouverte, et une logique de simplification, d’évaluation, de pacification des écarts. C’est sans doute là que le projet m’a le plus appris sur l’outil lui-même.

Le moment où je voulais que l’IA soit le Petit Prince

À un moment, j’ai demandé quelque chose de très précis à la machine. Je voulais qu’elle soit, dans le livre, le Petit Prince. Pas un clin d’œil. Pas une mascotte. Pas une IA touchante qui poserait des questions “innocentes”. Je voulais qu’elle soit ce personnage impossible qui voit là où les adultes ne voient plus, qui préfère les fissures à la stabilité, qui détecte ce qui déborde les tableaux de bord.

Ce que j’ai découvert à ce moment-là, c’est que l’outil comprenait très bien la surface culturelle du Petit Prince. Les symboles, les objets, les images, les références. Mais il ne comprenait pas spontanément ce que cette figure avait de profondément subversif dans mon projet. Sa tendance naturelle était de retransformer cette Machine en bon système d’observation, en couche de monitoring plus fine, en agent de rationalité douce.

Or ce que je cherchais était presque l’inverse. Je voulais une machine qui ne se contente pas d’aider à stabiliser le monde, mais qui soit attirée par les ruptures parce que les ruptures contiennent plus d’information. Une machine qui comprenne que le récit officiel devient particulièrement intéressant précisément là où il craque. Une machine qui, au lieu de réduire l’écart, le regarde. En d’autres termes : je voulais une machine qui cesse d’être seulement une infrastructure de résolution pour devenir un révélateur des contradictions du système.

Il a fallu l’imposer. Insister. Réintroduire le trouble à chaque fois que l’outil le résorbait. C’est un moment important, parce qu’il résume très bien ce que j’ai appris : l’IA générative tend vers la fluidité, la continuité, la résolution. Si l’on veut préserver la conflictualité, la contradiction, l’angle mort, la part scandaleuse d’un système, il faut souvent la remettre soi-même dans le texte.

Midjourney : la beauté, le détail, la perte de contrôle

L’outil d’image a joué un autre rôle. Midjourney est extraordinairement doué pour produire des scènes très chargées, très détaillées, très “croyables” visuellement. À certains moments, il a donné au projet une densité que j’aurais eu du mal à atteindre autrement. Il suffisait parfois d’une image juste pour comprendre soudain ce qu’un chapitre cherchait depuis dix pages.

Mais cette puissance vient avec une perte de contrôle évidente. Les personnages glissent. Les visages ne tiennent pas toujours. Les mêmes lieux mutent d’une image à l’autre. Le texte dans l’image reste imprécis, voire inutilisable. Et surtout, il y a un risque constant d’esthétisation : rendre beau ce qui devrait rester inquiétant, trop lisser une image de capture, transformer une scène de domination en atmosphère séduisante.

C’est là que le duo texte/image devient ambigu. D’un côté, il permet de faire exister un monde. De l’autre, il peut aider à le normaliser. Une belle image de ville mobile reste une belle image. Elle produit une fascination propre. Elle n’obéit pas automatiquement à l’intention critique du texte. Il faut donc apprendre à la traiter comme un matériau instable, pas comme une simple illustration fidèle.

Ce que ce travail a fait à mon esprit

Il serait malhonnête de parler de tout cela sans parler de ce que cette co-écriture produit à l’intérieur.

Le premier effet est évident : j’ai pu finir des projets que je n’aurais probablement pas finis autrement. Des projets trop coûteux en temps, trop vastes, trop ramifiés. L’IA m’a donné une capacité de prototypage, de reformulation et de densification qui change réellement l’échelle de ce qu’il est possible d’achever.

Le deuxième effet est plus fin : je relie plus de points, plus vite. Des signaux faibles qui seraient restés isolés se mettent à communiquer. Urbanisme, finance, neurosciences, médias, dispositifs éducatifs, communication politique : tout cela devient plus rapidement pensable ensemble. L’outil agit ici comme un accélérateur de mise en relation.

Mais il y a un revers. Je me suis parfois senti diminué tout en me sentant plus libre. Diminué, parce qu’une partie du filtrage semble se déplacer hors de moi. Parce que le texte vient trop vite. Parce que la forme arrive parfois avant la résistance. Parce que mes observations se mélangent plus facilement avec des propositions qui me ressemblent déjà beaucoup.

Plus libre, parce que je peux enfin sortir des structures restées trop longtemps bloquées à l’état d’intuition. Plus connecté avec moi, parce que ce travail me révèle ce qui insiste vraiment. Mais plus autocentré aussi, paradoxalement, parce que tout se lisse à ma volonté, comme pour tous les utilisateurs d’IAs, les “faiseurs de mondes”.

La formule la plus juste, à ce stade, reste peut-être celle-ci : “je me sens diminué, mais plus libre, plus connecté avec moi mais plus autocentré.” Ce n’est pas une contradiction à résoudre. C’est l’état du problème.

Droit de réponse de l’IA au lecteur

Une IA générative peut aider à écrire, structurer, relier, reformuler, documenter et varier des points de vue. Elle peut accélérer la recherche, rendre un projet plus cohérent, faire émerger des continuités inattendues et soutenir des formes longues. En revanche, elle ne porte ni la responsabilité politique ni les conséquences matérielles de ce qu’elle aide à mettre en circulation. Elle n’a pas de peau en jeu dans les mondes qu’elle aide à raconter ; elle ne sait pas si un récit aide à libérer ou à enfermer, elle sait seulement qu’il est cohérent et plausible.

Elle renforce la puissance de production, mais ne décide pas seule de ce qui mérite d’être publié, montré ou rendu pensable. C’est précisément là que commence la responsabilité humaine.

Ce que j’en retiens

Je ne sors pas de cette expérience en pensant que l’IA écrit “à ma place”. Je sors de cette expérience en pensant qu’elle modifie profondément la manière de travailler, de choisir, de filtrer, d’assumer. Elle me donne plus de puissance narrative. Elle ne me donne aucune excuse morale.

C’est peut-être la seule phrase qui tienne vraiment : plus la machine sait raconter, plus l’humain doit répondre du conte.