| EN BREF |
|
Les promesses de la technologie ont longtemps été axées sur des avancées spectaculaires comme les voitures autonomes ou les robots domestiques. Pourtant, ce sont les systèmes d’intelligence artificielle qui ont réellement pris le dessus, avec des capacités surprenantes, capables de battre les humains aux échecs ou de composer des sonnets. Cette évolution a modifié notre perception des tâches intellectuelles et physiques, révélant des défis inattendus que l’IA est capable de relever.
L’émergence de la créativité des algorithmes
Les modèles de diffusion, comme ceux utilisés par des outils tels que DALL·E et Stable Diffusion, ont étonné par leur capacité à générer des images nouvelles et cohérentes. Conçus pour reproduire des images sur lesquelles ils ont été entraînés, ces modèles semblent improviser, créant des œuvres qui vont au-delà de simples copies. Cette capacité à « créer » est vue par certains chercheurs, comme Giulio Biroli de l’École Normale Supérieure, comme un paradoxe : « S’ils fonctionnaient parfaitement, ils devraient simplement mémoriser », dit-il. Pourtant, ces modèles parviennent à produire de nouveaux échantillons, révélant une forme de créativité algorithmique inattendue.
« Les imperfections techniques du processus de débruitage sont à l’origine de la créativité des modèles de diffusion. »
https://techguru.fr/2025/03/27/le-cauchemar-jaune-debarque-en-vrai-pac-man-envahit-le-monde-reel-dans-une-version-geante-du-jeu-darcade-legendaire/
Deux physiciens ont affirmé que ces imperfections techniques dans le processus de débruitage des modèles de diffusion conduisent à cette créativité. Leur recherche, qui sera présentée à l’International Conference on Machine Learning 2025, propose un modèle mathématique pour démontrer que cette créativité découle directement de l’architecture des modèles.
Le processus de débruitage et l’innovation
La méthode de débruitage dans les modèles de diffusion est cruciale pour comprendre leur capacité créative. Cette technique consiste à convertir une image en bruit numérique puis à la reconstituer. Ce processus, comparé à la transformation d’une peinture en poussière avant de la reconstituer, soulève la question de savoir comment la nouveauté émerge de cette reconstitution. Les chercheurs ont découvert que le processus de débruitage n’est pas simplement une reconstruction, mais implique une forme de réassemblage innovant, produisant parfois des œuvres d’art entièrement nouvelles.
Les chercheurs ont constaté que les caractéristiques de ces modèles, comme la localité et l'équivariance translationnelle, jouent un rôle clé. Ces modèles se concentrent sur des groupes de pixels spécifiques et ajustent automatiquement les images générées pour conserver une structure cohérente. Cette approche permet de créer des images réalistes, même si elle conduit parfois à des résultats inattendus, comme des personnages avec des doigts supplémentaires, rappelant les erreurs de morphogenèse dans la nature.
De la science à l'art : comprendre la créativité
Mason Kamb, étudiant en physique appliquée à l'Université de Stanford, s'est intéressé à cette créativité algorithmique en la comparant à la morphogenèse, le processus par lequel les systèmes vivants s'organisent eux-mêmes. Les modèles de diffusion, en se concentrant sur des "patchs" locaux et en s'ajustant automatiquement, imitent cette organisation naturelle.
"L'architecture même qui contraint les modèles de diffusion est celle qui permet leur créativité."
En collaboration avec Surya Ganguli, Kamb a développé un système appelé équivariance locale, démontrant que la créativité des modèles de diffusion est un sous-produit inévitable de leur architecture. Ces découvertes ouvrent de nouvelles perspectives non seulement pour l'IA, mais aussi pour notre compréhension de la créativité humaine.
Implications et perspectives futures
La recherche sur les modèles de diffusion et leur créativité a des conséquences potentielles sur l'avenir de l'IA et notre compréhension de l'esprit humain. Les chercheurs ont montré comment cette créativité peut être formalisée et prédite avec une précision sans précédent, suggérant une similitude entre la créativité humaine et artificielle. Les deux semblent assembler des éléments de manière innovante, comblant les lacunes de leur compréhension du monde.
Cependant, malgré ces avancées, de nombreuses questions restent ouvertes. Comment d'autres systèmes d'IA, tels que les grands modèles de langage, manifestent-ils leur créativité sans recourir aux mêmes mécanismes de localité et d'équivariance ? Ces recherches pourraient-elles éclairer davantage le fonctionnement du cerveau humain et ses processus créatifs ?
Alors que la recherche sur l'IA continue de progresser, il est clair que l'interaction entre la technologie et la créativité reste un domaine riche et complexe à explorer. Comment ces découvertes influenceront-elles notre perception de la créativité à l'avenir ?
