Objets matériels complexes, les représentations visuelles mathématiques doivent être étudiées à partir des multiples manipulations et usages dont elles font l’objet selon le contexte mathématique, l’acteur qui les mobilise et ses objectifs. À partir de l’exemple des diagrammes de Dynkin, très employés en géométrie algébrique mais également dans d’autres domaines mathématiques, on observera dans cette note de recherche le caractère multiplexe [1] d’un type spécifique de représentations visuelles mathématiques : les diagrammes. Pour cette étude, nous nous sommes appuyés sur une analyse de documents mathématiques (articles, brouillons) et sur des entretiens de type semi-directif réalisés avec des chercheurs de l’université Louis-Pasteur de Strasbourg [2]. Il ne sera pas question de substituer ici le sociologue au spécialiste mathématicien des diagrammes de Dynkin, mais de décrire comment ces dessins constituent des outils de formalisation et de représentation du savoir, qui sont également des objets de connaissance. Différentes utilisations de ces diagrammes peuvent en effet coexister en mathématiques, certaines relevant d’une dimension technique, d’autres d’une dimension plus conceptuelle : il s’agit d’être en mesure de constater ces variations pour saisir le travail mathématique même.

En 1946, Dynkin, mathématicien russe, publie un article qui introduit une manière originale de présenter la classification des systèmes de racines à partir de diagrammes composés simplement de sommets et d’arêtes [4]. C’est là notre point de départ.

Sur chaque schéma, seules les particularités du système de racines considéré apparaissent. Ses propriétés générales ne sont, elles, pas explicitées. À chaque racine simple est associé un point (sommet). Deux sommets distincts sont reliés par 0, 1, 2 ou 3 traits (arêtes), suivant la relation entretenue par les deux racines concernées. Le signe > est ajouté sur les arêtes reliant deux sommets lorsqu’une des deux racines est plus longue que l’autre. À chaque diagramme de Dynkin est alors associée une algèbre de Lie : une algèbre de Lie simple correspond à un système de racines, alors qu’à un système de racines est associé un diagramme de Dynkin. Les diagrammes de Dynkin sont ainsi construits de manière à entretenir une relation de bijection avec les algèbres de Lie semi-simples. Ils font l’objet d’une interprétation univoque ou, pour le dire en des termes moins techniques, d’une interprétation strictement contrôlée par la construction des mathématiciens et, dans ce cadre, dépourvue d’ambiguïté.

Aussi rencontre-t-on des diagrammes de Dynkin dans de très nombreux théorèmes mathématiques de classification, souvent indépendants les uns des autres : classification des solides platoniciens, des catégories d’espaces linéaires, des singularités d’hypersurfaces algébriques, des points critiques de fonctions n’ayant pas de module ou encore des groupes de Coxeter engendrés par des réflexions [6]. On peut citer l’exemple du théorème de Gabriel qui stipule qu’un objet mathématique particulier appelé un carquois possède un nombre fini de représentations indécomposables à la seule condition que le graphe qui lui est associé soit l’un des diagrammes de Dynkin cités.

Les diagrammes de Dynkin sont alors utilisés comme un système de représentation pour indiquer les propriétés particulières d’algèbres de Lie spécifiques. Ils renvoient également de manière implicite aux propriétés générales des algèbres de Lie. S’ils sont mentionnés par leur abréviation (A_n, D_n, E₆, etc.), ils ne sont cependant explicitement représentés ni dans le théorème, ni dans la démonstration qui suit. L’auteur considère tacitement que tous les mathématiciens s’intéressant à ce thème de recherche connaissent les diagrammes de Dynkin, leur codification et en ont une parfaite maîtrise. Il n’est donc pas nécessaire de les reproduire.

Ce n’est pas tout. Les diagrammes de Dynkin y sont considérés comme des boîtes noires, c’est-à-dire comme des objets fermés, fixes et stables. Outils permettant d’établir des classifications et d’engager de nouvelles comparaisons, ils sont envisagés, dans une appréhension globale, comme des symboles dont la signification a été arrêtée une fois pour toutes. C’est là un premier type d’usage technique.

Mais d’autres cas de figures peuvent être attestés. Très souvent, en effet, lorsque des chercheurs construisent une nouvelle classification de familles infinies qui présentent une certaine régularité (malgré quelques cas particuliers), ils essaient d’y associer les diagrammes de Dynkin. Parfois, comme précédemment, c’est en les manipulant comme des symboles établis une fois pour toutes. D’autres fois, c’est en ouvrant la boîte noire et en déconstruisant les diagrammes. Car si les diagrammes de Dynkin correspondent à des représentations, ce sont également des objets matériels, susceptibles de manipulations diverses. Et manipuler ces diagrammes, c’est également manipuler les concepts qui y sont associés. C’est ce que rapporte, à partir de ses propres recherches, un des mathématiciens que nous avons interrogé à Strasbourg.

Ce chercheur s’intéressait aux Z–graduations irréductibles des algèbres de Lie simples sur le corps des nombres complexes. Ces algèbres sont associées à des espaces dits « préhomogènes », dont deux autres mathématiciens avaient établi, en 1977, une première classification : « Les Japonais avaient fait une classification là-dessus monstrueuse qui est là. C’est cent cinquante pages de calculs fous. Bon, ce qui s’est passé, c’est qu’ils n’avaient pas vu que le groupe et l’espace préhomogène… on pouvait les mettre ensemble dans une algèbre de Lie. Et quand on voyait les choses comme ça, c’était beaucoup plus simple. Et c’est là qu’intervenaient mes diagrammes. »

Notre interlocuteur raconte avoir cherché à associer ces espaces préhomogènes à des diagrammes de Dynkin qu’il a légèrement modifiés. Dans ce but, il a entouré certains des sommets de ces diagrammes, correspondant à des racines particulières, de la manière suivante [7].

Il ajoute au cours de l’entretien : « […] Cet article de classification qui leur prend cent cinquante pages, moi, j’ai refait la classification derrière, ça prend… vingt-cinq pages, une fois qu’on a compris quelque chose. Et donc j’ai attaché à ces espaces des diagrammes. »

Ainsi, les diagrammes de Dynkin « à poids » élaborés par ce chercheur constituent une présentation graphique beaucoup plus concise de la classification.

Ce mathématicien dit avoir plus tard utilisé ces mêmes diagrammes de Dynkin « à poids » pour construire un nouveau concept mathématique : les « tours duales », associées à des paires duales d’algèbres de Lie. C’est à nouveau la manipulation des diagrammes, leur décomposition, puis leur transformation, avec l’ajout d’informations supplémentaires, qui, selon lui, l’ont amené à classer, puis à comparer ces différents concepts.

De la même manière, on peut citer l’exemple de trois mathématiciens [8] qui, étudiant les groupes de réflexions complexes à partir d’une présentation par générateurs et relations, ont cherché un symbolisme graphique qui évoque la présentation obtenue tout en étendant le symbolisme de Dynkin-Coxeter. Ils se sont également directement inspirés des diagrammes de Dynkin-Coxeter pour construire leur présentation [9].

Ici encore, c’est à partir des diagrammes de Dynkin originaux, déconstruits, modifiés et complétés, que ces mathématiciens ont étendu leurs études sur les groupes de réflexion et élaboré un savoir nouveau. Dans ce contexte, c’est la dimension graphique du diagramme, le fait qu’il s’agisse d’un objet matériel dont la manipulation accompagne l’appréhension et l’appropriation du concept correspondant qui est déterminante. Ce diagramme permet de saisir simultanément l’objet mathématique et sa représentation symbolique. À ce titre, il constitue un objet épistémique fondamental. Il ne s’agit plus d’un usage technique, mais conceptuel.

À partir de ces deux exemples que nous venons de développer, les diagrammes de Dynkin peuvent faire l’objet de plusieurs niveaux de lecture et d’utilisation. Dans un cas, les mathématiciens peuvent y recourir comme à des instruments techniques, commodes pour représenter de façon concise les propriétés des algèbres de Lie. Mais simultanément, ils constituent des objets conceptuels qui sont utilisés directement dans la construction d’un savoir mathématique nouveau. Le titre d’un article de Hazewinkel qui présente les recherches récentes autour des diagrammes de Dynkin, « The ubiquity of Coxeter-Dynkin diagrams », est d’ailleurs tout à fait clair [10] : les diagrammes de Dynkin-Coxeter sont appréhendés par les mathématiciens eux-mêmes comme des outils faisant l’objet d’usages variés, de niveaux de manipulation divers, dans des situations mathématiques multiples.

La notion de multiplexité introduite par Merz est ici particulièrement féconde pour rendre compte de la complexité de ces représentations visuelles mathématiques et de leurs usages [11]. Contrairement à la polysémie, qui n’indique que les différentes significations attribuées par exemple à un dessin, la notion de multiplexité s’attache aux différents usages dont peut faire l’objet une même représentation. Ces diagrammes renvoient simultanément à des objets matériels, manipulables graphiquement, à un signe représentant un « objet » mathématique – certaines propriétés des algèbres de Lie simples par exemple – et enfin à un ensemble de pratiques et d’interprétations – règles d’encodage, de décomposition et de recomposition. Selon les objectifs de l’utilisateur, ils peuvent être perçus globalement, c’est-à-dire comme un symbole, ou de manière séquentielle, comme une sorte d’écriture décomposable et recomposable à souhait. Loin de constituer des objets figés et immuables, leur usage par les mathématiciens oscille sans cesse entre dimensions techniques et dimensions conceptuelles, dans des contextes qui ne sont pas définis à l’avance et par des acteurs différents. L’outil de représentation côtoie l’objet conceptuel manipulable et décomposable.

Un tel système d’usages, tous pertinents d’un point de vue mathématique, mais structuré au sens où les mathématiciens concernés y investissent des prédilections, des savoir-faire, bref, des dispositions mathématiques différentes, montre par l’exemple que la cohérence des traces formelles et matérielles et l’intuition conceptuelle sont toutes deux à l’œuvre et inséparables sur le même support d’un geste mathématique élémentaire.

Un jour, c’était le vieux concept de temps absolu et le système bien assis de nos coordonnées d’inertie qui s’écroulaient, jetés à bas par la théorie de la relativité ; un autre jour, la discontinuité se substituait à la continuité et les lois traditionnelles, cessant de gouverner le monde, se voyaient remplacées par des lois de probabilité qui régissaient des foules ; les idées, même fondamentales, commençaient à perdre leur caractère d’essences pour se muer en simples instruments – cependant qu’une suite d’inventions créatrices venaient affirmer avec force que la science n’est pas une collection de lois particulières, un inventaire de faits sporadiques[,] mais la création, par retouches successives et par inventions continuelles, d’un univers recouvrant, de façon de plus en plus adéquate, le vaste monde des impressions sensibles : tout cela, bien propre en vérité à bouleverser des hommes depuis longtemps accoutumés à de certaines conceptions, et qui volontiers tendaient à penser que leurs physiciens cédaient à on ne sait quelle rage injustifiée d’iconoclastie – comme si ce n’était pas une dure nécessité qui les contraignait eux-mêmes, chaque jour, à abandonner d’anciennes conceptions, parce qu’elles étaient impuissantes à leur donner la clef du réel tel qu’ils l’imaginaient maintenant.

Il y avait autre chose : les rapports de type nouveau que ces physiciens entretenaient de plus en plus avec des mathématiciens qui, eux aussi, s’écartaient chaque jour davantage des méthodes de la mathématique traditionnelle. Il est difficile au non-initié – et il n’y a pas, finalement, beaucoup d’initiés de par le monde –, il lui est difficile de concevoir exactement le genre d’échanges qui s’opèrent de plus en plus entre physiciens et mathématiciens, comme entre théoriciens et expérimentateurs, dans ce domaine qui semble s’entourer de si hautes murailles. Mais ici, le lecteur m’interrompt : « Précisément, n’est-ce pas la tâche de l’Encyclopédie, n’est-ce pas le but de ce volume que de rendre claires ces obscurités ? Vous demandez à des hommes qui sont à l’extrême pointe de la Science – qui d’ailleurs pratiquent cette science avec une maîtrise sans effort et qui, rompus à ses difficultés, en trouvent toute naturelle la complication –, vous leur demandez d’exposer les problèmes spéciaux qui depuis des années retiennent leur attention. Mais nécessairement, ils seront durs à suivre, pour un lecteur mal muni de connaissances précises, amples et concrètes en physique et en mathématique. Peut-on leur demander de faire un effort de clarté tel que tout le monde les comprenne ? Si non, pourquoi ne pas mettre leurs textes entre les mains de quelques-uns de ces excellents vulgarisateurs scientifiques qui rendent claires les solutions les plus difficiles ? »

Pourquoi ? Mais d’abord parce que les savants eux-mêmes ne se prêteraient pas à ce jeu. Parce qu’ils penseraient qu’on les dupe et qu’on les trahit. Parce qu’ils se font de la Science une tout autre idée que les fabricants de manuels élémentaires, ou que les Fontenelles au rabais de l’an de grâce 1950, entreprenant de mettre la pensée d’Einstein à la portée des dames du monde. Parce qu’ils n’ont pas, des vertus d’une certaine clarté, la même notion que le public. Et que finalement, ils n’estiment point indispensable que les dames du monde en question comprennent quelque chose aux spéculations physico-mathématiques des créateurs, des inventeurs de notre science nouvelle.

Ont-ils tort ou raison ? L’Encyclopédie française ne se propose pas d’atteindre à tout prix et par tous les moyens un public d’incompétents. Elle fournit de la Science physique telle que la pensent ses créateurs l’image la plus serrée, la plus fidèle, la plus dense. Elle n’expose pas, dans un domaine qui se renouvelle sans cesse, le savoir d’hier. Elle dit ce savoir d’aujourd’hui qui se profile en encorbellement sur le savoir de demain. Ainsi est-elle l’image de notre effort. De l’effort de nos savants, de leur effort vrai, sans traduction, sans trahison. Assez de livres, de répertoires, d’essais – quelques-uns remarquables dans leur genre – donnent de l’effort scientifique contemporain des interprétations, philosophiques ou méthodologiques, accessibles au lecteur commun, pour que l’Encyclopédie refuse de justifier sa raison d’exister qui est d’introduire, dans le cortège des encyclopédies, une « encyclopédie de producteurs », puisée aux sources mêmes de la création. Les uns, avec un savoir immense, ont reçu des dieux le don de clarté : mais cette clarté ne peut être que relative. Les autres luttent malaisément contre des pensées difficiles à exprimer dans leurs nuances. Tous donnent de leur effort quotidien une image assez saisissante, assez poignante pour que l’Encyclopédie n’essaie pas de lui substituer je ne sais quel chromo à bon marché – et de rendre banal cet admirable combat de l’esprit humain, acharné à définir une réalité qu’il s’efforce chaque jour de compliquer et de diversifier.

Extrait de l’avant-propos du t. II de l’Encyclopédie française, La Physique, 1955-1956, fascicule 2.04, p. 3-5. Publié avec l’autorisation du Centre international de synthèse.