Il est fréquent que les autobiographies et Mémoires [2] de mathématiciens comportent divers types de documents intégrés au récit, qu’ils soient textuels ou picturaux, scientifiques ou non scientifiques. Parmi les contenus mathématiques notables, la présence de formules est très frappante sur le plan visuel : en feuilletant le livre, il est difficile de les manquer. Au sein d’une forme narrative susceptible de transmettre une certaine réalité du travail mathématique à un lectorat potentiellement peu compétent en sciences, l’inclusion de développements techniques tels que des énoncés de théorèmes ou des démonstrations peut sembler paradoxale. Pourquoi inclure des éléments qui risquent de s’avérer inintelligibles ou incompréhensibles pour certains lecteurs ? N’y a-t-il pas là une incohérence, dans un genre dont l’un des objectifs est de se faire connaître, en tant que chercheur et en tant que personne ?

Le substantif « formule », fortement polysémique, contient les notions de norme et de concision. A ces deux aspects s’ajoutent, dans l’emploi en mathématiques du terme, la dimension symbolique [3]. Les éléments composant une formule ou une équation relèvent de ce qu’on appelle la notation mathématique : c’est une convention permettant de formaliser et de condenser les énoncés. Très schématiquement, on peut distinguer deux grands types d’éléments constitutifs de la notation mathématique entrant dans la composition des formules : d’une part, des symboles littéraux utilisant des lettres issues de différents alphabets (romain, grec, hébreu) avec des variations qui en modifient l’usage (casse, graisse, typographie comme le fraktur), et d’autre part des symboles graphiques (formés de lignes) : barres, tirets, ronds, chevrons, flèches, polygones, signes de ponctuation, symboles composés d’angles et/ou de courbes, etc.

Une formule nécessite, pour être transmise oralement, une traduction en langage naturel qui ne suit pas nécessairement l’ordre des notations et en développe les intitulés. Il faut donc à la fois connaître le sens conventionnel des notations, mais aussi le sens « en contexte », dans une démonstration mathématique donnée, à une époque donnée : une formule ne fonctionne pas toute seule, et ne se « lit » pas vraiment, du moins pas dans l’acception commune d’une lecture linéaire. Dans le tissu d’un texte narratif, la présence d’une formule donne lieu à des effets d’hybridité et d’étrangeté sur les plans syntaxique, sémantique, cognitif et visuel, mais aussi esthétique. Pour un lecteur mathématicien comme pour un lecteur profane, la lecture est fragmentée, interrompue. Impénétrable, la formule fascine.

Ce sont ces phénomènes que je souhaite examiner en mettant en regard d’une part la manière dont l’inclusion de formules participe de l’élaboration d’une certaine image de soi et des mathématiques, et d’autre part les effets différenciés de perception et de réception que la présence de ces formules génère pour un lecteur donné. A partir de la comparaison entre de deux récits autobiographiques de mathématiciens comportant des formules incluses dans le texte (Un mathématicien aux prises avec le siècle, de Laurent Schwartz [4] (1997) et Love and Math, The Heart of Hidden Reality, d’Edward Frenkel [5] (2013), j’interrogerai les modes de réception programmés par ces textes et la manière dont ils opèrent une mise en valeur des mathématiques et une mise en scène de soi, mais aussi les effets concrets de lecture s’incarnant dans l’espace matériel de la page.

Des formules dans le récit de soi : annonces, justifications, programmations

Lorsque le récit de vie contient des passages mathématiques, à plus forte raison des formules, il est fréquent que le texte liminaire le mentionne et le justifie, mettant en évidence diverses modalités d’inclusion et objectifs poursuivis par les mathématiciens qui écrivent.

Penser le dispositif : la présence des mathématiques dans l’autobiographie

Laurent Schwartz ouvre ses Mémoires par ces mots :

Je suis mathématicien. Les mathématiques ont rempli ma vie (…) Il y aura donc inévitablement des mathématiques ici ; on ne peut pas concevoir une autobiographie de mathématicien sans mathématiques [6].

Le mathématicien affirme le lien essentiel entre son identité individuelle et les mathématiques : la brièveté expressive de la première phrase, qui ouvre l’autobiographie, caractérise en trois mots et une structure syntaxique simple l’auteur-narrateur-personnage [7]. Le chiasme syntaxique et grammatical qui suit (je suis / ma vie // mathématicien / les mathématiques) explicite l’affirmation existentielle tout en ouvrant la perspective ; la « vie » de Laurent Schwartz est en effet « rempli[e] » d’autres choses, et la suite de l’avant-propos élargit les objets d’intérêt du mathématicien, avant de revenir au thème d’ouverture.

La structure de ce début d’avant-propos repose sur le passage du personnel au général, du « je » à l’indéfini « on », qui propose une définition des formes et dispositifs d’un certain type d’autobiographie sous une apparence rhétorique proche du raisonnement par l’absurde. De fait, comme de nombreux autres textes autobiographiques de mathématiciens, les Mémoires de Laurent Schwartz comportent des passages mathématiques très techniques – notamment dans le chapitre « L’invention des distributions », sur lequel je me concentrerai plus particulièrement – s’incarnant à l’occasion dans la forme très condensée d’une formule.

Dans l’ouvrage d’Edward Frenkel, le récit de soi semble un prétexte pour procéder à une double entreprise de mise en valeur et de vulgarisation des mathématiques :

Dear reader, with this book I want to do for you what my teachers and mentors did for me : unlock the power and beauty of mathematics, and enable you  to enter this magical world the way I did (...). Mathematics will get under your skin just like it did under mine, and your worldview will never be the same.

Par ce livre, cher lecteur, je veux faire pour toi ce que mes professeurs et mes mentors ont fait pour moi : te révéler les mathématiques dans toute leur force et leur splendeur, te faire entrer dans ce monde enchanté comme j’y suis entré jadis (…) Tu vas avoir les mathématiques dans la peau exactement comme je les ai eues moi-même, et ta vision du monde s’en trouvera bouleversée à jamais [8].

Ainsi, dès le deuxième chapitre, de longs développements sur la notion de symétrie sont introduits par le récit du moment où Frenkel, adolescent, se voit enseigner les beautés de la symétrie par l’un de ses professeurs. La relation maître-élève devient l’avatar textuel du rapport auteur-lecteur en mettant en scène une transmission de savoir et d’attrait. Le texte est construit sur la nécessité d’une identification du lecteur, sans connaissance particulière en mathématiques, au jeune garçon encore inculte, dont la figure se superpose progressivement à celle du mathématicien confirmé et reconnu qui signe l’ouvrage.

Cette volonté affichée d’accessibilité ne se retrouve pas dans l’autobiographie de Schwartz, dont le point de départ est le récit de vie et où les mathématiques sont un élément fondamental parce que constitutif. Chez Frenkel, la préface annonce les mathématiques comme premières dans le projet, et le récit de soi y est présenté comme une porte d’entrée. Ces deux passages liminaires constituent des seuils de lecture, des lieux où s’élabore la relation auteur-lecteur – à travers ce que Philippe Lejeune a théorisé sous le nom de « pacte autobiographique » – et où s’effectue l’entrée, plus ou moins guidée, dans le texte. Ici, la présence des mathématiques, y compris sous la forme de formules, est une donnée susceptible d’affecter fortement la lecture ; les auteurs, de fait, en sont bien conscients.