Hétérolinguisme

 

Les mathématiques sont une langue : un ensemble de termes et de concepts symbolisés par des notations et reliés par une syntaxe propre, rendant possible une transmission d’une génération à l’autre. Le mathématicien Laurent Lafforgue précise que « les mathématiques sont avant tout une langue écrite » [15], dont les objets « justement ne peuvent se matérialiser que dans l’écriture » [16], qui est en fait « la condition première de la pensée » [17]. Il rappelle dans son article l’importance et la puissance des notations mathématiques, dont « [le] pouvoir de suggestion et [la] puissance créatrice sont inépuisables » [18]. Soulignant le caractère trompeur du terme « langue », que l’usage commun rapporte à la parole, le mathématicien et philosophe Brian Rotman explique :

 

[…] one doesn’t speak mathematics but writes it. Equally important, one doesn’t write it as one writes or notates speech; rather, one “writes” in some other, more originating and constitutive sense.

[…] on ne parle pas les mathématiques, on les écrit. Tout aussi important, on ne les écrit pas comme on écrit ou note un discours : on « écrit » dans un autre sens du terme, plus originaire et constitutif [19].

 

L’association, dans un même épisode narratif, de la langue « commune » (récit de recherche) et de la langue mathématique peut être analysée à l’aide de la notion d’hétérolinguisme développée par Myriam Suchet dans L’Imaginaire hétérolingue. Il s’agit de « la présence dans un texte d’idiomes étrangers, sous quelque forme que ce soit, aussi bien que de variétés (sociales, régionales ou chronologiques) de la langue principale » [20]. Suchet met l’accent « sur la différence davantage que sur la pluralité des langues mises en scène dans un même texte » [21] : il s’agit d’examiner les phénomènes de frottements, de frictions, de « mise en scène d’une langue comme plus ou moins étrangère » [22] au sein d’« un continuum d’altérité construit dans et par un discours (ou un texte) donné » [23]. Chaque texte met en place des « dispositifs discursifs [qui opèrent] un travail gradué de différenciation » [24] entre les langues, en l’occurrence entre langue commune et langue mathématique. La dimension visuelle, scripturale, est centrale dans cette analyse.

A propos des dispositifs discursifs de l’hétérolinguisme, Myriam Suchet dit :

 

Le repérage des dispositifs et du travail d’étrangement est grandement fonction de l’interprétation et des compétences linguistiques des lecteurs réels. Les textes, cependant, indiquent de manière assez fiable quelles sont les langues supposées connues et quelles sont celles voulues radicalement étrangères. Il dessinent ainsi les contours d’un lecteur qu’Iser appelle un « lecteur implicite » (« implizite Leser ») mais que nous préférons qualifier d’« impliqué », comme on traduit parfois « implied author » par « auteur impliqué », pour souligner l’engagement que les textes hétérolingues exigent de leurs lecteurs [25].

 

Dans le cas des autobiographies de mathématiciens, textes qui s’offrent du point de vue éditorial à un lectorat plus large que la seule communauté scientifique, il me semble ainsi qu’il existe des modes de réception et de compréhension différenciés selon le niveau de connaissances en mathématiques ou de culture mathématique, de « mathematical literacy » ou d’« innumérisme » [26]. Le degré d’altérité, l’étrangeté des textes hétérolingues s’appuie, de manière variable à chaque actualisation du texte par la lecture, sur le texte lui-même et sur le lecteur particulier. Dans les deux cas évoqués précédemment, chez Schwartz et Frenkel, le « lecteur impliqué » est explicitement pensé comme potentiellement incompétent (ou partiellement incompétent), n’accédant qu’à une lecture soit partielle, soit fragmentée, soit non-linéaire.

Myriam Suchet établit onze formes possibles du « processus de construction d’une langue comme "autre [27]" » dans un texte, sous la forme d’un continuum comportant un seuil de lisibilité (au-delà duquel le passage en « langue autre » n’est pas lisible) et un seuil de visibilité (au-delà duquel le passage en « langue autre » n’est pas marqué visuellement comme tel) :

 

A l’altérité relative d’une langue simplement balisée par l’italique s’oppose l’étrangeté radicale d’un idiome dont on ignore jusqu’à l’alphabet [28].

 

L’emploi en contexte narratif des formules mathématiques, dont on verra quelques exemples ensuite, correspond à plusieurs des modes de balisage déterminés par Suchet. Les passages présentant une traduction « naturelle » des notations mathématiques correspondraient à la « glose intratextuelle ou "rembourrage" ». Les pratiques de mise en valeur spatiale par le retour à la ligne, le centrage des formules, l’utilisation d’italiques ou encore la ponctuation rejoignent le « balisage typographique ».

De manière plus générale, l’ensemble des occurrences de formules dans le texte est à rapprocher du dispositif du « changement d’alphabet » qui correspond au franchissement du seuil de lisibilité et provoque le plus fort effet d’étrangeté linguistique :

 

Le dispositif le plus spectaculaire pour produire un effet d’étrangeté linguistique est sans aucun doute le changement d’alphabet. Au delà du seuil de lisibilité, seule l’altérité de l’autre langue est perceptible. Au mieux peut-on encore la nommer, à défaut de pouvoir la lire et la comprendre [29].

 

Les notations mathématiques font usage de signes graphiques, pour certaines alphabétiques, issus de plusieurs alphabets et soumis à diverses variations typographiques. Mais ces signes ne sont pas utilisés selon leur modalité alphabétique en langue commune ; ils acquièrent un sens spécifique à leur utilisation en mathématiques. L’écriture mathématique est symbolique, voire se rapproche de l’écriture idéographique : chaque caractère représente un concept, une idée, un objet. Il est ainsi à noter qu’une formule mathématique est lisible quelle que soit la langue du lecteur, à condition qu’il en maîtrise le code graphique.

 

Vi-lisibilité

 

Le degré de compétence mathématique influence la perception de ces passages. Le lecteur est amené à adopter une posture de réception qui varie selon sa culture mathématique, sa familiarité avec la notation et son degré de compréhension des réflexions mathématiques inscrites sur la page. L’effet d’altérité incite le lecteur incompétent à saisir ces passages à partir de leur apparence graphique et de leur aspect esthétique.

Dans un contexte complètement différent, celui du texte poétique, Jean-Pierre Goldenstein examine la manière dont les « critères iconiques de mise en page » [30], c’est-à-dire des éléments visuels relevant de la typographie et de la disposition spatiale des mots, informent et conditionnent des « postures de réception » du lecteur. A partir de la forme extérieure (lignes de longueurs inégales, majuscules initiales...), celui-ci « construit partiellement l’objet poétique qu’il est censé simplement interpréter » [31]. Le lecteur saisit donc le texte d’abord comme une image et en disjoint, temporairement et inconsciemment, la forme et le contenu. Goldenstein parle, pour aborder cet entremêlement complexe entre dimension visuelle et dimension lisible (signifiante) d’un texte, de « vi-lisibilité » [32]. La reconnaissance/construction d’une forme familière, le poème par exemple, en est un aspect. Mais la vi-lisibilité travaille aussi, à l’inverse, dans le cas du « phénomène de défamiliarisation qui attire l’attention vers le texte comme image » [33]. Goldenstein donne l’exemple d’une thèse comportant la reproduction d’un texte en hébreu dont la commentatrice souligne « la beauté ». Or, par erreur de la part de l’auteur de la thèse, la reproduction est à l’envers : un lecteur de l’hébreu ne pourrait pas la lire, à moins de tourner le livre. Un lecteur ne connaissant pas l’hébreu, en revanche, pourra admirer la beauté graphique des caractères noirs sur fond blanc, sans se douter qu’il ne s’agit pas à proprement parler d’un texte lisible. Goldenstein exprime la tension qui joue alors :

 

[…] c’est en fait à la spatialité particulière d’un texte inaccessible à la compréhension qu’elle renvoie. (…) L’sthétique l’emporte ici sur la sémantique. (…) l’espace même du texte reste la plupart du temps ignoré sauf cas particulier où l’auteur agresse, d’une façon ou d’une autre, sciemment son lecteur [34].

 

Ce détour théorique me permet de proposer de considérer les inclusions de formules dans le texte narratif, quelle que soit l’intention du mathématicien autobiographe, comme des passages qui « font image » dans l’espace de la page et dans la cadence de la lecture. Celui qui maîtrise la langue, le code, est en mesure – même s’il ne le fait pas nécessairement – de lire ces passages, d’en suivre la progression rationnelle et les étapes organisées. Le lecteur néophyte en mathématiques, qui ne « connaît pas la langue » voire l’« alphabet », est moins sensible à la dimension discursive du passage qu’à sa dimension visuelle, au langage qu’aux motifs : le texte mathématique « fait image ». Pour reprendre les termes de Goldenstein, le contenu exprimé disparaît alors au profit de sa forme : spatialité, graphie (voire calligraphie), motifs. La co-présence d’un syntagme en langue naturelle et de sa version formalisée en notations mathématique, pour un lecteur profane, s’apparente à une forme d’illustration.