Mathématiques et Littérature

par Alain Laraby

La mathématique et la littérature ont un goût commun : l’une et l’autre aiment raconter des histoires. Pour la littérature, c’est l’évidence même : il suffit, disent les romanciers, d’avoir un homme et une femme, plus une bicyclette pour qu’advienne… une rencontre éventuelle. Avec Euclide, c’est un peu pareil : dès les axiomes, on définit un point, une droite, un plan et, très vite, on envisage leur interaction, si féconde en surprises !

 

Deux ouvrages explorent plus avant le rapprochement. Dans son hors-série Mathématiques et littérature, la revue française Tangente évoque leur « fascination réciproque ». Dans Extraits littéraires et empreintes mathématiques, Marc Laura invite le lecteur à découvrir les notions mathématiques implicites dans les œuvres littéraires les plus classiques[1].

 

Des drames à n’en plus finir

Le féru de mathématiques est accro aux drames qui se jouent entre la droite, le cercle, la courbe, la rectification de cette dernière, les différentes façons d’exprimer le même (égalité, équivalence, similitude, bijection, isomorphisme)… Les mathématiques sont une machine à fabriquer des histoires qui ne se gênent pas non plus à en susciter d’autres en littérature même.

 

Au niveau le plus simple, elles offrent à la littérature des métaphores. Nous restons dans l’intrigue algébrique dont on cherche l’inconnue. Le script ? « L’abscisse, cruelle maîtresse de l’ordonnée, n’a de cesse de rencontrer une nouvelle ordonnée, plus jeune, plus belle, après avoir enfanté un point avec la première[2]… » L’histoire frise le scandale, car on ne sait si, comme en mathématiques, il en sortira des enfants interdits ou impossibles !

 

À ce niveau, on hésite à dire qui des mathématiques ou de la littérature est le mentor de l’autre ?

 

Pascal assimilait la géométrie à « l’art de découvrir des vérités inconnues », mais on doit reconnaître aussi que la littérature aiguise autant l’imagination dans cette direction. La révélation de la philosophie et de la science n’est-elle pas une suite du rêve que Descartes rapporte dans son Discours de la méthode ? La littérature, comme l’art en général, aime les énigmes, les labyrinthes, les belles formes, la rigueur, l’exactitude (ses modes de penser ne sont pas toujours de grossières perceptions, contrairement aux dires de Valéry !). Cela dit, il faut admettre que certains auteurs littéraires, en s’inspirant des mathématiques, ajoutent une couche de complexité narrative.

 

 

Le secret bien gardé des livres

 

Qui ne connaît l’œuvre de Poe dont les contes ou nouvelles cherchent à coder, décoder, cacher, déchiffrer ? Qui n’a lu (ou vu au cinéma) Sherlock Holmes, le héros de Conan Doyle ? Le détective accroît ses moyens d’investigation. Il résout des rébus compliqués en comptant le nombre d’apparition des signes, leur logique, leur raccourci. Hé ! le littérateur ne devient-il pas lui-même un découvreur de messages cryptés, à l’instar des mathématiciens comme François Viète et John Wallis qui prêtèrent autrefois leur talent à lire des dépêches ennemies ?

 

Même les pièges sont de l’arsenal. Avec Borges, les promesses d’infini sont légion, à commencer par croire que chaque homme doit pouvoir trouver son propre destin dans quelque livre… avec une probabilité nulle[3] ! Ne pullulent que des catalogues mensongers aussi déroutants que les ensembles infinis de Cantor.

 

La jubilation dans la difficulté

 

Pour épicer la chose, l’écrivain, fasciné par les mathématiques, recourt à ces dernières pour ajouter des contraintes supplémentaires.

 

Le jeu des contraintes est déjà en lui-même tout un roman. On fait appel à d’autres structures mathématiques pour définir des contraintes d’écriture transformant le texte (un sonnet de 15 vers recombiné à partir des mêmes expressions), les mots ou les lettres (cf. les anagrammes permutant les lettres, ou les lipogrammes les déplaçant, par une rotation de 180°, comme dans un miroir). La combinatoire n’est pas absente, avec Cent mille milliards de poèmes, engendré par une recombinaison incessante de 14 vers offrant 100 000 000 000 000 poèmes, soit 1014 possibilités). Son auteur, Raymond Queneau, fut le fondateur du groupe mathématico-littéraire OuLiPo, regroupant mathématiciens (dont Claude Berge et Jacques Roubaud) et écrivains célèbres (Italo Calvino et Georges Pérec entre autres). La vie de ce club est semblable à feu le séminaire Bourbaki, avec des séances de travail régulières et des rites de lecture en séance publique.

 

Les mathématiques offrent un vivier pour un cahier des charges des plus variés (nombres triangulaires, carrés magiques, pavages, calcul matriciel, topologie).

 

Dans la Vie mode d’emploi, George Pérec décrit la vie dans un immeuble dont on a enlevé la façade. Ce qui apparaît en coupe a la forme d’un échiquier 10×10. Chaque pièce est assimilée à une des cases. Le sel du roman est parcourir toutes les cases de l’échiquier vertical en empruntant le mode du déplacement du cavalier aux échecs. Le cavalier ne s’arrête qu’une fois sur chacune d’elles. Cette contrainte globale est enrichie de contraintes locales. Chaque pièce-case est un bicarré latin orthogonal. Le problème consiste à placer, au croisement d’une  ligne et d’une colonne, un couple d’objets appartenant chacun à une liste de dix objets (ex : d’objets : position, nombre, activité, sentiments, âge et sexe, etc., la position pouvant être : agenouillé, assis, debout, entrer, sortir, un bras en l’air, …). Aucun couple n’est répété. Loin de brider l’imagination, ces contraintes sont libératoires. L’immeuble fourmille d’histoires ! [4]

 

En voulez-vous plus ? On a conçu pour vous des palindromes (des phrases ou des nombres qui peuvent être lus dans le sens droite → gauche ou gauche → droite) qui ne sont pas seulement alignés, mais enroulés sur un cercle, une bande de Moebius[5]… Aussi étirée, la symétrie fait perdre l’équilibre ! Le théâtre n’est pas en reste. Celui de Ionesco participe à l’enivrement en concevant « un espace-temps torique puisque, après une progression linéaire de l’action, la pièce [La Cantatrice chauve] s’achève là où elle a commencé[6] ».

 

 

Un double détournement

 

La construction d’une œuvre littéraire ne saurait obéir au doigt et à l’œil aux mathématiques. « Prenez un cercle, caressez-le, il deviendra vicieux », susurre le même Ionesco. L’histoire recommence indéfiniment ou presque… car il ne faut pas ennuyer le spectateur ! La littérature demeure sous l’empire de la nécessité de varier l’architecture qui commence à être reconnue, de bousculer la fin trop (mathématiquement) attendue.

 

 

L’ironie ajoute l’acide ou la peau de banane

 

Dans les best-sellers d’Umberto Eco où figurent des détectives d’un autre âge, on découvre que « l’un des départements de la Faculté d’Insignifiance comparée » est maître dans « l’art de couper les cheveux en quatre ». On y enseigne « la théorie des ensembles séparés » (en complément de la théorie des ensembles). On consulte, non l’Encyclopédie, mais la Cacopédie, « cette somme négative du savoir, ou une somme du savoir négatif[7] ». On ne pourrait pas mieux décrire l’épistémologie de Karl Popper mettant l’accent sur la réfutation !

 

L’idée de Dieu n’est pas claire ? Allons donc ! Dans son Mémoire concernant le calcul numérique de Dieu par des méthodes simples ou fausses, Boris Vian s’efforce de répondre à la question : Dieu = D + i + e + u ou = D × i × e × u ? Grave question. L’écrivain, théologien à ses heures, introduit les imaginaires pour résoudre le problème insoluble en nombres réels. Plein d’espérance mathématique, Pascal pensait avoir démontré que Dieu existe. Faute d’avoir convaincu les libertins, il avait fait appel au cœur et à ses raisons (le bon cœur, peut-être). C’était avisé, car Vian conclura, au xxe siècle, que l’équation de Dieu admet « plusieurs valeurs ». « Dieu est surdéterminé : on dispose, pour le calculer, de trop d’équations[8] ». Cqfd.

 

À défaut d’ironie, le mathématicien qui demeure écrivain sème à tout hasard. Georges Pérec ne manque pas d’introduire un certain désordre en choisissant à dessein les permutations qui ne permettent plus de s’y retrouver. Comme dans Lucrèce, la combinatoire n’exclut pas le clinamen, cette inclinaison qui modifie le trajet des atomes.

 

Nous ne sommes plus à l’école. Les mathématiques doivent abandonner leur côté donneur de leçons. En bon logicien, Lewis Carroll corrige les imprécisions du langage d’Alice au pays des merveilles. Pour faire sentir la beauté formelle du Ve postulat d’Euclide, il va même jusqu’à poétiser comment deux droites non parallèles finissent par se rencontrer lorsque, coupées par une troisième, la somme des angles intérieurs est inférieure à deux droits :

« The elder of the two has by long practice acquired the art, so painful to young and impulsive loci, of lying evenly between his extreme points; but the younger, in her girlish impetuosity, was ever longing to diverge and become a hyperbola or some romantic and boundless curve. They have lived and loved: fate and the intervening superficies had hitherto kept them asunder, but this was no longer to be: a line has intersected them, making the two interior angles together less than two right angles » (The Dynamics of a Parti-cle, 1865).

 

L’érotisation est plus discrète que celle d’aujourd’hui. On regrette que Tangente n’ait pas mentionné ce texte. La place manquait sans doute, comme elle devait manquer pour rappeler qu’une telle approche séduisante masquait une incapacité à admettre les mathématiques non euclidiennes qui désacralisaient trop la vérité ancienne. Même en logique, Carroll ne se réfère pas à son compatriote et contemporain Boole qui est le premier à réformer en profondeur la discipline. Mais ne soyons pas sévères. Dans son œuvre littéraire, Carroll a eu l’audace de traverser le miroir pour aller aborder un anti-monde offrant à Alice son image à l’envers !

 

La littérature sauve son âme en retournant les mathématiques sens dessus dessous. Sinon, ne dirait-on pas : « Et l’art dans tout ça ? ». Les littérateurs ont conscience du danger. « Toute forme poétique trop polie dans le sens du poil trichométrique présente un vice de forme[9] ! » Jouer sur les mots et leur disposition, est-ce encore de la littérature ? Le rythme compte, certes, mais à trop imposer des contraintes métriques et algorithmiques, on court le risque de réduire la littérature comme la musique à une sorte de musique sérielle ou dodécaphonique. La série, pourquoi pas ? mais aussi peu finie soit-elle, elle épuise vite l’attention et le sujet…

 

Un tel procès des mathématiques en littérature est injuste. N’ont-elles pas le mérite d’en raviver la lecture ? Mieux : ne dissipent-elles pas l’écrivain trop studieux ? Ne vont-elles pas jusqu’à ébranler le « Dieu du Sens » ? Pourvoyeuses de contraintes originales, elles produisent un sens qui n’est pas déjà reçu, résumable et répertorié. « Ce n’est pas grave qu’il y ait ici si peu de sens. » Il y a du rythme (de la mesure). Il y a de la forme. Il y a des « moments de sens », de sens autre, partiel, incertain, inachevé. Tous les sens (à prendre dans tous les sens) sont débridés. Avec le concours nouveau de l’informatique, on peut générer en pastiche la « langue de bois » et… « quelques grammes de sagesse aléatoire dans ce monde de brutes[10]».

 

Le reportage de Tangente est rafraîchissant. Il révèle combien les mathématiques participent, à leur façon, à la transformation de la littérature. On ne se contente plus d’un homme, d’une femme… et d’une bicyclette. Le souffle des mathématiques incite la littérature à revoir ses fondements. En terre d’Euclide, le point est à l’origine de tout, tant de la droite (avec deux points) que du plan (avec trois points). Dans d’autres mathématiques, on remonte à d’autres origines à partir desquelles toute une histoire est construite. Sous leur influence, la littérature contemporaine est conviée à réinventer sa composition sans qu’il y ait la moindre obligation.

 

 

Redécouvrir les classiques au tableau noir

 

En dehors des expériences extrêmes, les mathématiques et la littérature font ménage sans qu’on y prête attention. Pour s’en rendre compte, il suffit de relever, avec Marc Laura, quelques traces de mathématiques dans les chefs-d’œuvre littéraires.

 

Par exemple, on voit dans Shakespeare comment, dans Roméo et Juliette, les invités de Capulet forme une « partition », comment, dans Cervantès, Don Quichotte confond les propriétés des relations d’égalité et d’inégalité, comment Rousseau compare dans l’Émile deux gaufres du point de vue isopérimétrique, comment Voltaire, dans L’Homme aux quarante écus, établit une fonction linéaire entre la surface cultivée et le rendement des impôts, comment Stendhal, qui avait obtenu à l’école un premier prix en mathématiques, transforme une équation du second degré (x2 – x – 1 = 0) en l’égalité d’un carré, (x-1/2)2, et d’un nombre indépendant de x.

 

Victor Hugo, qui parlait si bien du moi comme d’un point géométrique dans le monde, parle fort mal des systèmes d’équations qui permettent de comptabiliser les combattants de Waterloo. Le poète français était encore probablement sous le choc… Maupassant compare l’intensité de la pesanteur sur la Terre et sur Mars. Même Proust est cité quand, dans À la recherche du temps perdu, il réfléchit à des stratégies possibles en arrangeant des nombres.

 

Qu’importe qu’au tableau on signale des erreurs. C’est un plaisir pour le lecteur de les dénicher et de voir combien des œuvres littéraires connues peuvent se nourrir, et parfois s’étrangler, avec des mathématiques devenues ordinaires. A.L.

 

[1] Tangente, Hors-série Mathématiques et littérature, n° 28, 2006 ; Marc Laura, Extraits littéraires et empreintes mathématiques, Paris, Hermann, 2001.

[2] Mathématiques et littérature, op. cit., p. 23.

[3] Ibid.

[4] Ibid., p. 128-133.

[5] Ibid., p. 140.

[6] Ibid., p. 63.

[7] Ibid., p. 68-71.

[8] Ibid., p. 72-75.

[9] Ibid., p. 118.

[10] Ibid., p. 127