Si une telle ligne existe, quelles seraient ses caractéristiques les plus distinctives ?

De l’aveu même de beaucoup d’épistémologues, il me semble que l’une de ses caractéristiques serait de considérer les mathématiques comme une activité historique. Il y a, au sein de cette tradition, comme un consensus sur ce point fondamental : traiter les mathématiques comme une activité historique.

Quel est le sens philosophique profond de cette caractérisation des mathématiques qui insiste sur les aspects historiques ?

C’est ce que je vais essayer d’analyser dans cet article, en prenant comme exemple l’épistémologie des mathématiques de Maurice Caveing. Disons-le dès maintenant que cette épistémologie ne s’épuise pas dans la simple histoire des mathématiques, même si on peut dire, sans exagération, que Maurice Caveing est l’un des meilleurs spécialistes français de l’histoire des mathématiques anciennes grecques et pré-grecques avec ses trois volumes sur la constitution du type d’idéalité mathématique dans la pensée grecque :

1994 : Essai sur le savoir mathématique dans la Mésopotamie et l’Egypte anciennes.

Presses universitaires du septentrion, Lille.

1997 : La figure et le nombre : Recherches sur les premières mathématiques des Grecs, Presses universitaires du septentrion, Lille.

1998 : L’irrationalité dans les mathématiques grecques jusqu’à Euclide. Presses universitaire du septentrion, Lille.

Mais doit-on noter qu’une épistémologie des mathématiques serait tout le contraire d’une réflexion philosophique, et par conséquent, métaphysique qui conduirait à l’hypothèse du platonisme sur les mathématiques : qu’on se rappelle Jean-Toussaint Desanti (qui suit presque à la lettre Wittgenstein sur ce point) et ses propos sur la mise à l’écart de toute philosophie (disons générale) des mathématiques. (Desanti écrit dans Les idéalités mathématiques, p. 286 : « il n’y a d’épistémologie mathématique possible qu’installée dans la mathématique elle-même »)

Je voudrais examiner dans quel sens la pensée de Caveing est dite s’inscrire dans cette ligne de tradition bien française qui insiste plutôt sur la dimension historique des procédures mathématiques elles-mêmes que sur autre chose : Je voudrais tenter de dévoiler la nature des relations entre épistémologie et histoire dans le cas précis des mathématiques chez Caveing.

Les deux axes de cette mise au jour sont : 1° la thèse de l’origine des mathématiques (qui est disons-le dès maintenant un faux problème pour Caveing), et 2° la thèse du platonisme (qui est une hypothèses que Caveing écarte d’emblée comme une hypothèse métaphysique sans fondement).

Caveing (Caveing 1991 p. 137) écrit :

« Sans doute le cas des mathématiques est-il spécifique, en ce qu’il n’y a pas pour elles d’« extérieur », en direction duquel on pourrait « sortir » des mathématiques pour contempler leur point d’ancrage dans une réalité plus primitive et absolue, esprit ou nature. »

Bien que Caveing soit parmi les épistémologues des mathématiques qui rejettent la thèse du platonisme comme doctrine sur le mode de constitution et d’existence des objets mathématiques, tout en cherchant à esquisser une compréhension de l’essence du travail mathématique lui-même, qui tient compte de ses aspects strictement historiques, sans tomber dans le piège de l’empirisme ni du psychologisme ni du « cognitivisme » des spécialistes des neurones comme Jean-Pierre Changeux et bien d’autres, nous trouvons chez lui une volonté exprimée clairement dans son excellent ouvrage : Le problème des objets dans la pensée mathématique (Vrin, 2004), à développer une stratégie philosophique lui permettant de se démarquer nettement, dans sa manière d’expliquer notre accès aux objets idéaux mathématiques, de la thèse platonicienne (défendue par Cantor, Gödel, Quine, Alain Connes et par bien d’autres encore) sans pour autant dénier les vertus de la réflexion philosophique et surtout phénoménologique sur les mathématiques.

Même si le livre est dédié à la mémoire de Desanti, je pense qu’il serait une erreur de réduire l’essentiel de la pensée de Caveing sur les mathématiques aux travaux de Desanti dans Les idéalités (1968) et dans La philosophie silencieuse (1975) et dans bien d’autres publications.

Bien qu’ils s’inscrivent tous deux dans cette ligne de tradition bien française d’une épistémologie historique des procédures mathématiques (Jacques Dubucs parle d’une aphilosophie des mathématiques chez Desanti[1]), Caveing développe des thèses d’une grande originalité sur l’objectivité phénoménologique des êtres mathématiques et sur leur identité strictement relationnelle et non objectale.

Tout le contenu du livre Le problème des objets dans la pensée des mathématiques, que ce soit la partie descriptive ou celle dite positive qui présente le programme lui-même est mis au service d’une seule tâche : déconstruire l’identité des objets mathématiques comme des objets naturels ou des objets abstraits, et fonder une théorie de leur identité relationnelle dans les conditions a priori du rapport d’un sujet concret au monde.

Il reste vrai que nous ne pouvons saisir d’une façon nettement satisfaisante ces thèses indépendamment de la manière avec laquelle sont redéployés tous les thèmes husserliens dans Desanti 68, où Desanti (voir Petitot 1991, p. 247) « analyse en détail la liaison entre actes, objets et propriétés, et, plus précisément, la façon dont « les actes instaurateurs d’opérations » définissent des positions d’objets corrélatifs. »

Dans quel sens doit-on comprendre l’appartenance de Caveing à cette tradition épistémologique française qui incarne la dimension historique des mathématiques comme l’un de ses caractéristiques les plus essentielles ?

Dans quel sens doit-on comprendre le caractère historique des mathématiques ?

Réponse I :

Si la mathématique ne renvoie qu’à elle-même, comme le veut Caveing, ne doit-elle pas nécessairement renvoyer à son commencement historique ?

La réponse de Caveing à cette première version du problème est claire :

« La consultation de l’histoire des mathématiques, dans sa « facticité », bien loin de se tenir au niveau d’un empirisme extrinsèque, doit permettre d’accéder, moyennant les ré-effectuations requises, à l’histoire non empirique de la manifestation du sens même qui habite la mathématicité. »(C 2004, p. 53)

La thèse du commencement est une illusion (C 1991 p. 136): « La recherche chimérique du fantôme du commencement est un avatar de la quête de l’origine. »

Réponse II :

Le caractère historique peut-il être aussi compris dans les termes d’une recherche de l’origine « historique » des mathématiques ?

Desanti (dans un entretien avec Caveing pour la revue Raison Présente, repris dans Marxisme et épistémologie, Ed. 10/18, 1972) nous dit qu’il y a plusieurs manières de chercher l’origine : chercher le commencement (Thalès)... : « le commencement est toujours commencement de...Ici, il n’y a pas de commencement absolu. On n’assiste pas à la naissance. »

« Ainsi, écrit Caveing (C 1991,  p. 138), l’illusion du commencement est-elle liée à celle de la fin : elle consiste à se persuader que quelque chose a commencé là qui devait aboutir, sous une forme achevée, en tel point de l’histoire. (Cette présence de la fin dans le commencement.....) »

Réponse III :

Y-a-t-il des faits premiers dans l’histoire des mathématiques ?

La réponse de Caveing à cette question est négative : les mathématiques ont commencé bien avant les Grecs et bien avant les Eléments d’Euclide.

« Si le recours à l’histoire a le mérite de ramener vers les procédures mathématiques elles-mêmes, il a aussi d’autres effets discutables, notamment celui de transposer la quête de l’ « origine », pensée par Husserl dans le registre transcendantal, sur le terrain de la recherche des commencements historiquement réels. »(C2004, p. 55)

Caveing adhère tout à fait à cette affirmation de Desanti (D. 1968, p. 283) :

« La mathématique produit elle-même son propre sol et il n’existe pas pour elle d’autre sol que celui qu’elle a produit et reproduit sans cesse...il ne sert à rien de creuser le sol de la mathématique pour découvrir le sous-sol originaire secret et mathématiquement muet sur lequel elle serait née...jamais on ne se trouvera confronté à l’événement de l’origine radicale : elle ne se montre que dans le produit et du dedans.. »

Il est clair que la réflexion épistémologique de Caveing sur les mathématiques est irréductible à une simple description de l’histoire des mathématiques.

Pour Caveing, traiter donc les mathématiques comme une activité historique signifie que leur épistémologie ne s’oppose pas à leur histoire, et que l’élucidation intra-scientifique dans le cas précis des théories mathématiques n’est pas suffisante, même si elle va de paire avec leur mise au jour historique : nous avons en plus besoin d’une analyse transcendantale de leur objectivité ! Cette analyse nous dévoile l’essence du travail mathématique car elle met à découvert les systèmes de relations et de propriétés auxquels sont attachés les objets idéaux en général : leur mode de constitution au sein de la théorie mathématique.

Les figures, les nombres, les ensembles,...etc., les M-objets, en général, ne sont pas des objets réels, durables et permanents, au sens de choses, mais des relations :

« Les objets mathématiques n’ont de statut que relationnel et ne sont accessibles que dans le système des possibilités réglées ouvertes par les relations qui les définissent. » (D.1975, p.226)

Il est sûr que Caveing utilise des ressources husserliennes complétées par des considérations anthropologiques et culturelles pour mettre au jour une théorie phénoménologique et historico-épistémologique de l’objectivité mathématique.

« Cette objectivité, nous dit-il, n’est pas fondée dans l’empirie, ni dans l’être d’objets, quels qu’ils soient, mais dans les conditions a priori du rapport d’un sujet concret au monde »(C2004, p. 277)

Par le biais de cette méthode philosophico-épistémologique, Caveing renvoie donc dos à dos l’empirisme (avec sa version moderne qu’est le cognitivisme) et l’idéalisme (avec sa version toujours ancienne qu’est le platonisme  synonyme plus que jamais de métaphysique.) : « Nous savons, la question de l’ontologie convenant aux mathématiques est une question vide » (C 2004, 267)

Les mathématiques ont une pensée conceptuelle et relationnelle, et sans symbolisation de relations et de systèmes de relations nous n’accèderons guère à son champ propre : cette conception sonne le glas de l’échec de l’entreprise empirico-cognitiviste qui veut parvenir à rendre compte d’une manière cérébrale des morphologies visuellement perçues et arriver aux origines des mathématiques en modélisant les mécanismes neuronaux de la perception.

Le concept d’illusion transcendantale permet à Caveing de faire d’une pierre deux coups :

1/ éliminer, d’abord, l’intuition spatiale dans la théorie relationnelle des structures mathématiques : les relations intramathématiques restent irréductibles aux structures du comportement perceptif, 2/montrer ensuite comment l’illusion transcendantale vide de tout sens le discours platonicien sur des objets traités comme des choses en soi...

Il s’agit de chercher les fondements des mathématiques dans leur propre histoire, certes, mais, les théories mathématiques, « en tant qu’idéalités pures de relations spécifiées et symbolisées » (Caveing p. 276) ne peuvent être comprises dans leurs raisons et leurs nécessités internes que si elles sont placées non seulement dans leur histoire, mais aussi dans leur environnement culturel, car les mathématiques s’inscrivent aussi dans un schème conceptuel propre à une culture donnée. (C’est là l’un des apports par rapport à Desanti : qu’on se rappelle la fin de l’entretien entre Caveing et Desanti et sur quoi il ouvre).

Dans quel sens doit-on comprendre donc le caractère historique des mathématiques ?

Le caractère historique peut signifier aussi : soumettre les théories mathématiques au même standard d’évaluation que n’importe quel autre produit culturel ou forme culturelle de création humaine. Au lieu de les traiter comme transcendantes à l’histoire et au temps, car elles contiennent des vérités universellement acceptées et partagées, ayant leur socle dans un ciel platonicien imaginaire, les mathématiques sont enracinées dans le contexte social et culturel, et leur degré de développement dépend directement ou indirectement du degré de développement de ce contexte.

Nous pouvons donc parler chez lui de l’importance du facteur historique considéré aussi dans sa signification anthropologique et culturelle. Même dans ces conditions, le but recherché n’est sans doute pas une simple description de l’histoire des inventions et des procédures mathématiques, mais une réflexion épistémologique réelle qui cherche à dégager le sens d’une pensée mathématique tout en évitant le piège de la « chosification » de l’analyse opératoire elle-même lorsqu’il devient question d’élaborer un discours sur le type d’idéalités déployée par les objets mathématiques.

Ce trait caractéristique de l’épistémologie française des mathématiques depuis Brunschvicg et bien avant explique sans doute la mise à l’écart de la question du platonisme : ces philosophes, même parmi les idéalistes critiques, la rejettent de la manière la plus rapide.

Caveing ne rame pas non plus contre ce courant : le platonisme reste une thèse intenable et ne la discute que très rarement.

Comment Caveing explique-t-il le processus qui conduit à l’idéalisation de l’objet mathématique tout en écartant le platonisme comme l’expression épistémologique de ce processus ?

L’explication du processus d’idéalisation mathématique lui-même n’est pas philosophique, il n’est pas aphilosophique non plus : il advient dans des termes strictement épistémo-historique ! L’objet mathématique n’est pas une chose, mais c’est un objet idéal....Il dépend (pour exister !!!) des systèmes de propriétés et de relations qui le caractérisent...sans ces systèmes, l’objet mathématique reste muet...

Caveing écrit (C 2004, p.54-55) : « On y assiste à l’infinitisation de l’acte opératoire qui se reproduit dans son identité structurelle alors même que la longueur mesurée, en tant que figurée dans le sensible, semble interdire par sa finitude son itération indéfinie...Par un tel processus, l’objet se trouve donc idéalisé, c-à-d projeté dans un au-delà, non seulement de toutes les déterminations physiques des réalités mondaines, mais aussi de toutes les déterminations représentables des idéalités morphologiques. Par là se manifeste sa structure objective idéale, qui normait en vérité les actes opératoires dans la mesure de leur enchainement....on assiste à la séparation entre l’idée et la figure, au passage de la représentation au concept pur. L’objet géométrique, la ligne droite par exemple, est posé comme un objet en soi, indépendant de toute hypothèse faite sur ses réalisations physiques ou figurées...On ne s’étonnera pas que ce soit à propos de ce cas précis que Platon choisisse de caractériser l’idéalité géométrique en employant l’expression « la diagonale en soi », l’opposant ainsi, aussi bien qu’à ses mesures approchées, à la diagonale tracée.

Mais prenons garde que l’intervention de l’Idée platonicienne fait partie de l’interprétation de la situation. La question de l’idéalité des objets mathématiques sera à reprendre hors contexte platonicien. »

On voit donc combien Caveing est conscient du risque platonicien à chaque fois qu’on veut tenir un discours explicatif vis-à-vis des idéalités mathématiques : il veut à tout prix éviter de tomber dans le piège de l’explication platoniste du type d’idéalité mathématique, en les relativisant, en tant qu’ils sont eux même des relations et des systèmes de relations et rien de plus, aux systèmes d’écritures symboliques, au langage, et mettre à plat le processus qui conduit à leur réification, à les poser comme des objets identiques réels dans un monde platonicien intelligible, et infiniment actuel indépendant de nous.

Les mathématiques ont-elles besoin d’une métaphysique ? Une épistémologie dépouillée de toute tentation métaphysique est-elle à notre portée ?

Caveing est d’accord avec l’analyse de Kant : les jugements mathématiques sont synthétiques a priori : a priori veut dire qu’ils n’ont pas d’origine empirique, et synthétiques c’est-à-dire qu’ils conduisent à quelque chose de plus au fur et à mesure que s’accroît le travail des mathématiciens.

Or, quelle est la nature du travail du mathématicien ?

Est-ce que ce travail consiste à décrypter un ciel intelligible dans lequel sont logées les idées absolues (surtout l’idée d’infini actuel de Cantor) qui donnent aux mathématiques toute leur ampleur ? Ou bien le mathématicien est-il livré à lui-même, dans l’histoire et surtout avec les outils qu’il a à sa disposition (particulièrement le langage naturel d’abord, symbolique ensuite, et surtout l’écriture) dans le contexte culturel dans lequel il vit, peu importe les motivations physiques ou autres ?

Les positivistes et empiristes logiques, suivant en cela non pas Auguste Comte lui-même, mais probablement une certaine interprétation de ses idées, ont aboutit à tort à la thèse suivante :

Toutes les idées mathématiques, surtout celles qui sont les plus développées, viennent de notions plus basiques et plus simples qui sont des notions naturelles posées dans le monde empirique.

Ce point de vue est à l’antipode de la pensée de Caveing.

Dans un entretien privé qu’il m’avait accordé le 20.02.2007, Caveing dit :

« Quand je vois trois objets identiques devant moi, est-ce que je vois 3 objets ? Je vois des objets ! Si j’en dis que je vois 3, ça veut dire que j’investis dans ce que je vois une notion arithmétique : cette notion arithmétique n’est pas dans les choses, mais c’est moi qui l’impose aux choses : sachant compter, je dis que ces choses qui sont devant moi sont au nombre de trois.

Si le positivisme devrait conduire à l’empirisme, alors l’empirisme, comme dit Dessanti, c’est ce qu’il y a de plus dégoûtant.

Si je prends un groupe de 25.000, je ne peux pas l’évaluer à l’œil ! Je ne peux l’évaluer que si je dispose d’un système de noms de nombre (sinon je ne peux pas compter), et si je dispose d’un tel système dans ma langue naturelle c’est que je dispose d’un système numérique.

Il n’y a pas de perception du monde empirique qui nous livre les concepts mathématiques tout cuits tout prêts. Il faut au contraire qu’ils soient élaborés, inventés, etc.

L’une des caractéristiques des êtres humains c’est que pratiquement dans toutes les cultures on a inventés des noms de nombre. Il est vrai que le cerveau humain sous cet angle est capable d’inventer des noms de nombre (sur ce point Changeux a peut-être raison), seulement il se trouve que le cerveau des mayas n’a pas inventé les mêmes noms de nombre que les chinois par exemple (c’est une complication de plus pour les cognitivistes).

C’est en vérité l’invention du numérique qui procure les moyens verbaux et linguistiques de compter.....en outre, les mathématiques apparaissent dans les civilisations là où il y a de l’écriture...

Si l’on n’admet pas un monde métaphysique au-delà de ce qui fait notre expérience, il faut interroger notre expérience nous-mêmes pour essayer de comprendre comment les mathématiques sont produites : est-ce qu’on les crée ? Où est-ce qu’on les découvre ?

Si le platoniste a raison et que les objets mathématiques existent en eux-mêmes dans un monde intelligible, il n’y a dès lors qu’à découvrir leurs propriétés qui sont données d’avance ou bien qui sont cachées et il faut les découvrir. De toute éternité, le rapport de la circonférence au diamètre est un nombre transcendant, et le fait qu’on ait démontré au 19ème Siècle qu’il ne pouvait pas être la racine d’une équation algébrique, n’a aucune importance, car il est transcendant par lui-même, en soi déjà de toute éternité. »

Le livre de Caveing 2004 veut donc dire qu’il y a une illusion qui consiste à croire qu’il existe quelque part soit dans le monde extérieur soit dans le monde d’en haut des objets mathématiques existant par soi. Tous les objets mathématiques sont résolubles en système de relations. Ce à quoi on a affaire ce sont des relations qui une fois combinées avec d’autres relations arrivent à constituer même les objets dits naturels comme l’entier et la figure euclidienne la plus simple.

Qu’est-ce qu’une relation ? C’est un mode d’être d’une chose par rapport à une autre.

Les mathématiciens ont toujours l’impression qu’ils manipulent des objets et que ces objets ont une consistance dans la perception visuelle ou dans l’intuition spatiale. A partir du moment où un objet mathématique est constitué, il est doté d’une unité et peut « naviguer » tout seul, c’est même le but. Fabriquer un objet c’est aussi fabriquer une identité qui se maintient à travers les déductions : il s’agit là d’une raison logique fondamentale. Ce maintien de l’identité fait croire aux platonistes aussi bien qu’à leur adversaires empiristes et positivistes qu’on a affaire, en mathématiques, à des objets permanents : tous tombent dans ce que Caveing appelle l’illusion transcendantale.

Le transcendantalchez Kant désigne tout ce qui se rapporte au domaine dans lequel s’effectue la connaissance vraie. Kant emploie le mot d’illusion transcendantale lorsqu’on prend une erreur pour une connaissance vraie. Caveing le prend dans un sens différent parce que pour lui le domaine du transcendantal c’est le langage des mathématiques. Il est transcendantal parce que c’est à ce niveau que peut s’élaborer, se prouver, se tester, se vérifier « la vérité » d’une proposition informelle ou la validité d’un énoncé formel qui la remplace. C’est à ce niveau là qu’il est dit omnisubjectif, c’est-à-dire immédiatement assimilable pour toute subjectivité de mathématicien fonctionnant en tant que mathématicien. C’est ce que Caveing appelle le domaine transcendantal.

« Si on transpose dans ce domaine l’idée qu’il y a des objets et qu’on croit qu’il y a des objets à ce niveau là alors qu’il n’ y a que des termes de relations, des termes de désignation, des termes de propriété, ...on est dans l’illusion transcendantale...Elle est renforcée lorsqu’il s’agit d’objets de géométrie, car les objets de cette dernière ont cette propriété remarquable qui a dominé les maths pendant de longues siècles : c’est qu’ils ont été associés à ce que Husserl a appelé les idéalités morphologiques, c’est-à-dire des formes représentables dans la perception visuelle sous forme de dessins et de graphismes, et alors l’objet semble avoir une consistance dans la perception parce qu’on croit qu’on voit le triangle, et on ne voit pas le triangle. » (Caveing, Entretien 20.02.2007)

Cette situation est exprimée par Desanti (75) dans ces termes :

Desanti (1975, p. 228) écrit :

« Les objets mathématiques (ces fameuses essences platoniciennes : le cercle en soi, etc.) n’existent pas en dehors des systèmes de relations (et donc en dehors des possibilités d’écriture) ou s’inscrivent leurs propriétés. C’est ce que j’ai exprimé autrefois en énonçant que ces objets n’ont d’existence qu’intra-théorique, et que leur mode d’existence est entièrement relatif aux propriétés du système théorique dans lequel ils sont accessibles. »

Nous voyons que même s’il écarte de la manière la plus rapide le fait que le platonisme soit l’expression philosophique du caractère proprement idéel ou idéal des objets mathématiques, Caveing ne nie pas le fait qu’il y a quelque chose de commun entre l’idée platonicienne et la nature de l’objet mathématique : figure, nombre entier, etc., c’est en un mot : l’idéalité.

Il y a un fait épistémologique historiquement premier qui explique le type d’idéalité des objets mathématiques et c’est la théorie des idées de Platon !

Le rejet d’une historicité des maths axée sur la seule quête de l’origine et du commencement dans ce sens là est corrélatif du rejet du platonisme.

Caveing veut rendre compte donc de cette idéalité propre aux objets mathématiques en dehors de tout contexte platonicien qui nous renvoie à un troisième monde : le monde intelligible. Il n’y a pas, écrit Desanti, d’univers éternel dans lequel les structures mathématiques subsisteraient, attendant le moment historique de leur découverte......Une idéalité mathématique n’est rien d’autre qu’une indication de procédure opératoire ou démonstrative. (D 1975  P. 227)

Le troisième monde n’existe pas : l’espace des mathématiques c’est en quelque sorte une intelligibilité immanente dotée d’une objectivité non réaliste : les mathématiques ne proviennent ni de l’empirie ni du cerveau humain. Caveing est d’accord néanmoins avec Kant en disant que les mathématiques sont synthétiques a priori. Il veut mettre au jour une objectivité anti-réaliste des idéalités mathématiques : il y a bien une différence entre être objectif et être réel : les platoniciens confondent les deux. Pour définir les traits d’une telle objectivité transcendantale (« à la Petitot ») de ces idéalités, Caveing met à profit cette conception de Kant avec les ressources de la phénoménologie de Husserl.

Même s’il écarte de la manière la plus rapide la thèse du platonisme, même dans ses acceptions modernes, le but ultime de toute son épistémologie c’est de n’assumer ontologiquement aucun objet mathématique : c’est ce qu’il appelle la critique de l’illusion transcendantale : parler des objets mathématiques tout en évitant de les assumer ontologiquement au sens de l’ontologie métaphysique, tout en faisant attention à ne pas ouvrir la brèche au réalisme des idées ou des idéalités.

Du point de vue de Caveing, parler d’objets en mathématiques ne veut pas dire tolérer ces entités douteuses dans l’ontologie de la science : si nous continuons à parler d’objets c’est parce que nous ne pouvons pas faire autrement, car sans objets les mathématiques seraient sans but : mais dans tous les cas les objets mathématiques n’existent pas. Caveing comprend souvent le platonisme dans son sens historique d’origine : le réalisme des idées et leur transcendance par rapport au monde sensible (le mythe de la caverne).

Les platonistes tiennent les objets mathématiques comme appartenant à une réalité transcendante : le ciel platonicien. Cette position d’un troisième monde (le monde intelligible des idées) ne tient pas debout. Le recours à l’histoire veut définir une position épistémologique médiate entre l’empirisme et le platonisme : Caveing repend à son compte la position de Desanti (« les mathématiques ne sont ni du ciel ni de la terre »).

On regarde souvent les mathématiques comme une activité, un processus dans le temps (un processus qui fait son historicité, selon Caveing, mais qui étend aussi son champs théorique), un édifice non statique mais dynamique.

Si on parle aujourd’hui chez les philosophes américains contemporains d’une mathématique dépouillée de son objet (ou de ses objets : Burgess & Rosen, Hellman, etc.), on insiste souvent dans la tradition épistémologique française sur une mathématique dépouillée de son sujet (Cavaillès, Desanti) : il faut chercher l’essence du travail mathématique à l’intérieur du champ historique des théories mathématiques.

C’est ce que Cavaillès, par exemple, a cherché à faire : éliminer toutes les considérations subjectives, ne pas s’occuper de qui ce qui se développe dans la conscience du sujet, et parler plutôt d’une mathématique qui se développe sans mathématiciens. En écartant l’idée que les mathématiques puissent se développer comme un processus dans la conscience du sujet, et en mettant l’accent sur sa nature comme processus historique, Cavaillès écarte d’emblée la question du platonisme en mathématiques : cette question ne l’intéresse pas, et intéresse rarement les épistémologues qui s’inscrivent dans cette ligne de tradition bien française.

Mais qu’est-ce que le platonisme en mathématiques ?

Pour certains, le platonisme c’est la thèse qui dit que les mathématiques portent sur des objets et que ces objets existent. Ce qui pose problème c’est bel et bien la nature abstraite de ces objets. Or, à quel degré ces objets sont-ils abstraits ? En quel sens sont-ils dits abstraits ? Comment connaissons-nous ces objets ? Comment connaissons-nous qu’ils existent ? Sur quel mode existent-ils ?

Le but ultime des mathématiques n’est-il pas de découvrir des régularités et des symétries dans la nature et dans les choses qui nous entourent ! D’où vient donc cette idée de délier les mathématiques de tout ce qui est concret et empirique comme voudrait le faire M. Caveing en attestant que « l’objectivité des mathématiques n’est pas fondée dans l’empirie » ? Les mathématiques ne sont-elles pas inséparables des théories physiques confirmées par l’expérience ? Ne sont-elles pas indispensables pour toutes ces théories vraies ?

D’autres pensent que c’est la doctrine qui met sur le même plan langage ordinaire et langage symbolique : le platonisme repose sur cette confusion. Le platoniste croit que les notions d’objet et d’existence mathématiques ont la même signification que dans le langage naturel. En plus, il utilise d’une manière univoque le sens du verbe « exister », ce qui est absurde : nous ne pouvons pas traiter l’existence des figures géométriques ou des nombres irrationnels dans les mêmes termes que l’existence des objets physiques perçus ou microscopiques mesurés!

Quelques autres philosophes sont arrivés à penser que le platonisme est constitué de fond en comble par l’idée erronée selon laquelle la notion de vérité est primordiale en mathématiques. Pour réfuter le platonisme, il suffit de montrer comment les mathématiques n’ont pas besoin d’être traitées dans les termes de la vérité et de la fausseté : la recherche de preuves devient le propre de l’activité des mathématiques.

La pensée épistémologique de Caveing nous ouvre indirectement sur une solution satisfaisante du dilemme dit de Benacerraf concernant notre connaissance des objets mathématiques abstraits : il faut choisir entre la vérité et la connaissance nous dit Benacerraf, car nous ne pouvons pas les tenir réunies dans le cas des mathématiques.

Caveing répond à ce dilemme en expliquant comment notre connaissance des objets mathématiques peut être objective au-delà de toute notion de vérité. Même si pour Benacerraf, le concept problématique d’objet mathématique est défini dans celui de structure (un objet n’existe pas en soi mais existe en tant que point ou position dans une structure), et que la problématique consiste plutôt à savoir dans quels termes nous accédons à sa connaissance, il constitue déjà en lui-même le vrai problème selon Caveing : dans quel sens nous pouvons parler d’objets idéaux en mathématiques ?, car nous constatons selon lui dans le travail mathématique « une prééminence des actes sur les objets » (p. 43).

Nous pouvons mettre Caveing dans le mouvement de cette ligne de tradition propre à l’épistémologie historique française, mais dans un sens bien spécifique, comme nous avons vu. Cela ne pouvait pas se passer autrement puisque Caveing a consacré presque tout son effort à l’étude des mathématiques grecques, et a mit à notre disposition, outre une belle introduction générale aux éléments d’Euclide (tome 1, 1990), de formidables travaux dans ce domaine.

Dans le petit paragraphe intitulé Actes et Objets dans C 2004, où Caveing cite par trois fois Paul Valéry, il parle de « la prééminence des actes sur les objets et la résorption complète des choses dans les actes. »(p. 43)

Tout ça nous rappelle les thèses d’un certain nombre de mathématiciens modernes qui parlent de la prééminence du geste en mathématiques au détriment de l’idée : la pensée mathématique reste pour eux une pensée sourde qui opère uniquement par détours.

La question de la nature des objets idéaux et notre accès à eux passe avant tout chez Caveing par l’étude, selon ses propres termes, des processus formateurs d’objets dans les mathématiques classiques (p. 43), et par notre capacité à mesurer les pouvoirs de la pensée opératoire (p. 48). Cette pensée opératoire qui habite les mathématiques depuis l’origine, Caveing nous dit qu’elle est une sorte de mouvement qui va des actes aux objets et des objets aux actes. Au sein de tous ces processus : les actes renvoient aux objets qui les règlent et les objets renvoient aux actes qui les constituent (p. 48). Ce processus qui fait l’historicité des mathématiques permet aussi d’étendre leur champ en tant qu’édifice théorique. Concernant la question de la création des objets mathématiques, il note que (les objets) sont corrélatifs d’actes opératoires par l’effet desquels ils apparaissent comme construits et par la ré-effectuation desquels un accès est ouvert à ses objets en sorte que l’on peut en disposer. (p. 48)

Y-a-t-il, au sein de ce processus d’idéalisation décrit par Caveing, des objets, qui ne seraient pas construits, mais donnés ?

Caveing se pose la question, mais ne donne pas de réponse sur le fait de savoir si certains objets mathématiques sont donnés ou non !

Il nous met en garde quant même que la réponse à cette question des objets « donnés » est susceptible d’orienter l’analyse de la relation entres les actes aux objets. Mais inversement l’étude de la façon dont les objets mathématiques sont construits, ou engendrés, ou crées est de nature à éclairer la question de savoir si certains d’entre eux échappent à cette activité constitutive. (p. 48)

De l’aveu même de Caveing, il y a là bien une circularité : cette circularité qui n’est pas statique, est la clé qui explique, à ses yeux, l’historicité même des mathématiques.

« La mathématique est création de la pensée d’un être « en situation » dans le monde. Tel est le sens de leur objectivité. Les mathématiques ne sont pas un songe, ou plutôt elles subsistent telles quelles malgré le songe....

Un principe demeure : l’objectivité des mathématiques n’est pas fondée dans l’empirie, ni dans l’être d’objets quels qu’ils soient, mais dans les conditions a priori du rapport d’un sujet concret au monde. » (C 2004, p. 277)

Caveing utilise plutôt la méthode de la variation eidétique, suivie par Husserl, qui cherche à déterminer une structure d’essence, concernant la question de l’origine. C’est la seule recherche légitime à ses yeux de l’origine, et se demande si l’historicité des mathématiques n’est pas à part, car dans son cas nous posons autrement la question de la « facticité » : élucider le mode d’appartenance des mathématiques à l’histoire des sociétés et des cultures.

Caveing ne nie pas le fait qu’il existe une histoire intrinsèque des mathématiques : « le déploiement » dans « le temps de la culture humaine», des « propriétésinépuisables des objets mathématiques eux-mêmes, parmi lesquelles il faut bien sûr ranger leur capacité de régler des opérations susceptibles d’engendrer de nouveaux objets ».

« Le mode d’existence, écrit Caveing (C 2004, p. 276-277) du système des relations empirique existant entre l’être humain et le monde et structurant son comportement est une chose. La thématisation dans la pensée rationnelle en tant qu’idéalités pures de relations spécifiées et symbolisées et leur entrée dans des processus opératoires en est une autre. Rien ne permet de passer du premier au second de ces deux domaines.

Les empiristes modernes, spécialistes du cerveau et des neurones, voudraient bien y découvrir, sous une forme ou sous une autre, quelque « objet mathématique » qui fournirait la clé du passage supposé, tandis que les idéalistes de leur côté voudraient bien trouver dans un ciel platonicien, ce qui conditionne tout l’essor des mathématiques, l’existence de l’infini.

Mais on ne trouvera jamais, dans la boîte noire (277) cérébrale, l’alchimie qui transformerait l’information, au sens neuronal du mot, en mathématiques, et cela pour la simple raison que, posé en ces termes, le problème n’offre aucun sens pensable. »

« Pour avoir un sens pensable, explique Caveing lors de mon entretien avec lui du 20 février 2007, il faut d’abord se donner le langage dans lequel les théorèmes sont exprimés. Ca ne veut pas dire qu’il n’y a pas cérébralement la possibilité d’une combinatoire entre des traces qui peuvent être des rudiments de représentations et qui peuvent entrer dans une construction mathématique. Si vous ne passez pas par le langage, vous n’arriverez à rien trouver dans le cerveau !

L’objet mathématique apparaît lorsqu’il est dit. »

Nous pouvons donc dire que le mathématicien créateur et inventeur c’est celui qui découvre de nouvelles relations. Ces relations s’effectuent au niveau des désignations et des propriétés qu’il assigne à ces désignations et qu’il combine, mais tout ça ne peut se faire que par le moyen du langage, même avec le langage intérieur lorsqu’on réfléchit. Jamais l’âme ne pense sans images disait Aristote, mais jamais l’âme ne pense sans mots dit Caveing.

L’idéalité mathématique dont veut parler Caveing ne renvoie à aucune métaphysique ou ontologie au sens fort du mot : elle n’est ni dans le cerveau du sujet ni dans les choses bien réelles et matérielles autour de lui. Caveing écarte évidemment l’hypothèse d’un troisième monde, celui intelligible des idées platoniciennes. Pour Alain Connes, les objets mathématiques fondamentaux, ceux grâce auxquels les mathématiques existent (et parmi eux il y a l’infini actuel de cantor) ont une existence réelle. Caveing se demande où  et refuse d’admettre un monde intelligible séparé !

L’idéalité des objets mathématiques n’est pas en dehors du schème culturel et du langage...Les objets idéaux ne sont ni dans le cerveau ni dans les choses, mais dans le système de relations symbolisées qu’est les mathématiques elles-mêmes : ce système s’étale sur des générations et les mathématiciens manipulent partout dans le monde et durant les différentes périodes de l’histoire. Les mathématiques définissent une sorte de mouvement d’intellectualité universelle traversant le monde et l’histoire.

On ne peut mieux terminer cet article que par cette citation de Caveing lui-même :

«Bien que l’historicité paraisse liée à l’incessante reprise de sens par des générations de mathématiciens, celle-ci n’est requise que par l’ouverture d’horizon infinie qui appartient ....à l’essence de l’objet mathématique. C’est en cette essence que se trouve fondée l’historicité des mathématiques.» (C 2004, p. 53)

Références bibliographiques :

Caveing Maurice : 1982, Zénon d’Elée, Prolégomènes aux doctrines du continu, Librairie philosophique Vrin.

____1994 : Essai sur le savoir mathématique dans la Mésopotamie et l’Egypte anciennes, Presses universitaires du septentrion, Lille.

____1997 : La figure et le nombre : Recherches sur les premières mathématiques des Grecs, Presses universitaires du septentrion, Lille.

____2004, Le problème des objets dans la pensée mathématique, Vrin.

____1991, «  Qu’est-ce qu’un artefact en histoire des sciences ? » dans : Hommage à Jean-Toussaint Desanti.

Desanti J-T, 1968 : Les idéalités mathématiques, Le Seuil.

_____1975 : La philosophie silencieuse, Le Seuil.

[1] Article à paraitre dans Philosophie, mais disponible déjà sur le site de l’IHST : « L’absence des objets mathématiques. Remarques sur l’aphilosophie des mathématiques de J-T Desanti ».