LA CHOSE À PENSER

 
Rafael Capurro
 
  
 
 
Intervention présentée dans le cadre d'un colloque interdisciplinaire et interuniversitaire, organisé à l'initiative de Charles Grivel (1936-2015) (voir ici pp. 18-22) durant le semestre d'été 1986, aux Universités de Mannheim, Stuttgart, Fribourg e.B. et Düsseldorf et publiée dans:

Charles Grivel (éd.): Appareils et machines à représentation. Mana - Mannheimer Analytika - Mannheim - Analytiques, 8/1988, pp. 103-110.

Table de matières

Ch. Grivel, J'Introduis aux machines

VUE
M. Wetzel, Photo-Graphie. Von der Ordnung der Buchstaben zur Schrift des Lichts
H. v. Amelunxen, Die Erfindung der Photographie aus dem Geiste des Äthers. Zu "Louis Lambert" von Balzac

VOIX
Ch. Grivel, La Bouche cornue du phonographe
G. Léautier, La Radio à lampes
F. Kittler, Rockmusik - Ein Mißbrauch von Heeresgerät

PENSEE
R. Capurro, La Chose à penser
J. Mecke, Zeitmaschine und Zeitgeist
J. Feuling, Das Motorrad. Obskures Objekt meiner Begierde
Ch. Grivel, Machine de corps, machine de poche

TEXTE
H.M:. Finter, Dante: Les Machines du Bien et du Mal
J.-P. Dubost, Loyola und Co: Einige Bemerkungen zur jesuitischen Mediengesellschaft
V. Borsò-Borgarello, Pirandellos "Umorismo": Das Phantasma zwischen "Macchinetta della Logica" und Maschinenmythos.

Traduction en espagnol de ce texte  ici.

 

 
Table de matières

Introduction

I. La mise en scène de la pensée
II. La chose à penser

Notes

 
 
 
 
 

Introduction 

La chose à penser: voilà un titre qui évoque chez vous probablement des réminiscences très philosophiques et très françaises. Je vous rappelle le texte de la Seconde Méditation de Descartes:  
"Mais qu'est-ce donc que je suis? Une chose qui pense. Qu'est-ce qu'une chose qui pense? C'est une chose qui entend, qui conçoit, qui affirme, qui nie, qui veut, qui ne veut pas, qui imagine aussi et qui sent." (1)
Or, pour Descartes cette "chose qui pense" est tout à fait différente des choses matérielles, en particulier du corps. Le corps humain est une espèce d'automate très perfectionné mais, comme le dit Descartes dans la cinquième partie du Discours de la Méthode, il y a deux moyens très certains pour reconnaître que, s'il y avait des machines semblables à l'homme, il ne s'agirait pas d'êtres humains, à savoir: premièrement, de telles machines   
"ne pourraient user de paroles ni d'autres signes en le composant, comme nous faisons pour déclarer aux autres nos pensées"
et, deuxièmement,  
"elles n'agiraient pas par connaissance, mais seulement par la disposition de leurs organes" (2)
Voilà alors ce qui fait la différence entre les hommes et les bêtes: le langage et la raison. La chose à penser, la "res cogitans", qui nous permet de parler et de penser, est une "chose" entièrement immatérielle. L'homme selon Descartes, n'est pas un automate qui pense, mais il est un composé d'un automate et d'une "chose à penser". Le langage c'est un instrument de signification et de communication. On peut bien imiter ces deux actions avec une machine, mais elle ne saurait pas, dit Descartes, reconnaître le sens de tout ce qui se dira en sa présence. Quant à la raison, on peut bien mettre dans une machine une particulière disposition à faire quelque chose, la programmer alors, comme nous le disons aujourd'hui, mais ces programmes sont toujours particuliers, tandis que la raison est un "instrument universel". La machine n'est donc pas responsable de ses actes, elle est an-éthique 

Les efforts de la recherche actuelle dans le champ de l'intelligence artificielle (IA) sont des efforts tout à fait anti-cartésiens: il s'agit de faire une machine à penser. Ça c'est le but. La réalité est, par contre, très cartésienne: ce qu'on fait c'est la simulation, ou plutôt la dissimulation. Je vous propose d'abord d'essayer de penser le phénomène de l'IA sous ce point de vue. C'est ce que j'appelle la mise en scène de la pensée. La proposition "la chose à penser" peut être interprétée aussi comme faisant allusion à la (ou les) chose(s) auxquelles nous pensons ou plutôt aux choses qui nous donnent à penser. Mais, qu'est-ce exactement qu'une chose? Je laisse ouverte ici cette question pour y revenir dans la seconde partie de mon exposé.

I. La mise en scène de la pensée

Les machines à penser dévelopées par les ingénieurs de la connaissance (knowledge engineers) ne sont pas simplement des machines à calculer, mais elles prétendent remplir des fonctions sémantiques dans des champs spécialisés. Elles ne possèdent pas (encore) la raison dans sa fonction universelle. Elles manquent de sens commun. Et pourtant elles donnent l'impression qu'elles pensent vraiment. Il s'agit doc d'une simulation, ou d'un show.

En reprenant la thèse de Marshall McLuhan ("the medium is the message") Neil Postman a interprété le phénomène de la télévision comme un médium qui transforme tous les contenus en leur donnant l'apparence d'amusement (3). Je voudrais prolonger cette interprétation en l'appliquant à l'IA. Ma thèse alors peut être formulée de la manière suivante: l'intelligence artificielle transforme la pensée et ses contenus en leur donnant l'apparence d'un show. En d'autres termes, l'IA c'est une mise en scène de la pensée.  

Je laisse ouverte la question (toujours posée par les défenseurs du paradigme de l'IA et tranchée aussi dogmatiquement que le fait le dualisme cartésien) de savoir si un jour ces choses seront vraiment capables de penser. Je crois que souvent les discussions théoriques à ce propos sont destinées à détourner notre attention de ce qui se passe en réalité dans ce domaine. Si nous considérons le phénomène humain d'un point de vue évolutif, c'est-à-dire comme un phénomène émergent, je ne vois pas de dificultés de principe concernant la possibilité de reproduire artificiellement quelques caractéristiques dites humaines, soit avec des moyens biologiques, soit avec d'autres substances. Il reste bien sûr à savoir si ce qu'on obtiendra sera de la même qualité que ce que nous prenons comme modèle...

Pour le moment le médium de l'IA est, comme je le disais, tout à fait théâtral. Il s'agit de donner l'impression que les machines peuvent penser, voir, agir, parler, etc. Elles sont définies comme obéissant au principe de Turing, c'est-à-dire au principe selon lequel la simulation cesse d'être considérée comme telle si elle peut être dissimulée de telle manière qu'on ne sait plus la reconnaître comme simulation. L'IA transforme la pensée et les choses à penser dans une affaire de mise en scène: on développe les libretti ainsi que les instructions de régie. Les pièces qu'on joue sont pour la plupart d'un contenu scientifique spécialisé (expert systems), mais ça commence à changer au fur et à mesure que l'industrie prévoit un business au-delà des applications, par exemple, militaires. La chose à penser, ça c'est déjà du show business. Comme le dit Postman à propos de la télévision, ce n'est pas Orwell, c'est Huxley qui avait raison.

Qu'est-ce qu'on essaie de simuler en le dissimulat? Tout d'abord, il s'agit de systèmes qui peuvent trouver des solutions aux problèmes. Ils le font en suivant des règles et en les appliquant à un corps de savoir. On simule alors un dialogue avec des gens de profession, dont on pense qu'ils peuvent juger à propos d'un cas particulier parce qu'ils possèdent des connaissances plus générales qui leur permettent de distinguer ce qui est spécifique ou plutôt  routinier. Mais, peut-on savoir suffisament dans un champ quelconque? Les spécialistes ne se caractérisent-ils pas aussi bien par ce qu'ils savent (ou croient savoir) que par ce qu'ils ignorent, dans la mesure où ils sont conscients de cette ignorance? (4) C'est justement le non-savoir qui est le fondament de la recherche. Or, les systèmes de l'IA sont des systèmes de savoir qui, jusqu'à présent, ignorent qu'ils ignorent. Ils n'ont pas encore appris à dire "je ne sais pas". On dissimule alors le non-savoir en simulant le savoir. Le système doit toujours jouer le rôle de quelqu'un qui sait et qui cache son ignorance. Conséquemment alors, le système n'est pas capable de prendre du temps pour penser. Il ne réfléchit pas bien qu'il joue le rôle de quelqu'un qui le fait.  

Deuxièmement, alors il s'agit d'une mise en scène de la rationnalité. Mais bien que l'ordinateur soit en principe une machine universelle et maléable, il n'est pas encore structuré de manière à faire émerger la rationnalité au sens cartésien. Il a toujours besoin de règles, des programmes etc. Hubert Dreyfus a spécialement souligné ce point dans sa critique des limites (actuels) de l'IA (5). Ces règles le particularisent et font justement que tout ce qu'on joue ou transmet prend le caractère d'un show. Il s'agit en efet d'un discours qu'on met sous la forme de l'IA. On doit alors simuler le dialogue, qui en réalité a la forme déséquilibrée de questions et réponses obsessives. La simulation d'un dialogue basée sur une rationnalité humaine, c'est-à-dire ouverte (au monde et aux autres), transforme l'un des  pôles en un mono-logue. Puisqu'on parle le même langage, on s'en aperçoit pas...

Finalement, je voudrais porter mon attention sur le problème de la complexité. L'IA est extrêmement utile dans des situations où les variables sont multiples et qui nécessiteraient beaucoup de temps et de travail pour trouver une réponse précise. On peut alors simuler la façon de dominer une telle situation. Mais, comme nous l'avons déjà remerqué, tandis que nous sommes conscients (malheureusement pas toujours!) de l'impossibilité de tenir compte de toutes les variables aussi bien que de la possibilité des erreurs, la mise en scène de l'IA donne une réponse (éventuellement la machine prend une décision, et, dans le cas du robot, elle agit) en dissimulant le non-savoir. On peut, bien sûr, demander des raisons au système afin de vérifier les réponses, mais une telle vérification est très limitée. De facto les systèmes de l'IA sont très limités en tant qu'ils sont effectivement destinés à jouer un rôle ou plutôt une pièce. Voilà leur grandeur, mais aussi leur misère.

II. La chose à penser

La pensée, voilà un sujet dont les philosophes discutent depuis quelques trois mille ans. C'est surtout cette chose à penser, c'est-à-dire l'homme en tant qu'être pensant, qui a donné à penser, de sorte que la pensée est devenue, dans la tradition métaphysique occidentale, la chose par excellence de la pensé elle-même. Aristote définit l'étant le plus parfait comme noesis noeseos (la pensée qui se pense elle même)  et Descartes, tout à fait dans cette tradition, confirme l'identité du "je pense" comme un phénomène ontologique irréductible, qui se trouve à la base de toute autre connaissance. Si l'IA fait des efforts pour simuler (et peut-être un jour aussi reproduire) la pensée, elle se trouve, à mon avis, dans la plus authentique tradition métaphysique. Mettre en question la métaphysique, cela signifie (entre autres) se demander si la chose à penser doit être principaliter et essentialiter la pensée elle-même, soit dans sa forme humaine, divine ou bien artificielle. D'où vient-il que nous parlons d'elle comme d'une chose? Et de quelle forme détermine cette façon de parler notre vue des choses comme objets de pensée? Qu'est-ce qu'une chose? Je veux rappeler ici seulement les recherches heideggeriennes sur ce sujet, sans en aller faire maintenant tout un exposé (6). Je voudrais remarquer, tout d'abord, que les efforts artificiels pour éclairer la pensée sont, à mon avis, tout à fait oedipiens, dans le sens qu'ils sont des efforts d'autodéfinition et qu'ils prennent leur origine dans le champ du rêve et de l'imaginaire. Jean Brun signale le phénomène comme suit:
"Les machines sont beaucoup que les enfants de la raison, elles sont surtout les filles de l'imagination, de rêves et des mythes; elles sont beaucoup plus que des instruments techniques: elles son des appareils métaphysiques. D'elles, l'homme attend davantage que des sauvetages socio-économiques libérateurs, il espère qu'elles lui apporteront un Salut et une délivrance l'arrachant à lui-même et à ses limites existentielles. Mais il en attend aussi sa consécration comme Créateur tout-puissant. Et c'est pourquoi il les adore. L'essence de la machine est d'être tenue pour dispensatrice d'extase, même dans ses oeuvres de mort, car l'on y voit des apocalypses nécessaires au surgissement d'aubes nouvelles. Bref, les machines sont des prothèses du moi qui impliquent le désir de l'homme de se projeter au-delà de son essence et de son existence." (7)
A quoi rêvons-nous quand nous essayons de créer une chose à penser? Jean Brun nous renvoie à un beaux texte de Paul Valéry dans "La crise de l'esprit":  
"L'homme est cet animal séparé, ce bizarre être vivant qui s'est opposé à tous les autres, par ses (...) songes, par l' intensité, l'enchaînement, par la diversité de ses songes!" (8)
C'est par nos songes, remarque Valéry, que nous essayons de produire ce qui n'est pas, que nous sommes en contradiction continue avec la facticité de notre existence et, bien sûr, avec les principes et conditions qui déterminent cette existence:  
"Il y des rêves contre la pesanteur et des rêves contre les lois du mouvement. Il en est contre l'espace et il en est contre la durée. L'ubiquité, la prophétie, l'Eau de Jouvence on été rêvées, le sont encore sous des noms scientifiques." (9)
Quant au rêve de la Connaissance, Paul Valéry nous rappelle son origine dans la Genèse. Il est lié au rêve de l'Immortalité. Il me semble que ce deux rêves, qui sont en réalité un, puisqu'une connaissance absolue nous permettrait aussi de vaincre la mort, sont en quelque sorte à l'origine de tous nos autres rêves. Si nous mettons d'un côté nos rêves et de l'autre les réalisations, nous pouvons dire que dans le cas du rêve de la Connaissance on trouve trois grands échelons: l'écriture (qui, comme nous le rappele Platon, fut donnée aux hommes par le dieu égyptien Tot), la machine à imprimer de Gutenberg (ce fut la Bible qu'on a d'abord imprimée!), et nos machines à penser. Dans son "Propos sur l'intelligence", Paul Valéry fait allusion à une évolution possible des "machines calculatrices" vers ce que nous appelons aujourd'hui expert systems. Il écrit:  
"Ces machines calculatrices qui me passent par l'esprit me suggèrent une réflexion que je noterai au passage. Il y a des activités intellectuelles qui peuvent changer de rang par le progrès des procédés techniques. Quand ces procédés deviennent plus précis, quand la profession se ramène peu à peu à l'application de moyens énumérables, exactement indiqués par l'examen du cas particulier, la valeur personnelle du professionnel perd de plus en plus d'importance. On sait quel rôle jouent l'habilité individuelle et les procédés secrets dans une quantité de domaines. mais le progrès dont je parlais tend à rendre les résultats indépendants de ces qualités singulières."
C'est le cas, dit Valéry en prévoyant ELYZA et MYCIN, du médecin

"[...] qui en devenant un agent impersonnel de la science de guérir, perdrait tout ce charme qui tient à l'incertitude de son art et à ce qu'on suppose invinciblement qu'il y ajoute de magie individuelle." (10)

Les "intellectuels qui servent à quelque chose", comme Valéry les appelle pour les distinguer de ceux "qui ne servent à rien", sont-ils les victimes d'une concrétisation nouvelle du rêve de la Connaissance? Comment définir notre rélation avec des machines à savoir? Quels fruits désirons-nous de l'arbre de la Connaissance? Quel est le manque que nous y projetons? Ecoutons le texte de la Genèse:  
"Le serpent était le plus rusé de tous les animaux des champs que Yahvé Dieu avait fait. Il dit à la femme: "Alors, Dieu a dit: Vous ne mangerez pas de tous les arbres du jardin?" La femme répondit au serpent: "Nous pouvons manger du fruit des arbres du jardin. Mais du fruit de l'arbre qui est au milieu du jardin, Die a dit: Vous n'en mangerez pas, vous n'y toucherez pas, sous peine de mort." Le serpent répliqua à la femme: "Pas du tout! Vous ne mourrez pas! Mais Dieu sait que, le jour où vous en mangerez, vos yeux s'ouvriront et vous serez comme des dieux, qui connaissent le bien et le mal." (Gen. 3, 1-5)
Désir de Connaissance et désir de se diviniser sont intimiment liés. Cette intelligence n'est pas liée au voir mais au manger! C'est-à-dire à un appétit charnel, qui pour la femme se manifeste déjà dans le désir de toucher. Le fruit de la connaissance divine (genitivus subjectivus et objectivus!) est lié à la perte du fruit de "l'arbre de vie" (Gen. 1, 9). Dès maintenant nous cherchons maîtriser l'espace et le temps, devenus des objets absolus du désir humain. 

La psychanalyse, en particulier celle développée par Jacques Lacan, nous donne à penser que le désir humain est marqué par le manque de l'objet absolu. La rencontre incarnée et réelle avec ce manque est la "Chose" (11), qui n'est pas justement une "chose" mais le rappel de la "place vide", de "l'a-chose" du désir. C'est alors, d'après la psychanalyse, la "Chose" qui donne à parler. L'IA semble exprimer le rêve névrotique de trouver finalement la chose à penser, c'est-à-dire le sujet pensant, libéré du désir, ne se laissant plus rien dire par la "Chose". Il y aurait finalement une "Versöhnung" entre le "Ich" et le "Es". "Mais", écrit Lacan,  

"si l'on méconnaît l'excentricité radicale de soi à lui-même à quoi l'homme est affronté, autrement dit la vérité découverte par Freud, on faillera sur l'ordre et sur les voies de la médiation psychanalytique". (12)
Cette "excentricité" signifie que l'homme "donneur de sens" doit toujours reconnaître les limites de son activité grammaticale, parce que les choses qui nous donnet toujours à penser, n'ont originairement, comme le dit Octavio Paz, aucun sens, elle ne signifient rien:
"Por la escritura abolimos las cosas, las convertimos en sentido; por la lectura, abolimos los signos, apuramos el sentido y, casi inmediatamente, lo disipamos: el sentido vuelve al amasijo primordial. La arboleda no tiene nombre y estos árboles no son signos: son árboles. Son reales y son ilegibles. Aunque aludo a ellos cuando digo: estos árboles son ilegibles, ellos no se dan por aludidos. No dice, no significan: están allí, nada más están. Yo los puedo derribar, quemar, cortar, convertir en mástiles, sillas, barcos, casas, ceniza; puedo pintarlos, esculpirlos, describirlos, convertirlos en símbolos de esto o de aquelle (inclusive de ellos mismos) y hacer otra arboleda, real o imaginaria, con ellos; puedo clasificarlos, analizarlos, reducirlos a uan fórmula química o a una proposición matemática y así traducirlos, convertirlos en lenguaje - per estos árboles, estos que señalo y que están más allá, siempre más allá, de mis signos y de mis palabras, intocables, inalcanzables, impenetrables, son lo que son y ningún nombre, ninguna combinación de signos los dice. Y son irrepetibles: nunca volverán a ser lo que ahora mismo son." (13)
Voilà alors la découverte poétique par excellence: la chose à penser n'est pas une chose et on ne peut pas la penser! C'est-à-dire, elle ne se laisse pas réduire métaphysiquement. Elle est incommensurable. Elle nous donne à penser. C'est dans ce sens aussi que les choses à penser cherchées par l'IA, aussi bien que les autres choses, peuvent nous donner à penser, pourvu que nous renoncions à les considérer traumatiquement comme donneuses originaires de sens. Naturelle ou artificielle, elle n'a pas de sens. Pour une pensée qui se désire au-delà de la métaphysique, c'est-à-dire qui est en train d'en guérir, ce n'est pas précisément la pensée elle-même, mais la "chose de la pensée", "die Sache des Denkens" (Heidegger), qui est l'essentiel. Cette chose incommensurable, c'est-à-dire, qui conditionne toute mesure et, par conséquent, toute pensée, naturelle ou artificielle, nous l'appelons temps (14).
 
 
 
 

Notes

1. René Descartes, Oeuvres et lettres, Paris 1952, p. 278.  
2. ibid. p. 164-165.  
3. N. Postman, Wir amüsieren uns zu Tode, Francfort/M. 1985.  
4. Cf. mon étude: Hermeneutik der Fachinformation, Fribourg/Munich, 1986, p. 121-125. Pour une herméneutique du 'computer design" cf. aussi: T. Winograd, F. Flores, Understanding Computers and Cognition, New Jersey 1986.   
5. Cf. H. Dreyfus, Die Grenzen der künstlichen Intelligenz, Königstein/Ts. 1985.  
6. M. Heidegger, Die Frage nach dem Ding, Tübingen 1975.  
7. J. Brun: Biographie de la machine, in: Les Etudes philosophiques. Janvier/Mars 1985, p. 4. Cf. aussi l'oeuvre littéraire de
Stanisław Lem.  
8. P. Valéry, Oeuvres I, Paris 1957, p. 1001.9. ibid. p. 100310. ibid. p. 1053-54.   11. A. Jurainville, Lacan et la philosophie, Paris 1984, p. 215sq. et 284sq.  
12. J. Lacan, Ecrits I, Paris 1966, p. 284.  
13. Cf. O. Paz, El mono gramático, Barcelona 1974, p. 97-98.  
14. Cf. M. Heidegger, Zur Sache des Denkens, Tübingen 1976: "Zeit, eine Sache, vermutlich die Sache des Denkens, wenn anders im Sein als Anwesenheit dergleichen wie Zeit spricht. Sein und Zeit, Zeit und Sein nennen das Verhältnis beider Sachen, den Sachverhalt, der beide Sachen zueinander hält und ihr Verhältnis aushält. Diesem Sachverhalt nachzusinnen, ist dem Denken aufgegeben, gesetzt, daß es gesonnen bleibt, seiner Sache auszuharren." (p. 4). Cf. aussi: M. Heidegger: Was heißt Denken? Tübingen 1971.  

  
Page modifiée le 20 mai 2017
  
 
 
    

Copyright © 1988 by Rafael Capurro, all rights reserved. This text may be used and shared in accordance with the fair-use provisions of U.S. and international copyright law, and it may be archived and redistributed in electronic form, provided that the author is notified and no fee is charged for access. Archiving, redistribution, or republication of this text on other terms, in any medium, requires the consent of the author.

 

 
Bibliothèque électronique Recherche Activités
Publications Enseignement Interviews
 
Pour plus d' information veuillez consulter s.v.p. ma page en francais