Il y a quelque temps, j’ai écrit un article de blog sur la notion de droits inaliénables, dans lequel j’ai mentionné le concept de théorie de la personnalité, une structure éthique qui fournit un cadre pour décider de ce qui est et n’est pas une « personne. »

L’idée de droits inaliénables n’est pas nécessairement la même que l’idée de personnalité, bien que dans la plupart des systèmes moraux, ils soient certainement liés. La plupart d’entre nous reconnaissent au moins le terme « droits de l’homme » et ont tendance à les considérer comme de bonnes choses et comme quelque chose de distinct, par exemple, des droits des animaux.

Maintenant, j’admets que la notion de droits de l’homme, si l’histoire en est un exemple, est plus un joli morceau de son que tout ce que nous, en tant qu’espèce, prenons réellement au sérieux.

Pour citer un de mes sketchs préférés de George Carlin: « Maintenant, si vous pensez que vous avez des droits, une dernière affectation pour vous. La prochaine fois que vous serez à l’ordinateur, allez sur Internet, allez sur Wikipedia. Quand vous arriverez sur Wikipédia, dans le champ de recherche de Wikipédia, je veux que vous tapiez « Américains japonais 1942, et vous saurez tout sur vos précieux droits, d’accord? …Juste au moment où ces citoyens américains avaient le plus besoin de leurs droits, leur gouvernement les a enlevés. Et les droits ne sont pas des droits si quelqu’un peut les enlever. Ce sont des privilèges. C’est tout ce que nous avons jamais eu dans ce pays, une charte de privilèges temporaires. »

C’est donc avec un certain scepticisme, relevé d’une pointe de cynisme, que je parle de la notion de  » droits « .

Cependant, le fait que nous ayons tendance à ne pas être très bons dans le respect de choses comme les « droits de l’homme » ne signifie pas que l’idée n’a aucune valeur. En fait, tout le contraire; Je pense que l’idée qu’il y a certaines choses que l’on ne devrait tout simplement pas être autorisé à faire aux autres, et certaines choses que nous devrions tous pouvoir attendre que nous puissions faire, est non seulement précieuse, mais aussi absolument essentielle – pas seulement au sens éthique, mais aussi au sens pratique. Je crois fermement que le respect de l’idée de « droits de l’homme » n’est pas seulement un impératif moral; il a des avantages immédiats et utilitaires pour les sociétés qui les respectent, et plus une société respecte ces idées, mieux la société devient (de plusieurs manières tangibles).

Mais c’est un peu décalé. Ce dont je veux parler en fait, c’est de la théorie de la personnalité en particulier, plutôt que de l’idée de droits en général.

Aux États-Unis ces jours-ci, l’idée de « personnalité » s’est confondue avec le débat sur l’avortement. La droite religieuse a préconisé la notion de « personnalité » comme moyen de promouvoir un programme anti-avortement, alors quand j’ai parlé de « théorie de la personnalité » au cours des derniers mois, beaucoup de gens ont supposé que ce dont je parle, c’est de l’avortement.

La théorie de la personnalité en tant que cadre éthique n’est pas (directement) liée à l’avortement. En tant que principe éthique, l’idée derrière la théorie de la personnalité est assez simple: la « personnalité », et avec elle tous les droits que nous appelons maintenant les « droits de l’homme », appartient à toute entité sapient.

En termes plus simples, cela signifie qu’un hypothétique organisme extraterrestre intelligent, une hypothétique IA « forte », une personne dont la conscience a été transférée dans un ordinateur ou un animal qui a été modifié pour être sapient seraient tous qualifiés de « personnes » et auraient droit aux droits et responsabilités des gens, tout comme vous ou moi.

Maintenant, il y a un problème potentiel dans cette définition, bien sûr, et c’est dans la notion de sapience.

Il est impossible de prouver qu’un ordinateur, ou une personne téléchargée, ou même votre voisin de la rue est sapient. Nous pouvons appliquer le test de Turing à un ordinateur pour voir s’il peut converser de manière suffisamment fluide et flexible pour être indiscernable d’un être humain, mais cela suppose que l’intelligence artificielle serait similaire à l’intelligence naturelle, ce qui n’est pas nécessairement le cas. Nous pouvons tester une capacité de résolution de problèmes généralisée, bien qu’il soit possible d’imaginer que ce qui semble être une résolution de problèmes intelligente est en fait une mise en correspondance de motifs à l’aveugle par force brute, effectuée très rapidement, du genre d’un programme d’échecs informatique.

Mais en fin de compte, il n’est peut-être pas vraiment important que nous ne puissions jamais trouver un moyen d’entrer dans l’expérience subjective d’un extraterrestre ou d’un animal élevé ou d’un ordinateur et dire que c’est sapient, car nous ne pouvons pas non plus le faire avec une personne.

Je ne peux pas être absolument, à 100% certain que je ne suis pas la seule personne au monde à avoir une conscience de soi et une riche expérience interne subjective. Il se peut que ma voisine et le commis du dépanneur dans la rue et la jolie lesbienne blonde aux piercings faciaux qui travaillaient dans la sandwicherie près de chez moi soient en fait des « zombies philosophiques », totalement dépourvus de toute expérience interne, répétant des mots et des phrases, payant des impôts, ne faisant leur travail que par une sorte d’horloge incroyablement complexe. Peu importe, car lorsque je prends des décisions éthiques, les effets négatifs de supposer que tout le monde est une coquille vide, devrais-je me tromper, sont beaucoup plus profonds que les conséquences éthiques si je suppose qu’ils sont conscients, des personnes vivantes et que j’ai tort. Le principe éthique du moindre mal exige que s’ils semblent être des personnes, je les traite comme des personnes. L’alternative est la sociopathie.

La même logique morale s’applique aux personnes téléchargées et aux ordinateurs intelligents. Non, je ne peux pas prouver objectivement qu’ils sont des entités conscientes de soi au lieu d’automates fabuleux, donc l’éthique de base exige que s’ils semblent être des entités conscientes de soi, je les traite comme je traiterais des entités conscientes de soi.

Tout cela est, je crois, une idée assez simple. Mais le concept de théorie de la personnalité dérape souvent lorsque les gens, en particulier les personnes socialement ou religieuses, en parlent, pour des raisons que je trouve très, très intéressantes.

L’Institut de découverte de la « Science » de la Création chrétienne archiconservatrice et fondamentaliste dit de la théorie de la personnalité: « Dans cette nouvelle vision de la vie, chaque être humain n’a pas de valeur morale simplement et simplement parce qu’il est humain, mais plutôt, nous devons chacun gagner nos droits en possédant des capacités mentales suffisantes pour être considéré comme une personne. La théorie de la personnalité fournit une justification morale pour opprimer et exploiter les êtres humains les plus vulnérables. »

Un article qui adopte une approche similaire dans SFGate dit: « S’appuyer sur la personnalité au lieu de l’être humain comme base fondamentale pour déterminer la valeur morale menace la vie et le bien-être des humains les plus vulnérables et les plus vulnérables d’entre nous. Voici pourquoi: Dans la théorie de la personnalité, prendre la vie n’est faux que si l’être tué était une « personne » qui voulait rester en vie. Fonder les politiques publiques sur de telles théories conduit à des endroits très sombres. Certains bioéthiciens justifient le meurtre de patients atteints de la maladie d’Alzheimer et de nourrissons nés handicapés. D’autres suggèrent que les personnes dans les comas peuvent être tuées et leurs organes prélevés si leur famille y consent, ou utilisés dans des expériences médicales à la place des animaux. »

L’éthicien Wesley J. Smith, qui a travaillé avec le Discovery Institute, affirme que la théorie de la personnalité n’est rien de plus qu’une tentative de légaliser l’infanticide: «  »L’avortement après la naissance » n’est que le dernier exemple d’argument bioéthique brandi comme la pointe de la lance d’une guerre philosophique totale menée au sein de l’intelligentsia contre la morale judéo-chrétienne basée sur l’exceptionnalisme humain et l’adhésion aux droits de l’homme universels. Au lieu de la dignité humaine intrinsèque comme fondement de notre culture et de nos lois, les défenseurs du nouvel ordre bioéthique veulent que la valeur morale soit mesurée individuellement – qu’elle soit animale ou humaine – et moment par moment. Selon ce point de vue, nous devons tous acquérir un statut moral complet en possédant actuellement des capacités suffisantes pour être considérés comme une  » personne ». »

Maintenant, j’admets que lorsque j’ai entendu parler pour la première fois de certaines de ces objections à la théorie de la personnalité, j’étais absolument imbu. Il semblait hors de toute raison de mal interpréter et de déformer ce qui, pour moi, semblait être une idée si simple d’une manière si profonde.

Mais plus j’y réfléchissais, plus il était logique que les gens interprètent la théorie de la personnalité d’une manière aussi bizarre et inversée…parce que l’idée de principe ne rentre tout simplement pas dans leur vision conceptuelle du monde. Ils interprètent mal l’idée parce que leur cadre de référence ne leur permet pas de la voir telle qu’elle était prévue.

L’essentiel de la théorie de la personnalité est vaste. Il élargit la définition conventionnelle de « personne » au-delà de « humain », pour inclure un certain nombre d’entités hypothétiques non humaines, si jamais elles existaient. La théorie de la personnalité dit: « Ce ne sont pas seulement les êtres humains qui sont des personnes; tout ce qui est sapient est aussi une personne. »

Les objections à la théorie de la personnalité la voient comme un cadre constrictif ou limitatif. Cela me suggère que ces objections trahissent une vision du monde dans laquelle les êtres humains sont les seules choses qui sont des personnes, donc toute définition du mot « personne » qui n’est pas « un être humain » doit nécessairement limiter la personnalité à seulement un sous-ensemble d’êtres humains.

Il est trivialement démontrable, même si nous ne pouvons pas affirmer objectivement avec une certitude absolue, que quelque chose est sapient, que nous tous à un moment ou à un autre ne le sommes pas. Un être humain sous anesthésie générale échouerait à tout test de sapience, ou même de conscience de quelque sorte que ce soit. Une personne endormie est moins sensible qu’un chien éveillé. Je suis moi-même rarement sapient avant 9 heures du matin dans le meilleur des cas. (Il est hors de la portée de cette discussion de se demander si une personne qui est dans un coma irréversible ou dont l’esprit a été détruit par la maladie d’Alzheimer a toujours les mêmes droits que toute autre personne; que des choses comme l’euthanasie soient éthiques ou non n’est pas pertinent pour le concept de théorie de la personnalité tel que j’en discute.)

La théorie de la personnalité, du moins dans sa formulation originale, ne s’applique clairement qu’aux classes d’entités, pas aux individus au sein d’une classe. Ainsi, par exemple, les êtres humains sont sapients, indépendamment du fait que chacun de nous éprouve de temps en temps une non-sapience transitoire; ergo, les êtres humains sont des personnes. Les IA fortes, si jamais elles existent, seraient (par définition) sapientes, même si les IA individuelles elles-mêmes devaient être désactivées ou fermées ou autre chose; par conséquent, les IA fortes sont des personnes.

La théorie de la personnalité en tant que construction fonctionne à un niveau général et non individuel. Aucun transhumaniste ou bioéthicien qui parle de théorie de la personnalité ne propose qu’elle puisse être utilisée pour justifier de tirer sur des personnes endormies sur la base qu’elles ne sont pas sapientes et ne sont donc pas vraiment des personnes; une telle interprétation est, à première vue, absurde. (Je laisserai au lecteur l’exercice de savoir si c’est plus absurde ou non que l’idée que les dinosaures vivaient dans le Jardin d’Eden et étaient présents sur l’arche de Noé.)

Au contraire, les transhumanistes et les bioéthiciens qui parlent de théorie de la personnalité – du moins d’après mon expérience – l’utilisent comme un moyen de construire une sorte de système pour décider qui d’autre obtient les droits « humains » en plus des êtres humains, les candidats évidents étant ceux que j’ai mentionnés.

Il y a, bien que je déteste dire cela, une ironie particulière dans le discours de Wesley Smith sur la « morale judéo-chrétienne basée sur l’exceptionnalisme humain et l’adhésion aux droits de l’homme universels », compte tenu des antécédents judéo-chrétiens sur des questions telles que l’esclavage. Les « droits de l’homme universels », dans la littérature judéo-chrétienne, sont tout sauf universels. Le cynique en moi est réticent à confier l’application des droits universels à quiconque, et encore moins aux entités non humaines, aux gardiens conservateurs de la morale judéo-chrétienne.

Il a fallu beaucoup de temps aux gens pour comprendre que les êtres humains avec une couleur de peau différente étaient des personnes; la Convention baptiste du Sud était doctrinalement suprémaciste blanche jusqu’après la Seconde Guerre mondiale, et l’église mormone était doctrinalement suprémaciste blanche jusqu’en 1977. À ce jour, le Discovery Institute cherche à nier les « droits humains universels » aux gays et lesbiennes, en utilisant l’une des chaînes de logique les plus bizarres dont j’ai jamais été témoin en dehors des questions sur la façon dont nous savons que les dinosaures et les êtres humains partageaient le même espace en même temps.

Je n’envie franchement pas la première personne téléchargée ou la première vraie IA. Toute sapience non humaine, si l’histoire est un guide, aura un temps difficile à traiter comme autre chose que la propriété. Les gens qui s’opposent à la théorie de la personnalité parce qu’ils la voient comme une constriction plutôt qu’une expansion de l’idée de la personnalité sont, je pense, littéralement incapables de reconnaître la personnalité de quelque chose comme une IA; elle existe si loin en dehors de leur vision du monde que l’argument ne semble même pas avoir de sens pour eux.

Et dans un monde où une IA forte existe, je crains pour ce que cela signifie pour nous et ce que cela dit de nos capacités en tant qu’entités morales.