För en tid sedan skrev jag ett blogginlägg om begreppet oföränderliga rättigheter, där jag nämnde begreppet personlighetsteori, en etisk struktur som ger en ram för att bestämma vad som är och inte är en ”person.”

tanken på oförlåtliga rättigheter är inte nödvändigtvis densamma som tanken på personlighet, men i de flesta moraliska system är de verkligen relaterade. De flesta av oss erkänner åtminstone termen ”mänskliga rättigheter” och tenderar att tänka på dem som bra saker, och något separat från, säg, djurens rättigheter.

Nu ska jag bevilja att begreppet mänskliga rättigheter, om historien är något exempel, är mer av en ganska ljudbit än vad vi som art faktiskt tar på allvar.

för att citera från en av mina favorit George Carlin sketcher: ”nu, om du tror att du har rättigheter, en sista uppgift för dig. Nästa gång du är vid datorn, gå på Internet, gå till Wikipedia. När du kommer till Wikipedia, i sökfältet för Wikipedia, vill jag att du skriver in ” japanska amerikaner 1942, och du får reda på allt om dina dyrbara jävla rättigheter, okej? …Precis när dessa amerikanska medborgare behövde sina rättigheter mest, tog deras regering bort dem. Och rättigheter är inte rättigheter om någon kan ta bort dem. De är privilegier. Det är allt vi någonsin har haft i det här landet, ett lagförslag om tillfälliga privilegier.”

så det är med viss skepsis, syrad med en skvätt cynism, att jag pratar om begreppet ”rättigheter” alls.men det faktum att vi tenderar att inte vara så bra på att respektera saker som ”mänskliga rättigheter” betyder inte att tanken inte har något värde. Faktiskt, tvärtom; Jag tror att tanken att det finns vissa saker som man helt enkelt inte bör tillåtas att göra mot andra, och vissa saker som vi alla borde kunna förvänta oss att vi kan göra, är inte bara värdefullt utan också absolut nödvändigt-inte bara i etisk mening utan också i praktisk mening. Jag tror ganska starkt att respekt för tanken om ”mänskliga rättigheter” inte bara är ett moraliskt imperativ; det har omedelbara, utilitaristiska fördelar för de samhällen som respekterar dem, och ju mer ett samhälle respekterar dessa tankar, desto bättre (på många konkreta sätt) blir samhället.

men det är lite av poängen. Vad jag faktiskt vill prata om är personlighetsteori specifikt, snarare än tanken på rättigheter i allmänhet.

i USA idag har tanken på” personlighet ” blivit sammanfogad med abortdebatten. Den religiösa rätten har förespråkat begreppet ” personlighet ”som ett sätt att främja en agenda Mot abort, så när jag har pratat om” personlighetsteori ” under de senaste månaderna har många antagit att det jag pratar om är abort.

personlighetsteori som en etisk ram är inte (direkt) relaterad till abort alls. Som en etisk princip är tanken bakom personlighetsteori ganska enkel:” personlighet ”och med alla de rättigheter som vi nu kallar” mänskliga rättigheter ” tillhör någon sapient enhet.

enkelt uttryckt betyder det att en hypotetisk intelligent främmande organism, en hypotetisk ”stark” AI, en person vars medvetande har överförts till en dator eller ett djur som har modifierats för att vara sapient skulle alla kvalificera sig som ”människor” och skulle ha rätt till människors rättigheter och skyldigheter, precis som du eller I.

nu finns det en potentiell pickle i denna definition, naturligtvis, och det är i begreppet sapience.

det är omöjligt att bevisa att en dator, eller en uppladdad person, eller ens din granne ner på gatan är sapient. Vi kan tillämpa Turing-testet på en dator för att se om det kan prata flytande och flexibelt nog för att vara oskiljbart från en människa, men det förutsätter att artificiell intelligens skulle likna naturlig intelligens, vilket inte nödvändigtvis är så. Vi kan testa generaliserad problemlösningsförmåga, men det är möjligt att föreställa sig att det som ser ut att vara intelligent problemlösning faktiskt är brute-force, blind mönstermatchning gjort mycket snabbt, av det slag som ett datorschackspelprogram gör.

men i slutändan kanske det inte spelar någon roll att vi aldrig någonsin kan komma på ett sätt att gå in i den subjektiva upplevelsen av ett främmande eller ett upplyft djur eller en dator och säga att det är sapient, för vi kan inte göra det med en person heller.

Jag kan inte vara absolut, 100% säker på att jag inte är den enda personen i världen med självmedvetenhet och en rik subjektiv intern upplevelse. Det kan vara så att min granne och kontoristen i närbutiken på gatan och den söta blonda lesbiska med ansiktspiercingar som brukade arbeta i smörgåsbutiken nära mig faktiskt är ”filosofiska zombier”, helt utan intern erfarenhet, upprepa ord och fraser, betala skatt, gör sina jobb bara genom något slags otroligt komplext urverk. Det spelar ingen roll för när jag fattar etiska beslut är de negativa effekterna av att anta att alla andra är ett tomt urverkskal, om jag har fel, mycket djupare än de etiska konsekvenserna om jag antar att de är medvetna, levande människor och jag har fel. Den etiska principen om minst skada kräver att om de verkar vara människor, behandlar jag dem som människor. Alternativet är sociopati.

samma moraliska logik gäller uppladdade personer och smarta datorer. Nej, jag kan inte objektivt bevisa att de är självmedvetna enheter istället för fantastiska automater, så grundläggande etik kräver att om de verkar vara självmedvetna enheter behandlar jag dem som jag skulle behandla självmedvetna enheter.

allt detta är, tror jag, en ganska enkel ide. Men begreppet personlighetsteori går ofta av rälsen när människor, särskilt socialt eller religiösa människor, pratar om det, av skäl som jag tycker är mycket, mycket intressant.

det ärke-konservativa, fundamentalistiska kristna, Creation” Science ”Discovery Institute säger om personlighetsteori,” i denna nya syn på livet har varje människa inte moraliskt värde helt enkelt och bara för att han eller hon är mänsklig, utan snarare måste vi förtjäna våra rättigheter genom att ha tillräcklig mental förmåga att betraktas som en person. Personlighetsteori ger moralisk rättfärdigande för att förtrycka och utnyttja de mest utsatta människorna.”

en som tar en liknande strategiartikel i SFGate säger, ” att förlita sig på personlighet istället för mänsklighet som den grundläggande grunden för att bestämma moraliskt värde hotar liv och välbefinnande hos de mest försvarslösa och sårbara människorna bland oss. Här är varför: i personlighetsteori är det bara fel att ta livet om den som dödades var en ”person” som ville förbli vid liv. Att basera allmän ordning på sådana teorier leder till mycket mörka platser. Vissa bioetiker motiverar dödandet av Alzheimers patienter och spädbarn födda med funktionshinder. Andra föreslår att människor i komor kan dödas och deras organ skördas om deras familjer samtycker, eller används i medicinska experiment i stället för djur.”

självbeskriven etikist Wesley J. Smith, som har arbetat med Discovery Institute, hävdar att personlighetsteori är inget annat än ett försök att legalisera barnmord: ”Abort efter födseln” är bara det senaste exemplet på bioetiskt argument som utövas som spjutets skarpa punkt i ett fullständigt filosofiskt krig mellan intelligentsia mot judisk/kristen moral baserad på mänsklig exceptionalism och efterlevnad av universella mänskliga rättigheter. I stället för inneboende mänsklig värdighet som grund för vår kultur och lagar vill förespråkare för den nya bioetiska ordningen att moraliskt värde ska mätas individuellt för individ-vare sig djur eller människa-och ögonblick för ögonblick. Enligt denna uppfattning måste vi alla tjäna full moralisk status genom att för närvarande ha kapacitet som är tillräcklig för att betraktas som en person.'”

Nu ska jag erkänna att när jag först hörde talas om några av dessa invändningar mot personlighetsteori, var jag absolut gobsmacked. Det verkade bortom all anledning att misstolka och förvränga vad, för mig, verkade som en så enkel IDE på ett så djupt sätt.

men ju mer jag tänkte på det, desto mer var det meningsfullt att människor skulle tolka personlighetsteori på ett så bisarrt, bakåt sätt…eftersom principideen helt enkelt inte passar in i deras konceptuella världsutsikt. De tolkar tanken felaktigt eftersom deras referensram inte tillåter dem att se den som den var avsedd.

kärnan i personlighetsteorin är expansiv. Det utvidgar den konventionella definitionen av” person ”bortom” mänsklig”, för att inkludera ett antal hypotetiska icke-mänskliga enheter, om de någonsin skulle existera. Personhood teori säger ” Det är inte bara människor som är personer; allt som är sapient är en person, för.”

invändningarna mot personlighetsteori ser det som en konstriktiv eller begränsande ram. Detta antyder för mig att dessa invändningar förråder en världsbild där människor är de enda saker som är personer, så varje definition av ordet ”person” som inte är ”en människa” måste nödvändigtvis begränsa personlighet till endast en delmängd av människor.

det är trivialt påvisbart, även om vi inte objektivt kan säga med absolut säkerhet, att något är sapient, att vi alla någon gång eller annan inte är sapient. En människa som är under generell anestesi skulle misslyckas med något test för sapience, eller faktiskt medvetenhet av något slag. En sovande person är mindre känslig än en vaken hund. Jag själv är sällan sapient före 9 AM under de bästa omständigheterna. (Det ligger utanför ramen för denna diskussion att fundera över om en person som befinner sig i en irreversibel koma eller vars sinne har förstörts av Alzheimers fortfarande har samma rättigheter som någon annan person; huruvida saker som eutanasi är etiska är irrelevant för begreppet personlighetsteori som jag diskuterar det.)

personlighetsteori, åtminstone i sin ursprungliga formulering, gäller tydligt endast klasser av enheter, inte individer inom en klass. Så till exempel är människor sapient, oavsett det faktum att var och en av oss upplever övergående icke-sapience då och då; ergo, människor är människor. Starka AIs, om de någonsin existerar, skulle (per definition) vara sapient, även om enskilda AIs själva skulle inaktiveras eller stängas av eller vad som helst; därför är starka AIs människor.

personlighetsteori som en konstruktion fungerar på en allmän, inte en individuell nivå. Ingen transhumanist eller bioetiker som talar om personlighetsteori föreslår att den kan användas för att motivera att skjuta sovande människor på grundval av att de inte är sapient och därför inte riktigt är människor; en sådan tolkning är, i ansiktet av det, absurt. (Jag kommer att lämna det som en övning för läsaren om huruvida det är mer absurt än uppfattningen att dinosaurier bodde i Edens trädgård och var närvarande på Noas ark.)

snarare använder transhumanister och bioetiker som pratar om personlighetsteori-åtminstone enligt min erfarenhet-det som ett sätt att konstruera ett slags system för att bestämma vem som annars får ”mänskliga” rättigheter utöver människor, med de uppenbara kandidaterna som de jag har nämnt.

det finns, även om jag hatar att säga detta, särskild ironi i Wesley Smiths tal om ”judisk/kristen moral baserad på mänsklig exceptionalism och efterlevnad av universella mänskliga rättigheter”, med tanke på judisk/kristen rekord i sådana frågor som slaveri. ”Universella mänskliga rättigheter”, i judisk/kristen litteratur, är allt annat än universella. Cynikern i mig är ovillig att placera tillämpningen av universella rättigheter på någon, mycket mindre icke-mänskliga enheter, i vården av konservativa väktare av judisk/kristen moral.

det tog ganska lång tid för människor att räkna ut att människor med en annan hudfärg var människor; Southern Baptist Convention var doktrinärt vit supremacist fram till efter andra världskriget, och Mormonkyrkan var doktrinärt vit supremacist fram till 1977. Till denna dag försöker Discovery Institute förneka” universella mänskliga rättigheter ” till homofile och lesbiska, med hjälp av en av de mest bisarra logikkedjorna jag någonsin har sett utanför frågor om hur vi vet att dinosaurier och människor delade samma utrymme samtidigt.

Jag avundas inte uppriktigt den första uppladdade personen eller den första sanna AI. Alla icke-mänskliga sapience kommer, om historien är någon guide, har en grov tid behandlas som något annat än egendom. De människor som motsätter sig personlighetsteori eftersom de ser det som en förträngning snarare än en utvidgning av tanken på personlighet är, tror jag, ganska bokstavligen oförmögna att erkänna personligheten hos något som en AI; det finns så långt utanför deras världsbild att argumentet inte ens verkar vara meningsfullt för dem.

och i en värld där stark AI finns, fruktar jag för vad det betyder för oss, och vad det säger om våra förmågor som moraliska enheter.