Iată două experimente mentale. În primul, imaginați-vă un copil și un robot care se apropie inexorabil de marginea unei prăpăstii. Pe cine ați salva? Cu siguranță pe copil. În al doilea, imaginați-vă că același copil se joacă, împreună cu robotul, cu un pistol, iar în cursul acestui joc arma se descarcă și rănește un trecător. Pe cine ați pedepsi, dacă trebuie să alegeți? Probabil pe robot, pentru că acesta era programat să se comporte în așa fel încât să nu rănească pe nimeni.
De ce alegem să salvăm copilul în prima situație și de ce alegem să pedepsim robotul în a doua? Și ce spune asta despre noi?
Oamenii se raportează la alte minți prin intermediul a două capacități diferite: capacitatea de simțire și capacitatea de autocontrol (eng. agency).
Capacitatea de a simți se referă la faptul că o minte poate simți căldura unei sobe, se poate bucura de un spectacol de teatru ori de o experiență sexuală. Această capacitate arată ce este mintea din interior.
Capacitatea de autocontrol se referă la abilități precum: autocontrol, moralitate, memorie, recunoașterea emoțiilor, planificare, comunicare sau gândire. Autocontrolul, așadar, se referă nu la simțire, ci la gândire și acțiune. O minte demonstrează această capacitate atunci când acționează și îndeplinește obiectivele planificate.
Controlul arată ce este mintea din exterior. Din acest motiv această capacitate poate fi mai bine evaluată de alte minți, pentru că se bazează pe observarea comportamentului.
Ce legătură are (i)moralitatea cu aceste două capacități?
Judecăm (i)moralitatea unei entități în funcție de cum evaluăm cele două capacități.
(I)moralitatea = capacitatea de a simți + capacitatea de autocontrol
În imaginea de mai sus puteți observa rezultatul unui studiu care a inclus 2.500 de persoane, prin care s-a urmărit identificarea modului în care participanții la studiu atribuie cele două capacități unor entități diverse. E interesant de observat că Dumnezeu este văzut ca o ființă cu un autocontrol total, dar fără capacitatea de simțire (nu simte foamea, setea, frica și nici bucuria, așa cum o simțim noi, oamenii). Un robot, în schimb, primește o bună capacitate de autocontrol (pe baza percepției că programarea a ajuns la un stadiu avansat), dar lipsește capacitatea de a simți.
Privind mintea astfel, înțelegem că binele și răul nu sunt forțe mistice, existente independent de mintea omenească. Răul înseamnă provocarea intenționată (de către o entitate care dispune de autocontrol) a unei suferințe unei alte minți (care dispune de capacitatea de simți). Binele înseamnă să previi, intenționat, suferința altei minți.
Cu cât contrastul este mai mare, cum ar fi de exemplu o entitate cu autocontrol (un adult) și un copil (entitate vulnerabilă), cu atât răul (și reacția emoțională, dezaprobarea) mai mare. La fel, cât cât contrastul este mai mare între cele două entități (de exemplu, un adult care salvează de la suferință o entitate vulnerabilă, cum este un copil), cu atât binele pare mai semnificativ.
Inspirat de cartea Mind Club de Daniel Wegner și Kurt Gray
