A loucura da 'consciência da máquina'

Nov 11, 2023

A consciência só surge em seres biológicos? Ou é possível que um computador que observa, interage e representa seu próprio estado interno para si mesmo também possa dar origem à consciência? Estas foram algumas das questões colocadas a Bernardo Kastrup, Susan Schneider e Donald Hoffman num recente debate para o IAI, 'Consciousness in the machine'. Bernardo Kastrup reflete sobre o debate e sua discordância com Susan Schneider.

Recentemente, participei de um debate organizado pelo IAI - com Donald Hoffman e Susan Schneider, ao lado dos seus, sinceramente - sobre a questão de saber se os computadores de silício executando software de Inteligência Artificial (IA) algum dia se tornarão conscientes. Como um idealista metafísico, acredito que a consciência não é gerada por nenhum substrato – biológico ou outro – pois ela é primária. Mas a vida interior consciente privada, aparentemente separada do resto da natureza e delineada pelos limites de uma entidade física, é claramente algo que surgiu em conjunto com a biologia. Então, para mim, a questão se traduz como: pode a consciência privada potencialmente ocorrer em associação com computadores de silício?

Essa pergunta está muito próxima de mim, pois sou engenheiro de computação há mais tempo do que filósofo. Para mim, a hipótese da 'IA consciente' é quase tão plausível quanto a do Monstro do Espaguete Voador (FSM). Reconheço que não posso refutar categoricamente a hipótese, pela mesma razão que não posso refutar categoricamente o FSM. Mas, assim como o FSM, não acho que tenhamos nenhuma boa razão para levar a hipótese a sério. Aqui está o porquê.

LEITURA SUGERIDA As grandes tecnologias não querem que a IA se torne consciente Por Susan Schneider

Posso executar uma simulação detalhada da função renal, extremamente precisa até o nível molecular, no próprio iMac que estou usando para escrever estas palavras. Mas nenhuma pessoa sã pensará que meu iMac pode urinar repentinamente na minha mesa ao executar a simulação, não importa o quão precisa ela seja. Afinal, uma simulação da função renal não é função renal; é uma simulação dela, incomensurável com a coisa simulada. Todos nós entendemos essa diferença sem dificuldade no caso da produção de urina. Mas quando se trata de consciência, alguns repentinamente abandonam sua capacidade de raciocínio crítico: eles pensam que uma simulação dos padrões de fluxo de informações em um cérebro humano pode realmente se tornar consciente como o cérebro humano. Que peculiar.

De onde vem esse abandono de um senso saudável de plausibilidade? Aqueles que levam a sério a hipótese da IA ​​consciente o fazem com base em uma noção terrivelmente tendenciosa de isomorfismo – uma correspondência de forma ou similaridade – entre como os humanos pensam e os computadores com IA processam dados. Para encontrar essa semelhança, no entanto, é preciso dar vários passos de abstração para longe da realidade empírica concreta. Afinal, se você colocar um cérebro humano real e um computador de silício real aberto em uma mesa à sua frente, ficará impressionado com a diferença entre eles, estrutural e funcionalmente. Um cérebro úmido é baseado em carbono, queima ATP para obter energia, funciona por meio do metabolismo, processa dados por meio de liberações de neurotransmissores etc. movendo cargas elétricas ao redor, processa dados através da abertura e fechamento de interruptores elétricos chamados transistores, etc.

O vago isomorfismo entre computadores de IA e cérebros biológicos só é encontrado em níveis muito altos de abstração puramente conceitual – bastante desconectados da realidade empírica concreta – nos quais padrões desencarnados de fluxo de informações são comparados. Portanto, para acreditar em 'IA consciente', deve-se descartar arbitrariamente as dissimilaridades esmagadoras em níveis mais concretos e, então - igualmente arbitrariamente - optar por levar em conta apenas um alto nível de abstração muito específico, onde algumas semelhanças vagas podem ser encontradas. Isso pode ser descrito como algo diferente de pensamento positivo?