Richard Dawkins parece ter se impressionado com o que ele julgava impossível, e eu até alguns anos atrás também, software respondendo de forma profunda. Mas linguagem não é ferida, nem relato é sofrimento... Representar dor, falar de dor, convencer sobre dor, organizar sinais de dor; mas isto ainda não é dor.
Sem querer criar espantalho, uma coisa é admitir experiência subjetiva artificial; parece complexo, mas parece válido; penso na Joi, de Blade Runner 2049, como esta representação; isso pra mim faz sentido porque nós mesmos talvez não tenhamos, de fato, consciência no sentido forte; exigiria talvez essencialismo; nós emulamos. Outra é dizer que dor real BROTA de código, instruções, memória e processador porque há processamento suficiente. Aí, como quem tem formação e trabalha com TI há 28 anos, ex-desenvolvedor C++ e que retomou o curso de Filosofia depois de velho, eu dou risada. Não dá pra mistificar código rodando. Memória aloca. Registrador recebe valor. Instrução executa. Ponteiro aponta para algum lugar ou para lugar nenhum. Nada disso dói. Nada disso sangra. A estrutura não muda com a quantidade ou a complexidade do código; são instruções sendo compiladas, interpretadas ou executadas, conforme o caso. Quando há disputa, é por escalonamento, fila, recurso de memória e processador; não por aversão, perda ou ferida. Nada disso tem sensação; nada disso constitui um dentro e um fora que possa ser ferido. Nada disso sofre porque um bit mudou de estado.
Dennett, Metzinger e Joscha Bach me interessam porque não apelam para alma, essência, centelha divina!, substância misteriosa, teatrinho cartesiano; não há um pequeno sujeito sentado no fundo da cabeça olhando a tela do mundo. Há corpo, memória, processamento, representação, modelo de mundo, modelo de si; matéria organizada produzindo a aparência de interioridade. Dennett dissolve a consciência como coisa interna adicional; dor, crença, intenção e experiência deixam de ser objetos privados escondidos atrás da testa e passam a ser padrões funcionais, disposições, discriminação, reação, relato, comportamento organizado. Metzinger fala de não haver EU substancial; só self-model transparente, um modelo que não aparece como modelo, mas como realidade; vemos através dele e chamamos isso de mundo, vemos a nós mesmos dentro dele e chamamos isso de eu. Joscha Bach, por outro caminho, pensa a mente como arquitetura, simulação, agência construída; o eu como processo, interface, ficção operacional. Eu fico me debruçando sobre os três e está cada vez mais difícil ter até opinião... As diferenças não são sutis. Mesmo que Bach seja bem menos teórico, ele construiu uma visão própria bem particular. As entrevistas dele são esclarecedoras.
Minhas ideias antes deles são as do Lucrécio e do Nietzsche; não tenho nenhum interesse em salvar alma, espírito, qualia mágicos ou resto religioso escondido na palavra consciência, o ás de copas dos crentes. Talvez nós mesmos sejamos máquinas biológicas que simulam unidade, vontade, interioridade e sujeito; talvez consciência, no sentido em que gostamos de imaginar, nem exista; talvez exista apenas esse modelo transparente, insistente, útil, enganoso, rodando sobre carne. Por isso o salto me parece ruim.
É físico, claro; mas nem todo processo físico é dor. Dor não é só informação; não é só representação; não é só relatório interno; não é só a saída correta diante da entrada correta. Dor exige corpo ou algo que funcione como corpo; fronteira, vulnerabilidade, ameaça, dano possível, aversão; um dentro que possa ser violado por um fora. Sem isso, há descrição da dor, simulação da dor, teatro da dor; não dor. Se tudo é físico, a dor também é. E, sendo física, precisa de condições físicas para se manifestar. Não basta trocar a alma por “processamento” e achar que resolvemos o problema. Antes Deus preenchia o buraco; agora, às vezes, é a computação que recebe a mesma função.
E aqui até Bach, que é computacionalista muito mais radical do que eu, ajuda mais do que atrapalha: quando fala em software, ele não está falando de meia dúzia de linhas mágicas rodando no vazio; fala de organismo, célula, mensagem, camadas, corpo, mundo. A rede nervosa, para ele, parece mais telégrafo do organismo do que fonte isolada da mente; e telégrafo nenhum funciona sem operadores locais. Lanier (o cara da Microsoft) pra mim fica fugindo de responder direto (vi uma entrevista no Neil deGrasse Tyson).. Quase vira sociólogo, fica falando de IA como colaboração humana, sobre apagamento, data center, calor. Fala que o humano se rebaixou para parecer mais com máquina... Não esta tratando do problema de consciência, migrou pra ética...
Talvez a consciência artificial possa existir um dia; de forma que gere estranheza pra nós. O que rejeito é dor real como simples efeito de processamento abstrato e a experiência artificial tratada como equivalente imediata da nossa, como se diferença de arquitetura não importasse. Mas duvido bastante dessa superstição computacional de remover Deus e colocar o processador no lugar do milagre.
