Caminhos para lidar com a inteligência artificial

Imagem criada por mim, com auxílio dos dispositivos tecnológicos - copyleft

Estivesse vivo, Walter Benjamin teria escrito um livro chamado “A linguagem na era de sua reprodutibilidade técnica”.

Já é um clichê dizer que a inteligência artificial chegou de roldão, e que vai mudar inequivocamente a forma como pensamos, trabalhamos e nos divertimos. Isto posto, a pergunta que urge fazermos, e que devemos tentar responder é: o que fazer?

Não é a primeira vez que o ser humano é superado, e olhar paras as experiências pregressas talvez nos ajude a pensar um pouco melhor na questão.

Na Revolução Industrial, vieram as máquinas, que conseguiam fazer muito mais do que um ser humano em termos de movimento, pensando em um processo produtivo. De certa forma, as máquinas chegam para substituir o braço humano, e a escala humana de produção foi superada. Uma coisa que era feita em dias, passou a ser feita em minutos. Uma máquina de fiar passou a coser uma camisa rapidamente, de forma que para produzir uma roupa, hoje, o parâmetro não é o quanto de tempo uma pessoa leva tecendo ou bordando, mas em quanto tempo uma máquina consegue fazê-lo.

É importante colocar aqui que as máquinas não substituíram de todo o trabalho do braço humano, que continuaram a ocupar os galpões das fábricas com sua força de trabalho. Na engenharia de produção, é comum que se fale sobre “o sistema homem-máquina”, que é a operação conjunta desses dois entes, em um mesmo processo ou atividade, que atuam de forma integrada no processo produtivo.

Como diria Marx, o trabalhador ficou alienado de seu processo produtivo, mas não parou de trabalhar; ao menos não na Revolução Industrial. Com o tempo, o desemprego estrutural começou a afetar a população, que foi tendo seu emprego substituído pela máquinas e pelas tecnologias, em um processo que segue em curso até hoje nos processos de desmaterialização da economia e do avanço da indústria 4.0.

Diferente da Revolução Industrial, que propôs a superação do braço humano, nas artes, o que vimos foi a busca por uma superação do olho e, de certa maneira, das mãos.

Durante muito tempo, a pintura foi uma forma de apreensão da realidade. O artista olhava para algo (uma pessoa, uma paisagem) e o reproduzia na tela em branco. Seu valor era tão maior quanto mais fidedignamente ele conseguia reproduzir, na tela, a imagem observada.

Quando chega a fotografia (e também o cinema, que reproduz, na tela, os movimentos que a vida é capaz de gerar), as artes plásticas não morrem. E isso acontece por vários motivos.

O primeiro é que a fotografia da pintura não é uma pintura: ela segue sendo uma fotografia. E, este é o ponto que eu gostaria de chegar: a arte segue por outros caminhos.

Se até a era de sua reprodutibilidade técnica (eu não li o livro do Benjamin, ok? talvez eu devesse :P), o papel da pintura era muitas vezes o de representar a realidade, como se vê na grande quantidade de retratos e de paisagens pré-fotografia, ou, o de representar o belo, como nas pinturas religiosas do Renascimento, que se preocupavam com a forma humana, com as proporções adequadas na construção das cenas, com a simetria etc, etc, rapidamente as artes visuais encontram um outro código para si.

Agora que a realidade pode ser facilmente capturada com as lentes fotográficas, e, se nessas fotografias, somos capazes também de buscar e de construir o belo, são justamente essa beleza e essa realidade que entram em questão. Essa foi uma das razões pelas quais o século XX viu movimentos fortes de ruptura com a realidade (abstracionismo, surrealismo) e com a noção de beleza (minimalismo, pop art e, de certa forma, toda a arte contemporânea pós-Duchamps).

Essas foram as saídas que encontramos para continuarmos com a existência da arte. Falo aqui das artes visuais, mas a arte toda apresentou esta ruptura. Deixou de ter valor a reprodução fidedigna da realidade: o código que passa a vigorar é outro.

Na produção industrial, o que vemos é um processo de natureza semelhante, mas com suas especificidades próprias. Se a industrialização tornou tudo fácil de obter e produzir, o que fizemos foi mudar nossos parâmetros para querer e desejar outras coisas. Por isso, nunca esteve tão em alta entre nós o handcrafted, o artesanal, o feito à mão.

Somos capazes de produzir fermentos que fazem o pão crescer em meia hora, mas estamos dispostos a pagar mais pelo pão de fermentação lenta, que fica 48h ou mais curtindo suas leveduras. Temos uma miríade de insumos químicos agrícolas para produzir alimentos de forma rápida e com frutos mais “bonitos”, mas estamos dispostos a pagar mais caro pela alimentação orgânica, etc, etc.

Esses dois exemplos estão aí para mostrar que a humanidade, em vez de competir com a tecnologia, é capaz de promover uma espécie de retorno à escala humana caso queira, estando disposta a pagar por isso.

Trazendo essa discussão para o caso da Inteligência artificial, que possui uma série de interfaces mas que se materializa mais efetivamente através do chatGPT, o que penso é que encontraremos um caminho.

Esse caminho não passará pela competição com a máquina, nos critérios de eficácia e precisão que ela apresenta, porque certamente perderemos.

Ao contrário, acho que o nosso modo de lidar com a inteligência artificial passa pela valorização do desvio.

Ainda que o Chat GPT seja capaz de fazer corpo mole e de mentir deliberadamente caso não saiba responder a algum questionamento, penso que é mesmo na dimensão mais humana do desvio que nos sobrepujaremos à inteligência artificial, com destaque para duas de suas faces: o erro e o fracasso.

O erro é a marca humana na trama da técnica. Só o ser humano é capaz de produzir o erro (tomado aqui como aquele que ocorre de maneira não-intencional). Na numismática, cada moeda corrente vale exatamente o seu preço de face. As que possuem erros de cunhagem, contudo, alcançam valores muito mais altos.

O futuro humano será um grande catálogo de produtos com pequenos defeitos: a avaria como garantidora da mão e do pensamento humano, as imperfeições textuais, a pontuação, desordenada, com, pequenos erros, letras em dupplicidade, e o que mais o ser humano for capaz de não atingir.

Nesse sentido, o acúmulo de erros se traduz como fracasso, e este vem a ser outra característica humana, demasiado humana.

Se a máquina não fracassará, é o sucesso do fracasso que será responsável por nos reconectar à nossa própria natureza, ao nosso próprio tamanho, à dimensão humana que já se perdeu há mais de um século com os arranha-céus e que agora se afunda ainda mais com a possibilidade de que as máquinas falem como nós.

O fracasso como paradigma só faz sentido porque as máquinas não perdem e não fracassam (e, convenhamos, também não obtêm sucesso, uma vez que sucesso e fracasso são medidas subjetivas de adequação da realidade em função das expectativas que as máquinas, apesar de inteligentes, não são capazes de ter).

Essa dimensão do fracasso retoma um pouco a discussão que tivemos acima sobre a arte porque, da mesma forma que os parâmetros de pensamento e avaliação sobre as artes mudaram em função de sua reprodutibilidade técnica, também será necessário que mudemos a perspectiva sobre as funções positivas ou negativas do sucesso e do fracasso para colocar o ser humano novamente na vanguarda de si.

Dessa forma, o que faço aqui nesse texto é recuperar a noção de experiência do sujeito que parece ter se perdido na vida prática, mas sobre a qual há bastante tempo já se fala. Retomo, portanto, o belo ensaio de Jorge Larrosa Bondía, intitulado “Notas sobre a experiência e o saber da experiência”, no qual ele nos diz: “o que quero apontar aqui é que uma sociedade constituída sob o signo da informação é uma sociedade na qual a experiência é impossível.”. No mesmo texto, Bondía também define o conceito de experiência: “A experiência é o que nos passa, o que nos acontece, o que nos toca. Não o que se passa, não o que acontece, ou o que toca. A cada dia se passam muitas coisas, porém, ao mesmo tempo, quase nada nos acontece. Dir-se-ia que tudo o que se passa está organizado para que nada nos aconteça. Walter Benjamin, em um texto célebre, já observava a pobreza de experiências que caracteriza o nosso mundo. Nunca se passaram tantas coisas, mas a experiência é cada vez mais rara.”

Curioso como o ensaio de Larrosa Bondía evoca um texto de Benjamin, que é o autor com o qual começamos esse nosso texto aqui. Quando digo que não li “A obra de arte na era de sua reprodutibilidade técnica”, penso que deveria tê-lo feito.

A um só tempo a experiência de não ter querido / podido / conseguido fazer essa leitura traz a mim algum grau de fracasso, e o fracasso é a argamassa com a qual construiremos o futuro. Isso pode ter me levado a erros conceituais também nessa construção textual, mas o erro é o que nos humaniza.

Por fim, o ChatGPT acirra em muita medida essa perda de experiência no mundo contemporâneo (que é o que nos faz, a um só tempo, valorizar o artesanal e reinventar a arte) ao ponto de nos questionarmos se se trata mesmo de uma diferença de grau ou de natureza em relação ao que já acontecia antes.

Entretanto, ainda que ele possa escrever por nós, ele jamais será capaz de ler por nós. O que devemos fazer, então, talvez seja isso: ler.

Vamos começar por Walter Benjamin, com “A obra de arte na era de sua reprodutibilidade técnica”. Como devemos fazer isso? Ora, da maneira mais humana possível: de forma errática, desprogramada, intermitente, interrompida e inconclusiva.

Com sorte, fracassaremos.

Tár – Uma história sobre o século XX e o apocalipse do Ocidente

Antes de começarmos, é importante deixar claro: esse texto contém spoilers. Portanto, é só para quem já viu o filme.

Tár é uma obra audiovisual belíssima: um filme longo, estrelado de forma magistral pela experiente Cate Blanchett, e que por quase três horas prende o espectador à poltrona sem lançar mão de pirotecnias e efeitos especiais. O enredo é trivial, e aqueles que escrevem sinopses podem ter dificuldades em fazer crer que o filme seja interessante: trata-se da história de vida e de uma aparente crise de meia-idade de uma maestrina que rege uma das orquestras sinfônicas mais importantes da Europa. Até aí, nada demais. Mas Tár é uma obra aberta, e, como tudo aquilo que é bem produzido, possibilita chaves interpretativas que vão muito além do que parece estar sendo contado.

Dessa maneira, assim que saí do cinema, a leitura imediata que fiz (e que foi se apurando em conversas com amigos e amores num barzinho logo depois), é a de que Tár é um filme geopolítico, e seu principal mote é o declínio e o apocalipse do Ocidente, com foco no século XX.

O primeiro elemento que nos traz a essa leitura é a profusão de nacionalidades e de espaços que o filme abrange: China, floresta amazônica, Nova Iorque e Berlim são habitados e frequentados por personagens alemães, norte-americanos, palestinos e russos. Isto não só não é um detalhe, como é um dos principais elementos constitutivos do filme. Isto é especialmente importante se pensarmos na forma com a qual essas pessoas e esses lugares se relacionam.

A trama, portanto, faz com que cada um dos personagens (e também cada um dos lugares mencionados) evoque sua nacionalidade e atue de modo a performar as lutas geopolíticas que o século XX engendrou. O que temos então é uma espécie de teatro do mundo, onde cada um representa um papel cujo significado vai muito além da própria vida.

Lydia Tár é uma maestrina norte-americana e representa, no filme, os EUA. Ela tem uma origem da qual inicialmente pouco se sabe, e da qual ela aparenta ter vergonha. Posteriormente, ao final do filme, vemos que ela vem de uma família pobre, sem posses, tendo inclusive trocado de nome. Os EUA, assim como Lydia, encobertam o seu passado colonial.

A orquestra é o mundo. Formada por membros de diferentes países, cada um dos músicos toca um instrumento. O objetivo é criar uma sinfonia: ou seja, todos os instrumentos devem ser ouvidos sem que um tome o lugar do outro, e a obra final deve ser coesa e harmônica. A esta orquestra/mundo coube a regência de Tár/EUA. Cabe notar que apesar dos inúmeros ensaios, o público não assiste à orquestra quando o filme acaba. A leitura é a de que a regência dos EUA tentou e tentou, durante todo o século XX, mas não foi capaz de, a partir de sua batuta, fazer acontecer o grande “concerto das nações”.

Olga representa a Rússia. Ela chega à orquestra de maneira inesperada e, de maneira muito rápida, consegue arregimentar posições em meio aos músicos. Não mais que de repente, ela, em uma aliança com Tár (que remete à aliança Rússia-EUA na Segunda Guerra Mundial), consegue se estabelecer como a solista do espetáculo, e se torna a segunda pessoa mais poderosa da orquestra (como a Rússia, no contexto do século XX). Logo após essa divisão de poder entre Tár e Olga, a relação se deteriora também de maneira rápida, e essa aliança deixa de existir. Elas então brigam, mas não como qualquer briga: elas deixam de se falar. Em dado momento, as duas estão no mesmo carro, e sequer se encaram, em uma cena que nos remete de maneira muito imediata à Guerra Fria.

Berlim é o lugar onde tudo acontece. Espécie de epicentro do mundo ocidental no século XX, é lá que o “grande concerto das nações” se desenrola. A cidade de Berlim foi murada e dividida, após ter sido palco de duas grandes guerras na Europa no século XX. É lá que se dão os conflitos, as alianças, é ali que o tal “mundo ocidental” está o tempo inteiro em jogo. Não parece ser uma coincidência que Berlim tenha sido escolhida para ser o cenário do filme. É ali que se dá a aliança e o conflito entre Tár e Olga, e é lá que a orquestra/mundo deve mostrar o seu funcionamento coeso e harmônico, do qual só vimos ensaios.

Quem apresenta também esse “desconcerto do mundo” é a filha adotiva de Tár e Sharon, Petra, que é palestina. Ela encarna essa tensão entre Israel e Palestina, assumindo ora uma posição, ora outra. Assumindo o papel israelense, podemos observar que Petra é a única pessoa por quem Tár tem um amor incondicional. Inclusive Tár se desloca até a escola para proteger a menina e ameaçar quem bulir com ela. Essa relação de proteção incondicional é similar à relação que os EUA tem ao amar e proteger o estado de Israel. Por outro lado, a menina sofre esse bullying porque de fato é diferente de suas colegas de escola, que são brancas. Aqui ela assume realmente esse papel palestino, de alguém que não tem paz no seu próprio entorno. Por fim, a briga entre Sharon e Tár (quando Tár é impedida de ver a filha) está ali para nos mostrar que se trata mesmo de um território dividido e em conflito, e de que a tensão Israel/Palestina está longe de acabar.

Por falar em conflito, cabe recuperar a história do conservatório dirigido pela própria Lydia Tár. Ali, naquela cena hipercomplexa em que a maestrina dialoga com Max, um rapaz negro e LGBT, estão representadas as relações dos EUA com o seu próprio povo. Essa cena nos indica que Tár/EUA, ainda que superpoderosos no mundo externo, têm muita dificuldade de lidar com as próprias bases. Max rejeita e confronta o poder da maestrina, lançando mão de uma argumentação decolonial e se recusando a tocar uma peça de um compositor branco. O conflito dentro do conservatório é então isto: um país que não sabe lidar com o momento atual de seu povo, que possui demandas outras, diferentes daquelas nas quais o país foi forjado. Há então uma parte desse povo que se levanta e desafia o poder branco de Tár/EUA.

Portanto, o que temos é que Tár não consegue dar conta de sua orquestra nem de seu conservatório. Daí advém uma crise. Esta é a crise norte-americana, que não foi capaz de, no século XX, resolver suas questões internas nem de reger o mundo, o que acaba por colocar em xeque toda a concepção de mundo ocidental. Esta crise é potencializada pela morte de Krista, um crime do qual Tár é acusada e da qual efetivamente tem culpa, embora insista em negar sua participação. Os EUA participaram de inúmeras guerras ao longo do século XX (Vietnã, Afeganistão, Golfo). O tempo de hoje não permite mais escamotear certas coisas, de maneira que quem tem sangue nas mãos, mais dia menos dia, será julgado.

Nesse sentido, é curioso perceber a surdez e o zumbido de Tár. Inicialmente, não é algo que a assuste, mas essa sensação passa a se tornar mais frequente no curso do filme, inclusive atrapalhando os ensaios. Na verdade, simbolicamente, Tár está surda ao mundo: não consegue entender que Olga se desenvolveu como musicista com base no Youtube, não consegue ouvir as demandas de Max no conservatório, não dá ouvidos mesmo ao silêncio gritante de sua companheira. Perdida em sua fantasia de poder, Tár (assim como os EUA) não consegue ouvir que o mundo à sua volta está em constante transformação, e que demanda coisas que talvez ela já não seja capaz de prover.

Essa fantasia de poder vai sendo paulatinamente desconstruída até que Tár chega à China. Ali, a cena da maestrina no barco é emblemática: enquanto ela pergunta em um tom de chiste e de maneira bem colonizadora sobre o perigo dos jacarés dentro do rio no qual eles singram, o barqueiro responde, sério e com altivez, algo como: “Aqui há apenas os jacarés que Marlon Brando não matou.” Nesta cena, a mensagem passada para Tár é: “aqui você não é especial; nem você, nem o seu povo, e nem a sua cultura.”

Este desprestígio se aprofunda nas cenas finais. O que vemos é mais que o declínio, é mesmo o apocalipse dos EUA e da cultura ocidental. O século XXI emerge, e a China assume o protagonismo do mundo. Há um interesse ali por algo da cultura ocidental, mas este interesse está associado à reapropriação daqueles símbolos em outros termos.

As cenas finais, em que o palco do teatro do mundo é a China, e não mais Berlim, tem inclusive outra temporalidade. Todo o filme se passa num ritmo mais lento, mas as cenas finais são ultra rápidas, o que indica que o eixo do mundo muda não só em sua geografia, mas também em sua velocidade: é num outro ritmo que as coisas acontecem. Para alguém que inicia o filme dizendo que “controla o tempo”, certamente essa mudança de ritmo tem um significado e tanto.

Tár evidentemente não está preparada, de forma que o modo como a cultura ocidental passa a ser retratada naquele contexto é entendida por ela como um grande deboche. É então que, ali, na última cena, em que o público vestido de cosplay aplaude o espetáculo, temos verdadeiramente um gran finale.

O grande concerto das nações, regidos pelos EUA, jamais aconteceu. São as pessoas que passam a protagonizar a cena, a partir de suas próprias subjetividades, para performarem através do cosplay o que de fato elas querem ser. A utopia do poder é desconstruída, e o foco no público, em vez de nos artistas, mostra que a cultura é vista não mais como uma herança do que a humanidade foi capaz de produzir, mas apenas como mais uma ferramenta a ser utilizada na construção e na performance de si.

Este final, apocalíptico mas também apoteótico, nos pega a todos de surpresa. Ao ler essa resenha e nos depararmos com todos os aspectos geopolíticos envolvidos na trama, somos levados a pensar: “Que papel os EUA, e o Ocidente de maneira geral, estarão designados a desempenhar à medida que o século XXI avança?” Mas cabe aqui retomar a impressão imediata que, antes de qualquer análise, nos toma ao sair da sala de cinema, neste final que se nos apresenta como uma catástrofe: “De que serviu aquilo tudo? Toda essa história para, no final, isto?”

Esta impressão inicial, agora matizada pela leitura geopolítica, retorna ainda com mais força. Este retorno vem com uma sutil, mas necessária, variação: “De que serviu aquilo tudo? Toda essa História para, no final, isto?”