Cinema que nos ajuda a pensar sobre o poder e a consciência das máquinas

O engenheiro Blake Lemoine causou frisson ao afirmar para o jornal The Washington Post que o novo sistema Language Model for Dialogue Applications (LaMDA), do Google tinha desenvolvido consciência.

Por um lado, uma extensa linha de contestação se abriu por parte dos entendedores de tecnologia. Por outro, a afirmação de Lemoine, que lhe custou o emprego, deu asas à imaginação trazendo a lembrança de obras que já exploraram o assunto.

Li artigos que, sob o impacto da afirmação, recomendam filmes sobre Inteligência Artificial, como Ex_Machina, de Alex Garland (2014), Ela, de Spike Jonze (2013), e o próprio Inteligência Artificial, de Steven Spielberg (2001). São filmes criados em um contexto em que a internet já estava estabelecida e que trazem à tona questões sobre ética, tecnologia e relações sociais.

Leia também: “Diva” lançou cineasta e cantora

Mas a profusão de obras, livros, filmes e séries, que exploram a complexa relação entre o homem e a tecnologia é extensa, antiga e assume diversas tonalidades. Desde Os Jetsons, um simpático desenho animado, criado em 1962, sobre uma família altamente computadorizada, até Metrópolis, filme que é um dos grandes expoentes do expressionismo alemão, criado em 1927 por de Fritz Lang, passando pelas obras de Isaac Asimov, como Fundação, de 1942 e até mesmo O Exterminador do Futuro, de James Cameron (1984).

E as questões que se abriram com a afirmação de Lemoine, embora também não sejam novas, ultrapassam a simples reflexão sobre o crescente uso das máquinas. Elas tratam de poder, autonomia e, sobretudo, da criação pela humanidade de entidades que possam no futuro nos oprimir e nos dominar.

São reflexões essencialmente filosóficas que me levaram a pensar em outros dois grandes filmes. O primeiro é Blade Runner, dirigido por Ridley Scott e lançado em 1982. No filme, androides criados em laboratórios para funções específicas são tão sofisticados e semelhantes ao ser humano natural que não lhes escapam o sofrimento pela consciência da finitude e da breve existência. Eles são atormentados pela solidão e pela ausência de memórias. Não são robôs, são seres criados a partir da bioengenharia, mas são exemplos da criação artificial e inconsequente de um tipo de consciência, reproduzindo, de certa forma, o mito de Frankenstein. E, mais do que disputar poder com os seres humanos, eles são marcados por uma profunda melancolia em um mundo que é em si opressor e sem sentido. Sentimento que fica registrado na fala do replicante Roy Batty ao caçador de androides, Deckard: “Eu vi coisas que vocês não imaginariam. Naves de ataque em chamas ao largo de Órion. Eu vi raios-c brilharem na escuridão próximos ao Portal de Tannhäuser. Todos esses momentos se perderão no tempo, como lágrimas na chuva. Hora de morrer”.

O outro filme, ainda mais antigo, aborda precisamente o tema da consciência da máquina levantado pelo ex-engenheiro do Google: 2001 Uma Odisseia no Espaço, dirigido por Stanley Kubrick e lançado em 1968. Muito mais que um filme de ficção cientifica, 2001 aborda questões existenciais sobre o tempo, o espaço e sobre a possibilidade de a máquina dominar o homem.

Vale dizer que a exploração espacial colocada no filme se relaciona a um debate que estava em alta em 1968. O filme foi feito no auge da corrida espacial, durante a Guerra Fria, quando EUA e URSS disputavam a tecnologia e conquista espacial. Mas o que nos interessa aqui é a tensão crescente que se estabelece entre o piloto da nave, David Bowman, e o supercomputador que a comanda, Hal 9000.

Em plena missão rumo à Júpiter, o computador, que se considera infalível e apresenta “grande entusiasmo” pela missão, começa a tomar decisões próprias à revelia das orientações da equipe. Ao entender que pode ser desligado, Hal toma medidas radicais e se coloca como antagonista dos seres humanos a bordo.

A cena em que o computador é finalmente desligado é, em minha opinião, uma das mais chocantes do cinema, já que a máquina clama por sua existência, se diz amedrontada e desvanece tal qual um corpo humano no momento em que a vida se vai.

Lançado há mais de 50 anos, 2001 Uma Odisseia no Espaço mostra que a fronteira entre o ser vivo e a tecnologia é um mistério que nos persegue desde que nossos ancestrais começaram a transformar a natureza. Mostra também que se trata de um assunto que, por sua própria essência, mantem-se em constante atualização, nos instigando e desafiando a cada momento.

Blake Lemoine pode ter se empolgado demais com a suposta consciência do Language Model for Dialogue Applications (LaMDA), ou ter simplesmente vazado segredos da Google. Seja como for, o poder da tecnologia e a falta de controle social sobre ela já fazem parte da nossa realidade.