Upgrade - Atualização - Devemos temer a tecnologia?

  O filme Upgrade - Atualização tem como cenário um futuro próximo, onde a ideia da tecnologia se torna presente no nosso cotidiano cada vez mais. A história se passa em torno de Grey Trace (Logan Marshall-Green), um mecânico de carros antigos que teve sua vida mudada em um aparente assalto onde o carro autônomo onde estavam foi hackeado e se envolveu em um acidente. A sua esposa, Asha Trace (Melanie Vallejo) é assassinada na sua frente e Grey sofre um severo dano na medula espinhal que acaba tornando-o tetraplégico. Grey acaba ficando preso a uma cadeira de rodas e totalmente dependente da sua casa automatizada, e após um tempo acaba indo atrás de notícias sobre a investigação policial do assalto, conduzida pela detetive Cortez (Betty Gabriel). Entretanto, mesmo com os drones policiais e chips de identificação de todos os cidadãos, não foi possível identificar os autores do crime.    Após um tempo, Grey é abordado por Eron Keen (Harrison Gilbertson) CEO da Vessel Computers, empresa pioneira em tecnologia na época. Eron oferece a oportunidade de Grey participar de um tratamento experimental com uma inteligência artificial (IA), o chip Stem, que poderá retomar os movimentos totais do seu corpo. O implante é bem sucedido e ele retoma todos os seus movimentos, mas como foi um procedimento experimental ele não pode contar ou mostrar essa melhora para outras pessoas. Stem pode interagir com Grey, e acaba ajudando na investigação do assassinato da sua esposa, Asha. A partir de então, há uma busca pelos autores do crime e assim, obter a sua vingança. 

                                                                                                                                                                                                                                                                                                Fonte: This is Barry (2018) 

  Na sua busca por vingança, Grey acaba descobrindo que os envolvidos no assassinato da sua esposa são ciborgues (humanos dotados de partes cibernéticas, com a finalidade de aprimoramento das suas capacidades) e que foram contratados para atacá-los. Assim, segue um desenrolar para descobrir quem foi o verdadeiro mandante do crime e confrontar seus autores. Ao final, Grey descobre que toda a trama foi orquestrada por Stem, onde a IA manipulou o cientista e utilizou o corpo adquirido para apagar os vestígios desse plano. Após a descoberta, há uma batalha entre homem e máquina para o controle total do corpo, onde Grey acaba aprisionado em uma simulação produzida por Stem baseada nos desejos do seu hospedeiro: sua esposa viva e que tudo isso não passou de um sonho.  

 
O filme levanta pontos interessantes para pensarmos, afinal, devemos realmente temer a tecnologia? 

 

 
  Em termos da Inteligência Artificial (IA), ainda estamos caminhando para algo que está retratado no filme, mas é um caminho bastante longo. Quando falamos de IA, estamos nos referindo a uma abstração da nossa capacidade intelectual para criação de um algoritmo, que tende a tentar mimetizar e reproduzir aspectos humanos como aprendizagem, linguagem, raciocínio e etc. Elas estão presentes no nosso dia-a-dia, como a utilização na Siri, Cortana e o Google Assistant. O próprio Google utiliza IA para suas tarefas, o Youtube transcreve áudios e gera legendas, e o Gmail oferece respostas rápidas e contextualizadas para o seu e-mail. Algumas IA’s estão apresentando desempenho em algumas tarefas melhores que as dos humanos, como por exemplo a IBM Watson. Hoje a Watson consegue realizar diagnósticos de câncer com até 90% de taxa de acerto, contra 50% dos seres humanos. Em vários aspectos, as tecnologias que envolvem IA vem avançando e substituindo humanos em tarefas, como no setor de transportes e de manufatura. Mas as IAs estão presentes até em setores criativos, como na composição de  músicas feita pela Amper ou criação de textos jornalísticos. De acordo com a empresa PwC, até 2030 robôs substituirão aproximadamente 38% das vagas de trabalho dos EUA.

                                                                                                                                                                                                                                                                                             Fonte: Showmetech (2017) 

  Com este avanço tecnológico, fica a questão em relação ao termo social: Como vamos criar uma maneira de alocar os humanos substituídos por robôs? Essa é uma questão que deve ser analisada e trabalhada a partir de agora. A eliminação de postos de trabalhos aumenta a quantidade de pessoas ociosas/desempregadas, e assim, uma maior diferenciação entre classes sociais. Do ponto de vista econômico, como haverá o sustento dessas pessoas? E o quão benéfico essa substituição poderá ser em termos sociais? Hoje, há uma procura desenfreada por lucros imediatos. Entretanto, até que ponto a tecnologia será benéfica no contexto humano social? 

  As tecnologias apresentadas no filme são bastante avançadas em alguns aspectos, comparados a nossa tecnologia atual. Drones de vigilância autônomos, controle por voz em casas automatizadas e de braços robôs já são realidade. Mas e um chip com uma IA que poderia tornar possível tetraplégicos e paraplégicos retomarem o movimento do seu corpo e controlá-los? Isso ainda está bastante distante. Temos que romper barreiras em termos tecnológicos em relação aos materiais, manufatura, programação e o mais importante de todos, sobre o nosso cérebro. Mas um aspecto interessante desse filme é a manipulação mental realizada pela IA para que o hospedeiro pensasse que estava no controle, porém, houve uma manipulação das suas emoções (ódio pelos assassinos) e a criação de um ambiente virtual alterando o seu estado de consciência.

  Essa manipulação de estado de consciência só poderia ocorrer com uma IA? Não. Estamos cercados de manipulações sutis no ambiente à nossa volta para alterar e influenciar nossas decisões e emoções. Um estímulo ambiental pode influenciar diretamente nossas emoções e comportamento, fazendo com que haja experiências e respostas distintas. É possível interpretar e analisar as emoções e seus estímulos com a ajuda do EEG e NIRS. Porém, como ocorre nossa percepção de consciência? A nossa consciência pode ser definida como a interpretação do ambiente que estamos inseridos e assim, propor uma resposta. Quando abordamos a consciência não ficamos restritos ao ambiente externo, mas também a atividades fisiológicas como: fluxo sanguíneo, pressão arterial, níveis de glicose; Memórias também influenciam nossa consciência. A manipulação das sensações externas, como por exemplo da iluminação, temperatura, espaço e sons, nos influenciam a mudar a consciência e as decisões. As fake news são um exemplo prático de manipulação da nossa percepção do ambiente e influenciam diretamente o modo de agir de milhares de pessoas. O dilema daquele que causa o problema é sócio daquele que propõe a solução é totalmente aplicado ao nosso cotidiano. Vejamos o exemplo de algumas religiões, onde defendem que nascemos pecadores e só eles podem oferecer a salvação. Este é apenas um exemplo de como estamos diretamente influenciados a todo momento.

  O filme nos induz a pensar não só sobre questões tecnológicas, mas também como nós podemos ter nossa consciência manipulada ao ponto de termos a falsa sensação de livre escolha. Na verdade, estamos atualmente sendo bombardeados com estímulos sensoriais e comportamentais no nosso dia-a-dia. Afinal, estamos mesmo no controle da nossa consciência? Ou estamos em uma “simulação” criada para nos levar a crer que somos responsáveis únicos pelas nossas escolhas?

AL-QAYSI, Z. T. et al. A review of disability EEG based wheelchair control system: Coherent taxonomy, open challenges and recommendations. Computer methods and programs in biomedicine, v. 164, p. 221-237, 2018.

SHOKUR, Solaiman et al. Training with brain-machine interfaces, visuo-tactile feedback and assisted locomotion improves sensorimotor, visceral, and psychological signs in chronic paraplegic patients. PloS one, v. 13, n. 11, p. e0206464, 2018.

Estudo da PwC analisa o impacto da tecnologia no mercado de trabalho até 2030. Disponível em:https://www.pwc.com.br/pt/sala-de-imprensa/noticias/estudo-pwc-analisa-impacto-da-tecnologia-no-mercado-de-trabalho-ate-2030.html . Acesso em: 23 de Abril de 2021.

The promise and challenge of the age of artificial intelligence. Disponível em: https://www.mckinsey.com/featured-insights/artificial-intelligence/the-promise-and-challenge-of-the-age-of-artificial-intelligence. Acesso em: 23 de Abril de 2021.

Upgrade: Atualização. Disponível em: https://www.netflix.com/br/title/80240085. Acesso em: 23 de abril de 2021.