Aquele em que desvendamos os riscos ocultos das Inteligências Artificiais

Talitta: Então, olá para você que está ouvindo o Pluricast, tudo bem? Meu nome é Thalita, eu sou coordenadora desse projeto de extensão e hoje estamos aqui na continuação do tema sobre inteligência artificial. Mais uma vez, bem-vindo, Thiago! 

Tiago: Muito obrigado, muito obrigado pelo convite. Então, a gente retornou aqui para dar uma continuidade no tema que a gente falou um pouquinho na primeira. Confesso que eu achei que seria mais sintético, no sentido de resumir as informações, mas acabou se delongando, mas ótimo que a gente vai poder aprofundar um pouco mais sobre os riscos, né? Sobre os efeitos, os efeitos ocultos da utilização das inteligências artificiais generativas, né? 

Talitta: Então, se você não ouviu a parte 1 desse podcast, corre lá no site para, primeiro, você entender o que é uma inteligência artificial. A gente falou sobre alguns impactos, mas agora a gente vai focar na questão desses riscos ocultos. É isso, Tiago? 

Tiago: É isso mesmo. Essa é a forma como está sendo tratado aquilo que não é o conteúdo latente da inteligência artificial. A gente entende como o não oculto é aquele de efeito direto. Todos nós sabemos, inclusive os novos acadêmicos, as pessoas que estão se especializando em algum tipo de atividade, técnica, profissional e etc., que a inteligência artificial está ocupando postos de trabalho. Esses são os riscos diretos. Isso é o efeito direto que ela tem. E foi feito de tal modo que não foi previsto. As grandes empresas do setor da tecnologia implementaram elas. Não que não já utilizasse, a gente sabe que sim. Qualquer pessoa que pegou o início dos anos 2000 com serviços bancários, que tinha que ir lá diretamente no lugar, conversar com alguém para resolver o problema e ver que agora tudo é por telefone, por um chat, pelo caixa eletrônico, sabe que alguém perdeu o emprego nisso. Mas com as inteligências generativas… trabalhando com relações e comportamentos, que a gente trabalhou no episódio 1, parecidas com seres humanos, então nossos postos de trabalho estão sendo ocupados. Alguns desses grandes empresários, setores da tecnologia, já quase datam o fim de certas profissões que estão em risco, Educadores, profissionais da educação, artistas, músicos, mas também aqueles mais, digamos assim, reconhecidos socialmente, são médicos. As inteligências artificiais, ao saber e se aprofundar no uso de leitura de imagens, pode saber apontar com muito mais precisão um resultado de um exame de imagem do que provavelmente um médico. Isso porque o fluxo de dados, voltando novamente aquele conceito do modelo de linguagem, de um grande volume que ele consegue acessar, ele consegue apontar com mais precisão. Então, profissionais que antes tinham um determinado prestígio estão perdendo suas carreiras. Esse é o efeito direto. E o mais interessante para debater isso tudo é pensar o seguinte… Se a gente for ver os filmes que falavam de ficção científica dos anos 80, 90, dos anos 2000, as máquinas ocupavam os serviços mais braçais, aquele que oferecia risco para os seres humanos. Só que o que a gente vê agora é, na verdade, ele ocupando aqueles trabalhos que… não necessitava, entre aspas eu coloco aqui, de ser ocupado por uma máquina. E nós estamos indo para as atividades de maior risco. É um pouco do pensamento, de novo puxando para a história, da revolução industrial. A revolução industrial não se dá pelo uso de máquina no processo produtivo, mas ela se dá por uma lógica que é pautada no lucro. Não é que não haviam pessoas para produzir. Era porque o fluxo e o ritmo que a máquina empregava ditava o ritmo do lucro. E as pessoas e os corpos tiveram que se adequar a isso. E a inteligência artificial caminha na mesma direção. Nós temos que nos adequar aos seus efeitos. Ou seja, a gente está se tornando quase que o acessório da máquina e não o contrário, né? Exatamente. O serviço praticamente de limpeza dos servidores, de ver se tal coisa está conectada ou não. Eu estou falando, obviamente, aqui de uma maneira bem banal, mas é isso os cargos que nós estamos ocupando, né? Ou vamos ocupar talvez no futuro. E aí, de novo, como eu falei no primeiro episódio, se as empresas estão lucrando absurdamente com esse tipo de tecnologia… Qual é a nossa função dentro dessa nova sociedade? Redes sociais, nós já estamos consumindo muito mais conteúdo gerado por IA do que propriamente por pessoas. No trabalho, as inteligências ocupam nossas funções, logo depois os robôs. Então qual é o nosso lugar dentro dessa sociedade? E qual é a função do Estado para garantir o bem-estar social de todos? É isso que a gente deve debater e pensar de agora para frente o mais rápido possível, porque todos os dias tem uma nova tecnologia, uma nova IA, uma nova geração de imagem que está tirando o trabalho de alguém. 

Talitta: E aí a gente está falando desses riscos que são visíveis, né? Exato. Mas você me contou de um risco oculto que eu não tinha parado para pensar, que é a questão ambiental. Toda vez que a gente fala de internet, de Wi-Fi, enfim, parece que é algo que está no ar, que não tem uma materialidade, né? Então, as nossas fotos digitais, não parece que tenha materialidade, mas na verdade tem, né? A gente está falando, inclusive, de servidores que são localizados em… Lugares estratégicos mundialmente. Como é que isso tudo impacta nisso da questão ambiental? Porque essa associação entre IA e impacto ambiental, não sei se todo mundo tem isso muito claro. 

Tiago: Ótimo. Realmente, o debate sobre as questões ambientais e inteligência generativa está sendo, novamente, um dos mais debatidos mundialmente por oferecer um impacto justamente naquilo que a gente vem lutando sobre a mitigação dos efeitos climáticos. A internet, os computadores, todos eles precisam de uma base física para ele operar. Eles não acontecem, embora que seja na nuvem, é na nuvem, mas tem um lugar físico que isso é armazenado. E eles estão localizados em várias áreas, quase por todo o… O globo, América do Norte, aqui no Brasil tem servidores, na Ásia, no geral, em todos os lugares tem o que se chama de data center, que é onde faz o armazenamento desses dados. E eles levam como critério para estar localizado a questão da conectividade da rede, custo da energia, a regulamentação dos dados e a proximidade com o mercado. E no geral é isso, que é analisado para implementar um data center, mas… Eles usam a inteligência artificial generativa, consome um fluxo de dados muito grande, ele processa esses dados e ele precisa ser resfriado. E é na questão do resfriamento que nós temos o impacto ambiental. Fora que também esse prédio precisa existir, então ele já tem um efeito ali na sua configuração. Como eles usam água para fazer o refrigeramento, locais ou regiões que têm abundância começam a ser vistos como locais de potencialidade de colocar esses servidores. E aí virou uma corrida do ouro para as empresas verem um determinado país com a potencialidade de ter um data center. Essa tecnologia é utilizada em inúmeras esferas da vida e ela representa uma lucratividade muito grande para as empresas. Ter esses data centers nesta lógica de um lucro absurdo em detrimento de uma sociedade inteira faz com que alguns países… Ignorem questões ambientais muito relevantes para ocupar ou ser o local onde esses data centers vão ser ocupados. E aí, a questão hídrica, os impactos ambientais de reservar essa água, de descartar essa água, de utilizá-la de determinado modo, de que se é cobrado ou não, quanto o país vai receber por ter esse data center, porque os impactos são muitos. E o Brasil, desde março de 2024, ele começa a flertar muito com essas grandes empresas para trazer data centers para cá, para mostrar que é um território, uma área que pode abrigar esses servidores. E isso não é só o Brasil, vários outros lugares, o que a gente chama aqui, no primeiro episódio também chamou de sul global, tenta fazer um movimento muito grande, porque sabemos que essa tecnologia, ela vai ser implementada. E começa uma corrida para saber quem e onde vai estar esses data centers. É uma corrida estratégica. Mas qual é o problema disso? A questão ambiental. Ela sofre muito. E nós já sabemos dos efeitos também de uma coisa extremamente interessante de conceito para se trabalhar, que é o racismo ambiental. Nós sabemos que países pobres, países que são vítimas dessa violência, eles sofrem mais com os efeitos climáticos. E os efeitos climáticos têm vários níveis. É o social, é também a questão de gênero. Nós sabemos que as mulheres sofrem muito mais também com as questões ambientais. A população mais pobre sofre muito mais com as questões ambientais do que os países mais ricos. E aí você tem um efeito global, um movimento global de abrigar esses data centers porque eles estão sendo utilizados por grandes empresas, grandes corporações. E aí os efeitos só se aprofundam. Não é que não é só. É social, é econômico, é moral, é étnico, é ético, é ambiental. E assim vai derivando. 

Talitta: Nossa, eu tô até com medo de perguntar quais são os outros riscos ocultos. Mas assim, antes da gente passar pra esses outros… Pra quem tem uma imaginação muito fértil como a minha, como é que é feita essa refrigeração com água? Eu tenho certeza que você tá me ouvindo, pensou num grande computador, as pessoas jogando água nele e resfriando dessa maneira e pensando, mas vai queimar. Você tem ideia de como é que é essa refrigeração, Thiago? 

Tiago: Várias formas são utilizadas e técnicas para o resfriamento. Muitas delas são quase literalmente uma espécie de imersão, mas não é qualquer tipo de água. É uma água que recebe uma espécie de tratamento para ser 100% pura. Porque nós sabemos que corre risco de sobrecarga, pode fritar alguns equipamentos. 

Talitta: Então não é uma água que pode tranquilamente voltar para a natureza sem algum tipo de tratamento. 

Tiago: Precisa de um tratamento, sim. Ou seja, a gente pode gerar, além da questão do consumo da água, a gente também pode estar falando de um impacto no sentido de degradação ambiental também. Com toda certeza, com toda certeza. Só do fato de você estar direcionando essa água para um outro local que não era a destinação dela básica, você já está causando um impacto ambiental absurdo. E aí muda a fauna, a flora, entre outros recursos, né? 

Talitta: E quais outros riscos ocultos a gente pode se atentar, principalmente para quem vai fazer a prova do Enem e vai quicar esse tema, quais outros riscos se pode explorar numa prova, numa redação? 

Tiago: Bom, vamos lá no ponto a ponto, né? Pra gente conseguir caminhar. Primeiro deles, disseminação de informações incorretas geradas pelas inteligências generativas. As informações incorretas, nós já demos um nome pra elas, são as alucinações. Ela pode vir no formato de imagens, textos incoerentes, sons incoerentes, porque agora elas estão produzindo também sons. Então… Ao produzir um volume de informações, e nós sabemos o preconceito que ela pode gerar também, já que ela é baseada em dados e interações humanas, nós temos um risco muito grande das informações incoerentes e alucinatórias ser a informação padrão que vai circular nas nossas bolhas. E sem uma análise crítica, isso é um impacto gigantesco. Outro fator… é sobre as bases de dados que é utilizado esse fluxo massivo de informações. O que eu estou falando como base de dados? Embora o chat GPT tenha um processamento de dados absurdamente grande, ele ainda é, de determinado modo, limitado por aquilo que ele recebe de informação. Então, dependendo de onde é a fonte dessas informações, ele vai produzir algum tipo de informação. Olha que interessante, o chat GPT tem uma versão dele que foi armazenada com as informações da BNCC da computação. E aí ele responde para profissionais da educação quase como se fosse planos e roteiros de aula baseado nessas informações. Acontece que à medida que você tem interações com ele ou perde determinadas coisas, ele começa a gerar alucinações porque o fator principal dele é agradar ou entregar algum tipo de resultado. E aí nisso ele mistura. Algumas habilidades, algumas competências para te entregar algum resultado. Se você não consegue analisar isso muito bem, você pode estar levando para frente um documento que serve como base para a educação e impacta na vida de vários estudantes. Por mais que apareça aquela frase, o chat informa que pode ter informações incorretas, não sei. Ninguém presta muita atenção nisso. E se de fato não prestar atenção nisso, a gente está endossando e reproduzindo em verdades. 

Talitta: Exato. 

Tiago: Uma coisa interessante para a gente falar também é o seguinte. Tudo aquilo que você… tem do chat GPT ou inteligência generativa são informações. O conhecimento, ele só é processado e analisado por humanos. Então, transformar informações em conhecimento é um processo nosso. Compilar essas informações e analisar se elas podem ser verídicas ou não é uma função nossa analisar isso. 

Talitta: Então, se isso é algo inerente ao ser humano, você ainda acha que os educadores têm os seus dias contados com o avanço das inteligências artificiais? 

Tiago: Bom, a perspectiva disso é bem variada. Humberto Eco escreveu um livro muito interessante que se chama Entre Integrados e Apocalípticos. Então, você pode ter essas duas perspectivas. É inegável que isso afeta muito, principalmente porque se nós estamos falando do uso de tecnologia, não podemos negar o fator da intencionalidade do seu uso, que é o lucro. Significa, então, que a gente tem que falar que o implemento desse tipo de tecnologia vem associado também a um discurso neoliberal. um discurso neoliberal que é baseado em lógicas empresariais, que é baseado em uma lógica que a educação é um custo. A ideia de que colocar a inteligência artificial para fazer um plano de aula de um professor é baratear, é simplificar, é dar mais velocidade, é melhorar. E isso tudo a gente sabe que não é. A educação, as interações, elas são problematizadas, elas são analisadas. Eu acredito muito… que a figura do profissional da educação, assim como o profissional da saúde, ela não vai morrer tão cedo com o uso desse tipo de tecnologia. Porque ela ainda engatinha muito, elas ainda estão caminhando por uma generalização do tipo que quase não faz diferença entre um chat e outro, ou inteligência e outra, elas estão produzindo o mesmo tipo de resposta. Então, é… elas só conseguem processar aquilo que foi colocado nela. Isso significa que ela gera informações. A parte do conhecimento é nosso. A parte de analisar ponto a ponto as relações de sala de aula, aquilo que acontece dentro da sala de aula, de identificar, por muitas vezes, várias violências, porque a sala de aula é um espaço social onde tudo acontece e ela é um efeito da sociedade, Essa finesse, essa capacidade analítica, só um ser humano pode fazer. 

Talitta: A gente não pode esquecer que a inteligência artificial é feita por pessoas. Ela ainda, pelo menos, não consegue se autoproduzir, se autogerar. Enfim, ainda é fruto de uma programação e, inclusive, essas programações feitas por humanos também têm vieses ideológicos, comerciais, uma série de direcionamentos. 

Tiago: Exato, e eles não podem ser ignorados. Acompanhando, eu já vou passar para o próximo tópico, que é a respeito da invisibilidade das fontes. Foi uma coisa que a gente raspou ali no primeiro episódio, mas a gente pode falar um pouquinho mais. Muito é falado na produção acadêmica das fontes, do plágio, da… de produzir informações que não é endereçada, você não sabe de onde veio. E isso é um problema muito grande, porque imagina, você ir numa consulta médica, você ter um resultado X baseado em nada, ou de onde vem isso, de onde vem esse tratamento, ele é efetivo ou não, é com base em quê? E você não saber da origem, E não saber a sua fonte é um problema muito grande. As alucinações, os preconceitos e a generalização cultural que os bancos de dados produzem… Não fala de onde eles foram filtrados. Nem de quais foram os critérios que foram utilizados. Exatamente. Quando pesquisas são feitas, elas podem produzir erros? Obviamente que produzem erros. Mas você sabe… a quantidade de pessoas que foram analisadas, quanto do dado foi processado, de quando a quando foi feito. E isso é uma responsabilidade científica, uma responsabilidade ética do nosso trabalho. A inteligência artificial e generativa, ela te entrega algo, mas temos que sempre tomar cuidado dessas fontes. 

Talitta: E quais outros riscos ocultos a gente pode listar aqui? Pelo menos os que a gente conhece nesse momento. É claro que a gente tem um quantitativo de tempo, digamos assim, com esse uso da inteligência artificial mais cotidiana, digamos assim, ou esse processo de popularização da inteligência artificial. A gente está falando aí, sei lá, da última década, basicamente. Então é muito pouco tempo, a meu ver, para, por exemplo, analisar e pensar impactos de uma maneira muito ampla, mas quais outros impactos já foram localizados, quais outros riscos ocultos já foram localizados? 

Tiago: Bom, temos também cada vez mais a incapacidade da gente diferenciar se a interação é feita com pessoas reais ou não. As imagens, cada vez mais, você tem que olhar ali muito no detalhe o que está acontecendo para você saber se foi gerado por IA ou não. Isso… É um problema gigantesco. Muito, muito grande. Porque nas nossas interações nós damos informações. Riscos de golpes, golpes de imagens feitas sinteticamente. Cada vez mais a nossa sociedade e nosso sistema neoliberal, esse sistema que a gente está inserido, ele produz doenças, ele produz adoecimento nas pessoas. As pessoas são mais vulneráveis, cada vez mais, e muitas vezes essas interações dão escândalos de pessoas que dão dinheiro para pessoas que não existem, que é utilizado de maneira para propagar discurso de ódio, violência, pegar imagens de crianças, de mulheres, de pessoas para colocar em outros corpos. A gente tem o uso cada vez maior dessas gerações de imagens na pornografia e a gente pode cair em todos os tipos de problemas que isso pode gerar. A gente está falando das maiores perversões que você possa imaginar. 

Talitta: Inclusive, a gente já viu casos de adolescentes que tiveram sua intimidade, aí é complicado a gente falar, porque a intimidade ali que foi gerada, né, era um, enfim… nudes, filmes íntimos, enfim, gerados por inteligência artificial, mas utilizando o rosto daquela adolescente. E aí o impacto disso, de um vazamento de um produto gerado por inteligência artificial, mas que as pessoas localizavam como real, é imenso na saúde mental, por exemplo, dessa adolescente que civil julgado, enfim, a gente sabe dos riscos de suicídio e tudo mais, e ainda sem uma regulamentação que, tanto no que diz respeito aos usos da inteligência artificial, como também uma regulamentação da internet, né? Como se ali fosse terra de ninguém. 

Tiago: Ótimo, exatamente. Nesse ponto da regulação é onde vai o outro risco oculto, né? É… O que acontece? A regulamentação é extremamente necessária para evitar todo esse tipo de violência que você bem mesmo disse. E o que tem acontecido é que quando algum país estabelece uma regulamentação e essas empresas têm de verificar seu conteúdo, essa verificação, ela acontece também por algoritmos, e existem barreiras de driblar isso, mas também acontece por mão de obra humana, de verificação, de ter guiar e etc. E onde está o lucro para as empresas? Se tem que verificar, vamos escolher países onde essas pessoas vão passar horas e horas analisando esses dados e ganhar dinheiro. muitíssimo pouco para fazer um trabalho que foi gerado pelas próprias demandas desse setor corporativista e tecnológico. Eu estou falando de pegar mão de obra barata para verificar esses conteúdos. E isso é um esforço muito grande da verificação, da parte da legislação. Sabemos que tem empresas que fazem chantagens. Vou me retirar de seu país por conta da regulamentação. Ameaça de um lado, de outro. E uma vez que é utilizado largamente por todos, retirar isso oferece impactos sociais. Sabemos há pouquíssimo tempo, por exemplo, do grande efeito que teve com o Trump mencionando retirar o TikTok dos Estados Unidos. E o efeito disso foi protestos e etc. Precisa de regulamentação. As questões dele eram outras, óbvio. Eu estou só falando aqui do fato de algum tipo de chantagem. A chantagem ali era do outro lado, era o Trump que estava chantageando. Mas precisamos analisar esses pontos também. Custos da verificação, a mão de obra que está sendo utilizada, quais são os países que são geralmente o foco para essa mão de obra barata utilizada e os efeitos psicológicos também nesses trabalhadores, porque não é só… Um texto que está sendo verificado. É uma interação humana. A gente está falando da violência com uma criança, com um adolescente. A gente está falando de discurso de ódio. A gente está falando de informações que têm um efeito, um impacto devastador naquelas pessoas que estão verificando esse material. É quase como se voltasse aquela ideia do call center. Lembra? E sabemos os impactos psicológicos que esses call centers tinham e têm nesses trabalhadores. 

Talitta: Tem mais algum risco? 

Tiago: Bom, nós comentamos também sobre os dados possuírem pouca diversidade cultural, pouca diversidade linguística, privilegiar culturas hegemônicas, excluir povos marginalizados. Nós sabemos do sul global, nós sabemos muito bem disso. Nós temos também que algumas interações podem ser mais privilegiadas em detrimento de outros resultados ou processos. Nós estamos falando que cada vez mais com esse tipo de processamento, nós vamos ter visões mais hegemônicas de mundo. Porque lembra, é aquilo que é mais consumido que é entregue para você. O conteúdo que é diverso, ele não vai te acessar. E a nível global de interações, pode ser que a gente crie um padrão de gosto, um padrão de consumo, um padrão de ser, existir e pensar que seja hegemônico. A gente está falando do pior tipo de cultura global que existe, que ela não existe com a diversidade. Você pode ver isso através das trends de TikTok. As músicas que são colocadas são as que estão mais circulando, independente do seu conteúdo. O conteúdo que está sendo replicado é aquele que tem mais acesso, que pode gerar ou não remuneração. Nós estamos falando de uma configuração de um perfil de usuário que é unânime e hegemônico e que não vai consumir isso de maneira crítica. 

Talitta: Claro, Tiago, que nenhuma tecnologia, seja ela analógica, digital, de inteligência artificial, ela por si só é boba ou ruim, né? a gente tem usos que podem ser bons e ruins, digamos assim, para a gente ficar só na superfície dessa discussão. Mas se você que está aí se preparando para o Enem, quer saber um pouco mais sobre o assunto, acesse o site do Lapras, porque a gente vai deixar… materiais de apoio para que você possa se aprofundar nessa discussão. Tiago, eu quero te agradecer por esses dois episódios sobre inteligência artificial. Eu tenho certeza que vai ajudar quem está se preparando, não apenas na questão da redação, mas eu tenho certeza que pelo menos uma questão ali da área das humanidades vai cair.

Tiago: Muito obrigado, gostei muito do convite, me senti muito confortável em conversar com vocês e qualquer tipo de convite eu vou ficar muito feliz em aceitar para a gente falar mais sobre tecnologia, educação, história e qualquer coisa do tipo. Eu agradeço muito, agradeço você ouvinte e eu vou deixar um materialzinho separado para você dar uma estudada e se dar bem no Enem ou qualquer outro tipo de concurso vestibular e até mesmo as redações e atividades que você pode fazer. Muito obrigado e até mais. 

Talitta: E aí, gostou do material? Quer saber um pouco mais? Então, acessa o Instagram do Pluricast, arroba pluricast.chs, porque lá a gente disponibiliza outros podcasts, materiais de apoio, sem contar que você pode conhecer os cursos aqui do Instituto de Ciências Humanas e Sociais da UFR. Quem sabe você não descobre a sua profissão. A gente se vê numa próxima. Até mais!