Aquele em que as IAs (ainda) não nos dominam

Talitta: Então, olá para você que está ouvindo o Pluricast. Tudo bem? Meu nome é Thalita, sou coordenadora desse projeto de extensão e hoje vamos falar sobre um dos temas mais recorrentes em avaliações nos últimos tempos. Hoje a gente vai falar sobre inteligência artificial. 

Tiago: Olá, ouvintes! Meu nome é Thiago Loyola, eu sou professor de História e hoje eu vou contribuir com vocês um pouco sobre a temática e algumas discussões sobre as IAs, os seus custos, os seus custos ocultos, os seus benefícios e como que nós podemos trabalhar isso em uma redação de Enem ou em uma outra temática de concurso, já que esse é um tema muito recorrente em questões de atualidades. 

Talitta: E aí, Tiago, é bom que, para quem está nos ouvindo, saiba que esse é um tema que tem recorrentemente sendo escolhido em vestibulares, em outros tipos de seleção, e sempre é a questão da inteligência artificial como alguma coisa ligada à questão social, impacto no campo profissional ou na educação. Então, a inteligência artificial nunca vem sozinha. Mas, para a gente começar essa discussão. Afinal de contas, o que é inteligência artificial? 

Tiago: Bom, como todo tema ou conceito novo, ele tem inúmeras abordagens. Já tem muitos estudiosos e pesquisadores que já não trabalham com a ideia somente de inteligência artificial. Vai falar em inteligência generativa, vai trabalhar com vários outros conceitos. E o que nós podemos… trabalhar aqui como ponto de partida, é usar a definição do dicionário de Oxford, que ele fala o seguinte, ela é a teoria e o desenvolvimento de sistemas computacionais capazes de realizar tarefas que normalmente requerem inteligência humana. como a percepção visual, reconhecimento de fala, tomada de decisões e tradução de idiomas. E a gente pode usar também uma tradução da enciclopédia britânica, que ela fala o seguinte, que é a capacidade de um computador digital, ou um robô controlado por um computador, de realizar algumas tarefas que é comumente associada a seres inteligentes, como nós. Bom, isso é, de maneira geral, seres que podem captar e adotar as novas circunstâncias. Então, nós podemos ir com essa definição para falar de inteligência artificial, já vamos colocar aqui como generativa. Então, quando a gente está falando de inteligência artificial, a gente está falando de uma programação ou de um sistema que também vai simular essas interfaces que a inteligência, digamos assim, natural, ela faz, só que com processamento muito mais rápido. Então, são tarefas ou… ou aplicações que muito inspirado ou quase como um simulacro dessa inteligência natural seria isso sim tá correto essa afirmação uma maneira interessante também de pensar é da seguinte maneira os primeiros computadores eles estão eles ainda fazem parte da nossa memória né eles estão ainda eles foram desenvolvidos muito recentemente e a nossa tecnologia ela avançou em uma velocidade muito grande Os algoritmos já eram usados há muito tempo e datam o século de muito tempo. Mas uma das melhores maneiras de determinar é a seguinte. As primeiras formas dos algoritmos recebiam como dados apenas números e ele retornava números. Esse retorno não era baseado em uma interação ser humano-máquina. Ele era basicamente computacional. A inteligência artificial tem a capacidade de simular uma interação entre humanos, muitas vezes até falseando reações, expressões, para fazer com que a interação fique mais dinâmica. É justamente nessa dinâmica de falsear certas emoções ou relações em termos de chatbox, por exemplo, que se dá essa inteligência artificial. 

Talitta: Então, de uma maneira geral, praticamente quase todos, de algum modo, têm contato com algum tipo de inteligência artificial, mas as que mais geram impactos, e talvez o que a gente vai debater aqui, são justamente essas que simulam essa interação de humanos, ou representando ali humanos, né? E aí, uma coisa interessante é que… Ah, eu cresci ali na década de 90, nasci nos anos 80 e cresci de volta para o futuro, com o imaginário dos Jacksons, enfim, né? Que esse tipo de tecnologia parecia uma coisa muito do futuro, muito inalcançável. Talvez nos últimos anos a gente tenha mudado um pouco essa percepção, porque a IA… a inteligência artificial tem se tornado pauta de muitas discussões e de muitas práticas, inclusive, mas ainda se tem esse imaginário de que a IA está ou lá no chat GPT ou num gerador de imagem, mas ela faz parte do nosso cotidiano, inclusive de maneiras que as pessoas às vezes nem percebem, né? Por exemplo, sei lá… o atendimento do banco, que agora tem acontecido através de chat com inteligência artificial, justamente por essa tentativa de simular, um simulacro da interação humana. É isso mesmo? 

Tiago: Exato. Os algoritmos mais comuns de ser interagido são aqueles de recomendações diárias. Todos os aplicativos, de alguma maneira, criam uma espécie de padrão ou perfil do usuário e essa inteligência te recomenda vídeos com base de perfil de outros usuários. Eu acho que uma grande maioria das pessoas, de algum modo, já teve contato com o documentário O Dilema das Redes Sociais, que apontava muito bem ali, de uma forma bem didática, como esses algoritmos funcionam. E se você for para uma linha um pouco mais filosófica, a gente pode dizer que essas inteligências artificiais, ao criar esses perfis e essas interações, que você não diretamente está ligado com o chatbox ou conversando com ele, ele pode ser capaz até de acessar o seu inconsciente. gerando padrões de consumo, de grupos, bolhas, e é aí que a gente começa a ver a complexidade desse tema. Ele pode ser abordado de inúmeras formas, ele pode aparecer também nas provas de inúmeras formas, e é nessa complexidade que o conceito deve ser esmiuçado, a gente tem que analisar ele ponto a ponto.

Talitta: E vamos falar um pouco do algoritmo, porque o algoritmo, conversando com os meus estudantes mais velhos, em disciplinas sobre tecnologias, eles têm quase a sensação de que é um deus oculto que comanda as coisas, quase o deus Google, mas afinal de contas, como é que funciona o algoritmo e por que cargas d’água, quando você busca alguma coisa lá no Google, depois você recebe trocentas recomendações daquelas mesmas coisas. 

Tiago: Ótimo. Então, o algoritmo com as IAs, ele funciona com a base de um conjunto de instruções. É tipo um passo a passo. Geralmente, as pessoas colocam para definir ele com o formato de C, X, né? Então, entregue Y. Nesse comando de… quando uma pessoa passa em uma determinada aba, se uma pessoa curte, compartilha, se uma pessoa interage ou não, se ela para no vídeo, se ela costuma consumir, ela vai criando um padrão. O que acontece? Nós fazemos, de certo modo, uma coisa parecida, só que a grande diferença está no volume de dados e de informações que esses supercomputadores processam. Então, em uma escala pequena, você, uma pessoa, identificando o padrão de gosto de um amigo, de um colega, de uma namorada, de um parceiro ou parceira, você sabe mais ou menos o que essa pessoa gosta ou não com base nas suas interações que você tem com ela. Isso estrutura esse relacionamento, de todos os níveis, eu vou colocar aqui. Imagina isso em uma escala regional, de um país global e de tantos usuários. As interações de volume de dado é gigantesco. Então, a inteligência artificial, de maneira geral, ela computa dados de probabilidade, probabilidade, probabilidade, para retornar algo para você que possivelmente você vai aceitar. E é com base nesse conjunto de padrões é que ela vai cada vez mais te direcionar para uma resposta correta ou te entregar um conteúdo que você goste ou não. Já adiantando um pouco a discussão, com base nesse entendimento desse funcionamento, a lógica é que a gente está trabalhando em um conceito um pouco mais simplificado para o público em geral entender, porque quem é da área da computação pode esmiuçar isso de uma maneira muito mais objetiva e técnica, mas aqui a gente está falando com o público mais geral, né? Uma coisa interessante é que nós estamos caminhando para quase uma generalização de todas as IAs. Com base nesse fluxo constante de dados e informações que as pessoas acabam entregando, acontece que as inteligências artificiais estão cada vez mais produzindo muitos erros, o que é chamado dentro… desse ramo, desse estudo das alucinações. Ou seja, muito embora todas essas interações e esse grande volume de dados ofereça ferramentas o suficiente para o algoritmo te entregar algo, não significa que isso está correto ou não. Você pode olhar o seguinte, suas interações com o chat, elas são avaliadas? Se não, muito provavelmente você está contribuindo para um volume de dados errados. Porque, por muitas vezes, ela pode não entregar aquilo que você quer logo de imediato. E dar um aval positivo ou negativo para a IA faz com que ela acabe sendo treinada. Uma das formas com que nós temos contato são as IAs geradas por imagens. E é muito comum que alguém escreva algum texto e você veja uma distorção de olho, boca, ombros, dedos, etc. Cada vez mais as IAs estão refinando isso. Mas essas alucinações são perceptíveis. Mas e quando o nosso, o público que consome, o público que usa, acaba não tendo a capacidade de leitura desse material, quando a gente fala de texto? E ele não consegue identificar as alucinações ali. Então, a gente começa a perceber os impactos que ela pode ter. 

Talitta: Então, só pra gente entender. Toda vez que a gente interage por meio online, né? seja aí no seu Instagram, seja numa pesquisa no Google, enfim, ou no banco, nas lojas online, a gente vai gerar dados, né? E esses dados vão compor um banco de dados. Exato. E aí, as inteligências artificiais, ou as programações, enfim, vão ler esse banco de dados e vão procurar padrões. Ou seja, é como se elas estivessem nos estudando naquilo que a gente tem de comportamento, de comportamento online, de consumo, de consumo de mídia, de consumo inclusive de produtos. E neste aprendizado sobre a gente, ela vai oferecendo aquilo que tem uma maior probabilidade de gerar o nosso interesse. É isso? 

Tiago: É exatamente isso. Para as pessoas conseguirem trabalhar com o conceito bem, o que nós estamos falando aqui, com base no que falamos, é o que a gente chama de grandes modelos de linguagem. Ou na sigla, em inglês, LLMS. Então, significa que esse modelo de linguagem produz os resultados que nós temos. 

Talitta: E aí, estou aqui pensando nessas implicações éticas, Porque, afinal de contas, a gente está falando de um direcionamento, por exemplo, para um consumo. Ou, para além dessa questão do consumo, pode haver também um direcionamento, por exemplo, político, de decisões, enfim. Como é que isso está sendo abordado e discutido? Ou ainda nem está sendo abordado e discutido? 

Tiago: Não, a discussão está sendo muito acalorada, ela está sendo vista de inúmeras formas e ramos do campo da ciência, tanto das áreas humanas, matemáticas, sociais, ambientais e etc. E algumas dessas questões que a gente pode colocar aqui é que, com base nesses padrões de interações e com base naquilo que é circulado de grandes modelos de linguagem, ela pode produzir preconceitos, E ela pode também afetar na questão da privacidade. Porque se nós estamos falando que nossas interações são computadas e armazenadas para servir para um outro usuário e até mesmo criar o nosso perfil, quais dados realmente estão seguros e quais não estão? Escândalos dessas grandes plataformas que vazam dados e informações nossas todos os dias… Está muito constante. Plataformas como o Facebook, o Instagram, o Twitter, entre outras, que são várias, elas, hora ou outra, são envolvidas em algum esquema de vazamento de dados. Então, a questão da privacidade é também, inclusive, no campo intelectual. Quanto das produções acadêmicas, de algum modo, elas não estão disponibilizadas? E quantas vezes nós temos dados e resultados de informações e não é citado de onde vem? Há também um impacto muito interessante no campo das redes sociais, que já tem um debate muito interessante falando sobre o fim das redes sociais, ou a morte da internet. Uma vez que dados mostram, não é possível colocar com tanta precisão, com base… nesses dados, mas fala que quase 51%, 57% daquilo que nós consumimos ou vemos nas redes sociais é produzido já por inteligência artificial. Ou seja, o conteúdo que as redes sociais foram elaboradas, que é de pessoas para pessoas, as interações, elas não são feitas mais por pessoas, são inteligências artificiais. Hora ou outra, sabemos de… de processos que são feitos para remover bots ou perfis falsos e esses perfis falsos agora são pelos bots então pode ter uma página que recebe um fluxo muito grande de usuários mas esses usuários realmente não são reais são para monetização, são esquemas que são feitos. Então, nesse processo vai se criando bolha e nesse processo nós vemos as redes sociais, elas cada vez mais sendo um conteúdo generalista e aí entra na questão do preconceito, porque é o seguinte, nós sabemos que na questão do norte e do sul global, onde as informações são produzidas, onde as informações são processadas por muitas vezes esses bancos de dados estão situados em determinados locais ou localidades, por muitas vezes nós sabemos que existe um discurso que ele é hegemônico E esse discurso hegemônico pode ser processado pelos algoritmos, não de uma maneira crítica, porque o algoritmo não pensa. Aquilo que você está entregando para ele, inclusive em formato de texto, ele não analisa textualmente, ele não entende o que está sendo colocado ali. Com base em todas as interações, ele prevê qual seria o melhor resultado. Ele não entende o conteúdo que está ali. Ele não consegue analisar entre as linhas como uma pessoa poderia fazer, mas ele te entrega a melhor possibilidade daquilo. E nós caímos naquilo que o campo da área das ciências humanas sempre tentou debater e analisar, que é as generalizações, que é… os preconceitos, se você colocar uma definição de uma determinada localidade, de uma região, ela vai estereotipar aquele personagem, aquela pessoa, aquela imagem que foi gerada. Então, a inteligência artificial, por conta que ela age com base em dados humanos, ela produz também preconceito, porque a sociedade estruturalmente também é preconceituosa, em todos os níveis. É o racismo, é a violência contra a mulher, é o discurso de ódio, é o monte de células aí de grupos de extrema direita surgindo, é como a retomada do fascismo e a criação das bolhas. Porque se eu interajo de uma determinada forma com um tipo de conteúdo, ele vai me jogar de volta isso. E nisso fica um ciclo constante e viciante de um algoritmo que te oferece exatamente aquilo que nutre os seus desejos, os seus preconceitos, as suas violências e dissemina o ódio. 

Talitta: Ou seja, você não vai ser apresentado ao diverso ou ao diferente. Vai ser oferecido mais do mesmo. E aí você vai permanecer na sua bolha. 

Tiago: Exatamente. 

Talitta: E aí é preciso pensar o seguinte, que os dados, o algoritmo, as inteligências artificiais, enfim, elas não são produtos alheios à sociedade. Então, se a gente fala de uma sociedade que tem uma estrutura racista, sexista, homofóbica, enfim, esses dados também vão espelhar… Estas questões… Como você mesmo disse… A inteligência… Apesar da gente chamar de inteligência artificial… Essa inteligência… Ela não… Pensa por si só… É a partir de uma programação… Que vai analisar dados… Então ela não tem o caráter de falar que… Sei lá… Uma informação racista… Ela não pode ser disseminada… Nem nada do tipo… E aí eu acho que gera um impacto na questão do consumo e na questão educacional quando a gente vê muitas pessoas utilizando da inteligência artificial para gerar, por exemplo, um texto. Aqui vamos falar do campo da história. Então eu vou lá, peço para o meu estudante fazer um trabalho sobre, sei lá, sobre o descobrimento do Brasil, da vida. E aí ele pede para a inteligência artificial produzir esse texto. Só que, como é que ele vai saber que aquilo que foi produzido é coerente, é crítico, é tudo mais, se ele não tem o contraponto? Ou seja, eu estou delegando para a inteligência artificial aquilo de mais humano que eu tenho, que é a minha autonomia de pensamento. Mesma coisa de imagens. A gente viu alguns escândalos ali, da geração de imagens através da inteligência artificial com incoerências históricas, por exemplo. Havia muito essa questão, por exemplo, sem colocar gênero, você gera uma imagem de um profissional da área da saúde, vinha um homem branco, Porque esse é o ideal da medicina, ou seja, reproduzindo estereótipos, inclusive, de gênero. Aí tentaram arrumar isso. Não, toda vez foi gerar uma imagem que tenha diversidade. Aí você pedia pra gerar, sei lá, um soldado nazista. Aí vinha um soldado negro. Enfim, e aí, se você não tem o contraponto, você vai tomar aquilo como uma verdade, vai reproduzir essas inverdades. Então, esse é um dos impactos, a meu ver. Essa questão de como que a gente acessa a inteligência artificial, muitas das vezes, sem um adequado letramento. Como trabalhar com isso? Como combater isso, inclusive? 

Tiago: Ótimo, é… Em questão do letramento digital, ele é um passo muito importante, ele é previsto dentro do campo da educação da BNCC e sobre as novas tecnologias, tem também a cidadania digital, entre várias outras questões. O que é importante entender? No campo da educação, anterior ao uso das tecnologias como nós temos, o livro já é considerado uma tecnologia, eu estou falando das tecnologias digitais aqui, tá? A grande questão era saber ler e escrever. Logo depois, começou uma consciência sobre a sociedade, sobre analisar os comportamentos, as práticas sociais, para combater os preconceitos, as violências, a analisar a nossa sociedade de maneira crítica. Com uma entrada cada vez maior das tecnologias dentro da educação, o que é extremamente benéfico, ninguém aqui quer ser apocalíptico nem nada, nós começamos a ter uma outra função também que são os educadores, de fazer o letramento digital. Isso significa que faz parte também da nossa atividade, óbvio, com toda a capacitação e especialização que isso merece, a fazer com que os nossos estudantes, ou as pessoas de uma maneira geral, porque a gente está trabalhando aqui também com a ideia de história pública, de conhecimento público, de entender como é que os algoritmos funcionam, como eles produzem seus dados, como eles lhe entregam suas informações. O letramento passa por ensinar ou aprender ou a desenvolver técnicas de observar estes erros e saber filtrar os comportamentos que as inteligências artificiais generativas nos oferecem. No campo das áreas das ciências humanas, a gente tem que puxar para esse lado porque é a área de formação, claro, sempre foi do ponto de análise o comportamento, o social e a cultura. Saber analisar também comportamentos, padrões e resultados que nos são oferecidos pela inteligência artificial é, de novo, é lançar luz, é olhar o resultado da nossa própria sociedade. E a capacidade analítica de fazer isso, ela é ensinada. Se nós falamos que dentro… da educação, ler é muito mais do que decodificar palavras, é compreender o contexto, o sentido, a questão histórica, o aprofundamento, uma análise, tem a ver com a subjetividade e tudo mais, temos que observar também essas questões nas produções dos algoritmos. Eu gostaria de marcar um ponto interessante a respeito do que eu iniciei falando de que nós não somos aqui, não somos de nenhum modo apocalípticos no sentido da uso da tecnologia, porque ela é benéfica. Eu me lembro uma coisa que o Aizimov, um grande escritor de ficção, escreveu o Eu, Robô, talvez todos se lembram pelo filme, ele vai falar uma coisa muito interessante no livro dele, que ele vai falar o seguinte, que qualquer avanço tecnológico, ele pode ser perigoso. O fogo, ele era no princípio, assim como até agora ele é. A fala também é perigosa. E de todo modo, tanto o fogo quanto a tecnologia, ambos, eles ainda são perigosos, mas a gente não consegue, de nenhum modo, pensar como é que seria o desenvolvimento do ser humano sem o fogo. Então, o fogo em algum momento foi perigoso, Ele ainda é perigoso, mas sem ele a gente não teria se desenvolvido até os dias atuais. A tecnologia também está desse jeito, ela é o fogo. Ela precisa ser analisada de todos os modos, precisa ter um letramento, precisa ser ensinado a como fazer, a como ele é feito, como ele aquece, como ele é utilizado no consumo, como ele é utilizado no processamento dos alimentos. Aqui eu estou falando na alusão com fogo e a tecnologia, óbvio, né? Mas ele precisa passar por isso. Para professores que estão nos escutando, para a comunidade em geral, eu sempre vou recomendar o Instituto EducaMídia, que é um dos maiores do Brasil em produzir materiais didáticos, a ceder informações, a produzir todo tipo de análise no que se diz respeito ao letramento digital e à educação midiática. Muito recentemente eu passei por uma formação pela UFMT e nós trabalhamos com mídias para educação, onde a gente analisou e produziu um material interessante falando sobre o uso da tecnologia. E é aqui que a minha fala se respalda, com base nesses estudos, com base nesses trabalhos que foram feitos. Letramento digital é um conceito muito interessante para aparecer quando a gente fala de analisar criticamente as tecnologias. Aqui o foco é IA, mas todo recurso midiático precisa passar por letramento. Você pode perceber isso pela sua interação. As interações que nós temos com as redes sociais é quase automática. Todas as redes sociais quase estão se padronizando. Você pode estar no YouTube e achar que está no TikTok. Estar no TikTok e achar que está no Instagram. Porque a maneira como isso é apresentado para você é muito natural e espontânea. Se você não analisa criticamente essas coisas, você cai para uma alienação. E essa alienação é perigosa, porque, de novo, nós falamos dos problemas de privacidade, nós falamos dos problemas dos preconceitos, e se a gente não conseguir analisar essas coisas, isso é muito perigoso socialmente falando. Uma coisa interessante sobre os dados, né? E sobre esses preconceitos, eu não vou conseguir apontar diretamente a matéria agora, mas eu vou deixar no link depois com vocês, que através desse fluxo massivo de dados, uma empresa privada do ramo da saúde começou a identificar padrões de possíveis usuários, de possíveis pessoas que poderiam comprar os serviços. E aí eles excluíam pessoas negras, porque se via que os custos médicos e etc. eram maiores para esse grupo. Perceba que os dados produzem as ações, do mesmo jeito que a análise desses dados produz padrões dentro do campo das ciências humanas ou áreas afins. Então, perceba o impacto disso. Isso é muito preocupante e se não for analisado de uma maneira correta, ela pode produzir inúmeras violências. E nós temos, obviamente, que pensar, já que as tecnologias e a inteligência artificial, ela está sendo usada dessa maneira, para quem se responsabiliza? Aqui nós voltamos à questão fundamental de todas, que é qual é a responsabilidade do Estado em relação a isso tudo? E regular plataformas, inteligência artificial, isso é muito irrelevante. Porque se ela usa aquilo que tem talvez de mais perverso na humanidade, se não for regulamentado, a gente vê uma reprodução dessas violências que a gente tenta combater todos os dias na sala de aula, no trabalho, nas relações que nós temos com as pessoas de todos os níveis. 

Talitta: Tiago, você toca num assunto muito interessante e importante, que é a questão do colonialismo de dados, que é uma área que está sendo discutida principalmente por pesquisadores ativistas ligados ao movimento negro. Eu vou deixar um material lá no site do Lapras para que vocês possam acessar, mas a gente vai precisar de uma parte 2. Então, a gente te espera na continuação desse podcast, falando especificamente sobre os riscos ocultos aí dessa inteligência artificial, que é um tema extremamente importante, não apenas se você vai fazer o Enem, mas se você vive nessa sociedade, se você ainda não mora nas montanhas ali numa caverna. 

Tiago: Bom, eu super aceito o convite, eu estou disposto a continuar com essa discussão. Realmente ela é muito ampla, ela não se esgota. Tem questões ambientais que também podemos falar sobre o uso das inteligências artificiais, porque ela não é uma coisa flutuante. Ela precisa de um local físico para ser processada esses dados. A gente sabe do grande volume de água que é necessário. E também… falando sobre o colonialismo de dados, realmente é um tema que nós podemos aprofundar muito mais e é hiper relevante nós discutirmos todas as interações que nós temos com as inteligências generativas. Eu agradeço muito o convite, eu fico muito feliz e é só chamar que eu venho. Muito obrigado. 

Talitta: A gente se vê numa parte 2, até mais.