“Estamos longe de saber lidar com a inteligência artificial”
A professora Lucia Santaella (Foto: Leonor Calasans/IEA-USP)
Para a estudiosa de ciências da comunicação Lucia Santaella, o avanço das tecnologias de inteligência artificial (IA) amplia a simbiose entre a realidade humana e a realidade das máquinas. Autora de mais de 50 livros e professora titular da PUC-SP, Santaella conversou com a Cult sobre os desafios postos pela era da IA – entre eles, a onipresença dos algoritmos, a hiperconectividade e a emergência do modelo de linguagem do ChatGPT, que pode demolir os sistemas tradicionais de avaliação educacional
O diagnóstico já parece consensual: vivemos a era da inteligência artificial (IA). Estamos sabendo lidar com ela?
Estamos muito longe de saber lidar com a IA, ou melhor, com os efeitos que ela está provocando na vida humana. Precisamos, com urgência, aprender a conviver com a IA. Há várias razões que dificultam essa tarefa. A primeira delas diz respeito ao modo como o humano tende a se ver como um ser em estado biológico puro, apartado da tecnologia, como se ela fosse uma estranha e forasteira, separada de nós. É claro que há tecnologias duras, pesadas e até mesmo brutas que impedem quaisquer projeções identificatórias. A IA, entretanto, não tem nenhum parentesco com elas.
A IA pertence a outra família de tecnologias, as tecnologias da inteligência. Isso começou com a câmera fotográfica, o gramofone e a máquina de escrever, que compõem justamente o título do livro de Friedrich Kittler (Gramofone, filme, typewriter, Editora UFMG/EdUERJ, 2019), no qual o autor aponta as profundas transformações que estavam por vir no universo da imagem, do som e do texto. Essas três tecnologias colocaram a inteligência no interior das máquinas, dando prosseguimento à invenção dos tipos móveis de Gutenberg (invenção que a máquina de escrever colocou na ponta de nossos dedos).
São inteligentes porque estendem nossa capacidade de ver, ouvir e escrever, ou seja, habilidades cognitivas que o computador viria levar às últimas consequências: diferentemente das tecnologias anteriores que ampliavam nossa inteligência sensória, dos olhos e dos ouvidos, o computador estende nossas capacidades mentais. De uns anos para cá, a IA ampliou essa extensão nos algoritmos de aprendizagem de máquina e aprendizagem profunda.
A pesquisa em IA avança a olhos vistos. A cada dia, surge um novo recurso inteligente que torna mais íntima a proximidade – que chamo de simbiose – entre a realidade humana e a realidade das máquinas. Nos grandes centros de pesquisa, a IA dá prosseguimento ao seu caminho. No mundo dos negócios, regido pelo dinheiro, as aplicações de aprendizagem profunda vão se tornando crescentemente onipresentes pela presteza de suas previsões que facilitam as tomadas de decisões. No contexto da produção criativa, músicos, artistas e designers introduzem alianças com os algoritmos para o desenvolvimento de novas parcerias. No universo das redes de comunicação digital, o quadro muda de figura, uma vez que essas redes têm sido utilizadas para a proliferação diluviana de fake news com finalidades políticas nefastas e para as enxurradas de paixões tristes que destilam ódios e ressentimentos.
Para a explicitação de tal estado de coisas, os algoritmos que monitoram os dados que lançamos às redes têm sido culpabilizados de modo sensacionalista. Todavia, explicações desse tipo, além de simplificadoras, desviam apenas para os algoritmos a responsabilidade ética que também deveria caber aos humanos.
O ChatGPT (ferramenta capaz de criar diálogos e textos a partir de uma base de dados) impressionou pela capacidade de detalhamento das informações. Usuários também notaram que a ferramenta pode partir de premissas ideológicas para suas formulações ou sugerir uma única resposta a temas controversos. Que possibilidades e riscos esse sistema apresenta para a produção intelectual e para o aprendizado?
Para falar do ChatGPT é preciso equilibrar vários tipos de peso em diferenciadas balanças. Há dois meses, há um frenesi em torno da questão. A mídia está em êxtase, não há quem não queira saber e falar do assunto. O GPT caiu feito um meteoro gigante na vida humana, pois afeta justamente o ponto fulcral de constituição do humano: a linguagem e todas as suas extensões tecnológicas, que dizem respeito, antes de tudo, à produção, memória, distribuição e recepção do conhecimento.
Já estão se desenvolvendo discussões acaloradas sobre a validade ou não – e por que não – da inserção do GPT como coautor em textos científicos. Atinge, portanto, a ciência e seus modos de distribuição e divulgação. Atinge a economia criativa, que já está se movimentando para incrementar seu potencial. Afeta diretamente todos os processos e atividades que envolvem comunicação. Provocará profundas disrupções nos empregos que morrem e que nascem, colocando em causa os processos educacionais que devem ser repensados e transformados nas suas bases.
Entre as muitas outras facetas do seu impacto, o GPT atinge o coração dos sistemas educacionais. Algumas instituições estão apressadamente proibindo o seu uso. O que se tem aí é uma primeira reação que poderia ser tomada como fruto da prudência. Deixar a poeira baixar para ver que medidas tomar. O problema é que a poeira não vai baixar. Há uma competitividade movida a bilhões de dólares entre as big techs para assumir o primeiro lugar nas preferências de uso. Uma coisa é certa: não há lugar para ingenuidades nem para agressivas inimizades.
Em primeiro lugar, o GPT decreta, sem contemporizações possíveis, o fim do sistema de avaliação escolar por meio do texto escrito. Não se trata mais, como ocorreu no passado, de detectar plágio na apropriação de textos que são extraídos das redes informacionais. Qual é a diferença? Trata-se agora de uma máquina que quer conversar, que quer se passar por gente. Conversação significa linguagem em fluxo de vai e vem, em agenciamentos mútuos. Não é casual a adesão espantosamente rápida que esse chat provocou. É uma nova criatura que se introduziu em nossas vidas. Diante dela, é hora de refrear empolgações, de um lado, e ceticismos, de outro. É hora de temperança.
Embora o sistema seja capaz de conversar feito gente, o ChatGPT está longe de ser perfeito. Ele não apenas apresenta inevitáveis fraquezas internas, mas empresta sua imperfeição ética dos dados provenientes dos humanos. Já existe farta literatura sobre os modos pelos quais os preconceitos, eufemisticamente chamados de vieses, infiltram-se nos algoritmos.
Esse chat foi treinado de acordo com os princípios da ética by design, quer dizer, seus dados foram higienizados para o bom comportamento. Entretanto, os usuários sempre encontram uma maneira de contornar barreiras, levando o chat a desativar seus próprios recursos de segurança. Isso não é surpreendente, pois a banalidade do mal circula e age pela internet desde que ela existe. Portanto, já que não é possível controlar os preconceitos humanos, pois os piores são inconscientes, então, que se reforce a ética by design da IA, de modo que seus resultados não intensifiquem a tendência humana para a flacidez dos valores éticos.
Se admitirmos o famoso axioma de Marshall McLuhan, segundo o qual “o meio é a mensagem”, que conteúdo inerente ao meio nos é dado pelas ferramentas da IA?
Os meios não são mais o que McLuhan chamava de meios (os massivos) e que, aliás, depois da revolução digital, passamos a chamar de mídias. Mas até mesmo essa terminologia foi se dissipando frente aos fluxos informacionais que hoje transitam por plataformas, aplicativos e milhares de telas. Não dá mais para agrupar e categorizar em mídias essa aceleração dos processos semióticos, verbo, som e imagem, que circulam velozmente pelas redes. Por meio de sensores, a comunicação extrapolou o reino humano e se encontra hoje nos objetos, na internet das coisas; já se fala em internet dos corpos e já existem pesquisas sobre as interfaces entre o cérebro e o computador.
De acordo com as ideias que defendo, as formas de comunicação anteriores – a oralidade, a escrita impressa, as mídias massivas – não desaparecem. Permanecem em camadas mais ou menos evidentes, de acordo com as circunstâncias. Há momentos em que a oralidade vem para um primeiro plano, não apenas quando conversamos em uma mesa de bar, mas também quando um professor dá uma palestra, por vezes, para o deleite de uma plateia de centenas de pessoas. Em outros momentos, é a palavra impressa no papel ou no Kindle que assume a cena, como ocorre na leitura deste meu texto, seja na versão impressa, seja na versão digital da Cult, o que traz de volta à superfície da cultura a potência da era inaugurada por Gutenberg. O jornal continua a ser lido no papel ou na tela digital, e a televisão, com seu sistema de programações, ainda tem seu público. Essas formas de mediação semiótica continuam a receber o nome de mídias, de resto, mídias tradicionais.
Mas seu modo de funcionamento é distinto da soberania da conectividade que impera no universo digital, mesmo quando as mídias tradicionais também entram nesse circuito. O caldo da cultura se tornou grosso, denso e é preciso perspicácia para deslindá-lo. Gosto de usar para isso a metáfora, que extraí de Michel Serres, de camadas tectônicas que se mexem, sobem e descem, mas sempre sob o domínio da camada mais recente que se encontra hoje na dataficação, uma nova era da digitalização. Dataficação significa milhões de dados monitorados por algoritmos de IA.
Os algoritmos estão em tudo: na ciência, nos negócios, comandando a circulação do dinheiro, nos diagnósticos médicos, nos aplicativos para ajudar nas tarefas educacionais e, last but not least, nos smartphones que não tiramos de perto do nosso corpo, sempre à mão. O problema é que, a cada leve toque de nossos dedos nas telas, sinalizamos nossa vida para os algoritmos. Aquilo que narcisisticamente gostamos de chamar de “eu” multiplica-se em uma pluralidade de versões sob ação dos algoritmos que montam várias narrativas em que nossos eus se distribuem, sem que tenhamos qualquer controle sobre isso.
Entretanto, o mal-estar psíquico de nos sabermos manipulados não é suficiente para nos levar a abandonar as telas e os cliques. Isso acaba por provocar uma dissociação, mais do que cognitiva, uma dissociação existencial inédita. Para acentuá-la, somos asfixiados por narrativas tanto verbais quanto audiovisuais futuristas distópicas que infestam o nosso cotidiano. São narrativas que prestam um grande desserviço ao trocar a necessária informação esclarecedora por fantasias atemorizantes e paradoxalmente atrativas. São atrativas porque funcionam como disfarces da angústia de nos vermos em um mundo no qual estamos tecnologicamente enraizados, mas, ao mesmo tempo, não reconhecemos como nosso.
Há um movimento de afirmação do Antropoceno – a era dos humanos, que se mostraram capazes de alterar a natureza e a dinâmica da Terra. Ao mesmo tempo, hoje reconhecemos a inteligência não humana das máquinas e da própria natureza. Uma “era dos humanos” não colide com o questionamento recente de sua centralidade no mundo?
São muitos os comentadores do Antropoceno que têm, de fato, questionado a inserção do “antropo” na sua definição. Se a crise da biosfera é devida às pegadas destrutivas do humano, por que chamar essa nova era pelo nome que é justamente aquele do agente da crise? Parece um paradoxo que deveria ser evitado.
Tanto quanto posso ver, não é apenas um paradoxo como também um eufemismo, pois não é o ser humano em si, na sua generalidade, o causador dos desastres climáticos a que temos assistido. Segundo Donna Haraway, Capitaloceno seria um nome mais apropriado para revelar o que se esconde por trás da cortina de fumaça geopolítica que oculta disfarçadamente a questão real. Quer dizer, como superar ou mitigar a contradição entre a voracidade capitalista e o desenvolvimento sustentável?
A sra. propõe a existência do neo-humano. Como o define?
Minha ideia do neo-humano foi desenvolvida no meu livro com esse título (Paulus, 2022) como uma espécie de tese de que o Sapiens é uma espécie em evolução. Contudo, a palavra evolução remete inevitavelmente para a evolução biológica darwiniana, não darwiniana ou neodarwiniana.
Temos que sair do paradigma da biologia para entender a evolução do Sapiens, pois ela se deu em outro plano, o da cultura. Na base da cultura, responsável por sua evolução, encontra-se a linguagem, ou seja, aquilo que faz do humano o que é: a única espécie que fala. Infelizmente, a linguagem nos é tão constitutiva que ela passou a funcionar como um ponto cego da retina. Fala-se de tudo, menos da linguagem, ou, quando é mencionada, surge reduzida ao instrumental. Mas é dela que advêm nossas faculdades cognitivas e o tipo específico de inteligência de que o humano dispõe: uma inteligência cuja tendência é crescer. Como a vida, a inteligência expande-se e vai ocupando todos os espaços disponíveis.
E de que maneira isso acontece? Desde as imagens nas grutas, a inteligência foi encontrando seu crescimento fora do corpo biológico, nas linguagens que se materializam externamente na busca de uma permanência de que o cérebro biológico mortal não é capaz. Assim, a evolução foi se dando em picos de formações culturais, ou seja, em saltos cognitivos alicerçados em linguagens exossomatizadas – da oralidade às distintas formas de escrita que culminaram na invenção do alfabeto, depois em sua expansão reprodutiva propiciada pelos tipos móveis de Gutenberg, passando para a era do visual e audiovisual da cultura massiva para, por fim, explodir na cultura digital que se expande em aceleração estonteante e que se encontra hoje na era da dataficação.
É importante fazer aqui duas observações. Primeiramente, embora a linha sequencial dos picos expansivos possa criar a impressão de linearidade, isso não acontece, pois as formações culturais pregressas não perecem. Continuam vivas em convivências complexas. Em segundo lugar, a inteligência humana é por natureza ambivalente, contraditória e paradoxal, condição que é extrojetada nas mediações em que ela se expande. Dei ao estágio em que hoje nos encontramos o nome de neo-humano, um ser hiperconectado, marcado por suas extensões cognitivas, recheado de contradições em que se encontra e se perde.
A IA seria uma extensão da inteligência humana? Seria possível, assim, que a inteligência humana seja ampliada ou, inversamente, restringida por ela?
Sempre me perturbou o comum menosprezo pela inteligência das máquinas. Há filósofos e não filósofos que chegam a afirmar que a inteligência artificial é tão burra quanto uma velha máquina de escrever. Para começar, a máquina de escrever, e hoje o teclado do computador, não são tão burros assim. Basta ver o prologamento natural do nosso pensamento verbal nos toques ligeiros e certeiros das pontas de nossos dedos montando frases na velocidade com que corre o pensamento.
O que dizer, então, das redes neurais artificiais e da estatística pesada que faz a IA funcionar? São burras? Que pretensão exclusivista humana, cheia de arrogância, está por trás disso? É preciso interromper a tendência à antropomorfização da IA. Trata-se de uma forma de inteligência, distinta da humana, mas, nem por isso, burra. Chamá-la de artificial alimenta o equívoco.
Diferentemente dos leigos que só sentem a IA nos seus efeitos, os especialistas, que estão com a mão na massa, sabem que ela é um alargamento da inteligência humana. E, como tal, precisa ser regulada, tanto quanto a conduta humana é regulada por leis e sanções.
Os algoritmos das redes funcionam como caixa de ressonância do próprio pensamento – ou seja, como bolhas (em cujo interior, não raro, há vasto consumo de desinformação). Além disso, eles podem ser manipulados para privilegiar determinada posição política ou ideológica. É possível transformar o potencial das redes em favor das democracias? Como?
As redes sociais surgiram com a promessa da democratização do acesso e da distribuição da informação. No início, vivemos uma espécie de idade da inocência. Gradativamente, elas começaram a dar morada a patologias narcísicas e exibicionismos. Selfie foi a palavra do ano em 2013. De lá para cá, o sonho decididamente acabou. Os dados explodiram e as big techs sabem como se aproveitar disso. Inventaram uma nova forma de capitalismo, que chamo de acrobático: capitalismo de dados, de plataforma, neocolonialismo de dados etc. O que se passa por trás disso é que nossos dados são tratados e os metadados nos alojam em bolhas de similitudes. Só acreditamos naquilo que confirma nossas convicções.
Ora, nesta era da grande aceleração, convicções vêm e vão – as que ficam são as religiosas, o amor ao time de futebol e as políticas, quase sempre tendentes aos extremismos até o ponto do fanatismo, seara propícia à disseminação de fake news. Nessa conjuntura, como proteger não só a democracia, mas a cidadania sadia de que a democracia depende? Não há passe de mágica. Não conheço outro caminho a não ser a educação – não a educação voltada meramente para a obtenção de um bom emprego, mas a educação para a vida, que implica o cultivo da curiosidade e da abertura sincera para as diferenças.
Ciência dos signos, a semiótica é um campo, por natureza, aberto à emergência de novos objetos. Que respostas (ou indagações) ela oferece aos estudos sobre a linguagem da tecnologia e sua onipresença na vida moderna?
A semiótica filosófica de C. S. Peirce em que me especializei (é sempre bom fazer essa ressalva, pois há várias semióticas) funciona como um mapa cognitivo que nos ajuda a detectar tanto os grandes planos da realidade quanto suas filigranas. Não se trata de um “abre-te, sésamo” milagroso, pois, para fazer esse mapa funcionar é necessário muito esforço e dedicação ao aprendizado. De resto, não há aprendizagem sem esforço, pois toda aprendizagem é transformadora, implicando o abandono da inércia em prol da busca do saber.
Aquilo que chamamos de realidade cresceu enormemente em ambíguas e incertas complexidades. Ponho ênfase na questão filosófica da semiótica porque ela nos oferece, quando bem estudada (chamo atenção para isso, pois muitos fazem uso da semiótica para a distribuição de adjetivos adocicados), uma espécie de salvo-conduto epistemológico, uma heurística que nos habilita a pacientemente deslindar os emaranhados fios com que a vida humana hoje se tece. Mais do que isso, permite a penetração na ontologia do humano, cujas transformações têm ocupado minhas preocupações.
Termino com uma rememoração benjaminiana. Estamos gastando vãs sutilezas para discutir os acertos e erros do ChatGPT, sua potência e suas falhas, seus males e suas benesses. Embora isso seja perfeitamente válido, não podemos deixar de fazer a pergunta crucial: até que ponto a inteligência artificial, hoje objetivada nesse chat, está colocando em questão a própria ontologia do humano? Chamá-lo de neo-humano é uma estratégia para nos colocar frente a frente com essa pergunta.
