João Bosco Gertrudes (*)
Este texto faz parte do segundo episódio da nossa “resenha em linguagem popular” sobre Inteligência Artificial. O episódio anterior foi dedicado ao entendimento crítico do conceito de IA como consequência da evolução tecnológica em outras áreas, da digitalização das atividades humanas que justificaram sua expansão meteórica. Falou-se também do enorme potencial dessa tecnologia e do amplo espectro de aplicações para solução de problemas nas mais diversas áreas. Este episódio tem o objetivo de colaborar com uma discussão pertinente e atual em torno da problemática da regulamentação do uso dessa ferramenta.
Tecnologias de IA já fazem parte do nosso dia-a-dia muito antes de “viralizarem” ou expandirem-se de forma meteórica com o surgimento do ChatGPT em 2022 (que já vai para a sua versão atualizada GPT-6). Este aplicativo na verdade pode ser entendido como um “novo produto” desenvolvido a partir da maturação de tecnologias de IA há muito tempo usadas pelas empresas de tecnologia (bigtechs) em diversas aplicações nos meios digitais. Muito antes do ChatGPT as bigtechs já usam ciência de dados e IA, por exemplo, nos motores de busca e nos algoritmos que monitoram silenciosamente “a vida digital das pessoas” para direcionamento seletivo e cirúrgico de spots publicitários monetizados.
O lançamento do ChatGPT pode ser considerado um divisor de águas no uso da IA nas atividades do dia-a-dia das pessoas. O chatbot cresceu de forma meteórica (o mais rápido da história), ganhou repercussão à nível mundial por paixões divididas, e ganhou também de forma meteórica uma quantidade absurda de usuários em todo o planeta. Foi questão de tempo para que os desenvolvedores lançassem versões mais avançadas pagas, ou seja, virou um modelo de negócio. E consequentemente o surgimento de aplicativos similares para aplicações diversas e concorrentes de peso em outras praças, por exemplo, na China com o DeepSeek.
O que pareceria uma evolução tecnológica natural à olho nú na verdade trouxe enormes inquietações e desafios, não necessariamente relacionados à tecnologia em si, mas sim com a forma e finalidades pelos quais ela é usada. Alguns desses questionamentos são humanitários e que precisam de soluções urgentes à despeito de todo o potencial inovador e benéfico das
IAs. Afinal, como proteger nossas crianças dos perigosos da imersão nessa nova era digital (pedofilia, conteúdos não adequados à faixa etária, ciberbulling, etc), impulsionados por algoritmos das grandes bigtechs que pouco importam com o conteúdo e com o destino final mais sim com o engajamento para gerar lucros estratosféricos? Como proteger nossas instituições financeiras, seus usuários e seus dados de ataques cada vez mais sofisticados? E a propriedade intelectual fica como nessa nova era obscura das “caixas pretas” das IAs? Com proteger as nossas democracias dos efeitos nefastos dos disparos de desinformação em massa cada vez mais sofisticados pelas IAs? Entre outros exemplos da história recente que evidenciam a necessidade clara e urgente de regulação. Sim.
Precisamos também de encontrar limites (leis e formas de os implementar!) para enquadramento do uso inadequado de quem já domina esses ambientes. A propósito acaba-se de assistir recentemente uma “guerra digital” promovida pelos chamados influencers digitais da Guiné-Bissau e de Cabo Verde e sabem-se lá quais as consequências futuras dessa confusão que já vem da época da copa do mundo por ofensas inaceitáveis dirigidas às cabo-verdianas. Um verdadeiro show de horrores com discursos inflamados de ambas as partes, supostamente motivada por uma “fakenews viralizada” pelas redes sociais. Alguns desses textos e vídeos possuem conteúdos questionáveis envolvendo racismo, xenofobia, discursos de ódio e até mesmo de apelo à violência e que
encontram eco em comentários que seguem espalhando o horror. A responsabilidade pelo conteúdo é certamente de quem a produziu que, diga-se de passagem, sem os meios digitais de impulsionamento teria pouca chance de causar prejuízos à sociedade. Neste sentido, cabe um questionamento: e quem providenciou a veiculação em massa, faz “vista grossa” e lucra em cima disso como fica?
Outro exemplo muito recente e muito suspeito foi a retirada do ar “sem motivo aparente” de um vídeo viral produzido pelo famoso apresentador brasileiro Fabio Porchat, com o intuito de esclarecer e fazer o enquadramento temporal de fatos e verdades já de conhecimento público sobre o escândalo de corrupção no Banco Master. Uma suposta ação de censura e manipulação dos gestores da supracitada plataforma de vídeos; posteriormente justificada como um “erro de revisão interna”. Que “erro de revisão interna” que afetou apenas um conteúdo específico viral? Os dois exemplos ilustrados acima não são fatos isolados e sim, exemplos claros da necessidade de responsabilização dos dois lados da moeda.
Responsabilização tanto de quem cria conteúdos irresponsáveis e criminosos, mas também dos responsáveis pelos mecanismos de “viralização” e uso comercial. Os critérios e técnicas utilizadas para treinamentos desses algoritmos de impulsionamento são verdadeiras “caixas pretas” com pouca ou nenhuma transparência e de propriedade de um seleto grupo de empresas de tecnologia com domínio tecnológico, poder econômico, politico e de controle das infraestruturas de acesso à dados e de atividades econômicas ligadas à digitalização nunca antes visto. Um contrassenso já que usam os dados da “vida digital das pessoas” coletados nas suas plataformas para treinar seus algoritmos e gerar lucros que não são igualmente socializados.
Há evidente necessidade de atuação e regulamentação em diversas frentes. Além dos impactos sociais, políticos e de degradação das instituições há “setores alvos” que precisam de uma atenção maior. Além da necessidade de proteger os mais vulneráveis (crianças e idosos) outro aspecto que tem chamado atenção são as fraudes bancárias pelo seu crescimento exponencial e por afetar diretamente às pessoas no seu dia-a-dia. A IA certamente trouxe serviços inovadores e ferramentas cada vez mais sofisticadas e eficazes de proteção das instituições financeiras. Mas de igual modo, permite formas cada vez mais sofisticadas aos transgressores para ludibriar as pessoas e obter os dados lá na outra ponta (clientes). Geralmente pelas vias da propagação em massa de Deepfakes como iscas. Deepfake é uma espécie de desinformação melhorada produzida com ferramentas de IA no submundo do crime digital que permite mesclar dados, som e imagem de forma cada vez mais realista para ludibriar, acessar dados e cometer crimes diversos.
Outro “setor alvo” que já vem produzindo resultados nocivos à sociedade e que precisa de regulamentação são os impulsionamentos com a finalidade de manipulação de massas. A história recente está cheio de exemplos de casos de
impulsionamentos em massa de desinformação (fakenews e deepfakes) com a finalidade influenciar pessoas e resultados
eleitorais. Um perigo para as democracias um pouco por todo o planeta. A ascensão da extrema direita inescrupulosa tem muita
ligação com a manipulação de massas através das fakenews e agora das deepfakes. Neste cenário tudo é possível. Indivíduos
que deveriam estar presos pelos seus discursos e atos criminosos e violentos; alguns com envolvimento corriqueiro com a
corrupção são capazes de concorrer e chegar ao poder. E as consequências serão socializadas e sentidas por todos (as): a
deterioração das democracias, enfraquecimento de instituições de proteção de direitos civis, de preservação ambiental e etc.
Um verdadeiro retorno à lei da selva.
A lógica perversa de acúmulo de lucros e socialização dos malefícios precisa ser repensada e isso necessariamente
passa pela conscientização, mas também pelas vias de regulamentação (adaptadas à realidade de cada país) que coloquem o
bem estar das pessoas como prioridade. Claro, com equilíbrio e bom senso para preservar as potencialidades de impacto
positivo da tecnologia de IA. Neste cenário há importantes desafios relacionados à era das IAs, por exemplo: (i) atualização e
adequação das leis de proteção e de acesso à dados; (ii) atualização de leis de proteção da proteção à propriedade intelectual
atualizadas; (iii) Atualização das leis dos mais vulneráveis (crianças e adolescentes) em ambientes digitais e etc. Tão desafiador
quanto regulamentar o setor é criar os mecanismos para identificar e responsabilizar os transgressores de ambos os lados da
moeda (quem produz e quem ganha com engajamento e impulsionamento) que leva a desafios tecnológicos igualmente
desafiadores.
Há importantes avanços para “por ordem na casa” pelas vias da regulamentação. Marcos regulatórios importantes, entre
eles a chamada EU Artificial Inteligence Act (Lei das IAs) liderada pela União Europeia. O Brasil também avança na construção
do seu arcabouço regulatório no setor das tecnologias com destaque para a chamada ECA – Digital. E há outros exemplos de
ações neste sentido em diversas áreas prioritárias que se espalham um pouco por outros países. Há também desafios
importantes no setor de educação. O acesso às tecnologias baseadas em IAgen como o ChatGPT trouxe enormes desafios
para este setor, da qual faço parte como professor do magistério superior.
A disponibilidade à dois cliques de uma ferramenta, uma espécie de “sabe tudo automatizado” capaz de “produzir conteúdo” de forma automática é sem dúvida um elemento novo que deve ser considerado na formulação de estratégias de formação das nossas crianças e jovens da era de IA. Formar cidadãos da era digital, conhecedores, conscientes e capazes de filtrar os benefícios da tecnologia de IA e com ela, enquanto ferramenta, desenvolver soluções para o bem estar comum é um enorme desafio que passa necessariamente pela educação em todas as suas vertentes – do fundamental ao profissional. É talvez por esse caminho que a humanidade encontrará as respostas para a pergunta que motivou essa série de episódios. Quero acreditar que ainda nós (humanos) estamos no controle e que faremos essa “nave desgovernada” desembarcar em segurança. A educação tem certamente um papel fundamental nesse aspecto. E, para isso, as politicas educacionais e de formação jamais devem ser desenhadas em função da lógica de “estado empregador” ou apenas da “capacidade atual e regional de empregabilidade”, que mudam de acordo com o cenário
político-econômico.
O desafio é ainda maior – a de formar cidadãos capazes de serem agentes de transformação, capazes de aproveitar as janelas de oportunidades e gerar seus próprios empregos, capazes de mudar o rumo dessa prosa que não seja a alarmista “extinção da humanidade”. Compartilhar Inquietações “em linguagem popular” sobre os impactos das IAs, principalmente as generativas (IAgen) no setor de educação será o tema do próximo episódio dessa série. Leia, discute e compartilhe!
(*) Eng. Eletricista/Professor PhD
Departamento de Tecnologia/UEFS/Brasil
Ultima versão revisada em 29/09/2026 (jbosco.cv@gmail.com)
