Uso não mediado de IA prejudica memória e autonomia crítica de adolescentes, diz estudo

Enquanto as plataformas baseadas em inteligência artificial se proliferam, geralmente no formato de um chat, em que o usuário dialoga ou dá ordens para a máquina, pouco se sabe sobre os efeitos dessa tecnologia para o desenvolvimento cognitivo de seus usuários. A ciência, afinal, ainda corre atrás de compreender a forma como as IAs impactam habilidades humanas.

Em busca de respostas, um artigo publicado no período “Journal Media Critiques”, em outubro do ano passado, observou um paradoxo: o uso não mediado da IA, embora eficiente para tarefas imediatas, tende a representar um risco ao desenvolvimento de competências fundamentais e à autonomia intelectual desses estudantes. Segundo o estudo, conduzido com 582 alunos do ensino médio em Guaratinguetá, em São Paulo a maioria deles (70%) utilizam IA semanal ou diariamente, mas 67,9% nunca recebeu orientação pedagógica sobre seu uso crítico e ético dessas ferramentas. 

As principais finalidades de uso, disseram os participantes, são a obtenção de respostas diretas (39%) e a geração de textos (25,9%) – procedimentos que os autores do artigo classificaram como uma tendência à “terceirização cognitiva”. 

“Como consequência, uma parcela significativa dos usuários frequentes percebe um impacto negativo em suas habilidades, com 58,1% relatando maior dificuldade em resolver problemas de forma autônoma e 62,4% sentindo uma diminuição na capacidade de memorização”, constata a publicação, que conclui asseverando para a urgência da implementação de programas de letramento digital crítico nas escolas – “a fim de transformar a IA em uma ferramenta de potencialização, e não de substituição do esforço cognitivo”.

Essa preocupação aparece também nas análises de Eucídio Pimenta Arruda, professor da Faculdade de Educação da Universidade Federal de Minas Gerais (UFMG). “O aluno deve entender que uma cópia pura e simples não promove o seu desenvolvimento cognitivo, nem estimula sua inteligência ou a produção de conhecimento que o ajudará a se colocar no mundo”, defende em entrevista sobre a conturbada relação entre as IAs e a educação.

Ele reconhece que essas ferramentas implicam novos desafios, entre os quais a dificuldade de reconhecer o que é verdade ou mentira, autêntico ou manipulado. “A inteligência artificial gera documentos, imagens e vídeos que são tão aparentemente humanos que o maior desafio que temos hoje, como professores e estudantes, é exatamente detectar o que foi feito por uma máquina e o que não foi”, admite.

Diante desse cenário, Arruda defende a importância de capacitação mais ética do que propriamente técnica, argumentando ser importante demonstrar aos usuários das IAs que pessoas que não produzem conhecimento, que não têm leitura crítica e não conseguem entender minimamente uma frase por terem delegado essa tarefa a uma máquina, correm um risco significativo de não ser integrada a uma sociedade cada vez mais complexa. “Portanto, temos que formar o estudante para que ele compreenda que a tecnologia pode ajudá-lo e fortalecê-lo, mas que, para isso, ele também precisa se fortalecer como pessoa, como sujeito que pensa e que analisa não apenas a máquina, mas o mundo”, assinala.

ENTREVISTA:
Eucídio Pimenta Arruda, professor da Faculdade de Educação da UFMG. Graduado em História pela Universidade Federal de Minas Gerais (1999), Mestre e Doutor em Educação pela UFMG (2002 e 2009).

1. A inteligência artificial se disseminou muito rapidamente em ambientes educacionais, muitas vezes antes mesmo de haver diretrizes claras. Do ponto de vista da educação, quais são os principais problemas de incorporar a IA sem um letramento prévio de professores e estudantes? A inteligência artificial generativa pode ser entendida como uma tecnologia disruptiva, pois transforma significativamente a maneira como lidamos com a tecnologia e com a produção de informação, na medida em que o computador pode gerar uma série de informações a partir de interações com humanos. Isso irá reconfigurar significativamente a educação. Não é possível pensar, por exemplo, em uma regra ou diretriz que consiga acompanhar um desenvolvimento tecnológico tão rápido e veloz. Enquanto a tecnologia avança, tentamos discutir estratégias; a cada dia ela se transforma ainda mais, e professores e estudantes já a utilizam cotidianamente. Acredito que o letramento tecnológico de professores e estudantes até existe, embora não de forma muito bem desenvolvida, limitando-se a habilidades para o uso do equipamento. Penso que temos que rever conhecimentos científicos do passado no sentido de, por exemplo, começarmos a questionar e a fazer perguntas sobre a origem da fonte. Para mim, este é hoje o principal problema.

2. Quando falamos em letramento em IA, do que exatamente estamos falando na escola e na universidade: compreender o funcionamento técnico dos algoritmos, desenvolver pensamento crítico sobre seus usos ou repensar práticas pedagógicas mediadas por tecnologia? Quando falamos em letramento em IA, eu vou um pouco além e penso em um letramento tecnológico e humano. Mais do que entender a inteligência artificial, precisamos compreender as relações de poder e as desigualdades para que possamos ter uma leitura crítica sobre como as tecnologias são desenvolvidas. Um ponto de partida fundamental é que o sujeito, esteja na escola ou na universidade, perceba que a tecnologia é produzida por empresas com interesses econômicos. A inteligência artificial generativa, por exemplo, pode reproduzir uma série de preconceitos, pois a forma como ela responde depende do tipo de material que utiliza, o qual pode ser enviesado, misógino ou conter preconceito racial.

Outra questão que considero fundamental é o reforço nos cursos de formação de professores para que discutam melhor as tecnologias. Não apenas como uma disciplina isolada, mas para debater como as tecnologias impactam toda a produção do conhecimento e o processo de formação e trabalho docente. Mais do que uma disciplina, vemos que a inteligência artificial generativa é utilizada pelos estudantes em todas as áreas do conhecimento. Eles não a utilizam apenas para resolver questões de algoritmos, mas para responder a questões de matemática, português, história ou geografia.

Portanto, temos que entender o impacto dessa tecnologia nas diferentes áreas e mudar a estrutura de formação de professores no Brasil, o que impactará diretamente os docentes da educação básica que trabalham com crianças e jovens. Na medida em que temos professores melhor preparados para entender a tecnologia em todos os campos do conhecimento, eles terão melhores condições de atender seus estudantes. Com isso, o estudante passa a ter um acompanhamento mais elaborado e profissional. Independentemente do que ele busque ou queira elaborar por meio da inteligência artificial generativa, terá sempre o apoio de um professor que sabe para onde ir, entende o que está acontecendo e conhece os impactos e as responsabilidades éticas e profissionais em relação ao uso desta tecnologia.

3. Ferramentas de IA generativa já estão sendo usadas por estudantes para estudar, escrever e pesquisar. Como a educação pode lidar com essa realidade sem cair nem no proibicionismo nem no uso acrítico? As ferramentas de IA generativa estão sendo usadas não só por estudantes, mas acredito que por todos. Há pesquisas atuais mostrando que um percentual significativo de professores utiliza inteligência artificial. Nós temos que, primeiro, nos desfazer de um preconceito, de uma pré-avaliação de que as pessoas utilizam a inteligência artificial generativa apenas para fazer algo errado ou antiético, como responder a uma questão de prova. Precisamos entender por que as pessoas utilizam a inteligência artificial generativa. Muitas vezes, é para conversar ou tirar dúvidas. Nesse sentido, é muito interessante que haja uma tecnologia com essa capacidade de interagir com os estudantes e com as pessoas de forma geral. Em relação à produção do estudante, o que nós precisamos é, como mencionei anteriormente, de uma formação mais ampla do professor para que ele também possa orientar o aluno a desenvolver uma capacidade crítica. O aluno deve entender que uma cópia pura e simples não promove o seu desenvolvimento cognitivo, nem estimula sua inteligência ou a produção de conhecimento que o ajudará a se colocar no mundo.

4. Considerando que a IA é uma realidade sem volta, que competências éticas, cognitivas e pedagógicas deveriam ser priorizadas hoje na formação de professores e alunos para um uso mais consciente e responsável dessas tecnologias? Quando pensamos na história da humanidade, devemos considerar que todo desenvolvimento tecnológico é irreversível. A tecnologia transforma nossa sociedade e precisamos aprender a conviver com ela. É difícil definir a competência exata que deve ser aprendida por estudantes e professores; a meu ver, uma competência básica não está diretamente ligada à inteligência artificial, mas sim à dimensão da ética. Trata-se de entendermos o quanto um determinado produto ou conteúdo pode prejudicar o coletivo.

Ao pensarmos dessa forma, ao assistirmos a um vídeo ou visualizarmos uma imagem gerados por IA, já teremos um posicionamento crítico. Por exemplo, há plataformas como o Grok que têm utilizado fotos de mulheres para criarem situações constrangedoras, pois é uma inteligência artificial sem filtros para evitar esse tipo de ação. Em uma sociedade bem formada, independentemente da habilidade técnica em relação à IA, qualquer pessoa, ao ver uma imagem como essa, posicionar-se-á contra quem a produziu e em defesa da vítima. Isso ocorre porque se percebe que o conteúdo foi elaborado sem consentimento, com o intuito de humilhar e prejudicar alguém.

Esse princípio vale para todos os processos elaborados por inteligência artificial, seja um texto, vídeo ou imagem falsos. Devemos formar as pessoas para que entendam que a máquina não substitui o nosso trabalho; o nosso trabalho é que deve ser aprimorado, alcançando padrões de qualidade e éticos cada vez superiores, uma vez que somos nós, humanos, que desenvolvemos as máquinas. Portanto, nossa produção deve ser muito mais complexa e voltada para a melhoria do coletivo e da humanidade, e não para causar dano a outrem.

Fonte: O Tempo