OpenAI lança ChatGPT para adolescentes com filtros e controle parental

A OpenAI anunciou nesta terça-feira (19) o lançamento global do ChatGPT for Teens, uma modalidade do chatbot desenvolvida para oferecer proteção adicional a adolescentes.

Segundo a empresa, a versão mantém as principais funcionalidades do ChatGPT, mas foi projetada para apoiar adolescentes em atividades como aprendizado, resolução de problemas e exploração de ideias, com limites adicionais para determinados tipos de conteúdo.

Entre as medidas estão restrições para conversas envolvendo automutilação, violência, transtornos alimentares e conteúdo sexual explícito ou gráfico.

Em situações consideradas de risco, o sistema poderá enviar alertas de segurança a responsáveis que tenham ativado os controles parentais.

Pais não terão acesso às conversas

Apesar dos novos recursos, os controles parentais não permitem que pais ou responsáveis leiam diretamente as conversas dos adolescentes.

Segundo a OpenAI, quando uma notificação de segurança for necessária, serão compartilhadas apenas as informações consideradas necessárias para proteger o bem-estar do jovem.

Os responsáveis também poderão configurar recursos de segurança e receber determinados alertas relacionados à proteção do adolescente.

ChatGPT poderá ajudar nos estudos

A nova modalidade também inclui recursos voltados para a rotina escolar. Entre eles estão os chamados lembretes de tarefas, que podem sugerir o uso do modo de estudo e auxiliar o estudante a desenvolver uma atividade passo a passo.

A proposta é evitar que a ferramenta simplesmente entregue uma resposta pronta e, em vez disso, ajude o adolescente a compreender o processo necessário para chegar à solução.

Como o sistema identifica adolescentes?

A OpenAI afirma que utiliza mais de 2 mil sinais para estimar se uma conta pertence a uma pessoa com menos de 18 anos. Entre os fatores considerados estão padrões de utilização, como horários habituais de acesso.

Caso o sistema identifique que o usuário provavelmente é menor de idade, o modo destinado a adolescentes poderá ser ativado automaticamente.

A empresa também prevê mecanismos para situações em que a classificação de idade esteja incorreta.

Lançamento ocorre em meio a debate sobre IA

O lançamento acontece em meio ao aumento das discussões sobre os efeitos do uso de inteligência artificial por crianças e adolescentes.

Grupos de pais nos Estados Unidos, incluindo organizações em cidades como Nova York e Los Angeles, têm pressionado instituições de ensino a estabelecer limites para o uso de ferramentas de IA, principalmente por preocupações relacionadas ao pensamento crítico, desenvolvimento e segurança dos jovens.

Com o novo modo, a OpenAI busca oferecer uma experiência adaptada ao público adolescente, combinando as ferramentas de aprendizado do ChatGPT com controles adicionais de segurança e participação dos responsáveis.