OpenAI dá um novo passo na regulamentação do seu chatbot. A empresa está implantando globalmente um sistema de “predição de idade” para identificar menores no ChatGPT.
A OpenAI acaba de anunciar a implementação global de uma ferramenta capaz de prever a idade dos seus utilizadores, analisando a forma como interagem com a IA.
ChatGPT não acreditará mais apenas na sua palavra. Embora muitos serviços online solicitem simplesmente uma data de nascimento que muitas vezes é fácil de falsificar, a OpenAI depende da inteligência artificial para verificar as suas declarações.
O objetivo? Protegendo os menores no início da chegada do conteúdo adulto ao ChatGPT.
Para ir mais longe
Como usar o ChatGPT e para que serve?
Análise comportamental para identificar menores
O princípio baseia-se no que os especialistas chamam de perfil comportamental. Concretamente, o sistema examina a estrutura das frases, o vocabulário utilizado e os temas abordados durante as sessões de discussão. De acordo com a OpenAI, esta tecnologia pode determinar se um usuário tem menos de 13 anos ou é adolescente.
O objetivo declarado é aplicar automaticamente filtros de segurança mais rigoroso para os mais novos. A OpenAI especifica que esta medida visa atender às crescentes exigências dos reguladores internacionais, especialmente na Europa com oLei IA. Caso a ferramenta detecte um usuário menor de idade, o ChatGPT poderá restringir o acesso a determinados conteúdos considerados inadequados ou sugerir supervisão parental aprimorada.
Proteção necessária, mas criticada
Se a abordagem partir de uma boa intenção, também poderá levantar questões. Este sistema complementa as medidas já em vigor, como o controlo parental que já detalhamos.
O ponto sensível permanece privacidade de dados. A OpenAI garante que essas previsões não sejam usadas para criar perfis publicitários. No entanto, em sua postagem no blog, a OpenAI explica: “Usamos modelos de aprendizado de máquina para estimar se um usuário provavelmente é menor de idade para fornecer uma experiência adequada à idade”.
A ideia de que uma IA possa “inferir” informações pessoais sensíveis sem consentimento explícito pode irritar os defensores da privacidade.
Uma implantação gradual em escala global
Este novo sistema não é uma opção. Está integrado diretamente na infraestrutura do ChatGPT e estará habilitado para todas as contas, sejam elas gratuitas ou não. Para usuários na França, essa funcionalidade deverá aparecer gradativamente nos próximos dias.
Resta saber se esta “previsão” será suficientemente fiável. Um erro de algoritmo poderia, teoricamente, limitar a experiência de um adulto de fala simples ou, inversamente, deixar um menor particularmente eloqüente ficar de fora. A OpenAI ainda não esclareceu se será possível contestar uma previsão de idade incorreta, a não ser fornecendo uma identificação oficial.