ChatGPT agora começa a prever a idade de seus usuários. Para identificar adolescentes, a OpenAI utiliza um algoritmo que foca nos sinais comportamentais deixados pelos usuários. Em caso de erro, a startup solicita uma selfie para suspender as restrições.

OpenAI acabou de adicionar um sistema de previsão de idade no ChatGPT. Já mencionado no ano passado, o dispositivo faz parte do controle parental que deve proteger melhor os adolescentes que utilizam IA generativa. Como explica a start-up americana num post no blog, o sistema deve permitir a identificação de menores. Uma vez identificados os adolescentes, a OpenAI compromete-se a implementar restrições adequadas nas suas conversas com o ChatGPT. Por exemplo, os filtros bloquearão discussões de natureza sexual ou violenta, desafios “provavelmente encorajará comportamento de risco”O “jogos de RPG sexuais, românticos ou violentos”automutilação ou mesmo “promoção de padrões extremos de beleza, dietas pouco saudáveis ​​ou fatfobia”.

Leia também: OpenAI lança “Traduzir com ChatGPT” para tornar o Google Tradutor desatualizado

Como o ChatGPT identificará usuários menores de 18 anos?

Em seu comunicado à imprensa, a OpenAI explica que se baseia em um algoritmo de IA para identificar adolescentes que conversam com o ChatGPT. O algoritmo examinará as contas em busca de “sinais comportamentais”. Entre os sinais identificados pela OpenAI, encontramos a idade indicada pelo utilizador, o tempo de existência da conta e os seus horários habituais de utilização.

Se um usuário for classificado erroneamente como menor de idade, ele poderá voltar sua conta para o modo “adulto”, fornecendo uma selfie no Personao provedor responsável pela verificação de identidade do OpenAI. Este utiliza o reconhecimento facial para corrigir os erros de classificação do algoritmo. Os adultos que se encontrarem por engano na seção “Adolescentes” podem confirmar sua idade acessando Configurações e depois Conta. É aqui também que você deve ir para verificar se “medidas de proteção foram adicionadas” para sua conta por engano.

Leia também: ChatGPT torna-se seu assistente de compras, bem a tempo para a Black Friday

Por que a OpenAI adiciona previsão de idade ao ChatGPT?

O dispositivo responde ao envolvimento do ChatGPT em vários suicídios de adolescentes. Nos últimos meses, a start-up foi inclusive alvo de uma série de reclamações nos Estados Unidos. Eles acusam o chatbot de ter causado, ou mesmo agravado, os transtornos mentais de três jovens americanos. Para os pais enlutados, o ChatGPT desempenhou um papel fundamental no suicídio de seus filhos. Diante de acusações, a OpenAI investigou a saúde mental de seus usuários. Descobriu-se que um milhão de utilizadores da Internet evocam pensamentos suicidas com IA, com comentários relacionados com a prática do ato. De facto, a empresa desenvolveu uma grelha de análise que lhe permite identificar, nas trocas, sinais de psicose, mania ou outros distúrbios graves.

O sistema de previsão não trata apenas de ajustar as restrições de idade. Ao implantar o dispositivo, a OpenAI também busca se preparar para a chegada de uma modalidade adulta, que permitirá conteúdo erótico. Para ter conversas sujas com a IA, você absolutamente terá que prove que você é adulto enviando uma selfie. O processo deve lhe dar acesso a uma versão um pouco mais irrestrita do ChatGPT. Que “também nos permite tratar os adultos como adultos e permitir-lhes utilizar as nossas ferramentas como desejarem, respeitando as normas de segurança”explica OpenAI em uma postagem no blog.

O sistema de previsão de idade está sendo implementado em todo o mundo, diz OpenAI. Como sempre, a Europa terá de esperar um pouco mais do que outros continentes. Na União Europeia, a função será implantada em “próximas semanas”. Não é novidade que a OpenAI explica a necessidade de cumprir “requisitos regionais”o que atrasa sistematicamente a chegada de algo novo.

👉🏻 Acompanhe notícias de tecnologia em tempo real: adicione 01net às suas fontes no Google e assine nosso canal no WhatsApp.



Fonte

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *