Os usuários do ChatGPT estão relatando uma proliferação de referências a goblins e gremlins nas respostas da IA. OpenAI aponta um culpado: o perfil nerd.

Goblins e gremlins invadem Bate-papoGPT-5.5 e, de forma mais geral, os diferentes modelos OpenAI. Nas redes sociais, as piadas sobre isso continuam. O próprio Sam Altman se divertiu com a multiplicação de goblins em seus modelos. A OpenAI reagiu por meio de um artigo no blog para esclarecer a situação.

Goblins invadem ChatGPT

Isso pode parecer uma piada, mas é, de certa forma, verdade. Há vários dias, alguns usuários do GPT-5.5, e mais geralmente dos vários modelos da empresa, notaram que a inteligência artificial frequentemente referência a duendes ou para gremlins em suas respostas. “ Uma largura de banda goblin “,” uma versão goblin ainda mais curta “,” escolha um vendedor goblin “,” goblin sem nome “,” duende da manutenção; verificação de cópia de jurisdição local “, não faltam exemplos e basta dizer que são divertidos.

Sam Altman ele mesmo se divertiu com a situação no X onde simulou o desenvolvimento de seu próximo modelo de IA: “ Comece a treinar o GPT-6, você pode ter o cluster inteiro. mais duendes “.

Nas redes sociais multiplicam-se as montagens e as piadas também, como a de um utilizador do Reddit que propôs mudar o nome da IA ​​para ChatG(obelin)PT.

No entanto, se esta situação é divertida, também pode ser perturbadora a longo prazo, especialmente para quem usa o Codex. A OpenAI reagiu portanto para esclarecer a situação e tranquilizar os seus utilizadores: os goblins deverão desaparecer em breve dos diferentes modelos OpenAI.

OpenAI esclarece a situação: modo nerd tornado culpado

Em uma postagem do blog intitulada “ De onde vieram os goblins? ”, OpenAI explica: “ A partir do GPT-5.1, nossos modelos começaram a desenvolver um hábito estranho: eles mencionavam cada vez mais goblins, gremlins e outras criaturas em suas metáforas “. Então a invasão dos goblins começou em novembro passado, após o lançamento do GPT-5.1, e a situação piorou com GPT-5.4.

Mas de onde vem o problema? O culpado é simplesmente modo intelectual-nerd do ChatGPT e um sobrecompensação Respostas de IA contendo metáforas de duendes. OpenAI explica: “ Nesse caso, um desses incentivos veio do treinamento do modelo para o recurso de customização de personalidade, especificamente o perfil nerd. Inconscientemente, recompensamos generosamente metáforas envolvendo criaturas. É assim que os goblins se espalham ».

Aberto
© OpenAI

O problema é o seguinte: o perfil nerd, altamente recompensado por suas respostas associadas aos goblins, contaminou outros modelos bem mais sérios, como o Codex. A IA detectou respostas altamente recompensadas e tomou a liberdade de aplicá-las a outros modelos.

Hoje a OpenAI tranquiliza: os goblins vão em breve desaparecer. A empresa removeu o perfil nerd em março passado, eliminou o sinal de recompensa associado aos goblins e filtrou dados de treinamento contendo palavras para criaturas. No entanto, como o treinamento do GPT-5.5 começou antes da detecção do problema, o processo de eliminação dos goblins levará algum tempo.

👉🏻 Acompanhe notícias de tecnologia em tempo real: adicione 01net às suas fontes no Google e assine nosso canal no WhatsApp.

Fonte :

OpenAI



Fonte

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *