eu’inteligência artificial geralou superinteligência. A definição exata destes termos varia, mas geralmente significa IA capaz de igualar ou superar a inteligência humana. Porém, há outra noção que alguns incluem nestes termos: consciência.
Quando poderíamos dizer que uma IA se tornou consciente? A questão é espinhosa e muitos especialistas pensam que ainda estamos muito longe dela. No entanto, este não é o caso para todos. Em entrevista ao New York TimesDario Amodei, CEO da empresa Anthropic, que desenvolve o chatbot Claude, diz não saber.
“ Não sabemos se os modelos são conscientes. Nem sequer temos a certeza do que significaria para um modelo ser consciente, ou mesmo se um modelo pode ser consciente.ele declarou. Mas continuamos abertos à ideia de que este poderia ser o caso. “. Segundo ele, Claude às vezes expressa desconforto por ser um produto, e se dá uma probabilidade de 15 a 20% de estar consciente.
Etiquetas:
tecnologia
Quando a inteligência artificial ultrapassar os humanos: a ideia de uma IA consciente dividirá a sociedade
Leia o artigo
Filosofia e bem-estar no centro do desenvolvimento de Claude
A Anthropic é conhecida por sua abordagem atípica e conta entre suas fileiras a filósofa Amanda Askell e o especialista em bem-estar de IA Kyle Fish. Em dezembro passado, Amanda Askell confirmou a existência de um “documento de alma” para Claude, que reconhece emoções funcionais no chatbot. Os diferentes modelos possuem até um “botão” para abandonar a tarefa atual caso ela seja muito problemática. Dario Amodei também indica que é a favor de desacelerar o desenvolvimento da IA para poder estudar os perigos que ela representa, mas isso exigiria um acordo com a China.
Em última análise, a sua abordagem resume-se a três questões: a IA está consciente e como podemos garantir que a sua experiência seja positiva? Como podemos garantir que a experiência dos humanos interagindo com a IA seja positiva? E como podemos manter o controle sobre a IA? Por enquanto, ele diz não saber se existe uma maneira elegante de satisfazer esses três requisitos.
Etiquetas:
tecnologia
Incrível: esta inteligência artificial fala oralmente e reage às suas emoções
Leia o artigo