Uma lei que mudaria as regras do jogo entre gigantes e autores da IA? Na noite de quarta-feira, 8 de abril, o projeto de lei que visa proteger ainda mais criadores e artistas da inteligência artificial foi aprovado por unanimidade pelo Senado. Validado pelo Conselho de Estado em março e adotado em comissão uma semana antes, o texto apresentado pelos senadores Laure Darcos (Horizons), Agnès Evren (Les Républicains) e Pierre Ouzoulias (PCF) cristalizou as tensões entre os dois campos.
Por um lado, os seus oponentes, os criadores de IA como a OpenAI e as start-ups digitais europeias, não querem mudar nada no sistema atual. Não querem ter de respeitar regras mais onerosas do que aquelas que permitiram à OpenAI lançar, o primeiro, o seu chatbot AI ChatGPT em Novembro de 2022. Por outro lado, os seus apoiantes (principalmente detentores de direitos, artistas, actores, etc.) querem proteger melhor os criadores e as suas criações que consideram “saqueadas” por ferramentas que os imitam e competem com eles.
Para os senadores, “ o texto visa corrigir a assimetria de informação existente entre as duas partes e restaurar a igualdade de armas em caso de litígio. Os seus autores esperam encorajar os actores presentes a negociar e celebrar acordos », escrevem num comunicado de imprensa publicado quarta-feira.
Leia também: Meta (Facebook, Instagram, WhatsApp) acusado de ter saqueado livros para sua IA na França
O mundo do cinema denuncia uma “saque regular” da IA “aqui e agora”
Uma nova presunção de uso para Google, OpenAI ou Mistral, o que isso significa?
Aparentemente, porém, o projeto senatorial transpartidário visa apenas modificar um elemento processual: o regime de comprovação da violação de direitos autorais. O principal objectivo do texto é, de facto, impor uma nova presunção de uso por empresas de IA como Google, OpenAI ou Mistral. Esta mudança está longe de ser trivial. Não afetaria nem mais nem menos o modelo económico dos criadores de IA. Em seu texto, os senadores por trás do projeto desejam, na verdade, reequilibrar um sistema descrito como totalmente desequilibrado, em benefício dos gigantes da IA.
Para treinar suas ferramentas de IA, empresas como OpenAI ou Google recorreram fortemente à Web. Seus robôs de indexação coletaram dados públicos e dados protegidos por direitos autorais sem distinção, dados que foram então usados para treinar os agentes conversacionais. Porém, neste esquema, esses dados foram coletados e utilizados “gratuitamente”, sem pagamento de qualquer remuneração por parte das empresas de IA.
Porém hoje, quando um autor se considera “saqueado” por um chatbot de IA, cabe a ele provar que seu(s) trabalho(s) (livros, músicas, desenhos) foram utilizados para treinar esta ferramenta. O problema é que essa prova é quase impossível para eles fornecerem, explicam os autores do projeto.
Os desenvolvedores de IA não são obrigados por lei a publicar uma lista exaustiva de seus dados de treinamento. Não sendo obrigado a fazê-lo, nenhum ator, com uma exceção, jogou o jogo da transparência. Só o regulamento da IA exigirá que, a partir de agosto próximo, publiquem um resumo suficientemente detalhado das suas fontes de formação – e não uma lista exaustiva.
Leia também: Direitos autorais: a partir de 2 de agosto, as IAs terão que revelar suas fontes na Europa
As empresas de IA terão de pagar indenizações aos perpetradores? O assunto espinhoso deve ser decidido em 2026
O novo sistema, proposto pelo texto aprovado quarta-feira no Senado, inverteria o ônus da prova na França: a partir do momento em que ChatGPT, Le Chat ou Gemini citam um texto original ou imitam um autor (“à maneira de”), presumir-se-ia ter sido treinado neste trabalho. Para evitar o pagamento de remuneração por direitos autorais, a empresa teria que provar que não utilizou esses dados. O suficiente para sinalizar o fim do tempo de jogo para todos os jogadores de IA que, até agora, não tiveram que se preocupar com direitos autorais.
Como funciona o sistema atualmente?
Estes últimos não precisaram se preocupar com isso porque acreditam que estão dentro dos seus direitos. Para os desenvolvedores de IA, os trabalhos protegidos por direitos autorais podem ser usados para fins de treinamento, de acordo com a diretiva da UE de 2019. O texto da UE, adotado antes da era da IA generativa, prevê uma exceção aos direitos de autor para ferramentas de IA – “prospeção de texto e dados” ou isenção de mineração.
Neste sistema, os artistas e os detentores de direitos podem, no entanto, opor-se a que as suas obras alimentem estes sistemas, usando o “ excluir ». Em teoria, se o autor objetar expressamente (se ele “optar pela exclusão”), isso “ mineração de texto e dados » (este direito de escavação, em francês) não é possível. Mas, na prática, este mecanismo é difícil de implementar.
E no final da cadeia, não sabemos se este opt-out é realmente respeitado, nomeadamente pelos robôs indexadores, porque as empresas de IA não comunicaram a lista de dados utilizados para treinar a sua ferramenta. No entanto, sem esta informação, os autores não podem ou dificilmente podem saber se os seus trabalhos foram utilizados para treinar uma IA.
Porque todo este sistema é baseado em um “ transparência » gigantes da IA que não existe e que Esse ” A colheita é realizada sem autorização prévia ou remuneração dos seus titulares », o texto transpartidário propõe a inversão do ónus da prova.
Por que este texto agora?
O projeto senatorial chega após uma fase de discussões que não tiveram sucesso. No ano passado, ocorreram várias negociações entre titulares de direitos, imprensa e desenvolvedores de inteligência artificial, supervisionadas em particular pelo Ministério da Cultura e da Economia.
Mas estas negociações, que poderiam ter conduzido a acordos de licenciamento, não não avançou nem um pouco. O governo havia alertado que, em caso de fracasso, pretendia legislar. Os senadores fizeram o mesmo, antes de publicarem um projeto de lei nesse sentido em dezembro passado.
A verdade é que o texto provocou tantos protestos, especialmente por parte das empresas digitais, que o Presidente do Senado preferiu submeter o assunto ao Conselho de Estado para parecer em 19 de Fevereiro. Um mês depois, porém, o mais alto tribunal administrativo deu luz verde ao projecto de lei francês, obtido apesar da oposição dos lobbies tecnológicos.
Leia também: Acabar com o “saque” de autores pela IA: a proposta de lei validada pelo Conselho de Estado
Por que a tecnologia está contra o texto
Segundo este último, a nova regra penalizaria as empresas francesas de IA e levaria a uma perda significativa de competitividade, argumentos apoiados pela start-up francesa Mistral AI, que desenvolveu o Le Chat, e pela France Digitale, que defende os interesses das start-ups. Para os desenvolvedores de IA, seria muito difícil saber se um trabalho específico foi usado para treinar um modelo de linguagem específico, o que equivale a “ procurando uma agulha no palheiro “.
Por sua vez, a empresa francesa de IA Mistral fez campanha em 20 de março num fórum no Tempos Financeirospara a implementação de um sistema diferente. Em vez de uma presunção que pesaria sobre as empresas de IA, estas poderiam contribuir para o financiamento de um fundo destinado a compensar os autores cujo conteúdo tenha sido utilizado sem autorização, com base numa percentagem do seu volume de negócios. A proposta gerou recusa por parte de vários representantes da Cultura, como o Sacem.
Por sua vez, o governo contou com “ sabedoria do Senado », não se manifestando nem totalmente a favor nem totalmente contra o texto. Para Anne Le Hénanff, Ministra responsável pela IA e tecnologia digital, que falou antes das discussões na Câmara, “ os dois ecossistemas (de inovação e cultura, nota do editor) não devem entrar em conflito constante “.
“ Gostaria de alertar o Senado para o real alcance » do texto, indicou ela, notando um “ risco legal » que seria “ devastador para a nossa economia “. “ Cada empresa (seria forçada) a fornecer provas negativas » não utilização de dados protegidos por direitos autorais, “ que envolverá o exame de dezenas de terabytes de dados em litígios. É impossível “, continuou ela. O projeto foi enviado à Assembleia Nacional.
Leia também: Por que esta votação dos eurodeputados pode ser uma mudança de jogo para autores e artistas que enfrentam a IA
Nota do editor: Este artigo, publicado na quarta-feira, 8 de abril, foi modificado nesta quinta-feira, 9 de abril, para incluir a votação dos senadores ocorrida na noite de quarta-feira.
👉🏻 Acompanhe notícias de tecnologia em tempo real: adicione 01net às suas fontes no Google e assine nosso canal no WhatsApp.