IA generativa: especialista explica à CNN como é o treinamento da ferramenta

O Ministério da Justiça determinou à empresa Meta que suspenda imediatamente o uso de dados pessoais para treinamento de sistemas de inteligência artificial (IA) no Facebook, Instagram e Messenger.

A Autoridade Nacional de Proteção de Dados (ANPD) emitiu uma medida preventiva nessa terça-feira (2), após a Meta atualizar sua política de privacidade, permitindo o uso de informações públicas e conteúdos compartilhados pelos usuários para aprimorar seus modelos de IA generativa, sem notificação prévia.

Arthur Igreja, especialista em Segurança Digital, explicou durante o programa Bastidores CNN que as imagens e informações compartilhadas pelos usuários são utilizadas para treinar a IA generativa. “As nossas informações estão sendo usadas de forma ampla e aberta para fazer treinamento de IA”, afirmou Igreja.

Ele destacou que os dados pessoais dos usuários, como fotos, vídeos e áudios postados nas redes sociais são usados para que a IA aprenda padrões e possa gerar conteúdos semelhantes.

O especialista alertou para os riscos de violações de direitos, como a criação de conteúdos falsos usando a imagem ou voz de uma pessoa sem seu consentimento. Igreja citou o exemplo da OpenAI, que bloqueia a geração de imagens com o nome de celebridades para evitar esse tipo de situação. “Não é só para recomendar conteúdo, é muito mais do que isso, é para criar conteúdo”, explicou.

Em resposta à determinação, a Meta se disse “desapontada” e argumentou que é “mais transparente” que outros players do setor. A empresa afirmou que a medida representa um “retrocesso para inovação” e pode atrasar os benefícios da IA generativa para os brasileiros.

Caso descumpra a determinação da ANPD, a Meta estará sujeita a uma multa de R$ 50 mil por dia.

A decisão do Ministério da Justiça visa proteger os direitos dos usuários e evitar abusos no uso de seus dados pessoais para fins comerciais ou sem consentimento expresso. A mudança na política de privacidade da Meta, que permitiu o uso de dados como textos, stories, reels, fotos e imagens para treinar sistemas de IA generativa, já havia gerado reações semelhantes na União Europeia, onde a empresa foi forçada a recuar e suspender essa prática.

Os textos gerados por inteligência artificial na CNN Brasil são feitos com base nos cortes de vídeos dos jornais de sua programação. Todas as informações são apuradas e checadas por jornalistas. O texto final também passa pela revisão da equipe de jornalismo da CNN. Clique aqui para saber mais

(Publicado por Raphael Bueno, da CNN Brasil)