IA precisa de incentivos corretos e regulação para não virar um grande problema, diz fundadora da Signal

A grande questão da inteligência artificial está em como a tecnologia acabou se concentrando em poucas e gigantes empresas que tem nos dados dos usuários a sua principal fonte de receita. A afirmação é de Meredith Whittaker, presidente do Signal, a plataforma de mensagens sem fins lucrativos que não coleta dados dos usuários.

É desta posição que ela faz críticas ao modelo de negócios das big techs e defende que a inteligência artificial precisa de regulação, algo que faltou para a internet como um todo desde sua popularização, há quase 30 anos.

Para ela, o fato de não existir, desde os anos 1990, uma regulamentação da comercialização da computação em rede ou do modelo de negócio da Internet permitiu que a vigilância se tornasse o motor do modelo de negócio que temos hoje. O “hype” atual da IA é consequência disso.

“O termo IA é muito flexível e é, sem dúvida, mais um termo de marketing do que da tecnologia, por que ressurgiu agora? Mais uma vez é remontar o modelo de negócio de vigilância”, defende.

Ela explica que a IA que vemos agora requer grandes quantidades de dados e este paradigma impulsionando o ciclo de da IA generativa.

“Precisamos reconhecê-lo como um derivado do poder concentrado que se acumulou nas mãos de um punhado de empresas através da sua monopolização do modelo de negócio de vigilância. E meu argumento aqui é que precisamos voltar e realmente expiar os pecados dos anos 90 se quisermos realmente abordar as formas de IA que fazem parte do alfabeto que foi criado”, afirma.

Quando questionada que a IA pode ajudar a resolver problemas como o racismo, o aquecimento global ou a desigualdade social, a executiva pondera que se tratam de “questões políticas e sociais sombrias e profundas”, e não de problemas tecnológicos.

“Não sei se há como a IA resolver isso. É um problema de IA ou um problema fundamental dos incentivos incompatíveis desta fase do capitalismo e do futuro de um mundo habitável?”, questiona.

Para ela, a grande questão quando se discute a regulação da inteligência artificial é um mercado tecnológico que se tornou fundamentalmente concentrado. “E, por isso, estamos preocupados com a assimetria de poder e com a quantidade de autoridade que você cedeu a um punhado de empresas movidas, em última análise, pelo lucro e pelo crescimento. Precisamos atacar esse poder concentrado e precisamos de ser honestos sobre economia política”, ressalta.

Ao marcar sua posição, ela afirma que no caso da Signal, ser uma organização sem fins lucrativos não é apenas algo bom, mas sim uma forma fundamental de manter a integridade da missão da plataforma.

Ela reforça que o que gera receita em tecnologia é a monetização dos dados de vigilância, com a venda de acesso aos anunciantes e treinamento de modelos de IA, por exemplo, tornando o setor “incrivelmente lucrativo”. Por isso, ela afirma, para manter a integridade da missão da Signal, que é não coletar dados e fornecer um meio verdadeiramente privado de comunicação, é necessário que a organização esteja estruturada para “não sermos tentados ou pressionados a participar de um modelo de negócios que prejudica, fundamentalmente, a privacidade”.

Meredith Whittaker participou nesta terça-feira (14) do Web Summit 2023, que acontece de hoje a quinta-feira (16) em Lisboa.

*Com Dimalice Nunes