Como proteger sua empresa da Shadow IA

Qualquer gestor de TI conhece o termo Shadow IT, que é o uso de ferramentas de tecnologia (hardware e software) para questões corporativas sem o conhecimento da organização, e os riscos que isso implica. Agora uma variação desse conceito desponta no horizonte, a Shadow AI, que implica no uso de plataformas de IA generativa, geralmente orientadas ao mercado de consumo, em um ambiente empresarial.

Essa ameaça tem aumentado na medida em que cresce a intenção do uso de soluções de IA generativa em ambientes corporativos. Um estudo que feito pela IBM sobre adoção de IA mostra que 42% das empresas em todo o mundo considera o uso desta tecnologia nas suas operações. 

Outra pesquisa, feita pelo Gartner e divulgada há poucas semanas, aponta que até 2026 mais de 80% das empresas terão usado IA generativa, seja por meio de interfaces ou modelos de programação de aplicativos. Este número, em 2023, era de 5%. O potencial é enorme. O risco também.

A explosão da IA generativa no último ano se deve a dois fatores emblemáticos: a facilidade em capturar e armazenar dados nos dias de hoje e a popularização de diversas ferramentas que tornam a IA acessível para consumidores em geral.

E é aí que está a questão: como evitar que ferramentas de IA sejam usadas sem controle, validação, autorização ou até mesmo conhecimento do departamento de TI? 

Para isso, há três pontos essenciais que devem ser considerados: governança, comunicação e treinamento e adoção de plataforma segura e adequada para o ambiente corporativo.

As empresas devem estabelecer uma política clara para o uso responsável de ferramentas de IA generativa e dados. Isso implica diversas questões, desde uma única plataforma que concentre toda a gestão da informação a ser usada, bem como a procedência e uso dos dados.

Isso tudo levando em conta que a evolução do uso da IA para negócios obriga as corporações a se tornarem mais robustas em gestão, ética e segurança. Assim podem, de forma responsável, seguir incentivando os colaboradores a buscarem inovação e agilidade porém com limites bem estabelecidos. 

Uma comunicação em que a governança de TI esteja clara é essencial.

Essa política citada no item anterior, depois de muito bem estabelecida, deve ser informada aos funcionários a fim de mitigar qualquer risco de uso indevido de informações. 

O ideal é que as equipes evoluam concomitantemente ao avanço da tecnologia e isso se faz por meio de comunicação e treinamentos. 

No caso dos treinamentos, não devemos apenas considerar a capacitação técnica, mas levar aos funcionários conhecimento quanto à ética e ao uso responsável de plataformas de IA Generativa.

A proximidade dos colaboradores com o time de TI também é parte disso, pois facilita que os gestores de tecnologia possam orientar a força de trabalho sobre qualquer dúvida ou uso dos ativos da empresa – sejam ferramentas de tecnologia ou dados. 

O critério inicial para essa adoção deve ser focar em unificar a IA em uma plataforma desenhada para atender às necessidades de negócios. As empresas devem buscar por soluções capazes de fazer a governança dos modelos utilizados em IA Generativa e, assim, automatizar essa gestão.

Obviamente, cada empresa pode customizar a solução usada de acordo com sua necessidade e realidade de negócios, uma vez que a governança de IA não tem uma abordagem única. Deve-se considerar uma solução com arquitetura aberta que envolva as ferramentas de IA escolhidas.

O uso de IA generativa para automatizar tarefas que podem potencializar a produtividade nos negócios é um caminho sem volta. A era de IA está aí e daqui para a frente só evoluirá, seja na adoção massiva ou na tecnologia em si. É um daqueles momentos icônicos em que tudo muda. Mas, para tirar grande vantagem disso, sem pagar um preço desnecessário, a atenção à governança é fator essencial.

Fórum CNN

Os artigos publicados pelo Fórum CNN buscam estimular o debate, a reflexão e dar luz a visões sobre os principais desafios, problemas e soluções enfrentados pelo Brasil e por outros países do mundo.

Os textos publicados no Fórum CNN não refletem, necessariamente, a opinião da CNN.