O ano de 2023 está quase no fim. E um dos assuntos mais comentados foi a Inteligência Artificial – e não precisamos nem citar uma fonte que comprove essa afirmação. Nós sabemos que os avançados da IA (Inteligência Artificial) estão potencializando a forma que as empresas trabalham. Mas da mesma forma que a IA é usada para acelerar negócios, cibercriminosos trabalham para buscar brechas de segurança. O desafio é ainda maior porque, diferente de você, os criminosos digitais não levam em consideração questões como compliance, privacidade ou leis regulatórias, o que pode permitir que eles avancem de forma muito mais rápida.

No artigo de hoje, esteja por dentro do que é o Shadow AI, como a Inteligência artificial pode manter seus colaboradores produtivos, sem comprometer a segurança e mais. Boas leituras!

O que é o shadow AI?

Talvez você já conheça o termo “Shadow IT”, que consiste no uso de hardwares e softwares sem conhecimento, autorização ou aprovação da equipe de TI e Segurança. Nos últimos meses com desenvolvimento escalonável da Inteligência Artificial (e a previsão não é diferente para 2024), surgiu uma nova variante das “sombras”: o shadow AI. Termo que se refere a implantação não oficial ou não supervisionada de sistemas e soluções de Inteligência Artificial nas organizações. Ou seja, fora da Governança de TI.

E a (possível) ameaça está crescendo: segundo uma pesquisa realizada pela Salesforce com mais de 4.000 pessoas de diferentes países, como Estados Unidos e a índia, 49% das pessoas usam IA generativa, e mais de 33% das pessoas a usam diariamente. A pesquisa mostra ainda que 52% dos usuários de Inteligência artificial estão aumentando o uso, quando comparado com quando começaram.

Entenda: os colaboradores de sua empresa vão usar a IA. Se você não controlar o uso, eles vão usar por conta própria da forma que eles acreditam ser o certo.

• Para a sua empresa, isso significa que AI está sendo usada para apoiar os funcionários a redigir textos, criar imagens ou até escrever códigos – sem grandes problemas até aí, a tecnologia está sendo usada para torná-los mais produtivos -, mas quais as informações estão sendo fornecidas a esses softwares? Qual o nível de segurança você pode afirmar que os seus colaboradores não estão inserindo informações sigilosas nesses sistemas?
• Para a TI, isso pode resultar em um desafio de governança que exige a decisão de qual uso de IA permitir ou restringir para apoiar a força de trabalho e, ao mesmo tempo, manter o negócio seguro. Apesar da promessa de aumento de produtividade, velocidade de entrega e encurtamento de processos mais morosos, a IA pode expor informações confidenciais. Não baste dizer “não use”, a tecnologia está aí e a sua TI precisa garantir que os seus colaboradores façam o melhor (e mais seguro) uso dela.

Como funciona a Inteligência artificial e o porquê do risco

Quando o usuário, o colaborador de sua empresa, envia uma informação para a inteligência artificial, ela se torna pública. Quando outro usuário, um terceiro, faz uma consulta com a inteligência artificial, a ferramenta pode exibir essa informação. Dessa forma, hoje, o principal risco é o vazamento de dados. Quebra de compliance e desvantagem competitiva são riscos decorrentes do primeiro.

Como a SAFIRA pode ajudar a sua empresa?

Uma parte importante de nossa estratégia está em prevenir os ataques e não somente responder a eles. Comecemos com a “Higiene cibernética”, gestão da exposição de dados e conhecer os riscos. Os profissionais da SAFIRA atuam no cliente com uma análise detalhada dos recursos já existem no ecossistema da empresa e identifica pontos de melhoria. Se você souber quais “portas de entrada” são potenciais para ataque, você pode impedir que ele aconteça.

Segundo nossos especialistas, aproximadamente, ¾ das brechas de segurança ocorrem em cima de vulnerabilidades já conhecidas (senhas frágeis, softwares desatualizados, falha no gerenciamento de credenciais de acesso e phishing). Conhecendo as superfícies de ataque, você pode aplicar patches de segurança e reduzir em, literalmente, ¾ das superfícies de ataque.