NordLayer AI Scout deteta uso de IA não sancionada e riscos de fugas de dados nas empresas

A NordLayer lançou a ferramenta AI Scout para ajudar as empresas a monitorizar o uso de IA não sancionada, controlar prompts e mitigar fugas de dados.

A utilização de ferramentas de inteligência artificial não autorizadas no local de trabalho continua a crescer, levantando sérias preocupações sobre a segurança e a proteção de dados nas organizações. Para responder a este desafio, a NordLayer apresentou o AI Scout, uma nova solução autónoma desenhada para monitorizar a atividade de IA e identificar riscos associados.

De acordo com a empresa, o produto examina interações em navegadores e no ambiente de trabalho para ajudar as organizações a manterem a visibilidade sobre a atividade de IA. O sistema consegue distinguir entre serviços de IA autorizados e não autorizados, comparando a utilização real com as políticas aprovadas e estimando o consumo de tokens em grandes modelos de linguagem (LLMs).

Inspeção pré-submissão e proteção contra perda de dados

Uma das principais características do AI Scout é a sua capacidade de analisar a informação enviada pelos colaboradores para os sistemas de IA antes de esta ser submetida. Os controlos integrados de prevenção de perda de dados (DLP) examinam os prompts e intervêm caso detetem material potencialmente sensível, impedindo que conteúdos confidenciais cheguem a serviços externos.

Além da monitorização de chatbots convencionais, a ferramenta estende-se a agentes de IA e às suas ligações técnicas com outros serviços. Os administradores podem inspecionar a infraestrutura MCP ligada a agentes de programação e rever as capacidades práticas desses sistemas.

O desafio da "Shadow AI" nas empresas

O lançamento desta solução surge num momento em que o investimento empresarial em IA aumenta em paralelo com a utilização de serviços não aprovados pelos funcionários — um fenómeno frequentemente designado por shadow AI. Dados citados pela NordLayer indicam que 42% dos colaboradores utilizam sistemas de IA aprovados, enquanto 70% recorrem a modelos gratuitos no local de trabalho. Além disso, relatórios apontam que violações envolvendo shadow AI podem acrescentar custos significativos às empresas a nível global.

«O que as empresas enfrentam hoje é um verdadeiro jardim zoológico de IA — dezenas de LLMs não sancionados em uso diário, cada um alargando a exposição da organização a fugas de dados e falhas de segurança», destaca Andrius Buinovskis, vice-presidente de estratégia de produto da NordLayer.

Fontes

• https://www.techradar.com/pro/what-companies-are-facing-today-is-an-ai-zoo-nordlayer-warns-that-dozens-of-unsanctioned-chatbots-are-quietly-widening-every-companys-exposure-to-data-leaks