Sophos lança AI Defense para proteção de IA

A Sophos, líder global em cibersegurança, anuncia a disponibilidade do Sophos AI Defense, solução desenvolvida para identificar ferramentas de inteligência artificial (IA) utilizadas por colaboradores e aplicações, incluindo aquelas que não foram previamente aprovadas pelas equipes de segurança, e aplicar políticas de proteção independentemente de onde estejam sendo executadas. A iniciativa busca reduzir os riscos associados à falta de visibilidade sobre o uso de IA nas organizações, que pode comprometer a confidencialidade, a integridade e a disponibilidade das informações corporativas.

Disponibilizado por meio do Sophos Fusion, sistema de defesa cibernética nativo de IA, o Sophos AI Defense conecta os mecanismos de proteção já existentes em dispositivos, redes, sistemas de autenticação e navegadores, criando uma camada integrada de segurança. Dessa forma, as empresas podem acelerar a adoção da inteligência artificial de maneira mais segura, sem a necessidade de implementar e gerenciar ferramentas adicionais de forma isolada.

O avanço da inteligência artificial também tem ampliado as oportunidades de atuação dos cibercriminosos. Somente neste ano, a Sophos X-Ops identificou um invasor utilizando agentes de IA dentro da rede de um cliente para desenvolver e testar cerca de 80 módulos de malware. As investigações também revelaram a comercialização de chaves de API intermediadas para acesso a modelos avançados de inteligência artificial, a troca de técnicas para contornar mecanismos de segurança de sistemas de IA em fóruns clandestinos e o recrutamento de especialistas em engenharia de prompts por organizações criminosas.

O cenário se torna ainda mais preocupante diante da disseminação da chamada shadow AI, termo utilizado para descrever o uso de ferramentas e agentes de inteligência artificial sem o conhecimento ou a autorização das áreas responsáveis pela segurança da informação. Segundo dados apresentados pela Sophos, 69% das organizações suspeitam ou possuem evidências de que seus colaboradores utilizam agentes e ferramentas de IA não autorizados. Além disso, 82% identificaram agentes de shadow AI em seus ambientes ao longo do último ano, enquanto 90% dos líderes de TI demonstram preocupação com os riscos associados a essa prática. A tendência é de crescimento: projeções da IDC indicam que o número de agentes de inteligência artificial deverá alcançar 1,3 bilhão até 2028.

Cada uma dessas ferramentas representa tanto uma possível nova superfície de ataque quanto um canal potencial para o vazamento de informações sensíveis. Para enfrentar esse desafio, o Sophos AI Defense reúne informações provenientes de dispositivos, redes, sistemas de identidade e navegadores, permitindo mapear a atividade de inteligência artificial em todo o ambiente corporativo. A solução analisa quem está realizando determinada ação, como a ferramenta está sendo utilizada e quais dados estão envolvidos, diferenciando atividades rotineiras de comportamentos que exigem atenção ou intervenção.

Com mecanismos de proteção em tempo real, a tecnologia também permite inspecionar comandos enviados aos sistemas de IA (prompts), arquivos carregados e outras interações à medida que acontecem, contribuindo para prevenir a exposição indevida de dados confidenciais. Essas informações são integradas ao Sophos Fusion, possibilitando que as equipes de segurança que utilizam o Sophos XDR, assim como os analistas do Sophos MDR, investiguem e respondam a possíveis ameaças por meio dos fluxos de trabalho com os quais já estão familiarizados.

"As organizações estão adotando inteligência artificial em um ritmo mais acelerado do que conseguem protegê-la. Ao mesmo tempo, a maioria das equipes de segurança ainda não consegue responder a três perguntas fundamentais: quais ferramentas de IA estão sendo utilizadas, quais dados estão sendo compartilhados com elas e se essas atividades estão em conformidade com as políticas corporativas", afirma Kyle Falkenhagen, vice-presidente sênior de Gestão de Produtos da Sophos. "O Sophos AI Defense oferece a visibilidade e o controle necessários para que as equipes de segurança possam agir. Assim, as empresas conseguem avançar na adoção da inteligência artificial com clareza sobre quais tecnologias estão autorizando e quais riscos estão assumindo."

Por operar sobre a arquitetura do Sophos Fusion, a solução também permite que organizações com equipes e recursos de segurança limitados implementem mecanismos de proteção para inteligência artificial desde o primeiro dia. Para os provedores de serviços gerenciados (MSPs), a novidade representa uma oportunidade de ampliar o portfólio de serviços oferecidos aos clientes. O lançamento ocorre durante o Mês de Conscientização sobre Cibersegurança, em um momento em que a adoção segura da inteligência artificial ganha espaço entre as prioridades de empresas de diferentes portes e setores.

"Nossos clientes começaram a questionar como estávamos utilizando a inteligência artificial e quais medidas adotávamos para garantir a segurança de seu uso.", comenta Anthony Bender, diretor de Tecnologia (CTO) da Empyreal Logistics. "Naquele momento, não tínhamos uma resposta satisfatória, pois não contávamos com mecanismos para bloquear ou regulamentar o uso de ferramentas de IA não autorizadas. Agora, temos maior controle sobre como queremos que nossos colaboradores utilizem essa tecnologia e conseguimos demonstrar aos clientes que nossas práticas estão alinhadas ao que comunicamos. Hoje, quando recebemos essas perguntas, temos uma resposta consistente para apresentar."

Sophos AI Defense já está disponível.