Hélder Medeiros
À medida que as organizações integram cada vez mais a Inteligência Artificial e os grandes modelos de linguagem nos seus produtos e soluções, enfrentam uma superfície de ataque alargada e riscos de cibersegurança acrescidos. As práticas tradicionais de cibersegurança estão, ao mesmo tempo, a revelar-se insuficientes para enfrentar os novos desafios. A necessidade de descobrir LLMs ou modelos de IA desconhecidos ou não aprovados, conhecidos como modelos sombra, aumenta significativamente a exposição a ameaças, incluindo o roubo de modelos e fugas de dados de CVEs existentes ou configurações incorretas. Além disso, há um risco crescente de perda acidental de dados, problemas de conformidade e danos à reputação, devido a conteúdo inadequado que é gerado por esses modelos. Estas preocupações demonstram uma necessidade urgente de implementar soluções de segurança robustas no cenário de IA em evolução.
O Qualys TotalAI aproveitou as avançadas funcionalidades da plataforma Qualys para permitir às organizações a adoção de tecnologias de IA sem receios. Esta solução expande a reconhecida visibilidade de ativos, a deteção de vulnerabilidades e os recursos de correção da Qualys para a IA generativa e adiciona os LLM. A solução aborda especificamente os riscos mais críticos do OWASP sobre a utilização dos LLM: injeção imediata, divulgação de informações confidenciais e roubo de modelos. Com o Qualys TotalAI, as organizações podem aproveitar com segurança os benefícios da IA, mantendo os seus rigorosos padrões de segurança.
«À medida que a adoção global de IA e dos grandes modelos de linguagem (LLMs) acelera, ultrapassando as medidas de governança e segurança, é crucial que as organizações implementem proteções robustas. A solução Qualys TotalAI está focada em oferecer às empresas as ferramentas necessárias para proteger com confiança os seus investimentos em IA, oferecendo a visibilidade abrangente e a defesa contra ameaças de cibersegurança emergentes”, afirma Philip Bues, Gestor de Pesquisa Senior da IDC.
O Qualys TotalAI promete que as organizações:
- Descubram todas as workloads da IA: Descubra e classifique todos os ativos de IA e LLM, incluindo GPUs, software, pacotes e modelos, em produção e desenvolvimento, enquanto relaciona sua exposição com a superfície de ataque.
- Evitem o roubo de modelos: Amplie a capacidade do TruRisk para avaliar, priorizar e corrigir vulnerabilidades de software de IA, com mais de 650 deteções específicas de IA, relacionadas com feeds de ameaças e exposições de ativos, para evitar o risco de roubo de modelos e informações.
- Garantam a segurança da infraestrutura de IA: Aproveite os recursos abrangentes de correção para exceder os requisitos de segurança, alinhe-se com os SLAs e assegure as necessidades dos seus negócios. Atenue proativamente as ameaças potenciais para garantir operações contínuas e uma forte postura de segurança de IA e LLM.
- Detetem a divulgação de dados confidenciais: Avalie os LLMs para exposições a ataques críticos, como a injeção imediata, a divulgação de informações confidenciais e o roubo de modelos de acordo com o Top 10 do OWASP para LLMs. Isso garantirá a confiança na gestão de riscos de IA e tornará os modelos prontos para auditoria e conformidade.
«Estamos apenas a revelar parte do potencial da IA e dos LLMs para gerar valor para as empresas. Ao mesmo tempo, precisamos de garantir que estas ferramentas não se tornam um risco para os negócios. Na Qualys, estamos comprometidos em ajudar os nossos clientes a ficar à frente dos riscos emergentes de cibersegurança e, com o Qualys TotalAI, as empresas podem se concentrar no crescimento e na inovação, sabendo que permanecerão protegidas das ameaças de IA mais críticas”, disse Sumedh Thakar, presidente e CEO da Qualys.
