A ferramenta de avaliação de segurança Microsoft torna o Counterfit AI Open Source

A Microsoft transformou sua ferramenta de avaliação de risco de segurança de IA, Counterfit, de código aberto, permitindo que qualquer pessoa comece a usar a ferramenta gratuitamente. Atualmente, as organizações podem usar o Counterfit para automatizar as avaliações de risco de segurança, garantindo que a proteção que estão usando seja perfeita.

A Microsoft desenvolveu originalmente o Counterfit como uma ferramenta interna que pode avaliar rapidamente a segurança de IA e sistemas de aprendizado de máquina. Ele começou como uma coleção de scripts antes de se transformar rapidamente em uma automação de IA genérica que um operador pode usar para "atacar vários sistemas de IA" de uma vez.

A Microsoft agora usa regularmente o Counterfit como uma ferramenta central em suas operações de equipe de IA. Como Counterfit é agnóstico em relação ao ambiente, modelo e dados, a ferramenta pode fornecer uma avaliação precisa sem impedância.

A ferramenta em si foi projetada para uso por profissionais de segurança. Counterfit usa fluxos de trabalho semelhantes a outras ferramentas populares da equipe vermelha, como Metasploit ou PowerShell Empyre, com amplo suporte para scripts, algoritmos de ataque pré-carregados, varredura de vulnerabilidade, registro avançado e muito mais, acessados ​​por meio da linha de comando.

A Microsoft também trabalhou extensivamente com profissionais de segurança e grandes organizações para desenvolver o Counterfit melhor. No Blog de segurança da Microsoft, Matilda Rhode, Pesquisadora Sênior de Segurança Cibernética da Airbus, disse:

A IA é cada vez mais usada na indústria; é vital olhar para frente para proteger essa tecnologia, especialmente para entender onde os ataques de espaço de recursos podem ser realizados no espaço do problema. O lançamento de ferramentas de código aberto de uma organização como a Microsoft para os profissionais de segurança avaliarem a segurança dos sistemas de IA é bem-vinda e uma indicação clara de que a indústria está enfrentando esse problema a sério.

Você pode encontrar o código-fonte aberto Microsoft Counterfit em seu GitHub oficial.

Relacionado: Trabalhos que você nunca soube que eram realizados pela IA

Por que o Counterfit é útil?

Mesmo para uma empresa do tamanho da Microsoft, concluir avaliações de segurança eficazes não é fácil, especialmente quando essas empresas são enormes líderes da Fortune 500, governos, organizações sem fins lucrativos e muito mais. Um estudo anterior da Microsoft descobriu um grande número de empresas incapazes de testar seus sistemas de IA com precisão.

Descobrimos que 25 de 28 empresas indicaram que não têm as ferramentas certas para proteger seus sistemas de IA e que os profissionais de segurança estão procurando orientação específica neste espaço.

O Counterfit facilita a conclusão dessas avaliações, automatizando o processo de análise e teste.

Relacionado: Maneiras de usar a tecnologia de IA para melhorar seus negócios

Além disso, um publicado recentemente Estudo Gartner listou a adoção de segurança de IA como uma das medidas de segurança mais importantes que uma empresa pode tomar para melhorar a proteção. O mesmo estudo observou que "Em 2024, as organizações que implementam controles de gerenciamento de risco de IA dedicados evitarão com sucesso resultados negativos de IA duas vezes mais do que aquelas que não o fazem."

Resumindo, o Counterfit se tornando uma ferramenta de avaliação de segurança de IA de código aberto deve ajudar a tornar o mundo um lugar um pouco mais seguro.

Estas 4 ferramentas antivírus estão usando IA para proteger seu sistema

A sua próxima assinatura de antivírus precisa incluir inteligência artificial ou é apenas mais um chavão de segurança?

Leia a seguir

Sobre o autor