AIS detecta vulnerabilidade
Tenho escrito sobre a possibilidade de IAs detectarem automaticamente vulnerabilidades de código desde pelo menos 2018. Esta é uma área de pesquisa contínua: IA fazendo varredura de código-fonte, IA encontrando zero dias na natureza e tudo mais. As IAs ainda não são muito boas nisso, mas estão melhorando.
Aqui estão dados anedóticos deste verão:
A partir de julho de 2024, o ZeroPath adota uma abordagem inovadora que combina análise profunda do sistema com contraagentes de IA para verificação. Nossa metodologia revelou muitas vulnerabilidades em sistemas de produção, incluindo várias que as ferramentas tradicionais de Static Application Security Testing (SAST) não estavam equipadas para detectar. Esta postagem fornece profundidade técnica à nossa metodologia de pesquisa e um resumo ao vivo dos bugs encontrados em ferramentas populares de código aberto.
Espere muito desenvolvimento nesta área nos próximos anos.
Isto é o que eu disse em uma entrevista recente:
Não vamos nos limitar ao software. Imagine que temos uma IA que detecta vulnerabilidades de software. É claro que os invasores podem usar essas IAs para invadir sistemas. Mas os defensores podem usar as mesmas IAs para encontrar vulnerabilidades de software e corrigi-las. Esse recurso, se existir, provavelmente será integrado a um conjunto padrão de ferramentas de desenvolvimento de software. Podemos imaginar um futuro onde todas as vulnerabilidades prontamente disponíveis (nem todas as vulnerabilidades; há muitas implicações teóricas sobre isso) serão removidas do software antes da implantação.
Quando esse dia chegar, todo código legado estará vulnerável. Mas todo novo código será protegido. E, eventualmente, essas vulnerabilidades de software serão coisa do passado. Na minha cabeça, algum futuro programador balança a cabeça e diz: “Lembra das primeiras décadas deste século, quando o software estava cheio de vulnerabilidades? Isso antes que as IAs peguem todos eles. Uau, foi uma época louca.” Ainda não chegamos lá. Não estamos longe de lá. Mas é uma extrapolação razoável.
Postado em 5 de novembro de 2024 às 7h08 • 0 comentários
