Como quatro líderes de cibersegurança estão pensando sobre a IA em 2024

No segundo semestre de 2023, o foco global na inteligência artificial (IA) e suas implicações de segurança se intensificaram, com governos e líderes de tecnologia reconhecendo a necessidade de enfrentar os desafios impostos por essa tecnologia que avança rapidamente. O Ordem Executiva da Administração Biden sobre IA e a inauguração Cúpula de segurança de IA foram marcos significativos, ressaltando a urgência de entender e gerenciar os riscos associados à IA.

Quando entramos em 2024, Reunião anual do Fórum Econômico Mundial na Suíça, na próxima semana, está pronta para esclarecer mais sobre o papel da IA na formação de nosso futuro coletivo.

Em resposta, pedimos a quatro líderes de negócios e especialistas em segurança cibernética que compartilhassem como estão pensando sobre a IA no novo ano e o que estão priorizando em face da inovação acelerada da IA.

A vantagem da IA: ganhos de curto prazo para os atacantes

Um tema predominante que surgiu de nossas discussões é o reconhecimento de que quem exercer o poder da IA primeiro terá a maior vantagem — pelo menos no início. De acordo com Andrew Rubin, CEO e cofundador da Illumio, os agentes de ameaças provavelmente se beneficiarão da IA em um futuro próximo.

“Em suas primeiras entradas, a vantagem da IA vai para os atacantes”, disse ele. “Os criminosos operam sem barreiras, enquanto os defensores precisam pensar em regulamentações, implicações posteriores, moral, ética e muitas outras coisas ao desenvolver métodos para manter as organizações e seus dados seguros.”

O tempo que as organizações levarão para desenvolver e implementar a IA em seus processos de cibersegurança será o tempo que os malfeitores usarão para aproveitar a IA a seu favor. Essa assimetria permite que os atacantes experimentem mais livremente a IA, representando uma vantagem imediata para eles no curto prazo.

No entanto, Rubin vê alguns benefícios decorrentes da interseção entre IA e cibersegurança: “A longo prazo, ou a IA se tornará uma ferramenta eficaz para ambos, ou os defensores encontrarão maneiras interessantes e criativas de usarmos a IA para nos defendermos melhor”, observou.

Ataques gerados por IA exigem princípios de Zero Trust

Com os invasores aproveitando os benefícios da IA no curto prazo, nossos especialistas concordaram que as organizações começarão a ver a frequência das ameaças cibernéticas aumentar, especialmente porque a IA facilita que os malfeitores automatizem a criação e a execução de ataques.

“Os ataques atuais são simples”, disse Paul Dant, engenheiro de sistemas sênior e hacker reformado da Illumio. “Eles continuam abordando as deficiências que não conseguimos remediar desde o início, como muitas conexões sem visibilidade ou visão suficientes sobre o que está se comunicando com o quê.”

Para combater o crescimento de Ataques gerados por IA, Dant enfatizou a necessidade crítica de uma mudança de paradigma nas estratégias de segurança cibernética. As organizações devem se concentrar em criar resiliência cibernética em vez de apenas evitar que violações ocorram, começando com a priorização do Zero Trust.

“A adoção mais ampla do Zero Trust e uma abordagem de suposição de violação são, na verdade, a única maneira de progredirmos quando se trata de construir resiliência cibernética”, disse ele.

Em uma era em que a interconexão prevalece, os modelos tradicionais de segurança se mostraram insuficientes. A mentalidade de supor uma violação obriga as organizações a agir partindo do pressuposto de que uma violação ocorreu ou é iminente. Essa abordagem proativa desafia os profissionais de segurança cibernética a validar e autenticar continuamente todas as entidades em suas redes, minimizando o risco de intrusões não detectadas.

Dant enfatizou que, sem uma adoção generalizada da estrutura Zero Trust, as organizações continuarão enfrentando enormes perdas no ciberespaço. A natureza em constante mudança e crescimento das ameaças cibernéticas exige uma reavaliação fundamental dos métodos tradicionais de segurança.

Para ver a perspectiva de outro profissional sobre o Zero Trust e a adoção da “suposição de violação”, confira o podcast The Segment da Illumio, com o Dr. Zero Trust, Chase Cunningham.

Mais acesso à IA significa maiores necessidades de segurança cibernética

À medida que o número de ataques gerados pela IA cresce, nossos especialistas acreditam que isso, por sua vez, fará com que a demanda por segurança cibernética aumente. Todos os dias, empresas e agentes de ameaças assumem novas iniciativas de IA e, com elas, o cenário de ameaças continua crescendo em sofisticação.

Anup Singh, diretor financeiro da Illumio, acredita que isso significará um grande aumento no uso da IA e, posteriormente, gastos sem precedentes na área de cibersegurança.

“Continuamos vendo a IA/ML como uma oportunidade de investimento para organizações no novo ano”, disse ele, “tanto em termos de fortalecer suas defesas existentes, mas também veremos mais recursos sendo destinados a empresas que estão usando IA/ML para promover o progresso e algoritmos para combater atacantes cada vez mais implacáveis e dinâmicos”.

No futuro, a combinação de avanços de IA e soluções de segurança cibernética será fundamental na proteção de ativos digitais, especialmente para garantir que as organizações estejam se preparando proativamente para o próximo ataque inevitável.

2024 será o ano da comoditização da IA

No ano passado, a acessibilidade da IA chegou a um ponto em que até mesmo indivíduos com conhecimento técnico limitado podem aproveitar seu poder usando plataformas como o ChatGPT. Essa mudança aconteceu rapidamente — Primeiro aniversário do ChatGPT foi apenas em novembro de 2023 — e é paralelo a desenvolvimentos históricos, como a democratização da indústria automobilística, disse Michael Adjei, engenheiro sênior de sistemas da Illumio.

“Quando o automóvel foi introduzido pela primeira vez, algumas pessoas só tinham acesso. Então a Ford apareceu e construiu uma linha de produção e a tornou acessível a todos, o que significava que precisávamos de novas estradas e infraestrutura porque muitas pessoas de repente tinham carros. É exatamente isso que estamos começando a ver com a IA”, explicou Adjei.

No entanto, essa acessibilidade levanta preocupações sobre como a IA será usada, especialmente quando se trata de questões de segurança cibernética.

“Agora que mais pessoas estão usando a IA, precisamos acomodar todas as possibilidades — as boas, as ruins e as que ainda não sabemos”, disse Adjei. “O último deles é o mais irritante, principalmente porque sistemas como o ChatGPT e máquinas como robôs começam a se combinar.”

Isso destaca a necessidade de desenvolvimento de infraestrutura resiliente que aborde os desafios impostos pela adoção generalizada da IA, incluindo os princípios de Zero Trust. Como tecnologia fundamental da Zero Trust, Segmentação Zero Trust ajuda as organizações a se prepararem proativamente para ataques. O ZTS contém a disseminação de violações e ransomware em toda a superfície de ataque híbrida, visualizando continuamente como as cargas de trabalho e os dispositivos estão se comunicando, criando políticas granulares que permitem apenas a comunicação desejada e necessária e isolando automaticamente as violações restringindo o movimento lateral de forma proativa ou durante um ataque ativo.

Leia mais sobre as expectativas de Adjei em relação à segurança e proteção da IA.

Resumindo: seja proativo na preparação de ataques de IA

Nossas discussões com líderes de negócios de cibersegurança lançaram luz sobre a evolução da relação entre IA e cibersegurança em 2024. À medida que a IA se torna mais acessível, os desafios e oportunidades que ela apresenta à segurança cibernética exigem um esforço coletivo de líderes do setor, formuladores de políticas e desenvolvedores de tecnologia. À medida que avançamos em um novo ano, a interseção entre IA e cibersegurança e o equilíbrio entre defesa e ataque continuarão a evoluir, moldando o futuro da segurança de maneiras que ainda não foram totalmente realizadas.

Proteja suas organizações contra ataques gerados por IA. Entre em contato conosco hoje para saber mais.