Cómo piensan 4 líderes de ciberseguridad sobre la IA en 2024

En el segundo semestre de 2023, el enfoque global en la inteligencia artificial (IA) y sus implicaciones de seguridad se intensificó, y los gobiernos y líderes tecnológicos reconocieron la necesidad de abordar los desafíos que plantea esta tecnología que avanza rápidamente. El Orden Ejecutiva de la Administración Biden sobre IA y la inaugural Cumbre de seguridad de IA fueron hitos significativos, lo que pone de relieve la urgencia de comprender y administrar los riesgos asociados con la IA.

Al entrar en 2024, Reunión anual del Foro Económico Mundial en Suiza la próxima semana está a punto de arrojar más luz sobre el papel de la IA en la configuración de nuestro futuro colectivo.

En respuesta, pedimos a cuatro líderes empresariales y expertos en ciberseguridad que compartieran cómo piensan sobre la IA en el nuevo año y qué están priorizando frente a la innovación acelerada de la IA.

La ventaja de la IA: ganancias a corto plazo para los atacantes

Un tema predominante que surgió de nuestras discusiones es el reconocimiento de que quien primero tenga el poder de IA tendrá la mayor ventaja, al menos desde el principio. Según Andrew Rubin, CEO y cofundador de Illumio, los actores de amenazas probablemente se beneficiarán de la IA en un futuro cercano.

“En sus primeras entradas, la ventaja de IA irá a los atacantes”, dijo. “Los delincuentes operan sin barandillas, mientras que los defensores deben pensar en regulaciones, implicaciones descendentes, moral, ética y muchas otras cosas al desarrollar métodos para mantener a las organizaciones y sus datos seguros”.

El tiempo que tardarán las organizaciones en desarrollar e implementar IA en sus procesos de ciberseguridad será tiempo que los malos actores utilicen para aprovechar la IA en su beneficio. Esta asimetría permite a los atacantes experimentar más libremente con la IA, planteando una ventaja inmediata para ellos en el corto plazo.

No obstante, Rubin sí ve algunos beneficios saliendo de la intersección de la IA y la ciberseguridad: “A la larga, o la IA se convertirá en una herramienta efectiva para ambos, o los defensores encontrarán formas interesantes y creativas para que usemos la IA para defendernos mejor”, anotó.

Los ataques generados por IA requieren principios de confianza cero

Con los atacantes aprovechando los beneficios de la IA a corto plazo, nuestros expertos coincidieron en que las organizaciones comenzarán a ver aumentar la frecuencia de las ciberamenazas, especialmente a medida que la IA facilita que los malos actores automaticen la creación y ejecución de ataques.

“Los ataques de hoy son simples”, dijo Paul Dant, ingeniero sénior de sistemas y hacker reformado en Illumio. “Siguen apuntando a las deficiencias que no hemos podido remediar desde el principio, como demasiadas conexiones sin suficiente visibilidad o conocimiento de lo que se comunica con qué”.

Para contrarrestar el crecimiento de Ataques generados por IA, Dant enfatizó la necesidad crítica de un cambio de paradigma en las estrategias de ciberseguridad. Las organizaciones deben centrarse en la creación de resiliencia cibernética en lugar de simplemente evitar que se produzcan brechas, comenzando por priorizar la confianza cero.

“La adopción más generalizada de Zero Trust y un enfoque de supuesto incumplimiento es realmente la única forma en que avanzamos cuando se trata de construir resiliencia cibernética”, dijo.

En una era donde prevalece la interconexión, los modelos de seguridad tradicionales han demostrado ser insuficientes. La mentalidad de asumir una brecha obliga a las organizaciones a operar bajo el supuesto de que una violación ha ocurrido o es inminente. Este enfoque proactivo desafía a los profesionales de ciberseguridad a validar y autenticar continuamente todas las entidades dentro de sus redes, minimizando el riesgo de intrusiones no detectadas.

Dant enfatizó que sin una adopción generalizada del marco Zero Trust, las organizaciones continuarán lidiando con pérdidas masivas en el ciberespacio. La naturaleza siempre cambiante y creciente de las amenazas cibernéticas requiere una reevaluación fundamental de los métodos de seguridad tradicionales.

Para conocer la perspectiva de otro practicante sobre Zero Trust y la adopción de “asumir incumplimiento”, consulte The Segment Podcast de Illumio, con el Dr. Zero Trust, Chase Cunningham.

Más acceso a la IA significa mayores necesidades de ciberseguridad

A medida que crece el número de ataques generados por IA, nuestros expertos creen que esto a su vez hará que la demanda de ciberseguridad aumente. Todos los días, tanto las empresas como los actores de amenazas asumen nuevas iniciativas de IA, y con ellas, el panorama de amenazas continúa creciendo en sofisticación.

Anup Singh, Chief Financial Officer de Illumio, cree que esto significará un aumento importante en el uso de IA y, posteriormente, un gasto sin precedentes en el espacio de ciberseguridad.

“Seguimos viendo que la AI/ML sea una oportunidad de inversión para las organizaciones en el nuevo año”, dijo, “tanto en términos de fortalecer sus defensas existentes, sino también, veremos que se están destinando más recursos hacia las empresas que están utilizando AI/ML para avanzar en el progreso y algoritmos para contrarrestar a los atacantes cada vez más despiadados y dinámicos”.

En el futuro, la combinación de los avances de IA y las soluciones de ciberseguridad será fundamental para proteger los activos digitales, particularmente para garantizar que las organizaciones se estén preparando proactivamente para el próximo ataque inevitable.

2024 será el año de la mercantilización de la IA

En el último año, la accesibilidad de la IA ha llegado a un punto en el que incluso las personas con experiencia técnica limitada pueden aprovechar su poder utilizando plataformas como ChatGPT. Este cambio se ha producido rápidamente — Primer cumpleaños de ChatGPT fue apenas en noviembre de 2023 —y es paralelo a desarrollos históricos como la democratización de la industria automotriz”, dijo Michael Adjei, Ingeniero Senior de Sistemas de Illumio.

“Cuando se introdujo por primera vez el automóvil, ciertas personas solo tenían acceso. Luego vino Ford y construyó una línea de producción y la hizo accesible para todos lo que significaba que necesitábamos nuevas carreteras e infraestructura porque mucha gente de repente tenía autos. Eso es exactamente lo que estamos empezando a ver con la IA”, explicó Adjei.

Sin embargo, esta accesibilidad plantea preocupaciones sobre cómo se utilizará la IA, especialmente cuando se trata de problemas de ciberseguridad.

“Ahora que más personas están utilizando la IA, necesitamos acomodar todas las posibilidades, las buenas, las malas y lo que aún no sabemos”, dijo Adjei. “Este último de los cuales es el más nervioso, particularmente a medida que sistemas como ChatGPT y máquinas como robots comienzan a combinarse”.

Esto pone de relieve la necesidad de un desarrollo de infraestructura resiliente que aborde los desafíos planteados por la adopción generalizada de IA, incluidos los principios de confianza cero. Como tecnología de confianza cero fundamental, Segmentación de confianza cero ayuda a las organizaciones a prepararse proactivamente para los ataques. ZTS contiene la propagación de brechas y ransomware en toda la superficie de ataque híbrida mediante la visualización continua de cómo se comunican las cargas de trabajo y los dispositivos, la creación de políticas granulares que solo permiten la comunicación deseada y necesaria, y el aislamiento automático de las brechas al restringir el movimiento lateral de forma proactiva o durante un ataque activo.

Leer más sobre las expectativas de Adjei para la seguridad y protección de la IA.

Conclusión: Sea proactivo con respecto a la preparación de ataques de IA

Nuestras conversaciones con líderes empresariales de ciberseguridad arrojan luz sobre la relación en evolución entre la IA y la ciberseguridad en 2024. A medida que la IA se vuelve más accesible, los desafíos y oportunidades que presenta para la ciberseguridad exigen un esfuerzo colectivo de líderes de la industria, formuladores de políticas y desarrolladores de tecnología por igual. A medida que continuamos en un nuevo año, la intersección de la IA y la ciberseguridad y el equilibrio entre defensa y ataque continuarán evolucionando, dando forma al futuro de la seguridad de maneras que aún no se han realizado por completo.

Proteja a sus organizaciones de los ataques generados por IA. Póngase en contacto con nosotros hoy para saber más.