IA avanzada y ciberseguridad.

Avances recientes en inteligencia artificial y su potencial influencia en el campo de la ciberseguridad…

En los últimos años, la inteligencia artificial (IA) ha avanzado a pasos agigantados y ocupa un lugar central en el panorama tecnológico actual. Según una encuesta de Gartner, se espera que la inversión en productos de software de IA alcance los 62.000 millones de dólares en 2022. Esta es solo la punta del iceberg en comparación con el inmenso potencial de la IA. Sin embargo, si la creciente democratización de las capacidades de la IA la convierte en una herramienta accesible para los defensores, este también es el caso para los actores malintencionados. Por lo tanto, los actores de la seguridad están muy interesados ​​en los desarrollos en esta área para proteger mejor a las empresas y las personas contra amenazas potenciales al tratar de anticipar los desarrollos futuros y su influencia en la seguridad de TI.

Innovaciones accesibles para todos, especialmente para los oponentes.

El grado de sofisticación de las soluciones de IA ha alcanzado en los últimos años un nivel que habría sido inimaginable hace apenas diez años y está cobrando cada vez más importancia en las soluciones tecnológicas de todos los jugadores. Esta tendencia solo debería acelerarse en los próximos años. Por poner un ejemplo, según las predicciones de Gartner para las próximas evoluciones tecnológicas, la IA generativa debería estar en el origen del 10 % de todos los datos producidos para 2025, en comparación con el 1 % actual. Esto se debe en particular a una mayor integración de Machine Learning, pero también a una mayor accesibilidad de las soluciones de IA para el público en general.

Gran parte del progreso en IA se debe a los avances en las redes neuronales profundas. Por ejemplo, la solución AlphaFold, desarrollada por Google DeepMind, permitió en particular predecir la estructura tridimensional de las proteínas en función de sus secuencias de aminoácidos. Estas redes neuronales también se utilizan para la producción de código fuente e investigadores de Google y OpenAI han demostrado que ahora es posible generar código fuente a partir de instrucciones en lenguaje natural. Esto hace que la programación de IA sea accesible para los desarrolladores, pero también para los actores maliciosos y podría favorecer la producción automatizada de malware a un costo menor.

Además, ciertas capacidades de redes neuronales, como la capacidad de crear imágenes falsas o contenido textual que parece cada vez más realista y creíble, son nuevas armas que se suman al arsenal potencial de adversarios para la generación de ataques a puntos de agua. abrevadero) que utilizan contenido de Internet o técnicas como el phishing, pero que también podrían permitir a los atacantes eludir ciertas medidas de seguridad en el futuro. Así, estos impresionantes avances tecnológicos y la gama de capacidades vinculadas a la IA abren nuevas perspectivas en los campos de la programación automática y el aprendizaje profundo, pero podrían, debido a su mayor accesibilidad, generar nuevos tipos de riesgos.

Nuevas perspectivas de evolución en ciberseguridad

Por lo tanto, para limitar estos riesgos, es fundamental integrar la IA en las estrategias de ciberseguridad, para tener gastos que aprovechen sus ventajas. Esto se ha convertido en un problema importante para la protección de datos. El hecho de que las redes neuronales puedan aprender más rápido y resolver problemas previamente intratables, combinado con el uso de supercomputadoras con un poder de cómputo sin igual, como el Research SuperCluster (RSC) recientemente anunciado por Meta, debería abrir nuevas perspectivas de aplicación en el campo de la ciberseguridad. Es por ello que los especialistas están interesados ​​en estas nuevas posibilidades de la IA, no solo para conjurar posibles nuevas amenazas, sino también para desarrollar nuevas herramientas capaces de explotar este potencial aún inexplorado.

Para sobresalir de la competencia y estar un paso por delante, los proveedores de seguridad deben centrarse en desarrollar nuevas aplicaciones de aprendizaje automático en dos áreas. El primero se relaciona con el aprendizaje automático orientado al usuario aplicado a la seguridad, que permitirá la creación de productos capaces de priorizar alertas de seguridad y recomendar políticas de seguridad adecuadas, aumentando así la eficacia y eficiencia del personal de seguridad. El segundo se refiere a la explotación de redes neuronales para resolver problemas considerados intratables hasta ahora, como la identificación automática de vulnerabilidades o la instalación automatizada de parches, que aún hoy requieren supervisión humana, lo que también debería reducir los costos de desarrollo de aplicaciones para las empresas.

El vertiginoso y constante desarrollo de la IA ha dado lugar a nuevas capacidades y aplicaciones en muchos campos, que ahora son accesibles tanto para los desarrolladores de soluciones de ciberseguridad como para los atacantes. Los profesionales de la seguridad se esfuerzan por seguir de cerca estos desarrollos para prepararse para enfrentar nuevos tipos de ataques, desarrollar herramientas y técnicas y explorar nuevos desarrollos que garanticen la seguridad de los sistemas comerciales, o de las personas, contra amenazas actuales y futuras.
__________________

Por Joshua Saxe, director científico de Sophos

LEA TAMBIÉN

Caza de amenazas: la forma esencial de lidiar con la piratería informática…

Ciberseguridad e IA, ¿un arma de doble filo?

«Ofrezcamos oportunidades a nuestros hijos abogando por un sector europeo de la IA, la nube, la ciberseguridad, las Deep Techs»

El poder de las máquinas: cuando la automatización y la IA riman con la ciberseguridad.

[