LastPass Labs es el centro de contenidos del equipo de inteligencia, mitigación y escalada de amenazas (TIME) en LastPass. Centramos nuestros esfuerzos en el análisis en profundidad de las últimas novedades en el campo de la seguridad, estamos pendientes del futuro de la tecnología y controlamos los cambios en las amenazas.
Hace unos años estaba en las escaleras mecánicas del Moscone Center con motivo de la RSA Conference y otro asistente al congreso se fijó en mi acreditación. “¿Inteligencia sobre amenazas?”, me preguntó. “La inteligencia artificial va a dejarte sin trabajo”. No pude evitar reírme. “Acabo de reiniciar mi reloj porque se había quedado bloqueado. Creo que por ahora no hay peligro”, le respondí.
De eso han pasado ya unos años. Con los avances que han traído ChatGPT y otros grandes modelos de lenguaje (LLM), ya no lo tengo tan claro. La era de la IA ya está aquí, lo está cambiando todo y está penetrando a una velocidad de vértigo en nuestro día a día.
Su capacidad de procesamiento y aprendizaje es tan alta que se ha convertido en una pieza clave en muchos sectores, entre ellos, la ciberseguridad. Sin embargo, la IA puede utilizarse también para fines delictivos, lo que abre un panorama de gran complejidad para el mundo de la seguridad.
Posibles usos de la IA en la defensa de la ciberseguridad
Existen tres posibles aplicaciones de la IA y el aprendizaje automático en el campo de la ciberdefensa. La primera es la detección de anomalías: los algoritmos de IA analizan enormes cantidades de datos para detectar patrones inusuales que puedan ser indicativos de una ciberamenaza. Esta aplicación de la IA puede ayudar a las empresas a poner al descubierto amenazas que de otro modo pasarían inadvertidas. O dicho de otro modo: la IA es la solución para encontrar una aguja en un pajar. En este terreno, su potencial es extraordinario.
La segunda aplicación es la analítica predictiva. En este caso, los algoritmos de aprendizaje automático analizan datos pasados para predecir futuras vulneraciones de seguridad. Con esta estrategia, las organizaciones pueden atajar los errores antes de que se conviertan en un problema.
La reciente explosión de los grandes modelos de lenguaje abre la puerta a la tercera aplicación en el ámbito de la inteligencia sobre amenazas: la capacidad de resumir. Así, un experto en ciberseguridad puede extraer los detalles de un ataque o hacer el vaciado de un informe o artículo de prensa explicando con lenguaje natural exactamente lo que necesita.
Uso de la IA para lanzar ataques
La IA puede tener también muchas aplicaciones en manos de los ciberdelincuentes. Hasta hace poco, era relativamente sencillo detectar los ataques de phishing analizando aspectos lingüísticos, el formato y los enlaces. En cambio, los ataques de phishing con IA son extremadamente personalizados y mucho más difíciles de identificar, porque se utilizan grandes modelos de lenguaje para crear correos capaces de engañar a sus destinatarios. La tecnología deepfake, otra innovación nacida de la IA, permite a los ciberdelincuentes generar contenidos audiovisuales a imagen y semejanza de una persona real. En estos momentos, se está usando con fines delictivos, como difundir información falsa o cometer fraudes. Hace poco, vimos fotos generadas con IA de personas famosas con un parecido tan extraordinario que resulta imposible saber si son falsas o reales (como la foto del Papa con una chaqueta blanca), el uso de audio deepfake para imitar la voz de ejecutivos y dar la orden de transferir dinero o la creación de malware polimórfico, que cambia automáticamente para evitar que las herramientas que funcionan con firma puedan detectarlo.
Nuevos tipos de ataques con IA
A medida que la IA vaya evolucionando, veremos nuevos tipos de ataques. Por ejemplo, los ataques antagónicos tratan de engañar a los sistemas de ciberseguridad alterando de forma prácticamente imperceptible los datos analizados, lo que puede dar como resultado unas predicciones incorrectas. Además, si como sociedad vamos poniendo nuestras vidas en manos de la IA y el aprendizaje automático, nuestra infraestructura (como vehículos autónomos o ciudades inteligentes) puede convertirse en el objetivo de ciberataques. Los ciberdelincuentes podrían llegar a manipular los algoritmos de control del tráfico o modificar el comportamiento de los vehículos autónomos para sembrar el caos y provocar daños. Resulta especialmente preocupante la capacidad de los grandes modelos de lenguaje de analizar y crear código, sobre todo pensando en la posibilidad de que uno de estos modelos con jailbreak (es decir, con los mecanismos de seguridad desactivados) pueda crear automáticamente vulnerabilidades de día cero (difundidas públicamente sin aviso previo ni parches disponibles).
El futuro de la IA en el sector de la ciberseguridad
Los avances en el campo de la IA marcarán la evolución de la ciberseguridad. La IA puede decantar la balanza en la incesante carrera entre delincuentes y expertos por imponer su ley con tecnologías cada vez más complejas. La computación cuántica, que gana peso día a día, puede ser una vía para reforzar las comunicaciones seguras mediante la creación de mecanismos de cifrado más difíciles de hackear. Además, en un mundo cada vez más interconectado, con una integración creciente de los sistemas físicos y digitales, la IA podría contribuir al desarrollo de sistemas de seguridad capaces de resistir ante amenazas complejas.
Las empresas y las organizaciones deben ser conscientes del papel de la IA en la ciberseguridad y anticiparse a los riesgos antes de que los daños sean reales.
El equipo de inteligencia, mitigación y escalada de amenazas (TIME) de LastPass se dedica a proteger nuestra comunidad supervisando, analizando y mitigando las amenazas dirigidas a nuestros clientes, nuestra empresa y nuestro sector. El equipo cuenta con un total de casi 50 años de experiencia en inteligencia y cibernética, y cree firmemente que el intercambio de información y el desarrollo de relaciones son la clave de un programa de inteligencia de éxito.
Nuestro objetivo en LastPass es proporcionar inteligencia oportuna y práctica a las partes interesadas que permita a nuestros equipos de seguridad proteger a nuestros clientes, sus datos y el conjunto de la empresa. Además de realizar análisis y notificar a nuestros equipos de seguridad sobre desarrollos en el entorno global de las ciberamenazas, también nos esforzamos en automatizar nuestros desarrollos en inteligencia en los procesos de nuestros socios y en minimizar el plazo entre la concienciación sobre las amenazas y la mitigación.
