21/03/2023

Sophos realiza exitosas pruebas para hacer de ChatGPT un aliado de la ciberseguridad

lectura 2 mins
720 vistas

De acuerdo a la compañía, el modelo de inteligencia artificial puede filtrar fácilmente la actividad maliciosa en la telemetría XDR, mejorar los filtros de spam y simplificar el análisis de binaries Living Off the Land.

La compañía de cibersegruidad Sophos publicó una nueva investigación sobre cómo la industria de la ciberseguridad puede aprovechar GPT-3, el modelo de lenguaje detrás del ya conocido marco ChatGPT, como copiloto para ayudar a derrotar a los atacantes.

Suscríbete a nuestro newsletter

El último informe, “GPT para ti y para mí: Aplicando el procesamiento de lenguaje de IA a las ciberdefensas“, detalla los proyectos desarrollados por Sophos X-Ops utilizando los grandes modelos de lenguaje de GPT-3 para simplificar la búsqueda de actividad maliciosa en conjuntos de datos de software de seguridad, filtrar con mayor precisión el spam y acelerar el análisis de los ataques binarios “Living Off the Land” (LOLBin).

Los investigadores de X-Ops, incluido el científico principal de datos de SophosAI, Younghoo Lee, han estado trabajando en tres proyectos prototipo que demuestran el potencial de GPT-3 como asistente de defensores de la ciberseguridad. Los tres utilizan una técnica llamada “aprendizaje de pocos disparos” para entrenar el modelo de IA con solo unas pocas muestras de datos, reduciendo la necesidad de recopilar un gran volumen de datos preclasificados.

La primera aplicación que Sophos probó con el método de aprendizaje de pocos disparos fue una interfaz de consulta de lenguaje natural para el tamizado de actividades maliciosas en software de seguridad de telemetría; específicamente, Sophos probó el modelo contra su producto de detección y respuesta de Endpoints. Con esta interfaz, los defensores pueden filtrar a través de la telemetría con comandos básicos en inglés, eliminando la necesidad de que los defensores entiendan SQL o la estructura subyacente de una base de datos.

A continuación, Sophos probó un nuevo filtro de spam utilizando ChatGPT y descubrió que, en comparación con otros modelos de aprendizaje automático para el filtrado de spam, el filtro que utiliza GPT-3 era significativamente más preciso. Finalmente, los investigadores de Sophos pudieron crear un programa para simplificar el proceso de ingeniería inversa de las líneas de comando de LOLBins. Dicha ingeniería inversa es notoriamente difícil, pero también crítica para comprender el comportamiento de LOLBins y poner fin a esos tipos de ataques en el futuro.

“Puede la IA ayudar a los atacantes aspirantes a escribir malware o ayudar a los ciberdelincuentes a escribir correos electrónicos de phishing mucho más convincentes? Tal vez, pero, en Sophos, durante mucho tiempo hemos visto a la IA como un aliado en lugar de un enemigo para los defensores, lo que la convierte en una tecnología fundamental” para Sophos, y GPT-3 no es diferente. La comunidad de seguridad debe prestar atención no solo a los riesgos potenciales, sino también a las posibles oportunidades que brinda el GPT-3″, dijo Sean Gallagher, investigador principal de amenazas de Sophos.

Suscríbete a nuestro newsletter