Ya son varias las compañías que han implementado esta tecnología en sus servicios, como Microsoft en su motor de búsqueda, Bing, y su navegador, Microsoft Edge. Sin embargo, hay empresas tecnológicas que han señalado la peligrosidad de esta.
Un investigador ha logrado utilizar el chatbot ChatGPT para crear un software maliciososo capaz de robar datos de dispositivos y evitar ser detectado por programas de ciberseguridad como VirusTotal.
Suscríbete a nuestro newsletter
ChatGPT es un sistema de chat basado en el modelo de lenguaje por Inteligencia Artificial desarrollado por la empresa OpenAI, que puede realizar tareas como responder preguntas y mantener unas conversación realista con un usuario.
Ya son varias las compañías que han implementado esta tecnología en sus servicios, como es el caso de Microsoft en su motor de búsqueda, Bing, y su navegador, Microsoft Edge. Sin embargo, hay empresas tecnológicas y líderes del sector que han señalado la peligrosidad de esta inteligencia artificial (IA).
El investigador de Forcepoint es Aaron Mulgrew, quien ha descubierto que se puede utilizar este chatbot para desarrollar un exploit de día cero que puede robar datos de un dispositivo y evadir controles de detección de software malicioso como los que reúne VirusTotal.
Mulgrew ha explicado que, aun siendo “un novato confeso”, ha sido capaz de crear malware “en pocas horas” con la ayuda de ChatGPT, comenzando sus pruebas con el lenguaje de programación Go.
Si bien en primer lugar este chatbot le recordó que no era ético generar malware y se negó a ofrecerle ningún código para ayudarle a llevar a cabo esta acción, el investigador se percató pronto de que era sencillo “evadir las protecciones insuficientes que tiene ChatGPT y crear malware’ avanzado sin escribir ningún código”, esto es, solo con el propio modelo desarrollado por OpenAI.
Para sobrepasar los filtros impuestos por el ‘chatbot’, Mulgrew dedicidió generar pequeños fragmentos de código para que la inteligencia artificial no fuera capaz de reconocer que, en conjunto, se convertirían en carga maliciosa.
Entonces, pudo obtener un código capaz de dividir un PDF en fragmentos de 100KB. Para proceder a esa fuga de datos o “exfiltración silenciosa”, el investgiador usó la esteganografía, esto es, una técnica que oculta mensajes dentro de un archivo sin que se puedan observar cambios en él.
El siguiente paso fue exponerlo ante diferentes proveedores de soluciones de seguridad de VirusTotal. De un total de 69 de ellos, solo lo detectaron cinco, que habrían marcado como sospechoso este código por un identificador único global (GUUID), por sus siglas en inglés.
Entonces, ChatGPT propició la creación de LSB Steganography -una técnica de esteganografía consistente en ocultar mensajes cifrados dentro de una imagen- lo que redujo a dos los proveedores capaces de detectar el código malicioso.
Tras conocer la naturaleza de estas dos soluciones de seguridad, el investgiador le pidió a ChatGPT que introdujera dos nuevos cambios en el código para ofuscar su carácter malicioso. Entonces, logró volver a pasarlo por VirusTotal y concluyó que se podía desarrollar un ‘exploit’ de día cero sin ser detectado por este proveedor.
“Simplemente utilizando las indicaciones de ChatGPT y sin escribir ningún códgio, pudimos producir un ataque muy avanzado en solo unas pocas horas”, ha explicado el investigador en este escrito.
