Una nueva generación de chatbots puede crear textos coherentes y significativos. Te explicamos cómo beneficia a ciberdelincuentes y ciberdefensores.

Si desentrañamos ChatGPT, veremos que el  lenguaje se entrena mediante un corpus gigante de textos online, del cual “recuerda” qué palabras, frases y párrafos se recopilan más frecuentemente y cuál es su relación. Ayudado por numerosos trucos técnicos y rondas adicionales de entrenamiento con humanos, el modelo está optimizado especialmente para el diálogo. Y, como “en internet puedes encontrar absolutamente todo”, el modelo es capaz de llevar una conversación sobre cualquier tema: desde historia del arte hasta programación y física cuántica.

Dicho esto, incluso en su forma actual, el bot es muy útil para diversos procesos prácticos e industrias. Estos son algunos ejemplos de aplicaciones en el campo de la ciberseguridad.

La creación de malware

En foros clandestinos, varios ciberdelincuentes explican cómo utilizan ChatGPT para crear nuevos troyanos. El bot puede escribir código, por lo que si le explicas brevemente la función deseada (por ejemplo, “guardar todas las contraseñas del archivo X y enviarlas por HTTP POST al servidor Y”), puedes conseguir un stealer (ladrón de información) fácil y sin habilidades de programación. Sin embargo, los usuarios no tienen nada de qué preocuparse, ya que las soluciones de seguridad son capaces de detectar y neutralizar el código escrito por los bots de forma rápida y eficiente, al igual que con el malware creado por humanos. Además, si un programador experimentado no verifica el código, es probable que el malware venga con errores sutiles y fallos lógicos que le restarán eficacia.

Los bots solo pueden competir con los desarrolladores de virus menos experimentados, al menos por ahora.

Buscar vulnerabilidades

El chatbot “lee” el pseudocódigo de una aplicación descompilada e identifica dónde puede haber vulnerabilidades. Además, el bot proporciona código Python diseñado para la explotación de vulnerabilidades (PoC). Por supuesto, el bot puede cometer todo tipo de errores, desde buscar vulnerabilidades hasta escribir código PoC, pero incluso en su forma actual, la herramienta es útil tanto para los atacantes como para los defensores.

La consultoría de seguridad

Dado que ChatGPT sabe todo lo que la gente dice sobre la ciberseguridad online, sus consejos sobre este tema parecen convincentes. Pero, como sucede con cualquier consejo por parte de un chatbot, nunca sabes exactamente de dónde viene, por lo que por cada 10 buenos puede haber uno malo.

Phishing y BEC

Los textos convincentes son un punto fuerte de ChatGPT, por lo que probablemente ya se estén produciendo ataques automatizados de spear-phishing a través chatbots. El problema principal con los correos electrónicos masivos de phishing es que no lucen bien, contienen demasiado texto genérico que no se dirige directamente al destinatario. En cuanto al spear-phishing, cuando un ciberdelincuente escribe un correo electrónico a una sola víctima, es muy caro; por ende, se usa solo en ataques dirigidos. ChatGPT está configurado para cambiar drásticamente el equilibrio de poder, ya que permite a los atacantes generar correos electrónicos persuasivos y personalizados a escala industrial. No obstante, para que un correo electrónico tenga todos los elementos necesarios, el chatbot necesita de instrucciones muy detalladas.

Pero los principales ataques de phishing consisten, generalmente, en una serie de correos electrónicos, que gradualmente ganan la confianza de la víctima. Y ChatGPT ahorrará mucho tiempo a los ciberdelincuentes con este segundo, tercer o enésimo correo electrónico, dado que el chatbot recuerda el contexto de la conversación, por lo que los correos electrónicos posteriores se pueden diseñar perfectamente a partir de un prompt muy simple.

Además, la respuesta de la víctima se puede introducir fácilmente en el modelo, para realizar en segundos un seguimiento convincente.

Una de las herramientas que los atacantes pueden usar es la correspondencia estilizada. Con una pequeña muestra de un particular estilo, el chatbot puede aplicarla en otros mensajes fácilmente. Esto permite la creación de correos electrónicos falsos y convincentes que parecen ser de un empleado a otro.

Desafortunadamente, esto permite un aumento en ataques de phishing exitosos. Además, el chatbot es  igual de convincente en correo electrónico, redes sociales y servicios de mensajería.

¿Cómo podemos contraatacar?

Los expertos en análisis de contenido están desarrollando activamente una serie de herramientas para detectar textos de chatbot. Solo el tiempo nos dirá si dichos filtros resultan realmente efectivos, por ahora, nos queda recomendar nuestros dos consejos estándar, mucha vigilancia y formaciones para la sensibilización en materia de ciberseguridad.

Artículo de Kaspersky Latam