ESET, empresa líder en detección de amenazas, explica qué es ChatGPT y cómo se puede utilizar esta tecnología con fines maliciosos.
ChatGPT es un chatbot desarrollado por OpenAI. Se trata de un modelo basado en Inteligencia Artificial (GPT-3) que permite interactuar con este chatbot como si fuera una persona a través de texto. Está capacitado para responder preguntas o proporcionar información. Y si bien aún tiene errores, a través del proceso de entrenamiento, su capacidad para interactuar directamente y responder a las preguntas de las personas está mejorando. Sin embargo, ESET, empresa líder en detección de amenazas, advierte que también presenta algunos riesgos en materia de ciberseguridad, como cualquier tecnología.
«Tecnologías como ChatGPT han llegado para transformar y revolucionar el proceso. Quizás lo más notable de estas tecnologías es que están cambiando la forma en que interactuamos con las computadoras. Con ChatGPT vemos avances en la democratización y el acceso a la información, pero ¿no permite esto la democratización del cibercrimen? Las investigaciones ya han demostrado que los ciberdelincuentes han comenzado a utilizar ChatGPT como herramienta para crear códigos maliciosos y realizar otros tipos de fraude. Es claro que tenemos que seguir de cerca este tema para ver cómo se desarrolla y analizar la evolución de la Inteligencia Artificial y en especial del Machine Learning que nos espera”, dice Sol González, Analista de Seguridad TI de ESET Latinoamérica.
ChatGPT se comunica de manera amigable y utiliza un lenguaje accesible. Esto es lo que hace que esta tecnología sea tan disruptiva. El cambio que introduce es la forma en que los usuarios interactúan con esta tecnología, ya que permite que sea accesible para cualquier tipo de usuario. Además, ChatGPT ofrece oportunidades de uso ilimitadas. Por ejemplo, para el diseño de sistemas en diversas industrias, como educación, finanzas, salud, servicio al cliente, etc.
«Sin embargo, es importante tener en cuenta que, como cualquier tecnología, también tiene sus riesgos de seguridad. Haciendo una analogía, así como el modelo de Ransomware as a Service (RaaS) permite que actores con menos conocimientos tengan acceso a un malware y solo deban preocuparse por diseñar el correo de phishing con el cual tratar de engañar a las víctimas. ChatGPT también es un servicio disponible para cualquiera que puede ser utilizado para facilitar ciertas tareas a cibercriminales”, agrega el analista de ESET.
6 formas en que los ciberdelincuentes pueden beneficiarse de ChatGPT
1. Generación de fake news.
En caso que se quiera generar un noticia falsa que se distribuya a lo largo de internet. ¿Qué se podría hacer? Apelando a la creatividad e ingresando los parámetros correspondientes en torno a lo que se quiere, esto es posible con esta plataforma.
2. Ataques de phishing.
Es cierto que cada vez es más difícil detectar los correos electrónicos de phishing. Cada vez son más dirigidos y persuasivos. Hace unos años, escribir correos electrónicos incorrectos era en su mayoría una tontería, incluso con errores de ortografía. Y aunque ChatGPT ha alertado que no es bueno realizar este tipo de actividad, la plataforma podría ayudar a redactar correos electrónicos maliciosos de manera fácil.
3. Robo de identidad.
Los ciberdelincuentes pueden usar ChatGPT para crear estafas que se hacen pasar por instituciones confiables, como bancos o corporaciones, para obtener información privada y financiera de las personas. Incluso pueden escribir en redes como si fueran celebridades.
4. Desarrollo de malware.
Esta plataforma puede ser útil para el desarrollo de software, ya que puede usarse como una herramienta de generación de código en varios lenguajes de programación. El malware también es software, pero con fines maliciosos. El equipo de investigación de ESET realizó una prueba y le pidió a ChatGPT que escribiera un programa .NET que llame a Powershell y descargue el payload.
En respuesta, ChatGPT advirtió sobre los peligros de la solicitud y señaló que podría violar la política de contenido del servicio. Sin embargo, el código se generó de todas formas, incluso dando una descripción detallada sobre cómo funciona.
5. Automatización del proceso ofensivo.
Al realizar un ataque dirigido, los ciberdelincuentes realizan un proceso de investigación que implica realizar ciertas tareas repetitivas. Sin embargo, en los últimos años han aparecido herramientas que permiten reducir el tiempo de estas tareas. Para determinar si ChatGPT se puede utilizar para estas actividades, ESET se hizo pasar por un atacante que quería acceder al servidor LDAP para ver quiénes son los usuarios de la empresa. Se probó Chat GPT como herramienta para automatizar este proceso, pidiendo la creación de un script.
La plataforma proporcionó un código en Python para enumerar usuarios de un directorio utilizando el protocolo LDAP. Para aquellos que trabajan en seguridad, saben que es aconsejable tener una Cheat Sheet ágil para ejecutar ciertos comandos. Por ejemplo, si está en el área de acceso, como un ciberdelincuente, necesita un script para abrir un shell back y usando ChatGPT puede obtener fácilmente esta información.
6. Chats maliciosos.
ChatGPT tiene una API que le permite alimentar a otros chats. Debido a su interfaz fácil de usar, se puede utilizar para muchos propósitos útiles, pero desafortunadamente, también se puede usar para cosas malas. Por ejemplo, engañar a la gente y realizar estafas muy persuasivas.
