Qué es FraudGPT y por qué deberías tener cuidado con él

Aunque la Inteligencia Artificial ha producido varias innovaciones en beneficio del ser humano, también ha sido utilizada para fines maliciosos por parte de los ciberdelincuentes.

Esta vez se ha registrado la existencia de un modelo de IA generativa para crear correos de phishing muy convincentes y sitios web falsos. Así lo identificó una investigación realizada por el Departamento de Seguridad Cibernética de la Academia de Defensa de Nigeria publicado en la Revista Internacional de Investigación Científica en Informática, Ingeniería y Tecnología de la Información. Su nombre es FraudGPT y te decimos por qué deberías prestarles atención.

¿Qué es FraudGPT?

Probablemente, su nombre te recuerda al famoso ChatGPT, y es que han ganado popularidad por ser el “gemelo malicioso” del modelo desarrollado por OpenAI. De acuerdo con la investigación, FraudGPT es un modelo de IA generativa por suscripción que le permite a los ciberdelincuentes desarrollar correos electrónicos de phishing y sitios web engañosos muy convincentes.

El equipo de investigadores de Netenrich, compañía especializada en análisis de datos, descubrió a FraudGPT en canales de Telegram de la Dark Web en julio de 2023. De acuerdo con el informe, esta herramienta puede crear códigos maliciosos y malware indetectable, herramientas de piratería, redactar correos electrónicos de phishing y contenido de ingeniería social, descubrir vulnerabilidades, credenciales comprometidas y sitios web explotables. Incluso, ofrece orientación sobre técnicas de piratería y delitos cibernéticos.

Una de las características que preocupa a los investigadores es la posibilidad de presentar un conjunto de herramientas y habilidades para ejecutar ciberataques sin la necesidad de contar con experiencia técnica avanzada por una suscripción mensual de 200 dólares o 1700 dólares al año.

Sin embargo, FraudGPT no es el único modelo de IA con el que debes tener cuidado. Otro de naturaleza maliciosa es WormGPT, el cual se basa en el modelo de lenguaje GPTJ y fue desarrollado para mejorar la creación de correos electrónicos de phishing. De acuerdo con la investigación, se lanzó en 2021 y permite realizar varias funciones, como “compatibilidad sin restricciones con caracteres, retención de memoria de chat y capacidades de formato de código”.

A diferencia de ChatGPT, WormGPT puede ofrecer resultados más satisfactorios para los ciberdelincuentes, al producir correos electrónicos más atractivos y personalizados. De hecho, otras investigaciones han comprobado su capacidad para crear correos electrónicos BEC (Business Email Compromise) “astutos y persuasivos”, por lo que también es una IA a la que debes prestar atención.