Siempre atentos a las últimas tendencias, los ciberdelincuentes distribuyen herramientas maliciosas que se hacen pasar por ChatGPT, Midjourney y otros asistentes generativos de IA
![](https://www.elseguroenaccion.com.ar/wp-content/uploads/2024/07/destacada-4-840x473.jpg)
La IA Generativa (GenAI) está causando furor en todo el mundo. Su popularidad y uso generalizado también han atraído la atención de los ciberdelincuentes, y ha dado lugar a ciberamenazas que giran en torno a ella. Sin embargo, gran parte del debate sobre las amenazas asociadas a herramientas como ChatGPT se ha centrado en cómo la tecnología puede utilizarse indebidamente para ayudar a los estafadores a crear mensajes de phishing convincentes, producir código malicioso o buscar vulnerabilidades.
Quizás se hable menos del uso de GenAI como señuelo y caballo de Troya en el que esconder malware. No es difícil encontrar ejemplos. El año pasado, por ejemplo, escribimos sobre una campaña que instaba a los usuarios de Facebook a probar la última versión de la herramienta legítima de IA de Google, «Bard»; en su lugar, los anuncios ofrecían una herramienta maliciosa impostora.
Este tipo de campañas son ejemplos de una tendencia preocupante, y está claro que no van a desaparecer. Por lo tanto, es clave entender cómo funcionan, aprender a detectar las señales de advertencia y tomar precauciones para que tu identidad y tus finanzas no corran peligro.
¿Cómo utilizan la GenAI como señuelo?
Los ciberdelincuentes tienen varias formas de engañarte para que instales malware disfrazado de aplicaciones GenAI. Por ejemplo:
Sitios de phishing
En la segunda mitad de 2023, ESET bloqueó más de 650.000 intentos de acceso a dominios maliciosos que contenían «chapgpt» o un texto similar. Lo más probable es que las víctimas lleguen allí después de hacer clic desde un enlace en las redes sociales, o a través de un mensaje de correo electrónico/móvil. Algunas de estas páginas de phishing pueden contener enlaces para instalar malware disfrazado de software GenAI.
Extensiones del navegador web
El informe de amenazas H1 2024 de ESET detalla una extensión de navegador maliciosa distrubuida a través de anuncios de Facebook que prometen llevarte al sitio web oficial de Sora de OpenAI o Gemini de Google. Aunque la extensión se hace pasar por Google Translate, en realidad es infostealer conocido como «Rilide Stealer V4», diseñado para obtener las credenciales de Facebook de los usuarios.
![](https://www.elseguroenaccion.com.ar/wp-content/uploads/2024/07/rilide-stealer-masquerading-as-a-chrome-browser-extension-1.png)
Desde agosto de 2023, la telemetría de ESET registró más de 4.000 intentos de instalar la extensión maliciosa. Otras extensiones maliciosas afirman ofrecer funcionalidades GenAI, y en realidad pueden hacerlo de forma limitada, así como entregar malware, según Meta.
Aplicaciones falsas
También ha habido varios informes de aplicaciones GenAI falsas publicadas especialmente en tiendas de aplicaciones móviles, muchas de las cuales contienen malware. Algunas están cargadas de software malicioso diseñado para robar información confidencial del dispositivo del usuario. Esto puede incluir credenciales de inicio de sesión, datos de identificación personal, información financiera y mucho más.
![](https://www.elseguroenaccion.com.ar/wp-content/uploads/2024/07/this-fake-chatgpt-web-app-sends-openai-api-keys-to-its-own-serve-840x446.png)
Otras son estafas diseñadas para generar ingresos para el desarrollador prometiendo capacidades avanzadas de IA, a menudo por una tarifa. Una vez descargadas, pueden bombardear a los usuarios con anuncios, solicitar compras dentro de la aplicación o exigir suscripciones a servicios inexistentes o de muy baja calidad.
Anuncios maliciosos
Los actores maliciosos están aprovechando la popularidad de las herramientas GenAI para engañar a los usuarios para que hagan clic en anuncios maliciosos. Los anuncios maliciosos en Facebook son especialmente frecuentes. Meta advirtió el año pasado que muchas de estas campañas están diseñadas para comprometer a «empresas con acceso a cuentas de anuncios en todo Internet.»
![](https://www.elseguroenaccion.com.ar/wp-content/uploads/2024/07/splash-screen-shown-by-vidar-infostealer-installer-and-impersonating-midjourney-840x468.png)
Los delincuentes secuestran una cuenta o página legítima, cambian la información del perfil para que parezca una página auténtica de ChatGPT u otra página de la marca GenAI, y luego utilizan las cuentas para publicar anuncios falsos. Estos anuncios ofrecen enlaces a la última versión de las herramientas GenAI, pero en realidad despliegan malware de robo de información, según los investigadores.
El arte del señuelo
Los humanos somos criaturas sociales. Queremos creer las historias que nos cuentan. También somos codiciosos. Queremos hacernos con los últimos gadgets y aplicaciones. Los actores de amenazas se aprovechan de nuestra codicia, nuestro miedo a perdernos algo, nuestra credulidad y nuestra curiosidad para conseguir que hagamos clic en enlaces maliciosos o descarguemos aplicaciones con malware oculto en su interior.
Pero para que pulsemos el botón de instalación, lo que se nos ofrece tiene que ser muy atractivo y, como todas las mejores mentiras, debe estar basado en un núcleo de verdad. Los ingenieros sociales son expertos en estas artes oscuras: nos convencen para que hagamos clic en noticias subidas de tono sobre famosos o temas de actualidad (¿recuerdas los cuentos chinos sobre las falsas vacunas COVID-19?). A veces nos ofrecen algo gratis, con un descuento increíble o antes de que lo consiga nadie. Como explicamos aquí, caemos en estos trucos porque:
- Tenemos prisa, especialmente si estamos viendo el contenido en nuestro dispositivo móvil
- Son buenos narradores, y cada vez lo hacen con más fluidez, utilizando (irónicamente) GenAI para contar sus historias sin problemas en varios idiomas
- Nos encanta conseguir algo a cambio de nada, aunque sea demasiado bueno para ser verdad
- A los malos se les da bien compartir conocimientos sobre lo que funciona y lo que no, mientras que a nosotros se nos da peor buscar o aceptar consejos
- Estamos predispuestos a respetar la autoridad, o al menos la legitimidad de una oferta, siempre y cuando tenga una marca «oficial»
En lo que respecta a la GenAI, los creadores de malware son cada vez más sofisticados. Utilizan múltiples canales para difundir sus mentiras. Y disfrazan el malware de todo, desde ChatGPT y el creador de vídeos Sora AI, hasta el generador de imágenes Midjourney, DALL-E y el editor de fotos Evoto. Muchas de las versiones que promocionan aún no están disponibles, lo que atrae a la víctima: «ChatGPT 5» o «DALL-E 3», por ejemplo.
Se aseguran de que el malware siga volando bajo el radar adaptando regularmente sus cargas útiles para evitar ser detectados por las herramientas de seguridad. Y dedican mucho tiempo y esfuerzo a asegurarse de que sus señuelos (como los anuncios de Facebook) tengan el aspecto adecuado. Si no parece oficial, ¿quién va a descargarlo?
¿Qué puede estar en peligro?
¿Qué es lo peor que podría pasar? Si haces clic para descargar una aplicación GenAI falsa o desde un sitio web e se instala un infostealer, los cibercriminales podrán robar tu mediante este malware que está diseñado, como su nombre indica, para recopilar información confidencial. La información robada puede incluir credenciales de tus cuentas, inicios de sesión en el trabajo o tarjetas de crédito almacenadas, cookies de sesión (para eludir la autenticación multifactor), activos almacenados en monederos criptográficos, o datos de aplicaciones de mensajería instantánea, entre otros.
No se trata sólo de malware infostealer. En teoría, los ciberdelincuentes podrían ocultar cualquier tipo de malware en aplicaciones y enlaces maliciosos, incluidos ransomware y troyanos de acceso remoto (RAT). Para la víctima, esto podría llevar a:
- Que un hacker obtenga el control remoto completo de su PC/teléfono móvil y de todo lo almacenado en él. Podrían utilizar el acceso para robar información personal y financiera más sensible, o convertir su máquina en un ordenador «zombi» para lanzar ataques contra otros
- Podrían utilizar su información personal para cometer fraude de identidad, lo que puede resultar muy angustioso, por no decir caro, para la víctima
- Podrían utilizar datos financieros y de identidad para obtener nuevas líneas de crédito a su nombre, o para robar criptoactivos y acceder a cuentas bancarias y vaciarlas
- Incluso podrían utilizar sus credenciales de trabajo para lanzar un ataque contra su empleador, o una organización asociada/proveedora. Una reciente campaña de extorsión digital que utilizó malware infostealer para acceder a cuentas de Snowflake puso en peligro decenas de millones de datos de clientes
Cómo evitar los señuelos maliciosos de GenAI
Algunas buenas prácticas probadas y comprobadas te mantendrán lejos de las amenazas GenAI. Ten en cuenta lo siguiente:
- Instala solo aplicaciones de tiendas de aplicaciones oficiales
Google Play y Apple App Store cuentan con rigurosos procesos de selección y supervisión periódica para eliminar las aplicaciones maliciosas. No descargues aplicaciones de sitios web de terceros o de fuentes no oficiales, ya que es mucho más probable que alojen productos maliciosos.
- Comprueba los desarrolladores de las aplicaciones y las reseñas de su software
Antes de descargar una aplicación, verifica las credenciales del desarrollador, busca otras aplicaciones que haya desarrollado y lee los comentarios de los usuarios. Las aplicaciones sospechosas suelen tener descripciones mal redactadas, un historial de desarrollo limitado y comentarios negativos que ponen de manifiesto problemas.
- Desconfía de los anuncios digitales
Los anuncios digitales, especialmente en plataformas de redes sociales como Facebook, pueden ser un vector habitual de distribución de aplicaciones maliciosas. En lugar de hacer clic en los anuncios, busca directamente la aplicación o herramienta en la tienda oficial de aplicaciones.
- Comprueba las extensiones del navegador web antes de instalarlas
Las extensiones del navegador web pueden plantear riesgos para la seguridad, pero antes de intalar alguna comprueba los antecedentes del desarrollador y lee las reseñas. Usa solo extensiones con calificaciones altas y de desarrolladores conocidos.
- Utiliza un software de seguridad completo de un proveedor de confianza
Asegúrate de tener instalado un software de seguridad de un proveedor de confianza. Esto proporciona protección en tiempo real contra el malware, los intentos de phishing y otras amenazas en línea.
- Sé consciente del phishing
Ten cuidado con los mensajes no solicitados que invitan a hacer clic en enlaces o a abrir archivos adjuntos. Verifica la identidad del remitente antes de interactuar con cualquier mensaje de correo electrónico, de texto o de redes sociales.
- Activa la autenticación multifactor (MFA) en todas tus cuentas en línea
La autenticación multifactor añade una capa extra de seguridad a tus cuentas online al requerir múltiples métodos de verificación. Habilita la MFA siempre que sea posible, de esta forma proteges tus cuentas incluso si tu contraseña se ve comprometida.
- Mantente alerta
Como hemos visto antes, los ciberdelincuentes no pueden resistirse a aprovechar el entusiasmo que despiertan los nuevos lanzamientos. Si ves una oferta para descargar una nueva versión de una herramienta GenAI, verifica su disponibilidad a través de los canales oficiales antes de proceder. Consulta el sitio web oficial o fuentes de noticias de confianza para confirmar el lanzamiento.
GenAI está cambiando el mundo que nos rodea a un ritmo vertiginoso. Asegúrate de que no cambie el tuyo para peor.