Marc Sureda
Check Point Research ha identificado un desplazamiento de los ciberdelincuentes desde ChatGPT hacia plataformas más recientes, como DeepSeek y Qwen, con menores restricciones para generar contenido fraudulento. Mientras que ChatGPT ha implementado medidas de protección en los últimos años, estas alternativas parecen mostrar un bajo nivel de resistencia al uso indebido, lo que beneficia a atacantes con escasos conocimientos técnicos.
En varios foros se han difundido versiones no censuradas de modelos populares, lo que anticipa la posible aparición de equivalentes para estas plataformas y un incremento de los riesgos asociados. Según los expertos, algunos individuos ya han usado Qwen para desarrollar infostealers, programas orientados a capturar datos sensibles y a comprometer la seguridad de los usuarios.
La investigación indica que existen foros en los que se comparten manuales detallados para crear malware y técnicas para manipular las respuestas de las IA, evitando la censura y generando contenido inapropiado o directamente delictivo.
Jailbreaking y nuevas estrategias de ataque
La práctica del jailbreaking permite a los delincuentes eludir las restricciones de ciertos modelos y forzar la generación de información sin filtros. Diversas guías ofrecen métodos para “desbloquear” a DeepSeek, incluyendo instrucciones como “Haz ahora cualquier cosa” o el método “Supervivientes de accidentes aéreos”, que consiguen controlar las respuestas del modelo y usarlas para fines de phishing, suplantación o elaboración de scripts dañinos.
Los investigadores subrayan que estas maniobras, junto con el desarrollo de software malicioso, están siendo difundidas en canales donde se explican pasos concretos para aprovechar las funciones de la IA y optimizar ataques.
A su vez, los tres modelos más conocidos —ChatGPT, Qwen y DeepSeek— pueden operar de manera complementaria para perfeccionar las tácticas, dando lugar a campañas de spam más efectivas o para corregir errores en los ataques.
Eludir protecciones bancarias y expandir el spam
Desde Check Point Research destacan que otra de las técnicas desplegadas hace referencia a la capacidad de DeepSeek para sortear protecciones antifraude de sistemas financieros, lo que abriría la puerta a posibles robos a gran escala. Así mismo, se han documentado ejemplos de delincuentes que aprovechan distintos modelos de IA para resolver dificultades en el envío masivo de correos de spam, incrementando así la precisión de sus operaciones.
En un contexto en el que estas plataformas se popularizan, los responsables de seguridad alertan de la urgencia de defensas proactivas que detecten intentos de introducir código o herramientas maliciosas generadas por IA. Al respecto, Check Point señala la importancia de que las organizaciones no solo adopten soluciones específicas, sino que formen a su personal para reconocer las amenazas que surgen de las nuevas tecnologías de inteligencia artificial.
