Herramientas de IA: Cómo los cibercriminales pueden utilizarlas

Conocé qué herramientas de IA pueden traer riesgos de seguridad y su posible uso por cibercriminales

 

Mucho se ha informado sobre los distintos tipos de herramientas de IA (inteligencia artificial) y el machine learning y he percibido como aumentó la preocupación por la seguridad de su uso y, en menor medida, por la posible utilización por parte de los cibercriminales.

Enumeraré, en este artículo, cinco herramientas de inteligencia artificial, destinadas a un uso específico y que pueden ser utilizadas por atacantes para cometer delitos.

Crea resúmenes bien concisos y estructurados sobre cualquier tema que se le pida y proporciona referencias bibliográficas que apoyan el texto presentado y le dan mayor autoridad.

 

Posibles ataques: ingeniería social, manipulación de la opinión.

Es posible utilizar cualquier parámetro de la herramienta con una tendencia a una opinión concreta, sea cual sea. Los argumentos que provee pueden usarse para componer piezas de comunicación destinadas a manipular la opinión del público consumidor.

 

2. Magic Eraser

Permite eliminar cualquier tipo de elemento presente en las fotos con unos pocos clics, preservando en gran parte la calidad de la imagen.

Posibles ataques: Creación de falsificaciones, ingeniería social.

La manipulación de imágenes es muy utilizada por los delincuentes darles credibilidad a imágenes/noticias falsas, a menudo con simples modificaciones como eliminar personas o determinados objetos de una imagen; con pequeños cambios las imágenes pueden considerarse más creíbles.

 

3. Rytr

Desarrolla textos de muchos tipos diferentes basándose en parámetros proporcionados por el usuario. Es posible elegir varios tipos de enfoques: desde un texto más informal, convincente o entretenido, hasta uno más formal. También se puede elegir dónde se utilizará este texto para que lo formatee específicamente para blogs, posts de Facebook, correos electrónicos e incluso descripciones de videos de YouTube.

Posibles ataques: Phishing, textos para malvertising, creación de falsificaciones.

Con unas pocas palabras, los ciberdelincuentes pueden crear un correo electrónico de phishing con argumentos convincentes sobre casi cualquier tema y asegurarse de que está bien escrito. La herramienta sólo funciona en inglés, pero el resultado está tan bien estructurado que incluso la traducción mediante herramientas de traducción automática facilita su lectura y redacción.

 

4. Synthesia

Originalmente se concibió para entrenamiento, tutorías y campañas de marketing. Permite usar un avatar para interpretar un texto o un audio; es posible hacer que el avatar hable en distintos idiomas disponibles, con solo introducir el texto en el idioma deseado.

Posibles ataques: Vishing, creación de fakes

Actualmente la herramienta permite crear vídeos con un avatar que habla de manera muy natural y se puede personalizar personalizarlo de acuerdo con las necesidades del usuario. Esta personalización requiere de algunos vídeos de aprendizaje, y permite que el avatar interprete textos que pueden no ser consistentes con lo que la persona diría.

 

5. Voicemod

VoiceMod utiliza una base previamente registrada de voces y efectos de sonido para cambiar la voz de sus usuarios en casi cualquier software que permita la configuración de nuevos micrófonos. En el momento de escribir este artículo VoiceMod no tiene versión para Android, sólo para Windows.

Posibles ataques: Vishing, bypass de autenticación, creación de voces.

VoiceMod es sólo un ejemplo entre los muchos programas de alteración de voz disponibles, y aunque busca realizar modificaciones para voces más sintéticas, puede ser utilizado para hacerse pasar por otra persona en varios tipos de situaciones como narración de noticias, controles de entrada/accesos activados por voz e incluso estafas como falsos secuestros, donde los delincuentes se hacen pasar por un conocido de la víctima para extorsionarla.

 

Otras herramientas: ChatGPT y Midjourney

No sería posible hacer un artículo hablando de herramientas de Inteligencia Artificial y Machine Learning sin hablar de las dos más famosas de la actualidad: ChatGPT y Midjourney.

ChatGPT tiene como objetivo producir textos robustos y bien escritos sobre cualquier tema, con una base de información que llega hasta finales de 2021 y que puede ser utilizada en prácticamente cualquier idioma.

Midjourney trabaja en otro frente: convierte entradas de texto en imágenes, también muy bien hechas. Una de las noticias falsas más difundidas hace algún tiempo fue hecha con esta herramienta, una imagen del Papa Francisco usando un abrigo muy llamativo.

 

¿Es posible protegerse de los ataques utilizando estas tecnologías?

Al utilizar nuevas herramientas, es fundamental extremar las medidas de seguridad. Se recomienda usar contraseñas únicas en servicios que no estén integrados con plataformas existentes, para evitar accesos no autorizados ante posibles filtraciones. También es clave verificar siempre las fuentes oficiales, ya que muchas herramientas aparentan ser legítimas, pero solo buscan robar información o instalar software malicioso.

Además, hay que desconfiar de correos o promociones que ofrezcan extensiones, aplicaciones o beneficios gratuitos, ya que suelen ser intentos de phishing. Siempre es preferible acceder a las herramientas desde los canales oficiales. Por último, contar con un software de protección actualizado y correctamente configurado resulta esencial para detectar y bloquear amenazas. Dado que los ataques son cada vez más creativos, mantenerse informado y actuar con cautela es la mejor defensa.

Daniel Cunha Barbosa