NOTICIAS

Los ataques basados en IA ponen en jaque a las empresas



Dirección copiada

Las empresas se están viendo asediadas por las continuas amenazas y vulneraciones de sus sistemas ante las estafas de phishing, deepfakes y clonación de voz basadas en IA generativa

Publicado el 27 oct 2023



Inteligencia artificial
Inteligencia artificial

La inteligencia artificial (IA) es un recurso poderoso capaz de elevar la productividad y la eficiencia en las empresas, pero también tiene una cara B: la que se ampara en ella para cometer un fraude. Un estudio de FICO España indica que el 76% de los españoles ha recibido algún tipo de mensaje, correo electrónico o llamada de teléfono que en realidad era una estafa. Lo sorprendente es que un 8% acabó realizando el pago a pesar de haber sido alertado por su banco y tan solo el 19% informó a su entidad de la suplantación.

“Antes era fácil detectar un email fraudulento porque había errores gramaticales o frases que resultaban sospechosas. En la actualidad, incluso la propia Europol alerta de la habilidad de ChatGPT para escribir textos impecables que los delincuentes emplean para hacer phishing y otras modalidades de fraude”, advierte Felipe García, abogado y socio del despacho Círculo Legal Madrid. Tanto este sistema de IA generativa como otros capaces de crear deepfakes muy realistas elevan la urgencia de reforzar la seguridad en el ámbito corporativo a través del compliance, una herramienta poderosa capaz de prevenir estos ataques.

El Abogado admite que esta tecnología supone “un problema real para las empresas y los ciudadanos, con lo cual es necesario una regulación en cuanto al uso y desarrollo de la misma, sobre todo, en la IA generativa, limitando su uso”, esto es, según el Letrado “es un verdadero problema, cada vez es más frecuente, por ejemplo, la suplantación de identidad para abrir cuentas y disponer de cantidades importantes de dinero, que en muchas ocasiones terminan con el afectado en un banquillo, imputándole un delito de estafa, se utilizan para ello técnicas como el spooling facial, o incluso la imitación de la voz.

Si no se le pone coto al uso de esta inteligencia, los problemas de fraude se van a incrementar exponencialmente en los próximos meses, la UE debe reaccionar rápido así como los Estados Miembros, como siempre, la realidad va por delante de la regulación, y en muchas ocasiones por delante de las Fuerzas y Cuerpos de Seguridad del Estado, que tampoco tienen margen de maniobra en muchos de los casos que pasan por sus manos.

Políticas de riesgo

La solución a estas amenazas reside en la prevención y en la formación. El Letrado insiste en que “las empresas deben revisar sus políticas de riesgo y, si ven que el fraude puede crecer más, realizar las inversiones correspondientes para prevenir este tipo de comportamientos irregulares”. En este sentido, casi el 5% de las transacciones digitales realizas en España en la primera mitad del año fueron sospechosas de fraude, según Transunion.

Para García, el destino de esta inversión debe abarcar tanto medio técnicos como humanos.  “Hay que contar con equipos liderados por personas que impulsen planes de formación específicos en evitar fraudes”. Según él, se erige como protagonista principal una figura clave para las organizaciones, el compliance officer, una nueva figura que tiene los visos de implantarse en muchas empresas en el futuro.

Artículos relacionados

Artículo 1 de 3