Logixs alerta: 8 de cada 10 de sus clientes no tiene protocolos de ciberseguridad en sus proyectos de IA

Foto: FlyD / Unsplash

En breve

• Logixs sitúa el origen del problema en la prisa por ver resultados: según la compañía, la seguridad se introduce a mitad del proyecto, cuando debería estar desde el diseño.
• En 2 de cada 10 auditorías de software desarrollado con ayuda de IA, el equipo de Logixs encuentra al menos una vulnerabilidad o una credencial expuesta.
• Logixs ha creado un sistema propio con agentes de IA que vigila todo el ciclo de desarrollo y somete cada agente a ataques controlados antes de ponerlo en producción.

Web de la empresa · logixsdigital.com

Artículo completo

La inteligencia artificial no solo es una herramienta para las empresas: también se ha convertido en un objetivo. Logixs, compañía española especializada en el diseño e integración de soluciones de IA para empresas, afirma que 8 de cada 10 empresas no cuentan con protocolos de ciberseguridad en sus proyectos de IA. Conviene precisar que la cifra procede de su propia cartera de clientes, no de un estudio de mercado independiente.

Seguridad a mitad del camino

Según Logixs, la mayoría de las empresas da por hecho que sus políticas tradicionales de seguridad sirven igual para proteger un modelo de lenguaje o un agente de IA. La compañía sitúa el origen del problema en la prisa por ver resultados: la seguridad se introduce a mitad del proyecto, cuando debería estar desde el diseño.

"En los últimos tiempos hemos visto cómo la concienciación en términos de ciberseguridad aumentaba en las empresas, impulsada también por normativas como el AI Act, DORA o NIS2. Sin embargo, aún hay muchas compañías que, al tratar de acelerar los proyectos para ver resultados pronto, introducen la seguridad a mitad del camino, cuando debería estar desde el diseño", declara Luis Bravo, responsable de seguridad de la información en Logixs. Y añade que algunos proyectos se frenan justo por el miedo a implantar una IA que no sea segura, "lo que supone el riesgo de quedarse atrás".

Los riesgos que Logixs ve con más frecuencia

Logixs asegura que ciertos riesgos se repiten en todas las compañías, sin importar su tamaño o sector:

• Herramientas públicas de IA sin supervisión. Los empleados comparten contratos, datos de clientes o código propio en entornos no seguros sin que la empresa lo sepa. Según un estudio de Cegid, 8 de cada 10 empleados españoles que ya usan IA en su trabajo reconocen haber recurrido a herramientas no facilitadas por su empresa sin comunicarlo. Y 6 de cada 10 afirman usar la IA sin directrices ni supervisión corporativa, de acuerdo con VML The Cocktail y Salesforce.
• Falta de trazabilidad. No se puede explicar por qué una herramienta dio una respuesta concreta ni de dónde sacó el dato. Según un estudio reciente de Red Hat, solo el 30 % de las empresas españolas sabe con exactitud dónde se almacenan y procesan los datos que usan sus sistemas de IA.
• Agentes con exceso de permisos conectados a sistemas críticos sin vigilancia.
• Robo de claves de servicios de IA, que los atacantes pueden usar para disparar las facturas en cuestión de horas.

Código escrito con IA, fallos que no se ven

Otro frente es el uso de la IA para programar más rápido. Cuando la IA escribe código que funciona, explica Logixs, las empresas tienden a revisar menos el código y los procesos de lo necesario. En 2 de cada 10 auditorías que su equipo realiza sobre software desarrollado previamente por las compañías con ayuda de la IA aparece al menos una vulnerabilidad o una credencial expuesta.

La compañía cita además el informe GenAI Code Security 2025 de Veracode: el 45 % de las muestras de código generadas por más de 100 modelos de IA no supera las pruebas de seguridad. También se han documentado casos en los que la IA recomienda paquetes de software que no existen y que los ciberdelincuentes registran con código malicioso bajo esos mismos nombres para infectar a las empresas.

La propuesta de Logixs: vigilar todo el ciclo y atacar antes de producción

Para responder a esta situación, Logixs ha desarrollado un sistema propio que acompaña todo el ciclo de desarrollo con agentes de IA, desde la primera línea de código hasta la puesta en producción, con monitorización continua y no solo con una revisión final.

"De esta forma, podemos detectar a tiempo problemas que podrían acabar convirtiéndose en una incidencia, desde claves de acceso o contraseñas incluidas en el código hasta datos personales protegidos por el RGPD", señala Bravo. Antes de poner un agente en producción, la compañía lo somete a ataques controlados en un entorno aislado para comprobar cómo responde a intentos de manipulación, como la inyección de instrucciones, o a un uso indebido de sus permisos.

Quién es Logixs

Según la propia empresa, Logixs desarrolla soluciones personalizadas basadas en IA generativa y ha realizado más de 35 proyectos con esta tecnología. Cuenta con un departamento de 70 personas dedicado exclusivamente a proyectos de IA y trabaja con clientes de sectores como energía, automoción, distribución, medicina, defensa y financiero, entre ellos algunas compañías del IBEX 35. La compañía fue galardonada recientemente como "Mejor empresa de inteligencia artificial generativa" en los IX Premios de Tecnología e Innovación del diario La Razón. Más información en logixsdigital.com.

Fuente: Logixs (www.logixsdigital.com).

Información facilitada por Logixs.

Elaborado con ayuda de IA