Ciberseguridad y el riesgo de exposición de la información por IA
El área de la ciberseguridad representa importantes desafíos en las empresas digitales, sobre todo en estos tiempos en donde la inteligencia artificial ha ido tomando un papel cada vez más relevante en el desarrollo de las mismas, pues es un elemento que facilita tanto las actividades lícitas, como las acciones de la ciberdelincuencia.
En este contexto, es conveniente prepararse con soluciones digitales que ayuden a enfrentar las posibles amenazas del uso de herramientas de IA o de ciberataques impulsados por este tipo de herramientas, dando un especial enfoque en la concientización de los colaboradores para que cuente con la información necesaria para prevenirlos y enfrentarlos.
Ciberseguridad y la amenaza de la inteligencia artificial
Sin duda, la inteligencia artificial es una herramienta con un asombroso potencial para las empresas, pero a medida que adquiere mayor sofisticación, también aumentan los peligros asociados en materia de ciberseguridad, sobre todo cuando recae en manos de actores maliciosos.
Esto lleva a que los riesgos de la inteligencia artificial sean diversos y con consecuencias considerables, como la pérdida de la confidencialidad debido a violación y robo de información, la exposición de datos que puede originarse cuando un colaborador sube un documento PDF a ChatGPT por ejemplo, o las posibles vulnerabilidades que presentan este tipo de herramientas.
Entendiendo los riesgos de la inteligencia artificial
Las vulnerabilidades y amenazas de esta poderosa herramienta se pueden llegar a presentar de diversas maneras, y conocerlas es esencial para tener mayor cuidado en su uso. Algunas son:
Data Poisoning (envenenamiento de la información)
Consiste en el almacenamiento y tratamiento de datos incorrectos de manera intencional por parte de ciberdelincuentes para corromper la información con la que trabajan los sistemas de aprendizaje automático, lo cual es más fácil cuando este funciona con base en un código inseguro.
Adversarial Attacks (ataque adversario)
Aquí se alimenta sutilmente con datos incorrectos de entrada a los sistemas de inteligencia artificial, para que en caso de automatización tomen decisiones erróneas o filtren información sin que las personas a cargo se den cuenta.
Inversión del modelo
Es un sistema complejo que busca recrear comportamientos de IAs patentadas de manera legítima, mediante la inferencia de su funcionamiento, redes neuronales y resultados, con la finalidad de extraer datos confidenciales de los modelos y engañar a los usuarios.
Ciberataques confeccionados con IA
Con uso de inteligencia artificial se pueden automatizar los ataques cibernéticos, crear deepfakes o llevar a cabo planeación y ejecución de estrategias maliciosas de ingeniería social (técnicas de robo de información, como el phishing).
Casos de riesgos de la IA
Para entender aún más su relevancia, se pueden analizar casos reales donde las vulnerabilidades, el funcionamiento errático y el uso malintencionado de la inteligencia artificial ha propiciado funestas situaciones como las que verás a continuación.
Samsung y las fugas de ChatGPT
Cuando Samsung Electronics permitió que se utilizara ChatGPT dentro de sus plantas de semiconductores, esta herramienta filtró información confidencial en tres ocasiones diferentes.
Estas filtraciones supusieron una vulneración de los datos corporativos, además que pudieron ser tomadas por diversas empresas estadounidenses, como si fuera material de aprendizaje, afectando su competitividad.
El sofisticado DeepLocker
Este malware surgió en 2020, y mediante inteligencia artificial es que logra pasar inadvertido y burlar los sistemas de ciberseguridad. Pero no solamente eso, pues se vale de la IA para saber cuándo activarse, aplicando técnicas de reconocimiento facial que le sirven para identificar a su objetivo y atacar.
Ransomware a Colonial Pipeline
Fue en 2021 cuando el grupo de ciberdelincuentes DarkSide combinó elementos de hackeo con inteligencia artificial para ingresar en el sistema de este distribuidor de oleoductos, con el fin de cifrar su información, exigiendo una importante suma de dinero en bitcoins para la devolución de los datos. Este ataque incluso frenó el suministro de combustible en ciertas partes de Estados Unidos.
Implementación de IA responsable
Como puedes ver, la IA requiere de ser abordada con seriedad por quien las integre en su organización. Esto significa responder con el uso de inteligencia artificial responsable (RAI).
Lo anterior se refiere a utilizar herramientas que se adhieran a principios basados en la ética, los cuales garanticen su operación y despliegue, de forma que se protejan los derechos de individuos y corporaciones por igual. Esto implica:
- Evaluar periódicamente el desempeño de la IA dentro de las labores empresariales, en este caso, las referentes a ciberseguridad.
- Desarrollo de confianza en los modelos de IA una vez que estén entrenados para funcionar en las organizaciones de manera personalizada, transparente y con límites claros en el almacenamiento y tratamiento de datos.
- Fomentar la cultura de la responsabilidad entre quienes estén a cargo de la implementación y supervisión de la IA en las actividades empresariales, para que los sistemas cumplan con la normativa y la privacidad de los datos.
Mayor ciberseguridad con Entel Digital
Para mitigar y enfrentar los riesgos del mal uso de la IA, es necesario tener un marco normativo y soluciones que permitan disminuir las amenazas y riesgos de la IA, por eso es que Entel Digital pone a tu disposición su servicio de ciberseguridad.
En él podrás contar con un equipo especializado en supervisar, identificar y gestionar vulnerabilidades y amenazas, así como con un centro de ciberinteligencia que responde inmediatamente ante actividades cibernéticas sospechosas y malintencionadas.
Minimiza los riesgos, cuida la información de tu empresa, y si tienes contacto con la IA, que sea para tu beneficio usándola de manera responsable.
