Inteligencia Artificial y la preocupación por su seguridad
La Inteligencia Artificial (IA) está revolucionando las organizaciones mediante incrementos significativos en productividad, eficiencia e innovación.
No obstante, esta revolución tecnológica viene acompañada de preocupaciones crecientes sobre ciberseguridad y privacidad de los datos.
El informe «Avanzando en el uso de la inteligencia artificial mientras se mitigan las amenazas de ciberseguridad» de Harvard Business Review Analytic Services, patrocinado por Microsoft, ofrece una visión profunda sobre cómo equilibrar los beneficios de la IA con los riesgos de ciberseguridad. Los puntos clave del informe:
- La investigación sugiere que la inteligencia artificial (IA) impulsa la productividad, pero plantea riesgos de ciberseguridad que deben gestionarse.
- Parece probable que las preocupaciones sobre privacidad y seguridad de datos sean barreras para la adopción de la IA.
- La evidencia apunta a que, aunque actualmente la IA no ha empeorado las amenazas de ciberseguridad, esto podría cambiar en el futuro.
El panorama actual
Según una reciente encuesta de Harvard Business Review Analytic Services, el 77% de las organizaciones están «muy preocupadas» por la ciberseguridad en la era de la IA, y 71% considera que los beneficios de la IA superan sus riesgos.
Organizaciones de todos los tamaños y sectores ya utilizan herramientas de IA. El 65% reporta mejoras en productividad, mientras que el 41% destaca el aumento en la innovación. Sin embargo, esta adopción acelerada viene acompañada de importantes riesgos.
Contexto y Promesa de la IA
El informe comienza destacando el papel central de la IA en el paisaje digital actual, con Nicole Herskowitz, vicepresidenta corporativa de Microsoft 365, afirmando: «En el paisaje digital en rápida evolución de hoy, la inteligencia artificial (IA) está a la vanguardia de la innovación tecnológica, prometiendo avances sin precedentes en productividad y eficiencia.» Esto establece el tono para discutir cómo la IA generativa, en particular, puede impulsar la eficiencia y la productividad, automatizando tareas, ofreciendo insights basados en datos y mejorando las experiencias del cliente en diversos sectores.
Principales amenazas relacionadas con IA
Ataques más sofisticados
Los expertos coinciden en dos grandes tipos de amenazas:
- Ciberdelincuentes utilizando IA para ataques más eficaces: ataques de phishing más sofisticados y la creación de deepfakes para comprometer empleados.
- Mal uso inadvertido de herramientas de IA por parte de empleados: exponiendo datos sensibles involuntariamente.
El 71% de las organizaciones expresa alta preocupación sobre ataques sofisticados, y el 64% teme que los empleados expongan datos sensibles usando herramientas públicas gratuitas de IA.
Barreras para la adopción segura
La preocupación por ciberseguridad y privacidad (45%) es el principal obstáculo identificado para ampliar la adopción de la IA. Además, la falta de conciencia sobre riesgos (51%) es el desafío más común que enfrentan las organizaciones.
Sin embargo, el informe identifica barreras significativas para la adopción de la IA, centrándose en las preocupaciones de ciberseguridad y privacidad de datos. Se cita a un experto, Khawaja, diciendo: «apetito profundo por la IA y una falta de paciencia para consumirla, lo que no es una buena combinación desde la perspectiva del riesgo.» Esto sugiere que la prisa por adoptar la IA puede llevar a vulnerabilidades, especialmente con herramientas de IA públicas. Un riesgo notable es que los datos ingresados por los usuarios en estas herramientas pueden convertirse en parte del conjunto de aprendizaje de la IA, exponiendo datos de la empresa. El informe menciona casos de alto perfil donde empleados han alimentado accidentalmente herramientas con información sensible de la empresa, lo que subraya la necesidad de precaución.
Estrategias para mitigar riesgos
Cultura organizacional y responsabilidad compartida
Es esencial fomentar una cultura donde la responsabilidad por la ciberseguridad sea compartida por todos. Esto incluye recompensar comportamientos que prioricen la seguridad y garantizar que todos los empleados comprendan su papel en la protección de los datos.
Expertos como la Dra. Keri Pearlson del MIT Sloan destacan que ningún sistema es 100% seguro, por lo que es vital cultivar la resiliencia organizacional.
Formación y gobernanza de datos
El 57% de las organizaciones están capacitando a sus empleados para usar IA de forma segura, mejorando la gobernanza de datos y aumentando la concienciación sobre ciberseguridad.
Medidas específicas
- Autenticación multifactorial (MFA): sigue siendo una de las defensas más efectivas contra brechas de seguridad.
- Gestión de endpoints y seguridad zero trust: verificar cada acceso en todos los puntos de entrada.
- Uso controlado de herramientas públicas: educar en lugar de prohibir.
La IA como aliada en la ciberseguridad
Paradójicamente, la IA también es una poderosa herramienta para detectar y responder a amenazas cibernéticas en tiempo real, ampliando las capacidades defensivas frente a ataques cada vez más sofisticados.
Recomendaciones para líderes
Los líderes tecnológicos deben recordar que la implementación segura de la IA debe ir de la mano con la estrategia de negocio. Es fundamental evaluar los riesgos específicos relacionados con cada caso de uso y enfocarse en las medidas adecuadas para mitigarlos.
En palabras de Mikko Hypponen, director de investigación en WithSecure: «La IA cambiará el mundo en formas que aún no podemos imaginar. Las organizaciones que ignoren esta revolución enfrentarán el mismo destino que aquellas que ignoraron internet al comienzo de la era digital.»
Conclusión
En conclusión, aunque la IA ofrece un potencial inmenso para la innovación y la eficiencia, también presenta desafíos significativos de ciberseguridad. Las organizaciones deben adoptar un enfoque equilibrado, aprovechando los beneficios de la IA mientras implementan medidas de seguridad robustas para protegerse contra posibles amenazas. Fomentar una cultura de seguridad y utilizar tecnologías avanzadas como la IA para la protección puede ayudar a navegar este nuevo paisaje digital con éxito.
Metodología y Perfil de Participantes
La base del informe es una encuesta en línea realizada en septiembre de 2024 a 227 miembros de la audiencia de Harvard Business Review involucrados en la toma de decisiones de TI, incluyendo temas como IA y ciberseguridad. El perfil de los participantes incluye organizaciones de diversos tamaños, con el 32% teniendo 10.000 o más empleados. Aunque el informe no proporciona estadísticas detalladas adicionales, se infiere que los hallazgos, como las preocupaciones sobre ciberseguridad como barreras para la adopción de la IA, se derivan de esta encuesta.
Información basada en la publicación de Harvard Business Review patrocinada por Microsoft: «Advancing the Use of Artificial Intelligence While Mitigating the Cybersecurity Threat«.
