Cómo aplicar las prácticas de la IA responsable en Azure

Al integrar la IA responsable en su estrategia de IA, las organizaciones pueden crear una base estable para escalar la IA con éxito.

La base de una estrategia de IA responsable

En el panorama actual, las empresas se ven obligadas a desarrollar e introducir nuevos productos, optimizar sus procesos operativos y acatar los requisitos normativos y de cumplimiento. Este escenario tiene lugar de una forma dinámica global, siendo el papel de la innovación crucial en la configuración del resultado empresarial general.

Dado este nivel de exposición, los sistemas de IA requieren una gestión acorde con una toma de decisiones más justa, precisa y responsable. La adopción generalizada de la IA generativa solo ha intensificado esta necesidad. Hoy en día, la gran mayoría de las empresas se enfrenta al dilema de equilibrar la disrupción y las innovaciones provocadas por las herramientas de IA modernas con la responsabilidad y el control que exigen las prácticas y normas empresariales. Desarrollar una estrategia de IA moderna, respaldada por los datos y la infraestructura correspondientes, es ahora una prioridad para la mayoría de las empresas. El uso de todo el potencial de las herramientas de IA requiere conjuntos de habilidades especializadas, políticas bien definidas, procesos simplificados y la integración de herramientas y tecnologías relevantes en el vasto panorama de datos de las organizaciones modernas. Microsoft Azure proporciona una amplia gama de servicios de datos e IA que, combinados, ayudan a los clientes a implementar la IA de manera responsable y eficaz, como Azure AI Studio, Azure OpenAI Service y Azure Machine Learning.

Al integrar los principios y las prácticas de la IA responsable en su estrategia de IA desde el principio, las organizaciones pueden crear una base estable para escalar la IA con éxito. Microsoft recomienda seis principios para el desarrollo y la implementación de la IA: equidad, fiabilidad y protección, privacidad y seguridad, inclusión, transparencia y responsabilidad. Estos principios son la piedra angular para la creación de un estándar corporativo de IA.

Los procesos, prácticas y herramientas de supervisión y auditoría, informes y cumplimiento deben basarse en los principios de la IA responsable y deben medirse sistemáticamente con respecto a este conjunto de principios.

Elementos de una buena estrategia de IA

Hay seis estrategias para el desarrollo y la implementación de la IA. Estas estrategias se complementan entre sí y guardan relación con los seis principios que Microsoft recomienda. Las organizaciones pueden ampliar sus esfuerzos de adopción de IA y maximizar el valor que ofrecen las soluciones de IA utilizando Microsoft Azure como la plataforma local más avanzada para la IA responsable y las cargas de trabajo complementarias.

Estrategia 1: Experimentación rápida para superar la incertidumbre

La adopción de la IA a escala es un esfuerzo relativamente nuevo para la mayoría de las empresas. Muchas organizaciones se encuentran en las primeras etapas de la adquisición de las habilidades necesarias y el establecimiento de una base para su práctica de IA. A falta de procedimientos recomendados bien definidos y casos prácticos demostrados, es crucial que las organizaciones experimenten rápidamente con los casos prácticos y tecnologías. Para acelerar la experimentación, las organizaciones deben:

1. Crear equipos interdisciplinares para fomentar la innovación: las aplicaciones de IA, a diferencia de los métodos tradicionales, priorizan la especialización sectorial y experiencias diversas sobre procesos deterministas predefinidos. Personas con una especialización vagamente relacionada con el tema de las aplicaciones de la IA pueden identificar deficiencias o sesgos en las mismas. Sin embargo, es útil que estos equipos estén formados por personas con amplia experiencia en el desarrollo de aplicaciones, ciencia de datos e ingeniería de datos. Al promover una cultura que fomenta la curiosidad, los equipos pueden convertir las tecnologías de vanguardia en prácticas y productos innovadores de forma eficaz. Estos equipos necesitan un entorno, datos y procesos que sean favorables para la experimentación de una manera controlada y segura.
2. Establecer un entorno de experimentación controlado: el proceso de seleccionar los datos adecuados y establecer procesos para controlar el entorno de experimentación requiere colaboración entre los usuarios empresariales y los especialistas en seguridad de la información. La mejor manera de encontrar un equilibrio entre todas las partes es acordar un conjunto de casos prácticos iniciales que sirvan de base para el desarrollo de aplicaciones innovadoras. En la mayoría de los casos, los entornos de experimentación se implementan de la misma manera que los entornos de desarrollo y pruebas.
   Los entornos de experimentación para casos prácticos de IA dependen de los datos y a menudo utilizan datos reales de la empresa incluso durante la experimentación. Tales entornos incluyen servicios de datos, como Azure Data Lake Storage Gen2, Azure Cosmos DB o SQL Database, así como servicios del conjunto de herramientas de IA de Azure, como Azure Machine Learning, Azure OpenAI Service o Azure AI Search. También se puede incluir una variación de los entornos de implementación de aplicaciones, como Azure Kubernetes. Todos los servicios anteriores deben regularse y protegerse de acuerdo con la línea de referencia de seguridad de cada servicio.
3. Optimizar el desarrollo de aplicaciones y el aprovisionamiento de datos mediante bucles de comentarios: el establecimiento de procesos internos para el desarrollo y la producción de aplicaciones, la selección y el aprovisionamiento de datos dentro de la plataforma de experimentación, la supervisión del flujo de datos y el registro del comportamiento de los usuarios permiten a los propietarios de las aplicaciones mejorar el rendimiento de las mismas y la pertinencia de los datos y los resultados de los modelos, para poder optimizar los casos prácticos en función de los comentarios sobre el rendimiento de las aplicaciones y los modelos, así como la experiencia del usuario. Estos comentarios permiten a las organizaciones abordar rápidamente los problemas y recopilar conocimientos valiosos sobre la satisfacción de los usuarios.
4. Proteger el almacenamiento y cumplimiento: es esencial disponer de un entorno con almacenamiento seguro y conforme y con herramientas de gestión integral para que las organizaciones supervisen, sigan y administren todo el ciclo de vida de las aplicaciones de IA. De esta forma, se protegen los datos confidenciales y los sistemas de IA contra el acceso no autorizado y posibles filtraciones de datos.

Al implementar estas medidas, las organizaciones pueden producir resultados significativos que se ajusten a su estrategia y sean relevantes para el contexto único de su negocio. Cuando los resultados se diseñan pensando en la escalabilidad y la capacidad de uso en toda la organización, estos resultados sirven de base para establecer prácticas recomendadas para toda la empresa.

Estrategia 2: Integrar la IA con datos unificados para simplificar la implementación

La capacidad de la IA de resumir y agregar información y extraer conocimientos de grandes conjuntos de datos es incalculable. La integración de la IA con los datos permite a los clientes interactuar directamente con los conjuntos de datos, mejorando así su experiencia general. Dentro de las organizaciones, la unificación de los datos conduce al desarrollo de productos nuevos e innovadores para los clientes y añade valor a las operaciones empresariales existentes.

La integración unificada de IA y aplicaciones con un patrimonio de datos completo es crucial para la correcta adopción de capacidades de IA a escala. Para ello, las organizaciones deben implementar medidas que les permitan superar los desafíos comunes, como:

• Control de calidad de datos: la calidad de un modelo de IA se relaciona directamente con la calidad de los datos subyacentes. Los datos de baja calidad, inexactos o ambiguos pueden comprometer los resultados generados por los modelos de IA.
• Integración de datos en múltiples entornos: la integración de datos en varios entornos puede ser difícil para las organizaciones, especialmente cuando estas fuentes de datos están dispersas entre diferentes plataformas, como clouds públicos, aplicaciones SaaS e infraestructura on-premises. Afortunadamente, Microsoft Azure proporciona un conjunto completo de capacidades diseñadas para permitir a las organizaciones utilizar los datos de estos entornos diversos de forma segura y coherente, independientemente de su ubicación.
  Los servicios de datos de Azure, como Azure Data Factory, Azure Arc y Microsoft Fabric OneLake, están equipados con características eficaces adaptadas a los entornos híbridos. Estos servicios facilitan la integración administración de datos en diferentes plataformas, racionalizando los flujos de trabajo de datos y mejorando la accesibilidad de los mismos.
  Azure desempeña un papel fundamental a la vez que ayuda a los clientes a utilizar sus datos de forma conforme y segura, además de proporcionar controles para evitar la exposición o el uso compartido de datos no deseados. Azure proporciona las herramientas necesarias y protege los datos al mantener la privacidad y la seguridad de estos en todo el patrimonio de datos.
• Competencia con la ingeniería de datos: un ecosistema de IA emplea varias herramientas y técnicas para el almacenamiento, la recuperación y la indexación de datos. Esto requiere capacidades de ingeniería para transformar los datos en un formato óptimo para una indexación adicional, utilizando herramientas apropiadas como Microsoft Fabric, Azure Cosmos DB y Azure AI Search.

Desde el punto de vista de la organización, un enfoque ideal para vincular la IA con datos unificados es a través de los productos de datos. Los productos de datos son entidades protegidas, gestionadas y controladas dentro del dominio de datos que se pueden compartir dentro de una organización y deben cumplir con contratos específicos de productos de datos. Para muchas organizaciones, adoptar un concepto de malla de datos y vincular estos esfuerzos con aplicaciones de IA es una progresión lógica.

Una vez que los productos de datos se desarrollan y llegan a producción, sirven de fuente de datos de confianza para nuevos casos prácticos de IA. Esto permite a las organizaciones mantener el control y planificar estratégicamente la integración de la IA con productos de datos nuevos y existentes. Este enfoque optimiza los presupuestos de una organización y permite la reutilización eficiente de esfuerzos y recursos al mismo tiempo que moderniza el patrimonio de datos para facilitar la adopción de IA.

Estrategia 3: Establecer herramientas de gobernanza y seguridad de un extremo a otro

La IA implica un cambio de paradigma en la forma en que las personas interactúan con las máquinas y las aplicaciones, apartándose de las aplicaciones deterministas tradicionales que se basan en reglas y lógica codificadas. La IA introduce una variabilidad significativa en los resultados, destacando la importancia del desarrollo responsable de aplicaciones, las pruebas y las operaciones.

En la práctica, esto implica transformar las prácticas tradicionales de gestión de la seguridad y los datos mediante la adopción de nuevas herramientas y procesos. Estas medidas deben ser acordes con el cumplimiento de los principios de la organización, como la responsabilidad, la transparencia, la inclusión y la equidad. Este esfuerzo polifacético abarca personas, procesos, tecnologías y cultura en toda la organización. Para moverse eficazmente por este esfuerzo tan variado, las organizaciones suelen adoptar un enfoque incremental, tanto vertical como horizontal:

• Progresión vertical: implica establecer una gestión sólida de la seguridad y el cumplimiento, seguida de la gestión de los datos, siendo la gestión de la IA la última pieza del rompecabezas.
• Progresión horizontal: las organizaciones progresan a través de casos prácticos o productos de datos, lo que garantiza que el marco de gobernanza no solo existe, sino que se aplica eficazmente en el desarrollo de aplicaciones.

Desde una perspectiva de seguridad y cumplimiento, las organizaciones pueden usar herramientas de Microsoft de confianza como Microsoft Sentinel, Microsoft Purview y Azure Policy. Estas herramientas respaldan los principios fundacionales de seguridad y gobernanza, que permiten a las organizaciones proteger sus fuentes de datos, entornos de desarrollo, canalizaciones de ingeniería de datos y aplicaciones. Este proceso se simplifica notablemente cuando se usa la cartera de servicios de IA de Azure, que funcionan en las suscripciones de Azure y se integran estrechamente con otros servicios de Microsoft.

Las prácticas de IA responsable se basan en marcos y alineación establecidos en toda la organización. Estas prácticas requieren herramientas útiles que respalden a personas y procesos en la innovación en IA. El marco y conjunto de herramientas de IA responsable de Microsoft están en constante evolución, manteniendo el ritmo de los rápidos cambios en la tecnología. Con su amplia visión del futuro de la gobernanza de la IA responsable, Azure no solo introduce continuamente herramientas para abordar necesidades específicas de gobernanza de IA, sino que también las integra en la pila de Azure más amplia, que incluye datos, aplicaciones y servicios de seguridad. Microsoft Azure proporciona un conjunto completo de herramientas para promover la IA responsable.

Estrategia 4: Integrarlo todo dentro de un marco de IA responsable

Un marco de gobernanza de IA responsable reúne los principios de IA responsable que respaldan las políticas, de forma similar al estándar de IA responsable de Microsoft. Abarca recursos de formación, herramientas y orientación que te ayudarán a avanzar en las prácticas de IA responsable. La supervisión del proceso y los procedimientos del marco de gobernanza de IA responsable permite a las organizaciones lograr coherencia en los objetivos y la implementación en toda la organización.

El marco de IA responsable debe aplicarse a lo largo del ciclo de vida de la IA a partir de la fase de diseño y desarrollo. Las organizaciones pueden comenzar con el análisis de las partes interesadas, las ventajas y los riesgos potenciales de un caso práctico. Con el fin de ayudar con esta evaluación, Microsoft proporciona la plantilla de evaluación del impacto de la IA responsable, que sirve de ejemplo para que las organizaciones desarrollen sus propios marcos de trabajo. Una vez que la evaluación del impacto esté en marcha, se puede utilizar para fundamentar las consideraciones sobre el diseño, el desarrollo, las pruebas y la implementación. También se puede utilizar más adelante en el ciclo de vida para establecer los procesos y prácticas de administración y gobernanza correctos.

Es crucial que las prácticas de IA responsable, junto con sus respectivos procedimientos, se sigan durante la fase de desarrollo. Las organizaciones pueden utilizar herramientas para evaluar los datos y garantizar que se respetan las prácticas de IA responsable durante el entrenamiento y las pruebas de los modelos, al tiempo que operacionalizan y supervisan estas prácticas a través de metodologías MLOps y LLMOps. Para alinear las aplicaciones y los procesos basados en IA con las prácticas de IA responsable, Microsoft proporciona un conjunto de herramientas como el cuadro de resultados para una IA responsable de Azure Machine Learning, que se puede emplear para definir y establecer marcos específicos para la IA responsable.

El control eficaz, que incluye supervisión, auditoría e informes, es parte del marco de gobernanza de IA responsable y se forma a partir de un marco de gestión de riesgos empresariales. La supervisión y el control coherentes de los sistemas, modelos y datos de IA es clave para administrar la seguridad y la fiabilidad.

Crear un marco de gobernanza de IA responsable (o incluso adaptar un marco existente a las necesidades de una organización) es un esfuerzo colaborativo que implica varias funciones dentro de una organización. Requiere encontrar un equilibrio entre los intereses y las necesidades de los diferentes actores. Este marco debe alinearse con las políticas empresariales y el modelo operativo, y orientar en cada etapa del ciclo de vida del producto y la aplicación. Una forma de empezar a desarrollar este marco de trabajo es familiarizarse con el estándar de IA responsable de Microsoft. Al utilizar el estándar de IA responsable de Microsoft como punto de aprendizaje, las organizaciones pueden sacar ventaja a la hora de crear su propia versión personalizada del estándar, las políticas y los procedimientos de IA responsable.

Estrategia 5: Permitir la innovación de la IA responsable en las grandes empresas

La implementación de cambios a gran escala en el nivel empresarial requiere algo más que simplemente ajustes de proceso y políticas; requiere un cambio cultural significativo. Es bien sabido que la transformación de la cultura solo se puede lograr a través de las personas.

Para aprovechar el potencial de la IA para obtener resultados positivos, las organizaciones deben promover una cultura que se adapte al siguiente enfoque:

• Invertir en talento: en el mundo moderno, las organizaciones tienen que ampliar su visión sobre la IA y su papel mucho más allá de los cambios tecnológicos. Esto requiere perfiles de talento especiales teniendo en cuenta los casos prácticos de IA y la automatización de procesos a través de la lente de un enfoque socio-técnico donde la tecnología, la cultura, los procesos y las personas sean igualmente importantes. Estos talentos requieren una gran diversidad de experiencias y puntos de vista para ayudar a crear soluciones de IA responsable.
• Integrar la responsabilidad de la IA responsable en cada rol: la IA responsable toca todos los aspectos de la organización y requiere un control cuidadoso y una gestión adecuada. A medida que la IA forme parte del trabajo de todos, cada persona tiene un papel que desempeñar en el fomento de prácticas de IA responsable, lo que lleva a casos prácticos de IA más innovadores.
• Desarrollar conocimientos y habilidades: cada rol de la organización, por la influencia de los continuos avances en IA, experimentará una transformación en cuanto a habilidades y responsabilidades. Cada empleado necesita entender la transformación en términos estratégicos y tácticos, como, por ejemplo, la forma en que cambiarán los procesos y las herramientas, y qué efecto tendrá en el trabajo diario y los resultados. Es vital iniciar programas de capacitación, como cursos a petición, talleres presenciales y documentos de orientación, así como tener conocimiento de las unidades organizativas y de la empresa en su conjunto. De esta forma, los empleados y las organizaciones pueden seguir manteniendo la propiedad de los procesos, las herramientas y las políticas, manteniendo el control completo de los resultados.
• Fomentar comentarios abiertos: se deben solicitar comentarios a las personas que participan en la formación o utilizan las herramientas y los procesos. Es preciso cultivar un entorno en el que los comentarios no solo se busquen, sino que también se valoren en gran medida.
• Facilitar el flujo de información: facilita el intercambio gratuito de experiencias e información en toda la organización. Esto se puede lograr a través de comunidades, redes sociales internas, grupos de intercambio y otros canales. Sin embargo, el desafío más complejo radica en garantizar que estos comentarios se traduzcan en conocimientos útiles e impulsen un cambio tangible. Los comentarios procesables deben servir como catalizador para perfeccionar los procesos, las políticas y las herramientas a fin de alinearlos con las necesidades y los objetivos cambiantes de una organización. Este bucle de comentarios positivos son los cimientos para el crecimiento satisfactorio, adaptable y en constante evolución de la organización.

Estrategia 6: Mejorar la experiencia de los clientes

La mayoría de las empresas se embarcan en su viaje hacia la IA centrándose en casos prácticos internos. Desde el punto de vista de la satisfacción del usuario, los casos prácticos más satisfactorios implican a menudo abordar preguntas fuera del dominio de especialización, como proporcionar soporte técnico a especialistas en marketing o resumir registros de negocio de aplicaciones. Otra categoría de casos prácticos pertenece a las interacciones directas con los clientes, que deben tratarse de una manera controlada y segura. Por lo tanto, lo ideal es que en los casos prácticos iniciales se evite el uso de datos confidenciales o personales, tolerar cierto margen de errores o incoherencias y ofrecer valor inmediato a los empleados o clientes de una empresa.

Algunos ejemplos de casos prácticos de IA y modelos de lenguaje grandes (LLM) en las empresas son los siguientes:

• Automatización de los centros de llamadas: la IA se puede utilizar para automatizar las respuestas en los centros de llamadas, mejorando la eficiencia de los agentes a través de búsquedas inteligentes en la base de conocimientos y las comunicaciones anteriores. Los copilotos para los agentes de centros de llamadas ya están mejorando la calidad de las interacciones con los clientes en múltiples organizaciones. Otro caso práctico valioso es el resumen de las conversaciones a escala, la realización de análisis de problemas de alta prioridad y el análisis de opinión junto con el tema y el contexto de la situación.
• Reemplazar los bots de chat empresariales: los bots de chat tradicionales se pueden reemplazar o mejorar con LLM, lo que ofrece interacciones más naturales y contextuales con usuarios internos y externos. Para los usuarios internos, estos bots de chat pueden utilizarse para desencadenar acciones y optimizarse para funcionar en dominios específicos de la empresa. Los bots de chat empresariales internos con tecnología LLM pueden convertirse en una interfaz y herramienta importante para gestionar las tareas tediosas eficazmente. Sin embargo, para los usuarios externos, la funcionalidad del bot de chat normalmente se limita a proporcionar información básica sobre herramientas, servicios y procedimientos.
• Aplicaciones orientadas al usuario: al añadir capacidades LLM a las aplicaciones orientadas al usuario, se puede mejorar la experiencia del usuario proporcionando asistencia inteligente, respondiendo a consultas, ofreciendo recomendaciones y automatizando procesos como la generación de visualizaciones a partir de datos.
• Resumen y análisis de conjuntos de datos: se pueden emplear la IA y los LLM para resumir y analizar grandes conjuntos de datos dentro de una empresa, utilizando motores de razonamiento para obtener conocimientos valiosos para la toma de decisiones.
• Resumen: la IA y los LLM se pueden utilizar para resumir las interacciones, ya sea en chats de atención al cliente, correos electrónicos o reuniones, lo que permite una revisión y un análisis más eficientes.
• Análisis de informes y documentos: los LLM pueden ayudar a analizar informes, documentos y otro contenido basado en texto, extrayendo información y conocimientos clave. Algunos ejemplos recientes son la simplificación de textos complejos específicos del dominio, como los contratos legales y la comunicación de las administraciones del estado. Otro conjunto de casos prácticos incluye la agregación de textos complejos (como varios artículos científicos) en una sola pieza de conocimiento y la realización de análisis sobre conclusiones, contradicciones e hipótesis.
• Nuevos productos de valor añadido: los conjuntos de datos cuidadosamente administrados y regulados se pueden transformar en nuevos productos de valor añadido para los clientes, como resúmenes de datos, informes y conocimientos.
• Experiencia de usuario interactiva para operaciones complejas: la gestión de operaciones complejas, como modificar una reserva de vuelos o realizar transacciones financieras, mediante IA puede requerir conexiones seguras con API y orígenes de datos, lo que exige una preparación meticulosa de los conjuntos de datos y, en algunos casos, máquinas virtuales personalizadas.

Es importante tener en cuenta que la IA y los LLM constituyen formas nuevas de comunicarse los seres humanos y las máquinas, sirviendo esencialmente como una interfaz de usuario única enriquecida con capacidades de razonamiento. La IA y los LLM tienen el potencial de revolucionar varios niveles de interacciones entre las personas y las máquinas, incluidas las interacciones con el hardware. Sin embargo, para aprovechar todo su potencial, las organizaciones deben fomentar una cultura sólida de desarrollo de aplicaciones e ingeniería de datos, junto con el desarrollo de prácticas recomendadas específicas que continúan evolucionando con los rápidos avances en el campo.

Conclusión

Comprender los beneficios potenciales de escalar la adopción de la IA dentro de una empresa es primordial, ya sea para las operaciones internas o para las aplicaciones orientadas al cliente. Las seis estrategias de implementación de IA presentadas sirven de orientación sobre los componentes clave necesarios para una adopción exitosa de la IA en toda la organización.

Azure, diseñado y optimizado específicamente para las prácticas de IA responsable.

¿Quieres saber más sobre las soluciones de inteligencia artificial generativa de Microsoft? En DQS/ te asesoramos. ¿Por qué no nos preguntas cómo podemos ayudarte?

Información basada en el ebook de Microsoft: «Seis estrategias para la implementación de la IA: Cómo aplicar las prácticas de la IA responsable en Azure«.