IA responsable: Informe de transparencia de Microsoft
En 2016, Satya Nadella (presidente de Microsoft), marcó un enfoque basado en principios y centrado en el ser humano en sus inversiones en IA.
Desde entonces en Microsoft han trabajado duro para crear productos que se alineen con sus valores. A medida que diseñan, construyen y lanzan productos de IA, estos seis valores –transparencia, responsabilidad, equidad, inclusión, fiabilidad y seguridad, y privacidad y seguridad – siguen siendo su base y guían su trabajo diario.
Para avanzar en las prácticas de transparencia de Microsoft, en julio de 2023 se comprometieron a publicar un informe anual sobre su programa de IA responsable, dando un paso que iba más allá de los Compromisos Voluntarios adquiridos con la Casa Blanca por ellos y otras empresas líderes en IA. Y este es el primer informe de muchos que están por venir.
En este informe anual inaugural, explican cómo crean aplicaciones que utilizan IA generativa, toman decisiones y supervisan el despliegue de dichas aplicaciones, ayudan a sus clientes a crear sus propias aplicaciones generativas y aprenden, evolucionan y crecen como comunidad de IA responsable.
En primer lugar, se ofrece información sobre el proceso de desarrollo, explorando cómo identifican, miden y gestionan los riesgos de la IA generativa. A continuación, se ofrecen casos de estudio para ilustrar cómo aplican sus políticas y procesos a los lanzamientos de IA generativa. También comparten detalles sobre cómo ayudan a sus clientes a crear sus propias aplicaciones de IA de forma responsable. Por último, destacan cómo el crecimiento de su comunidad de IA responsable, sus esfuerzos por democratizar los beneficios de la IA y su trabajo para facilitar la investigación en IA benefician a la sociedad en general.
No hay línea de meta para la IA responsable. Y aunque este informe no tiene todas las respuestas, Microsoft se compromete a compartir sus aprendizajes con prontitud y frecuencia y a entablar un diálogo sólido en torno a las prácticas responsables de la IA.
Gobernanza de la IA responsable en Microsoft
En Microsoft, ningún equipo u organización puede ser el único responsable de adoptar y hacer cumplir la adopción de prácticas de IA responsable.
Por el contrario, todos los niveles de la empresa deben adherirse a estos compromisos para que sean efectivos. Han desarrollado el Estándar de IA Responsable para comunicar los requisitos y orientaciones para que todos los equipos puedan respetar los principios de IA mientras desarrollan aplicaciones de IA.
Especialistas en investigación, política e ingeniería combinan sus conocimientos y colaboran en prácticas de IA responsable de vanguardia. Estas prácticas garantizan el cumplimiento de sus propios compromisos y ayudan a sus clientes y partners a desarrollar sus propias aplicaciones de IA de forma responsable.
1: Investigación: Los investigadores de Aether, Microsoft Research, y sus equipos de ingeniería mantienen el programa de IA responsable a la vanguardia de los problemas a través del liderazgo intelectual.
Llevan a cabo una investigación rigurosa sobre la IA, que incluye la transparencia, la equidad, la colaboración entre humanos e IA, la privacidad, la seguridad, la protección y el impacto de la IA en las personas y la sociedad. Sus investigadores participan activamente en discusiones y debates más amplios para garantizar que su programa de IA responsable integre perspectivas y aportaciones de gran alcance.
2: Política: La Oficina de IA Responsable (ORA) colabora con las partes interesadas y los equipos políticos de toda la empresa para desarrollar políticas y prácticas que defiendan sus principios de IA al crear aplicaciones de IA. La ORA define funciones y responsabilidades, establece sistemas de gobernanza y dirige revisiones de uso sensible para ayudar a garantizar que los principios de IA se mantienen en su trabajo de desarrollo y despliegue. ORA también ayuda a dar forma a las nuevas leyes, normas y estándares necesarios para garantizar que la promesa de la tecnología de IA se haga realidad en beneficio de la sociedad en general.
3: Ingeniería: Los equipos de ingeniería crean plataformas, aplicaciones y herramientas de IA. Proporcionan información para garantizar que las políticas y prácticas sean técnicamente viables, innovan nuevas prácticas y tecnologías, y amplían las prácticas responsables de IA a toda la empresa. Sus equipos de ingeniería se basan en las interacciones con los clientes y la investigación de usuarios para abordar las preocupaciones de las partes interesadas en el desarrollo de nuestras aplicaciones de IA.
Combinan un enfoque federado y ascendente con un fuerte apoyo y supervisión descendente por parte de la dirección de la empresa para impulsar sus políticas, gobernanza y procesos. Desde el punto de vista de la gobernanza, el Comité de Política Pública, Social y Medioambiental del Consejo de Administración supervisa y orienta las políticas y programas de IA responsable. Su gestión de la IA responsable comienza con el CEO Satya Nadella y se extiende a todo el equipo directivo y a todo Microsoft. A nivel directivo, el Consejo de IA Responsable constituye un foro para líderes empresariales y representantes de investigación, política e ingeniería. El Consejo, codirigido por el Vicepresidente y Presidente Brad Smith y el Director de Tecnología Kevin Scott, se reúne periódicamente para abordar los principales retos que rodean a la IA e impulsar el progreso de nuestras políticas y procesos de IA responsable. El liderazgo ejecutivo y la responsabilidad son factores clave para garantizar que la IA responsable siga siendo una prioridad en todo Microsoft.
A nivel comunitario, Microsoft ha desarrollado un programa único de Campeones de IA Responsable («Responsible AI Champions«) que involucra a sus equipos de ingeniería y de campo global en su trabajo de IA responsable. El programa de Campeones de IA Responsable se rige por una estructura definida, con funciones y responsabilidades claras que capacitan a los Campeones y hacen posible una cultura de IA responsable en toda la empresa.
Los directivos responsables de la IA responsable identifican a miembros de su organización para que actúen como Responsible AI Champions. Estos campeones permiten llevar a cabo los compromisos de IA trabajando juntos y aprendiendo de la experiencia de los demás. Esta red soluciona problemas, ofrece orientación y asesora sobre cómo aplicar la Norma de IA Responsable.
El enfoque de Microsoft combinado ascendente y descendente capacita a las personas, los equipos y las organizaciones y facilita una cultura de IA responsable desde el diseño. La estructura colaborativa y multidisciplinar integrada en su programa de IA responsable aprovecha la increíble diversidad de la empresa y amplifica lo que pueden conseguir. Sus equipos de ingeniería, política e investigación aportan una gran pasión, experiencia y conocimientos que permiten desarrollar e implantar una IA segura y fiable.
Un programa dedicado a la IA responsable
El enfoque de Microsoft capacita a personas, equipos y organizaciones y facilita una cultura de IA responsable desde el diseño.
Desarrollar una comunidad de IA responsable
Microsoft cree firmemente que la IA tiene el potencial de crear ondas de impacto positivo en todo el mundo. A lo largo de los años, han correspondido a esta creencia con importantes inversiones en nuevos sistemas de ingeniería, incubaciones dirigidas a la investigación y, por supuesto, personas. Siguen creciendo y ahora tienen más de 400 personas trabajando en IA responsable, más de la mitad de las cuales se dedican a la IA responsable a tiempo completo. En el segundo semestre de 2023, su comunidad de IA responsable creció un 16,6% en toda la empresa. Aumentaron el número de campeones de IA responsable en todos sus grupos de ingeniería e incrementaron el número de empleados a tiempo completo que trabajan en la infraestructura centralizada de IA responsable y la evaluación de la preparación para el lanzamiento de sus productos.
Siguen desarrollando una comunidad diversa para cumplir sus compromisos con la IA responsable e influir positivamente en los productos y herramientas que millones de personas utilizan cada día. Algunos miembros de la comunidad de IA responsable proporcionan experiencia directa en la materia, mientras que otros desarrollan prácticas de IA responsable y mociones de cumplimiento. Los miembros de su comunidad ocupan puestos en investigación, política, ingeniería, ventas y otras funciones básicas, tocando todos los aspectos de nuestro negocio. Aportan perspectivas variadas enraizadas en sus diversas formaciones profesionales y académicas, que incluyen artes liberales, informática, relaciones internacionales, lingüística, neurociencia cognitiva, física, etc.
Apoyo a la comunidad de IA responsable a través de la formación
Microsoft tiene una enorme oportunidad de integrar la IA en todos los productos y servicios que ofrece, y están decididos a hacerlo de forma responsable. Este viaje comienza con la formación de todos nuestros empleados.
La versión 2023 de su formación sobre Normas de Conducta Empresarial, un curso de ética empresarial obligatorio en toda la empresa, cubre los recursos que sus empleados utilizan para desarrollar e implantar la IA de forma segura. A 31 de diciembre de 2023, el 99% de todos los empleados de Microsoft habían completado este curso, incluido el módulo de IA responsable.
Para los miembros de su comunidad de IA responsable, la formación es aún más profunda. Proporcionan una amplia formación a sus más de 140 Campeones de IA Responsable, más de 50 de los cuales se unieron al programa en 2023. A su vez, los Campeones de IA responsable ayudan a escalar la implementación de prácticas de IA responsable capacitando a otros miembros de la comunidad de IA responsable en sus respectivas organizaciones de Microsoft. Esta cascada fortalece las relaciones entre pares, genera confianza entre los empleados y permite a los Campeones personalizar la instrucción para sus organizaciones o divisiones específicas.
Microsoft sigue perfeccionando su formación para mantener el ritmo de los rápidos avances en IA, en particular para los profesionales centrados en la IA responsable. Han desarrollado sesiones de aprendizaje y recursos para educar a los empleados en habilidades de IA responsable, nuestros procesos internos y nuestro enfoque de la IA responsable. La formación continua ayuda a mantener al día a nuestros expertos en IA responsable para que puedan difundir las mejores prácticas actualizadas en toda la empresa.
También proporcionan formación sobre temas generales de IA para que sus empleados puedan mejorar sus conocimientos y habilidades a medida que la IA se vuelve más importante tanto para nuestra sociedad como para nuestro negocio.
A lo largo de 2023, más de 100.000 empleados asistieron a conferencias y eventos como la AI/ML Learning Series y el Hackathon, que ha incubado más de 11.000 proyectos centrados en la IA. En estos eventos, aprenden las últimas tecnologías y formas de aplicar principios de IA responsables a través de las comunidades y canales de la empresa. Los empleados de Microsoft también lideran compartiendo sus experiencias y conocimientos. Por ejemplo, su comunidad conectada AI/ML. llegó a casi 30.000 empleados a través de más de 40 eventos en 2023, y sus eventos SkillUp AI acogieron a más de 11.000 asistentes.
Mirando al futuro
El progreso que ha compartido Microsoft en este informe no sería posible sin la pasión y el compromiso de sus empleados en toda la empresa y en todo el mundo. Todos en Microsoft tienen un papel que desempeñar en el desarrollo responsable de aplicaciones de IA. A través de la innovación, la colaboración y la voluntad de aprender y evolucionar su enfoque, seguirán avanzando hacia nuestros objetivos.
Seguirán invirtiendo en cuatro áreas clave para permitir la ampliación de la IA responsable en todo el sector:
- Innovación de nuevos enfoques para el desarrollo de IA responsable en sus propios productos.
- Crear herramientas para que sus clientes desarrollen de forma responsable sus propias aplicaciones de IA.
- Compartiendo lo aprendido y las mejores prácticas con el ecosistema de IA responsable en general.
- Apoyar el desarrollo de leyes, normas y estándares a través de procesos amplios e inclusivos en los que participen múltiples partes interesadas.
Seguirán desarrollando políticas, herramientas y soluciones para mitigar los riesgos en sus propios productos de IA. Por ejemplo, a medida que identifican nuevos riesgos potenciales en la IA generativa, mejoran sus mitigaciones existentes o crean otras nuevas para tratar de adelantarse a las amenazas emergentes. Además de utilizar herramientas innovadoras para proteger a sus usuarios, también las ponen a disposición de los clientes, a través de herramientas como Azure AI Content Safety y Azure AI Studio. Este enfoque apoya el despliegue responsable por parte de los clientes de sus propias aplicaciones de IA.
Para ampliar y mejorar su manual colectivo de buenas prácticas de IA responsable, seguirán compartiendo sus conocimientos sobre la implantación de IA de forma segura y fiable. Proporcionarán actualizaciones a través de sus propios canales, como el blog de Microsoft On the Issues. También participarán en organizaciones multilaterales en las que puedan compartir nuestros conocimientos y aprender de expertos ajenos a la empresa.
Por último, reconocen que no pueden crear aplicaciones de IA que permitan a todos los habitantes del planeta lograr más si no incluyen las voces de todos en la forma en que se construyen y gobiernan estas tecnologías. A medida que avanzamos hacia una nueva era de gobernanza global de la IA, harán lo que esté en su mano para garantizar que las leyes, normas y estándares -y las políticas que aplican internamente- se desarrollen a través de procesos amplios e inclusivos en los que participen múltiples partes interesadas.
2024 promete ser otro año crucial para la IA responsable, ya que trabajarán para aprovechar el reciente impulso y acelerar aún más nuestro progreso hacia una IA segura y fiable, en sus propios productos, en el trabajo de sus clientes y en todo el panorama tecnológico mundial.
Información basada la publicación en el blog de Microsoft «Providing further transparency on our responsible AI efforts» y la guía oficial de Microsoft «Responsible AI Transparency Report: How we build, support our customers, and grow (may 2024)«.
