Medidas contra contenidos abusivos generados por IA
La inteligencia artificial generativa nos sirve para potenciar nuestra expresión creativa pero también puede usarse para crear contenidos abusivos.
Esta semana Brad Smith (Vice Chair & President de Microsoft) ha estado visitando España para por un lado anunciar una inversión de casi 2.000 millones para impulsar el despliegue de infraestructuras para inteligencia artificial (IA) con el objetivo de promover la innovación digital y el uso responsable de esta tecnología. Microsoft abrirá próximamente una región cloud de centros de datos en la Comunidad de Madrid y ha anunciado que va a construir un campus de data centers en Aragón para empresas y entidades públicas europeas.
Y por otro lado pudimos disfrutar de él en el evento Microsoft AI & Innovation Summit donde nos habló de las medidas que está tomando Microsoft contra contenidos abusivos generados por IA. Y que es justamente de lo que trata un post del blog de Microsoft que él mismo escribió hace unos días y que aquí mezclo: charla + post = mi post.
Microsoft contra los contenidos abusivos generados por IA
Cada día, millones de personas utilizan potentes herramientas de IA generativa para potenciar su expresión creativa. En muchos sentidos, la IA creará oportunidades apasionantes para que todos podamos dar vida a nuevas ideas. Pero, a medida que estas nuevas herramientas de Microsoft y de todo el sector tecnológico salen al mercado, debemos tomar nuevas medidas para garantizar que estas nuevas tecnologías sean resistentes a los abusos.
La historia de la tecnología lleva mucho tiempo demostrando que la creatividad no se limita a las personas con buenas intenciones. Por desgracia, las herramientas también se convierten en armas, y este patrón se está repitiendo. Actualmente estamos asistiendo a una rápida expansión del abuso de estas nuevas herramientas de IA por parte de actores malintencionados, entre otras cosas mediante falsificaciones basadas en vídeo, audio e imágenes generados por IA. Esta tendencia plantea nuevas amenazas para las elecciones, el fraude financiero, el acoso a través de pornografía no consentida y la próxima generación de acoso cibernético.
Debemos actuar con urgencia para combatir todos estos problemas.
Seis áreas de enfoque para proteger a las personas y comunidades
Microsoft está comprometido como empresa con un enfoque sólido y global que proteja a las personas y a sus comunidades, basado en seis áreas de enfoque:
- Una sólida arquitectura de seguridad. Microsoft está comprometido con un enfoque técnico integral basado en la seguridad por diseño. Dependiendo del escenario, es necesario aplicar una sólida arquitectura de seguridad a nivel de plataforma de IA, modelo y aplicaciones. Incluye aspectos como clasificadores preventivos, el bloqueo de mensajes abusivos, pruebas automatizadas y prohibiciones rápidas de usuarios que abusen del sistema. Debe basarse en un análisis de datos sólido y amplio. Microsoft ha establecido una arquitectura sólida y ha compartido su aprendizaje a través de sus Estándares Responsables de IA y Seguridad Digital, pero está claro que tendrán que seguir innovando en estos espacios a medida que evolucione la tecnología.
- Procedencia de los medios y marcas de agua. Esto es esencial para combatir las falsificaciones en vídeo, imágenes o audio. El año pasado, en la conferencia Microsoft Build 2023, se anunciaron capacidades de procedencia de medios que utilizan métodos criptográficos para marcar y firmar contenido generado por IA con metadatos sobre su origen e historia. Junto con otras empresas líderes, Microsoft es líder en I+D sobre métodos para autenticar la procedencia, incluso como cofundadores de Project Origin y del organismo de normalización Coalition for Content Provenance and Authenticity (C2PA). La semana pasada, Google y Meta dieron pasos importantes en apoyo de la C2PA, pasos que Microsoft agradece y aplaude.
Ya se está utilizando la tecnología de procedencia en las herramientas de creación de imágenes Microsoft Designer en Bing y en Copilot, y se está en proceso de ampliar la procedencia de los medios a todas las herramientas que crean o manipulan imágenes. También se están explorando activamente técnicas de marcas de agua y huellas dactilares que ayuden a reforzar las técnicas de procedencia. En Microsoft están comprometidos con la innovación continua que ayudará a los usuarios a determinar rápidamente si una imagen o un vídeo ha sido generado o manipulado por IA. - Proteger nuestros servicios de contenidos y conductas abusivas. Microsoft se compromete a proteger la libertad de expresión. Pero esto no debería proteger a los individuos que pretenden falsificar la voz de una persona para estafar a un anciano. No debe extenderse a los deepfakes que alteran las acciones o declaraciones de candidatos políticos para engañar al público. Tampoco debe amparar a un acosador cibernético o a un distribuidor de pornografía no consentida. Microsoft se compromete a identificar y eliminar contenidos engañosos y abusivos como estos cuando se encuentren en sus servicios alojados para consumidores, como LinkedIn, su red de Gaming y otros servicios relevantes.
- Sólida colaboración en toda la industria y con los gobiernos y la sociedad civil. Aunque cada empresa es responsable de sus propios productos y servicios, la experiencia sugiere que a menudo hacemos nuestro mejor trabajo cuando trabajamos juntos por un ecosistema digital más seguro. Microsoft se comprometemos a trabajar en colaboración con otras empresas del sector tecnológico, incluidos los ámbitos de la inteligencia artificial generativa y las redes sociales. También se comprometen a realizar esfuerzos proactivos con grupos de la sociedad civil y a colaborar adecuadamente con los gobiernos.
A medida que todo esto avance, Microsoft aprovechará su experiencia en la lucha contra el extremismo violento en el marco del «Christchurch Call«, la colaboración con las fuerzas de seguridad a través de su Unidad de Delitos Digitales, y sus esfuerzos para proteger mejor a los niños a través de la Alianza Mundial WeProtect y de forma más amplia. Microsoft se compromete a adoptar nuevas iniciativas en todo el sector tecnológico y con otros grupos de partes interesadas. - Una legislación moderna para proteger a las personas de los abusos de la tecnología. Ya es evidente que algunas de estas nuevas amenazas requerirán el desarrollo de nuevas leyes y nuevos esfuerzos por parte de las fuerzas del orden. Microsoft está deseando aportar ideas y apoyar nuevas iniciativas de gobiernos de todo el mundo, para que se pueda proteger mejor a las personas que están online al tiempo que se honran valores intemporales como la protección de la libertad de expresión y la privacidad personal.
- Concienciación y educación del público. Por último, una defensa sólida requerirá un público bien informado. A medida que nos acercamos al segundo cuarto del siglo XXI, la mayoría de la gente ha aprendido que no se puede creer todo lo que se lee en Internet (o en cualquier otro sitio). Una combinación bien informada de curiosidad y escepticismo es una habilidad vital fundamental para todos.
Del mismo modo, tenemos que ayudar a la gente a reconocer que no se puede creer cada vídeo que se ve o cada audio que se escucha. Tenemos que ayudar a la gente a aprender a detectar las diferencias entre contenidos legítimos y falsos, incluso con marcas de agua. Esto requerirá nuevas herramientas y programas de educación pública, incluso en estrecha colaboración con la sociedad civil y los líderes de toda la sociedad.
En última instancia, nada de esto será fácil. Requerirá esfuerzos arduos pero indispensables cada día. Pero con un compromiso común de innovación y colaboración, Microsoft cree que todos pueden trabajar juntos para garantizar que la tecnología se mantenga a la vanguardia en su capacidad de proteger al público.
P.D. ¿Qué es el «Christchurch Call» (Llamado de Christchurch)?
El «Christchurch Call» (Llamado de Christchurch) es una iniciativa lanzada por Francia y Nueva Zelanda en respuesta a los ataques terroristas ocurridos en Christchurch, Nueva Zelanda, el 15 de marzo de 2019, donde un atacante transmitió en vivo el asesinato de 51 personas en dos mezquitas a través de las redes sociales. Este trágico evento subrayó la capacidad de las plataformas de redes sociales para ser utilizadas para difundir el terrorismo y el extremismo violento.
El objetivo del Christchurch Call es eliminar el contenido terrorista y extremista violento online. Reúne a gobiernos, empresas tecnológicas y organizaciones de la sociedad civil para trabajar juntos en la prevención de la difusión de este tipo de contenido en internet. La iniciativa busca respetar los principios de libertad de expresión y el libre flujo de información en línea, al tiempo que se toman medidas para prevenir la propagación de contenido violento y terrorista.
Los compromisos del Christchurch Call incluyen mejorar los procesos para responder rápidamente a la difusión de contenido terrorista y extremista violento, educar a las comunidades, compartir investigaciones para prevenir ataques, y apoyar los esfuerzos de la industria tecnológica para desarrollar soluciones que prevengan la subida y la difusión de este tipo de contenido sin imponer barreras innecesarias a la comunicación en línea.
Desde su lanzamiento, varios países y grandes empresas tecnológicas, incluidas Microsoft, Google, Facebook, Twitter y Amazon, han respaldado la iniciativa, comprometiéndose a tomar medidas concretas para abordar este problema global.
