La IA generativa: Respuestas a las preguntas más frecuentes

La IA generativa está de moda y Gartner ha recopilado una serie de preguntas interesantes acerca de la misma. Aquí te damos las respuestas a las más interesantes.

¿Qué es la IA generativa?

La IA generativa puede aprender de artefactos existentes para generar artefactos nuevos y realistas (a escala) que reflejen las características de los datos de entrenamiento, pero sin repetirlos. Puede producir una gran variedad de contenidos novedosos, como imágenes, vídeo, música, voz, texto, código de software y diseños de productos.

La IA generativa utiliza una serie de técnicas que siguen evolucionando. Las más importantes son los modelos básicos de IA, que se entrenan con un amplio conjunto de datos no etiquetados que pueden utilizarse para diferentes tareas, con ajustes adicionales. Para crear estos modelos entrenados se necesitan matemáticas complejas y una enorme potencia de cálculo, pero son, en esencia, algoritmos de predicción.

En la actualidad, la IA generativa suele crear contenidos en respuesta a peticiones de lenguaje natural -no requiere conocer ni introducir código-, pero los casos de uso empresarial son numerosos e incluyen innovaciones en el diseño de fármacos y chips y en el desarrollo de la ciencia de los materiales.

¿A qué se debe el repentino auge de la IA generativa?

Gartner ha realizado un seguimiento de la IA generativa desde 2020 (además, la IA generativa se encontraba entre sus Principales Tendencias Tecnológicas Estratégicas para 2022). Sin embargo, la IA generativa no llegó a los principales titulares hasta finales de 2022 con el lanzamiento de ChatGPT, un chatbot capaz de interacciones muy parecidas a las humanas.

ChatGPT, lanzado por OpenAI, se hizo muy popular de la noche a la mañana y captó la atención pública. (La herramienta DALL-E 2 de OpenAI también genera imágenes a partir de texto en una innovación relacionada con la IA generativa).

Gartner considera que la IA generativa se convertirá en una tecnología de uso general con un impacto similar al de la máquina de vapor, la electricidad e Internet. El bombo publicitario se irá disipando a medida que se imponga la realidad, pero el impacto de la IA generativa crecerá a medida que las personas y las empresas descubran más aplicaciones innovadoras de la tecnología en el trabajo y la vida cotidianos.

¿Cuáles son las ventajas y aplicaciones de la IA generativa?

Los modelos de base, incluidos los transformadores generativos preentrenados (que utiliza ChatGPT), se encuentran entre las innovaciones de la arquitectura de IA que pueden utilizarse para automatizar, aumentar el número de humanos o máquinas y ejecutar de forma autónoma procesos empresariales y de TI.

Los beneficios de la IA generativa incluyen un desarrollo de productos más rápido, una mejor experiencia del cliente y una mayor productividad de los empleados, pero los detalles dependen del caso de uso. Los usuarios finales deben ser realistas en cuanto al valor que pretenden obtener, sobre todo cuando utilizan un servicio tal cual, que tiene importantes limitaciones. La IA generativa crea artefactos que pueden ser imprecisos o sesgados, lo que hace esencial la validación humana y limita potencialmente el tiempo que ahorra a los trabajadores. Gartner recomienda conectar los casos de uso con los KPI para garantizar que cualquier proyecto mejora la eficiencia operativa o crea nuevos ingresos netos o mejores experiencias.

En una encuesta reciente realizada en un seminario web de Gartner a más de 2.500 ejecutivos, el 38% indicó que la experiencia y retención del cliente es el objetivo principal de sus inversiones en IA generativa. Le siguen el crecimiento de los ingresos (26%), la optimización de costes (17%) y la continuidad del negocio (7%).

¿Cuáles son los riesgos de la IA generativa?

Los riesgos asociados a la IA generativa son importantes y evolucionan rápidamente. Una amplia gama de actores de amenazas ya han utilizado la tecnología para crear «falsificaciones profundas» o copias de productos, y generar artefactos para apoyar estafas cada vez más complejas.

ChatGPT y otras herramientas similares se entrenan con grandes cantidades de datos disponibles públicamente. No están diseñadas para cumplir con el Reglamento General de Protección de Datos (GDPR) y otras leyes de derechos de autor, por lo que es imperativo prestar mucha atención a los usos de las plataformas por parte de sus empresas.

Los riesgos de supervisión que hay que vigilar incluyen:

• Falta de transparencia. La IA generativa y los modelos ChatGPT son impredecibles, y ni siquiera las empresas que están detrás de ellos entienden siempre todo sobre su funcionamiento.
• Precisión. Los sistemas de IA generativa a veces producen respuestas inexactas y falsas. Evalúe todos los resultados para comprobar su exactitud, adecuación y utilidad real antes de confiar en la información o distribuirla públicamente.
• Sesgo. Se necesitan políticas o controles para detectar resultados sesgados y tratarlos de acuerdo con la política de la empresa y los requisitos legales pertinentes.
• Propiedad intelectual (PI) y derechos de autor. Actualmente no existen garantías verificables de gobernanza y protección de datos en relación con la información confidencial de la empresa. Los usuarios deben asumir que cualquier dato o consulta que introduzcan en ChatGPT y sus competidores se convertirá en información pública, y aconsejamos a las empresas que establezcan controles para evitar exponer inadvertidamente la PI.
• Ciberseguridad y fraude. Las empresas deben prepararse para el uso por parte de actores maliciosos de sistemas de IA generativa para ataques cibernéticos y de fraude, como los que utilizan falsificaciones profundas para la ingeniería social del personal, y asegurarse de que se establecen controles de mitigación. Consulte a su proveedor de ciberseguros para verificar hasta qué punto su póliza actual cubre las infracciones relacionadas con la IA.
• Sostenibilidad. La IA generativa utiliza cantidades significativas de electricidad. Elija proveedores que reduzcan el consumo de energía y aprovechen la energía renovable de alta calidad para mitigar el impacto en sus objetivos de sostenibilidad.

Gartner también recomienda buscar respuestas a las siguientes cuestiones:

• ¿Quién define el uso responsable de la IA generativa, especialmente a medida que las normas culturales evolucionan y los enfoques de ingeniería social varían según la geografía? ¿Quién garantiza el cumplimiento? ¿Cuáles son las consecuencias de un uso irresponsable?
• En caso de que algo vaya mal, ¿cómo pueden intervenir las personas?
• ¿Cómo dan y retiran los usuarios su consentimiento (opt in u opt out)? ¿Qué podemos aprender del debate sobre la privacidad?
• ¿Ayudará o perjudicará el uso de la IA generativa a la confianza en su organización y en las instituciones en general?
• ¿Cómo podemos garantizar que los creadores y propietarios de contenidos mantengan el control de su propiedad intelectual y reciban una compensación justa? ¿Cómo deberían ser los nuevos modelos económicos?
• ¿Quién garantizará el correcto funcionamiento a lo largo de todo el ciclo de vida y cómo lo hará? ¿Necesitan los consejos de administración un responsable de ética de la IA, por ejemplo?

Por último, es importante vigilar continuamente la evolución de la normativa y los litigios relacionados con la IA generativa. China y Singapur ya han puesto en marcha nuevas normativas sobre el uso de la IA generativa, mientras que Italia lo hace temporalmente. Estados Unidos, Canadá, India, Reino Unido y la UE están configurando actualmente sus entornos normativos.

¿Cuáles son algunos de los usos prácticos de la IA generativa en la actualidad?

El campo de la IA generativa progresará rápidamente tanto en el descubrimiento científico como en la comercialización de tecnología, pero están surgiendo rápidamente casos de uso en contenidos creativos, mejora de contenidos, datos sintéticos, ingeniería generativa y diseño generativo.

Entre las aplicaciones prácticas de alto nivel que se utilizan en la actualidad figuran las siguientes.

• Aumento y creación de contenidos escritos: Producción de un «borrador» de texto con el estilo y la longitud deseados.
• Búsqueda y respuesta a preguntas: Permitir a los usuarios encontrar respuestas a sus preguntas a partir de datos e información.
• Tono: manipulación del texto para suavizar el lenguaje o profesionalizarlo.
• Resumir: Ofrecer versiones abreviadas de conversaciones, artículos, correos electrónicos y páginas web.
• Simplificación: Descomposición de títulos, creación de esquemas y extracción de contenidos clave.
• Clasificación de contenidos para casos de uso específicos: Clasificación por sentimiento, tema, etc.
• Mejora del rendimiento de chatbots: Mejora de la extracción de «sentimientos», clasificación de sentimientos de toda la conversación y generación de flujos de viaje a partir de descripciones generales.
• Codificación de software: Generación, traducción, explicación y verificación de código.

Los casos de uso emergentes con repercusiones a largo plazo incluyen:

• Creación de imágenes médicas que muestren la evolución futura de una enfermedad
• Datos sintéticos que ayudan a aumentar los datos escasos, mitigar los sesgos, preservar la privacidad de los datos y simular escenarios futuros
• Aplicaciones que sugieren proactivamente acciones adicionales a los usuarios y les proporcionan información
• Modernización del código heredado

¿Cómo aportará valor empresarial la IA generativa?

La IA generativa ofrece oportunidades nuevas y disruptivas para aumentar los ingresos, reducir los costes, mejorar la productividad y gestionar mejor los riesgos. En un futuro próximo, se convertirá en una ventaja competitiva y un elemento diferenciador.

Gartner divide las oportunidades en tres categorías.

Oportunidades de ingresos

Desarrollo de productos: La IA generativa permitirá a las empresas crear nuevos productos con mayor rapidez. Por ejemplo, nuevos medicamentos, limpiadores domésticos menos tóxicos, nuevos sabores y fragancias, nuevas aleaciones y diagnósticos más rápidos y mejores.

Nuevos canales de ingresos: La investigación de Gartner muestra que las empresas con mayores niveles de madurez de IA obtendrán mayores beneficios para sus ingresos.

Oportunidades de costes y productividad

Aumento del número de trabajadores: La IA generativa puede aumentar la capacidad de los trabajadores para redactar y editar textos, imágenes y otros medios. También puede resumir, simplificar y clasificar contenidos; generar, traducir y verificar código de software; y mejorar el rendimiento de los chatbot. En esta fase, la tecnología es muy competente en la creación de una amplia gama de artefactos de forma rápida y a escala.

Optimización del talento a largo plazo: Los empleados se distinguirán por su capacidad para concebir, ejecutar y perfeccionar ideas, proyectos, procesos, servicios y relaciones en colaboración con la IA. Esta relación simbiótica acelerará el tiempo de adquisición de competencias y ampliará enormemente la gama y competencia de los trabajadores en todos los ámbitos.

Mejora de los procesos: La IA generativa puede obtener un valor real y contextual de grandes almacenes de contenidos que hasta ahora no se habían explotado. Esto cambiará los flujos de trabajo.

Oportunidades de riesgo

Mitigación de riesgos: La capacidad de la IA generativa para analizar y proporcionar una visibilidad más amplia y profunda de los datos, como las transacciones de los clientes y el código de software potencialmente defectuoso, mejora el reconocimiento de patrones y la capacidad de identificar riesgos potenciales para la empresa con mayor rapidez.

Sostenibilidad: La IA generativa puede ayudar a las empresas a cumplir la normativa sobre sostenibilidad, mitigar el riesgo de activos bloqueados e integrar la sostenibilidad en la toma de decisiones, el diseño de productos y los procesos.

¿Cuáles son los sectores más afectados por la IA generativa?

La IA generativa afectará a las industrias farmacéutica, manufacturera, de medios de comunicación, arquitectura, diseño de interiores, ingeniería, automoción, aeroespacial, defensa, médica, electrónica y energética al aumentar los procesos básicos con modelos de IA. Afectará al marketing, el diseño, las comunicaciones corporativas y la formación y la ingeniería de software al aumentar los procesos de apoyo que abarcan muchas organizaciones. Por ejemplo:

• Gartner cree que para 2025, más del 30% de los nuevos medicamentos y materiales se descubrirán sistemáticamente mediante técnicas de IA generativa, frente al cero actual. La IA generativa parece prometedora para la industria farmacéutica, dada la oportunidad de reducir costes y tiempo en el descubrimiento de fármacos.
• Gartner predice que para 2025, el 30% de los mensajes de marketing saliente de las grandes organizaciones se generarán sintéticamente, frente a menos del 2% en 2022. Los generadores de texto como GPT-3 ya pueden utilizarse para crear textos de marketing y publicidad personalizada.
• En las industrias manufacturera, automovilística, aeroespacial y de defensa, el diseño generativo puede crear diseños optimizados para cumplir objetivos y restricciones específicos, como el rendimiento, los materiales y los métodos de fabricación. Esto acelera el proceso de diseño al generar un abanico de posibles soluciones que los ingenieros pueden explorar.

¿Cuáles son las mejores prácticas para utilizar la IA generativa?

Las tecnologías que proporcionan confianza y transparencia a la IA se convertirán en un complemento importante de las soluciones de IA generativa. Además, los líderes ejecutivos deberían seguir esta guía para el uso ético de los LLM y otros modelos de IA generativa:

• Empezar internamente. Antes de utilizar la IA generativa para crear contenido orientado al cliente u otro contenido de cara al exterior, realiza pruebas exhaustivas con las partes interesadas internas y los casos de uso de los empleados. No querrás que las alucinaciones perjudiquen a tu negocio.
• Valora la transparencia. Se sincero con las personas, ya sean empleados, clientes o ciudadanos, sobre el hecho de que están interactuando con una máquina etiquetando claramente cualquier conversación varias veces a lo largo de la misma.
• Actúa con la diligencia debida. Establece procesos para controlar los sesgos y otros problemas de fiabilidad. Para ello, valida los resultados y compruebe continuamente si el modelo se desvía de su curso.
• Aborda los problemas de privacidad y seguridad. Asegúrate de que no se introducen ni se obtienen datos sensibles. Confirme con el proveedor del modelo que estos datos no se utilizarán para el aprendizaje automático más allá de su organización.
• Tómatelo con calma. Mantén la funcionalidad en fase beta durante un largo periodo de tiempo. Esto ayuda a moderar las expectativas de resultados perfectos.

¿Debo elaborar una política de uso de la IA generativa?

Es probable que tus empleados ya utilicen la IA generativa, ya sea de forma experimental o para realizar tareas relacionadas con su trabajo. Para evitar el uso «en la sombra» y una falsa sensación de cumplimiento, Gartner recomienda elaborar una política de uso en lugar de promulgar una prohibición rotunda.

La política debe ser sencilla: basta con tres «no» y dos «sí» si se utiliza ChatGPT u otro modelo estándar:

• No introduzcas información personal identificable.
• No introduzcas información confidencial.
• No introduzcas propiedad intelectual de la empresa.
• Desactiva el historial si se utilizan herramientas externas (como ChatGPT) que permiten esa opción.
• Supervisa de cerca los resultados, que a veces están sujetos a alucinaciones sutiles pero significativas, errores de hecho y declaraciones sesgadas o inapropiadas.

Si la empresa utiliza su propia instancia de un gran modelo lingüístico, desaparecen las preocupaciones por la privacidad que informan la limitación de las entradas. Sin embargo, sigue siendo necesario vigilar de cerca los resultados.

¿Cómo afectará la IA generativa al futuro del trabajo?

En las empresas, muchas personas son creadores de contenidos de algún tipo. La IA generativa alterará significativamente sus puestos de trabajo, ya sea creando texto, imágenes, diseños de hardware, música, vídeo o cualquier otra cosa. En respuesta, los trabajadores tendrán que convertirse en editores de contenidos, lo que requiere un conjunto de habilidades diferentes a la creación de contenidos.

Mientras tanto, la forma en que los trabajadores interactúan con las aplicaciones cambiará a medida que las aplicaciones se vuelvan conversacionales, proactivas e interactivas, lo que requerirá una experiencia de usuario rediseñada. A corto plazo, los modelos generativos de IA irán más allá de responder a consultas en lenguaje natural y empezarán a sugerir cosas que usted no ha pedido. Por ejemplo, su solicitud de un gráfico de barras basado en datos podría ser respondida con gráficos alternativos que el modelo sospecha que podría utilizar. Al menos en teoría, esto aumentará la productividad de los trabajadores, pero también desafía el pensamiento convencional sobre la necesidad de que los humanos tomen la iniciativa en el desarrollo de la estrategia.

El cambio de la mano de obra variará drásticamente en función de factores como la industria, la ubicación, el tamaño y las ofertas de la empresa.

¿Por dónde empezar con la IA generativa?

Muchas empresas tienen en marcha proyectos piloto de IA generativa para la generación de código, la generación de texto o el diseño visual. Para establecer un proyecto piloto, puede seguir uno de estos tres caminos:

1. Off-the-shelf. Utilizar directamente un modelo básico existente introduciendo instrucciones. Por ejemplo, puede pedirle al modelo que cree una descripción del puesto de trabajo de un ingeniero de software o que sugiera líneas de asunto alternativas para los correos electrónicos de marketing.
2. Ingeniería de instrucciones. Programe y conecte software a un modelo fundacional y sáquele partido. Esta técnica, que es la más común de las tres, permite utilizar servicios públicos al tiempo que se protege la propiedad intelectual y se aprovechan los datos privados para crear respuestas más precisas, específicas y útiles. Crear un chatbot de beneficios de RRHH que responda a las preguntas de los empleados sobre políticas específicas de la empresa es un ejemplo de ingeniería rápida.
3. A medida. Construir un nuevo modelo fundacional va más allá del alcance de la mayoría de las empresas, pero es posible ajustar un modelo. Esto implica añadir una capa o datos propios de forma que se altere significativamente la forma en que se comporta el modelo fundacional. Aunque costosa, la personalización de un modelo ofrece el máximo nivel de flexibilidad.

¿Qué necesito comprar para habilitar la IA generativa?

Los costes de la IA generativa oscilarán entre insignificantes y muchos millones en función del caso de uso, la escala y los requisitos de la empresa. Las pequeñas y medianas empresas pueden obtener un valor empresarial significativo de las versiones gratuitas de aplicaciones públicas alojadas abiertamente, como ChatGPT, o pagando cuotas de suscripción bajas. Sin embargo, las opciones gratuitas y de bajo coste vienen acompañadas de una protección mínima de los datos de la empresa y de los riesgos de salida asociados.

Las empresas más grandes y las que deseen un mayor análisis o uso de sus propios datos empresariales con mayores niveles de seguridad y protección de la propiedad intelectual y la privacidad tendrán que invertir en una serie de servicios personalizados. Esto puede incluir la creación de modelos con licencia, personalizables y propios con plataformas de datos y aprendizaje automático, y requerirá trabajar con proveedores y socios. En este caso, los costes pueden ascender a millones de dólares.

También cabe señalar que las capacidades de IA generativa se incorporarán cada vez más a los productos de software que probablemente utilice a diario, como Bing, Office 365 y Microsoft 365 Copilot. Se trata de un nivel «gratuito», aunque en última instancia los proveedores repercutirán los costes a los clientes como parte de los incrementos de precio de sus productos.

¿Qué predice Gartner para el futuro del uso de la IA generativa?

La IA generativa está preparada para tener un impacto cada vez mayor en las empresas en los próximos cinco años. Gartner predice que

• En 2024, el 40 % de las aplicaciones empresariales tendrán IA conversacional integrada, frente a menos del 5 % en 2020.
• Para 2025, el 30 % de las empresas habrán implementado una estrategia de desarrollo y pruebas aumentada por IA, frente al 5 % en 2021.
• En 2026, la IA de diseño generativo automatizará el 60% del esfuerzo de diseño de nuevos sitios web y aplicaciones móviles.
• En 2026, más de 100 millones de humanos contratarán a robots colaboradores para contribuir a su trabajo.
• En 2027, casi el 15% de las nuevas aplicaciones serán generadas automáticamente por la IA sin un humano en el bucle. Esto no está ocurriendo en absoluto hoy en día.

¿Es éste el comienzo de la inteligencia general artificial («artificial general intelligence» – AGI)?

Depende de a quién se pregunte. La AGI, la capacidad de las máquinas para igualar o superar la inteligencia humana y resolver problemas que nunca se plantearon durante el entrenamiento, provoca un intenso debate y una mezcla de asombro y distopía. No cabe duda de que la IA es cada vez más capaz y muestra comportamientos emergentes a veces sorprendentes que los humanos no programaron.

El camino probable es la evolución de una inteligencia artificial que imite la humana pero que, en última instancia, tenga como objetivo ayudar a los humanos a resolver problemas complejos. Esto requerirá gobernanza, una nueva regulación y la participación de una amplia franja de la sociedad.

¿Quieres saber más sobre la IA generativa? En DQS/ te asesoramos. ¿Por qué no nos preguntas cómo podemos ayudarte?

Esta información está basada sobre las preguntas y respuestas de Gartner publicadas aquí: «Gartner Experts Answer the Top Generative AI Questions for Your Enterprise«.