¿Estás midiendo cómo la IA impactará en tu negocio?
Medir el impacto de la IA en el negocio es el equivalente empresarial a la pregunta personal de «¿tienes inquietudes en la vida?»
Esta semana pasada se lanzó por parte de OpenAI o-1 (además del nuevo modelo Gemini de Google). Una prueba de la seriedad con la que tu empresa se toma la IA es analizar si hubo personas asignadas que pasaran inmediatamente el modelo o-1 por los puntos de referencia internos, validados y específicos de vuestra empresa para comprobar su utilidad y si en consecuencia de ello se actualizó algún plan u objetivo.
¿O no tenéis personal (incluido personal no técnico) asignado para probar los nuevos modelos? ¿No tenéis puntos de referencia internos? ¿No tenéis una perspectiva actualizada de cómo afectará la IA a vuestro negocio?
Nadie va a hacer esto para tu organización en concreto, tienes que hacerlo tú mismo.
Es útil hacer algunas evaluaciones comparativas clave (como si resuelve este problema difícil que es clave para nuestro negocio, lo bueno que es en memos de inversión, etc.) sin una API. De hecho, la evaluación de estos casos a través de una llamada a la API no es tan útil, ya que requiere el juicio humano.
La perspectiva de un profesional para que sus aplicaciones GenAI estén preparadas para el futuro:
- Los lanzamientos de nuevos modelos son ahora un asunto semanal. Sin un sistema robusto de prueba/evaluación, ¿cómo sabes si o-1 realmente mejora TU caso de uso?
- Olvídate de los puntos de referencia académicos: lo que importa es su conjunto de datos de prueba. Ten uno listo para evaluar nuevos modelos en cuestión de horas, no de semanas.
- ¿No estás seguro de qué modelo elegir? La plataforma administrada de Azure OpenAI te permite comparar Llama con Claude, Titan, Nova y otros sin tener que hacer malabarismos con múltiples integraciones.
- Comienza solo con el hospedaje de modelos administrados: incluso sin las características avanzadas de Azure OpenAI, ahorrarás meses de trabajo de infraestructura y gastos operativos.
- «¿Pero qué pasa con los costes?» El enrutamiento inteligente de Azure OpenAI, la inferencia por lotes, la inferencia optimizada y el almacenamiento en caché rápido pueden reducir sus costes hasta en un 90% para los modelos compatibles.
- ¿RAG de gráficos? ¿Automatización de datos? La plataforma unificada de Azure OpenAI le permite adoptar nuevas funciones cuando TU caso de uso lo exija.
- La destilación de modelos ahora está automatizada en Azure OpenAI: simplifica tu viaje de optimización de modelos sin salir de tu entorno gestionado.
- ¿Construiste una aplicación hace dos meses? Tu arquitectura y tu canal de experimentación deben ser tan flexibles como los propios modelos. La extensibilidad no es una característica, es supervivencia.
- Una plataforma unificada significa que está preparado para adoptar nuevas funciones en el momento en que están disponibles, ya sea un nuevo modelo o una nueva capacidad. Sin líos.
Información basada en las publicaciones de Ethan Mollick (Associate Professor at The Wharton School. Author of Co-Intelligence) en LinkedIn y Kunal Agarwala (GenAI Lead) también en LinkedIn.
