Azure OpenAI con tus datos: crea un «RAG administrado»
Azure OpenAI on your Data (Azure OpenAI con tus datos) ya está disponible de forma general.
Chatea con tus datos (no estructurados), aprovechando la potencia de los modelos de OpenAI. Todas las respuestas incluirán citas, dejando claro en qué documentos se basa la respuesta.
- Aprovecha la búsqueda híbrida (palabra clave + vector + clasificador semántico) para obtener los mejores resultados.
- Control de acceso a nivel de documento.
- Aplica filtros para aprovechar los metadatos existentes y lo mejor, puedes tener una versión inicial funcionando en cuestión de minutos.
Ya escribí sobre el tema en septiembre «Ya puedes usar Azure OpenAI con tus datos» pero hasta hace unos días no estaba disponible de forma general.
On Your Data ya está disponible en Azure OpenAI Service
Azure OpenAI on your Data (Azure OpenAI con tus datos) te permite aprovechar la potencia de los modelos OpenAI, como GPT-4, e incorpora las capacidades avanzadas del modelo RAG (Retrieval Augmented Generation), directamente en sus datos con seguridad de nivel empresarial en Azure.
¿La solución RAG gestionada sigue siendo demasiado limitada? Puedes aprovechar componentes subyacentes como Azure AI Search (búsqueda híbrida) y Azure OpenAI (LLM) para crear tu propia solución RAG.
Esta capacidad de vanguardia transforma la forma de conectar, interactuar y aterrizar tus datos, con mayor precisión y velocidad a través de una experiencia conversacional fácil de usar. Puedes crear rápidamente copilotos personalizados con tus datos para mejorar la comprensión del usuario, agilizar la realización de tareas y ayudar a la toma de decisiones.
Libera el poder de tus datos
Azure OpenAI Service On Your Data te permite liberar todo el potencial de tus datos sin esfuerzo con seguridad de nivel empresarial. Al ejecutar directamente los modelos de OpenAI en sus datos, se elimina la necesidad de una formación exhaustiva. Aprovechar las capacidades avanzadas de IA como GPT-4 te permite agilizar la comunicación, mejorar el servicio al cliente y aumentar la productividad en toda tu organización.
Con Azure OpenAI Service On Your Data, puedes obtener respuestas de IA de calidad superior desde el primer momento, ya que se ha implementado ingeniería de precisión y se ha ajustado varios componentes, como la extracción de intenciones, la recuperación de búsquedas, el filtrado y la reclasificación, y la ingestión de datos para ofrecer respuestas precisas, concisas y coherentes optimizadas para cada modelo.
Capacidades disponibles
Este es un resumen de capacidades disponibles:
- Seguridad mejorada para empresas: Accede a tus recursos privados de Azure tanto en Azure OpenAI Studio como en las API con puntos finales privados y VPN habilitados para Azure AI Search, Azure OpenAI y Azure Blob Storage. Con el control de acceso a nivel de documento, se pueden generar respuestas basadas en los documentos a los que puede acceder un usuario.
- Fuentes de datos ampliadas: Conéctate a tus datos desde Azure AI Search y Azure Cosmos DB para MongoDB vCore, así como las fuentes de datos, incluido Azure Blob Storage, archivos locales, URL/dirección web, etc. Permanece atento para conocer más incorporaciones a la lista de disponibilidad general.
- Incorpora RAG (Retrieval-Augmented Generation) para la recuperación inteligente de información: Utiliza las capacidades avanzadas del modelo RAG para mejorar la calidad y relevancia de la recuperación de información, permitiendo respuestas más contextualizadas y precisas en tus experiencias conversacionales.
- Respuestas y parámetros personalizables: Adapta tu experiencia de conversación limitando la respuesta y los parámetros personalizados, como el rigor y el número de documentos recuperados.
- Búsqueda vectorial e híbrida de Azure AI: Logra una recuperación de datos más precisa con la búsqueda vectorial o híbrida de Azure AI Search, refinando los conocimientos que obtiene de tus datos.
- Búsqueda semántica por defecto: Disfruta de resultados más relevantes y conscientes del contexto utilizando la Búsqueda Semántica por defecto.
- Disponibilidad de modelos OpenAI: Obtén acceso a los modelos OpenAI GPT-35-Turbo, GPT-35-Turbo-16k, GPT-4, GPT-4-32k.
- Control de acceso a nivel de documento: Aumenta la seguridad limitando el acceso a documentos basándose en Microsoft Entra ID al generar respuestas.
- Despliega rápido y sin esfuerzo: Despliega rápido y sin problemas en una aplicación web o en un copiloto en Copilot Studio.
- Filtro de búsqueda (API): Personaliza tus búsquedas y añade contexto con el modelo de generación aumentada de recuperación (RAG).
- SDK actualizado: Agiliza la integración con tus sistemas utilizando el SDK actualizado, aprovechando el poder de Azure OpenAI On Your Data.
- Tipos de archivo compatibles: .txt, .pdf, .docx, .pptx, .md, .html
Casos de uso y beneficios para el cliente
El servicio Azure OpenAI On Your Data ofrece múltiples beneficios a los clientes. Impulsa la productividad en las interacciones B2C y B2B, permite el análisis de datos para obtener perspectivas y conocimientos del sector, e influye positivamente en la productividad, el ahorro de costes y la toma de decisiones.
- Asistencia al cliente automatizada: Proporciona respuestas rápidas a las preguntas más frecuentes y guía a los usuarios a través de los pasos habituales para la resolución de problemas basándose en los datos de los clientes.
- Búsqueda de documentos en tiempo real: Proporciona asistencia en tiempo real a las especificaciones de los productos y guía a los usuarios a través de los pasos comunes de solución de problemas basándose en los manuales de los productos.
- Servicio al ciudadano: Proporciona respuestas rápidas a las preguntas más frecuentes de servicio público y guía a los usuarios a través de pasos específicos basados en el servicio de atención al ciudadano
- Asistente de aprendizaje: Ofrece explicaciones y ejemplos para ayudar a los usuarios a comprender conceptos académicos o aprender nuevas habilidades basadas en planes de estudios específicos
- Revisión jurídica: Acceso rápido a información jurídica sobre la legislación vigente y futura para asesorar adecuadamente a los clientes.
- Perspectivas de marketing: Accede a recursos internos y externos para responder a consultas de marketing internas y externas
- Desarrollo de software: Generación de código de muestra basado en las necesidades del cliente
- Soporte de RRHH: Ofrece respuestas rápidas a las preguntas más frecuentes sobre RR.HH. en función de la política de RR.HH. del cliente.
- Información sobre el sector y la competencia: Aprovecha los recursos disponibles públicamente para obtener información sobre el sector y la competencia.
- Consejos sanitarios: Proporciona información general sobre síntomas, primeros auxilios o vida sana.
- Mantenimiento predictivo: Proporciona mantenimiento predictivo y asistencia al cliente basada en los datos históricos del cliente.
Comienza tu viaje con Azure OpenAI Service On Your Data
Comienza tu aventura con Azure OpenAI Service On Your Data: una tecnología innovadora diseñada para revolucionar la forma en que conectas e interactúas con los datos de tu empresa.
Esta información está basada en On Your Data is now Generally Available in Azure OpenAI Service publicado en la TechCommunity de Microsoft y Quickstart: Chat with Azure OpenAI models using your own data publicado en Microsoft Learn.