El servicio Azure OpenAI explicado por Adrián González Sánchez

He leído con ilusión el libro 'Azure Open AI services for cloud native applications', no sólo por mi claro interés en la temática (tanto en lo relativo a la inteligencia artificial generativa, como a las arquitecturas cloud nativas y la oferta de hiperescaladores como Microsoft) sino también por conocer personalmente, y apreciar, a su autor, Adrian González.
Nos encontramos ante un libro serio y bien fundamentado, que trata de manera rigurosa, el servicio Azure OpenAI lo que, además, arrastra consigo la explicación de muchos aspectos técnicos relevantes más allá del propio servicio o la propia oferta de Microsoft en Azure.
El contenido se estructura en siete capítulos, como sigue:

• '1. Introduction to Generative AI and Azure OpenAI Service:' Un capítulo para fijar conceptos previos. Empieza con la disciplina de la inteligencia artificial explicando, por ejemplo, las formas de aprendizaje o los casos de uso habituales Sigue con inteligencia artificial generativa comentando sus capacidades, los modelos fundacionales o los principales actores actuales de la industria. Y finaliza poniendo en suerte lo que seguirá en siguientes capítulos, ya que introduce el concepto de Copilot y una muy rápida introducción del servicio Azure OpenAI.


• '2. Designing Cloud Native Architectures for Generative AI:' Como una preparación, ya mucho más profunda y técnica al servicio Azure OpenAI, este capítulo explica elementos arquitecturales en relación con la nube, fijando lo que son las arquitecturas cloud nativas, los microservicios, los contenedores, 'serverless o el modelo DevOps de integración y despliegue continuos CI/CD. Y luego, ya desde un plano mucho más práctico, presenta el portal Azure y los modelos de servicio del servicio OpenAI.


• '3. Implementing Cloud Native Generative AI with Azure OpenAi Service:' Quizá el capítulo nuclear, el que más explica realmente el servicio Azure OpenAI y sobre todo, cómo usarlo. Comienza explicando cómo fijar o ampliar el conocimiento que utilizará el modelo mediante el empleo del modelo tal cual es, o su extensión mediante técnicas de 'fine tunning' o RAG. Luego cuenta los diferentes componentes ('building blocks') del servicio Azure Open AI dentro de Azure Studio (Assistants playgound, Chat playground, Completions playground, DALLE-E playground y Bring your own data). A continuación, aborda los diferentes enfoques de implementación según se use el modelo tal cual, o se entrene mediante ejemplos, o se amplie con 'fine tunning' o RAG. Finaliza explicando formas de evaluar el desempeño de la solución creada.


• '4. Additional Cloud and AI Capabilities:' Un capítulo un poco 'collage' pero muy interesante, donde explica aspectos relacionados de forma algo más indirecta con el servicio Azure OpenAI. Comienza explorando un poco el ecosistema global con diferentes soluciones complementarias o alternativas como la orquestación mediante Langchain, el SDK de software abierto 'Semantic Kernel', el framework LlamaIndex, el Bot Fraework de Azure para la construcción de chatbots tradicionales (previos a la explosión de la IA Generativa) y otros productos de Microsoft como la Power Platform, Copilot o AI Builder. En el siguiente bloque pasa revista a los almacenes de vectores ('vector stores') tan importantes en RAG y, en concreto, revisa Azure AI Search, Cosmos DB, Azure DataBricks, Redis, etc. En el tercero y último bloque del capítulo examina otros elementos relevantes de la plataforma Azure como son Azure AI Document Intelligence, Fabrics Lakehouse, Azure AI Speech o Azure API Management.


• '5. Operationalizing Generative Ai Implementations:' Aborda aspectos mas relacionados ya con el despliegue e incluso el uso de servicios basados en Azure OpenAI, como son la ingeniería de instrucciones ('prompt engineering'), la operación de servicios basados en grandes modelos de lenguaje, la adaptación de las ideas de DevOps y MLOps al caso de los grandes modelos de lenguaje, la llamada LLMOps, incluyendo el denominado 'prompt flow', la securización de los modelos y el tratamiento de la privacidad y el cumplimiento normativo. Y finaliza con una mirada a los aspectos de uso responsable y de regulación.


• '6. Elaborating Generative AI Business Cases:' De alguna forma se acerca a los pasos a dar en un proyecto. Comienza con el análisis 'pre-mortem' (qué podría ir mal), sigue con la selección del enfoque de implementación, la identificación de tareas y recursos, la estimación de duraciones y esfuerzos y la creación de un 'roadmap'. Luego proporciona consejos sobre cómo definir y dimensionar un caso de uso y finaliza con una visión de caso de negocio con el cálculo de costes y retorno de la inversión.


• '7. Exploring the Big Picture:' Un curioso capítulo final en que, mediante entrevistas, se exploran aspectos relevantes del panorama actual que rodean a la IA Generativa o a la nube. En concreto, dialoga con David Carmona, Brendan Burns, John Maeda, Sara Bird, Tim Ward, Seth Juarez y Saurabh Tiwari.

'Azure OpenAI service for cloud native architectures' es un gran recurso para entender, no sólo el propio servicio que justifica el libro, sino todos los elementos técnicos, arquitecturales e incluso de gestión que lo rodean, específicamente cómo trabajar con grandes modelos de lenguaje y cómo trasladarlos a casos de uso reales así como todo el ecosistema que rodea a la IA Generativa y el mundo cloud. Un libro que quizá por ello podríamos decir que trasciende un poco lo que es su objetivo primario, proporcionando muchos, muy interesantes y muy bien explicados conceptos de inteligencia artificial generativa y de aquitecturas cloud, con una visión quizá bastante más amplia de lo que el título pueda sugerir.
Un libro técnico pero que ofrece una mirada global, claro y bien escrito, con la calidad, en fin, que cabe esperar de los libros de O'Reilly, y para mi, y en este caso concreto, del conocimiento y buen hacer de su autor.
Recomendable, sin duda.

Adrián González Sánchez

(Fuente: Fuente: Ligera elaboración propia de su ficha de profesor en ENAE)

Adrián González Sánchez

Destacado experto en Inteligencia Artificial y Tecnología, enfocado en la ética de la IA y la regulación de la UE. Actualmente, forma parte del equipo de Microsoft como Principal Specialist in Cloud, Data and AI for Public Sector.
Adrián González también imparte clase en ENAE Business School y en otras prestigiosas instituciones como Concordia University o École des dirigeanst HEC Montréal.
Asimismo, ha ocupado puestos como ejecutivo tecnológico, asesor de empresas y coach, por lo que cuenta con experiencia en múltiples industrias como Telecomunicaciones, Educación, Cadena de Suministro, Retail y Fintech. Además, tiene experiencia en desarrollo de software y cloud computing, siendo cofundador de una startup.
En este sentido, ha ocupado puestos como CTO en Smartbonds; Artificial Intelligence Consultant en IVADO Labs; y miembro del comité de LF AI and Data Fundation. Además también es miembro del Observatorio del Impacto Social y Ético de la IA (OdiseIA) y de FiinOps Foundation.
Posee certificaciones como Certified Product Manager (CPM®) y Certified Scrum Product Owner (CSPO®), y tiene habilidades en gestión de proyectos, estrategia, arquitectura y productos para proyectos de Ciencia de Datos, IA, Cloud y Blockchain.
Además, comparte sus conocimientos y experiencias en su blog en Medium y en redes sociales como Twitter y Clubhouse. Adicional, Adrián González Sánchez es autor en la editorial O’Reilly donde es autor del libro 'Azure OpenAI Service for Cloud Native Applications', además de haber colaborado en diversas publicaciones:

• Case Study: How the Port of Montreal Used NLP to Fast-Track Critical Cargo in 2020
• Azure OpenAI for Cloud Native Applications
• Kubernetes and Cloud Native Associate (KCNA) Study Guide

Puedes conocer más del autor visitando su perfil en LinkedIn o siguiéndole en X donde se presenta como @adriangs86.

Ficha técnica:

TITULO: Azure OpenAI Service for Cloud Native ApplicationsAUTOR: Adrián González SánchezEDITORIAL: O'Reilly MediaAÑO: 2024 ISBN: 978-1098154998PAGINAS: 246