Diseño de un sistema de monitoreo conversacional basado en modelos de lenguaje (LLM) integrado a SolarWinds.

Abstract

La creciente dependencia de las empresas en plataformas tecnológicas esenciales ha resaltado la urgencia de contar con herramientas de monitoreo más flexibles, intuitivas y con mayor capacidad de análisis. Si bien soluciones tradicionales como SolarWinds permiten centralizar información clave sobre el comportamiento de los sistemas incluyendo consumo de CPU, memoria, almacenamiento, disponibilidad, interfaces y tráfico, su adopción suele verse limitada por la gran cantidad de datos que presentan, la necesidad de recorrer múltiples paneles y la dependencia de conocimientos técnicos avanzados. Frente a este escenario, el presente proyecto plantea el desarrollo de un sistema conversacional impulsado por Modelos de Lenguaje de Gran Escala (LLMs), que funcione como intermediario entre la base de datos de SolarWinds (SQL Server) y el usuario. La propuesta permite realizar consultas en lenguaje natural y recibir respuestas claras sobre métricas críticas, así como correlaciones entre eventos y alertas, todo ello sin recurrir a consultas SQL complejas. La arquitectura del sistema se sostiene en tres componentes principales: - Un conector de base de datos que asegure la extracción precisa y confiable de los datos. - Un motor de procesamiento basado en un LLM de entre 12B y 20B parámetros, operando en un entorno local y completamente privado. - Una API de interacción implementada con FastAPI y desplegada mediante contenedores Docker, lo que garantiza portabilidad, escalabilidad y resiliencia. El propósito general es fortalecer las operaciones de TI reduciendo el tiempo de análisis, mejorando la visibilidad y correlación entre métricas y eventos, y facilitando decisiones oportunas. La solución propuesta se posiciona como una contribución relevante dentro del ámbito de AIOps (Artificial Intelligence for IT Operations), destacando por ofrecer una arquitectura abierta, privada y adaptable a distintas realidades organizacionales.