Introducción La inteligencia artificial crece cada año. Los modelos de lenguaje grande (LLM) modernos, como Llama, Qwen y los modelos de estilo GPT, a menudo contienen decenas de miles de millones de parámetros y, por lo general, requieren GPU costosas con VRAM masiva. Para la mayoría de los desarrolladores, empresas emergentes e investigadores, ejecutar estos modelos localmente parece imposible. Pero una nueva herramienta llamada oLLM está cambiando eso silenciosamente. Imagínese ejecutar modelos con parámetros tan grandes como 80B en una GPU de consumo con solo 8 GB de VRAM. Suena poco realista ¿verdad? Pero eso es exactamente lo que oLLM permite a través de ingeniería inteligente y gestión de memoria inteligente. En este artículo, exploraremos qué es oLLM, cómo funciona y por qué puede convertirse en el ingrediente secreto para ejecutar modelos de IA masivos en hardware pequeño. ¿Qué es oLLM? oLLM es una biblioteca de Python liviana diseñada para la inferencia LLM de gran contexto en hardware con recursos limitados. Se basa en marcos populares como Hugging Face Transformers y PyTorch, lo que permite a los desarrolladores ejecutar grandes modelos de IA localmente sin necesidad de GPU de nivel empresarial. La idea clave detrás de oLLM es simple: en lugar de forzar todo en la memoria de la GPU, mover inteligentemente partes del modelo a otras capas de almacenamiento. Con este enfoque, los modelos que normalmente necesitan cientos de gigabytes de VRAM pueden ejecutarse en hardware de consumo estándar. Por ejemplo, algunas configuraciones permiten que modelos como los modelos estilo Llama-3 GPT-OSS-20B Qwen-Next-80B se ejecuten en una máquina con solo 8 GB de VRAM GPU más almacenamiento SSD. El problema de ejecutar modelos de IA de gran tamaño La inferencia de IA tradicional supone una cosa: todos los pesos del modelo deben caber dentro de la memoria de la GPU. Esto se convierte en un gran cuello de botella porque: Tamaño del modelo VRAM típica necesaria 7B ~16 GB 13B ~24 GB 70B ~140 GB 80B ~190 GB Claramente, eso está mucho más allá de lo que la mayoría de las GPU de consumo pueden manejar. Incluso los desarrolladores con GPU potentes a menudo confían en la cuantificación, que comprime los pesos del modelo para reducir el uso de memoria. Pero la cuantificación implica desventajas: Precisión reducida Menor calidad de salida Limitaciones de compatibilidad oLLM adopta un enfoque diferente. La innovación principal: descarga de SSD La innovación detrás de oLLM es la descarga de memoria basada en SSD. En lugar de cargar el modelo completo en la memoria de la GPU, oLLM transmite los componentes del modelo de forma dinámica entre: VRAM de la GPU RAM del sistema SSD de alta velocidad Esto significa que la GPU solo contiene las partes activas del modelo en un momento dado. La técnica permite ejecutar modelos 10 veces más grandes que la memoria de la GPU disponible. Piénselo de esta manera: Modelo de IA tradicional → VRAM de GPU Modelo oLLM → SSD + RAM + GPU (transmitido dinámicamente) Al convertir el almacenamiento en una extensión de la memoria de la GPU, oLLM evita la mayor limitación en el desarrollo de IA local. No se necesita cuantificación Otra ventaja importante de oLLM es que no requiere cuantificación. En lugar de comprimir los pesos de los modelos, los mantiene en formatos de alta precisión como FP16 o BF16, preservando la calidad original del modelo. Esto significa: Mejor calidad de razonamiento Resultados más precisos Respuestas más confiables Para los desarrolladores que trabajan en investigación, análisis de cumplimiento o razonamiento de documentos largos, esto puede marcar una gran diferencia. Ventanas de contexto ultralargas Muchas herramientas de IA tienen dificultades con documentos grandes debido a los límites de contexto. oLLM admite ventanas de contexto extremadamente largas: hasta 100 000 tokens. Esto permite que el modelo procese: Libros completos Artículos de investigación largos Contratos legales Archivos de registro masivos Conjuntos de datos grandes, todo en un solo mensaje. Esto abre la puerta para tareas fuera de línea avanzadas como: inteligencia de documentos, cumplimiento, auditoría, búsqueda de conocimiento empresarial, investigación asistida por IA. Compensaciones en el rendimiento Por supuesto, ejecutar modelos masivos en hardware pequeño tiene sus desventajas. Dado que partes del modelo se transmiten constantemente desde el almacenamiento, la velocidad puede ser más lenta que ejecutar todo en VRAM. Por ejemplo: los modelos grandes pueden generar alrededor de 0.5 tokens por segundo en las GPU de consumo. Puede que esto suene lento, pero es perfectamente aceptable para cargas de trabajo sin conexión, como: análisis de documentos, tareas de investigación, procesamiento por lotes, procesos de IA. En muchos casos, los ahorros de costos superan las limitaciones de velocidad. Capacidades multimodales oLLM no se limita a los modelos de texto. También puede admitir sistemas de IA multimodales, incluidos modelos que procesan: texto + audio texto + imágenes Los ejemplos incluyen modelos como: Voxtral-Small-24B (audio + texto) Gemma-3-12B (imagen + texto) Esto permite a los desarrolladores crear aplicaciones de IA avanzadas que combinan múltiples tipos de datos. Por qué oLLM es importante para el futuro de la IA La IA está actualmente dominada por la infraestructura en la nube y los clústeres de GPU de miles de millones de dólares. Pero herramientas como oLLM representan un cambio hacia una infraestructura de IA democratizada. En lugar de necesitar: GPU costosas, presupuestos masivos para la nube y infraestructura especializada, los desarrolladores pueden experimentar con modelos potentes en hardware normal. Esto abre nuevas oportunidades para: desarrolladores independientes, empresas emergentes, investigadores académicos, aplicaciones centradas en la privacidad. IA local y privacidad. Ejecutar IA localmente también tiene un beneficio importante: la privacidad. Cuando los modelos se ejecutan en su propia máquina: ningún dato sale de su sistema no se registran avisos los documentos confidenciales permanecen privados Esto es especialmente valioso para industrias como: atención médica finanzas servicios legales gobierno Casos de uso para oLLM Algunas aplicaciones del mundo real incluyen: Asistentes de investigación Analice documentos de investigación completos o conjuntos de datos de forma local. Análisis de documentos legales Procese contratos masivos y registros legales con largas ventanas de contexto. Canalizaciones de IA sin conexión Ejecute trabajos de inferencia por lotes sin depender de servicios en la nube. Herramientas de IA centradas en la privacidad Mantenga los datos confidenciales completamente locales. Experimentación para desarrolladores Pruebe modelos grandes sin invertir en hardware costoso. Limitaciones a conocer Si bien es impresionante, el oLLM no es perfecto. Las limitaciones actuales incluyen: Inferencia más lenta en comparación con configuraciones de VRAM completa Uso intensivo de SSD Compatibilidad limitada con algunos hardware (como ciertas configuraciones de Apple Silicon) Sin embargo, estas son desventajas comunes en las primeras herramientas de infraestructura. A medida que mejoren las velocidades de almacenamiento y las técnicas de optimización, es probable que el rendimiento mejore. La tendencia más grande: IA en dispositivos cotidianos oLLM es parte de un cambio más amplio hacia la computación de IA local. Estamos pasando de: IA solo en la nube → IA híbrida → IA totalmente local Los dispositivos futuros pueden ejecutar modelos de IA potentes directamente en: computadoras portátiles teléfonos inteligentes dispositivos de borde hardware de IoT Esta transformación hará que la IA sea más accesible, privada y descentralizada. Reflexiones finales oLLM demuestra algo importante: no siempre se necesita un servidor GPU de 10 000 dólares para ejecutar una IA potente. A través de una gestión inteligente de la memoria, transmisión SSD e inferencia de alta precisión, oLLM permite a los desarrolladores ejecutar modelos de IA masivos en hardware sorprendentemente pequeño. Para los entusiastas, investigadores y desarrolladores de IA, este es un paso emocionante hacia un futuro.
Introducción Cuando las personas escuchan “conducción impulsada por IA”, muchos piensan instintivamente en modelos de lenguaje grande (LLM). Después de todo, los LLM pueden escribir ensayos, generar código y discutir filosofía a las 2 a. m. Pero pasar un coche de forma segura por una intersección muy transitada es un problema muy diferente. Waymo, la empresa de conducción autónoma de Google, opera mucho más allá del alcance de los LLM. Sus vehículos se basan en un conjunto de robótica e inteligencia artificial profundamente integrado, que combina sensores, percepción en tiempo real, razonamiento probabilístico y sistemas de control que deben funcionar perfectamente en el mundo físico, donde los errores se miden en metal, no en fichas. En resumen: Waymo no habla para abrirse paso entre el tráfico. Calcula su camino a través de él. El panorama general: la pila de conducción autónoma de Waymo El sistema de Waymo se puede entender como un sistema en capas: Detectar el mundo Percibir y comprender el entorno Predecir lo que sucederá a continuación Planificar acciones seguras y legales Controlar el vehículo en tiempo real Cada capa es especializada, determinista cuando es necesario, probabilística cuando es necesario y diseñada para la seguridad, no para la conversación. 1. Sensores: ver más de lo que los humanos pueden Los vehículos de Waymo están equipados con sensores redundantes de alta resolución. Esta es la base de todo. Tipos de sensores clave LiDAR: crea un mapa 3D preciso del entorno utilizando pulsos láser. Esencial para la comprensión de la profundidad y la forma. Cámaras: capturan color, textura, semáforos, señales y gestos humanos. Radar: Resistente a la lluvia, la niebla y el polvo; excelente para detectar la velocidad de los objetos. Sensores de audio e IMU: admiten seguimiento de movimiento y reconocimiento del sistema. A diferencia de los humanos, los vehículos de Waymo ven 360 grados, día y noche, sin parpadear ni distraerse con vallas publicitarias. 2. Percepción: Convertir datos brutos en realidad Los sensores por sí solos son simplemente flujos ruidosos de datos. La percepción es donde la IA se gana la vida. Qué hace la percepción Detecta objetos: automóviles, peatones, ciclistas, animales, conos Los clasifica: tipo de vehículo, postura, intención de movimiento Los rastrea a lo largo del tiempo en el espacio 3D Comprende la geometría de la carretera: carriles, bordillos, intersecciones Esta capa se basa en gran medida en la visión por computadora, la fusión de sensores y las redes neuronales profundas, entrenadas en millones de escenarios simulados y del mundo real. Es importante destacar que este no es un razonamiento basado en texto. Se trata de cuestiones espaciales, geométricas y continuas, cosas en las que los LLM son fundamentalmente malos. 3. Predicción: Anticipar el futuro (cortésmente) Conducir no se trata de reaccionar, se trata de predecir. Los sistemas de predicción de Waymo estiman: Dónde es probable que se muevan los agentes cercanos Múltiples futuros posibles, cada uno con probabilidades Comportamientos humanos como la vacilación, la agresión o el cumplimiento Por ejemplo, un peatón cerca de un cruce de peatones no es solo una "persona". Son un conjunto de posibles trayectorias con probabilidades adjuntas. Este modelo probabilístico es fundamental y, nuevamente, muy diferente de la predicción de la siguiente palabra en los LLM. 4. Planificación: tomar decisiones seguras, legales y sociales Una vez que el sistema comprende el presente y predice el futuro, debe decidir qué hacer. Restricciones de planificación Leyes de tránsito Márgenes de seguridad Comodidad de los pasajeros Reglas de tránsito y normas locales El planificador evalúa miles de posibles maniobras, cambios de carril, paradas, giros y selecciona la ruta viable más segura. Este proceso implica algoritmos de optimización, lógica basada en reglas y modelos aprendidos, no generación de lenguaje de formato libre. No hay lugar para la “interpretación creativa” cuando hay una luz roja en juego. 5. Control: Ejecución con precisión Finalmente, el sistema de control traduce los planes en: Ángulos de dirección Aceleración y frenado Correcciones en tiempo real Estos controles operan a alta frecuencia (milisegundos), reaccionando instantáneamente a los cambios. Éste es el territorio de la robótica clásica y la teoría del control, dominios en los que el determinismo siempre supera a la elocuencia. Dónde encajan los LLM (y dónde no) Los LLM son potentes, pero el sistema central de Waymo no depende de ellos. Los LLM pueden ayudar con: Interacción hombre-máquina Atención al cliente Explicaciones en lenguaje natural Herramientas y documentación internas Los LLM no se utilizan para: Decisiones de conducción en tiempo real Control crítico para la seguridad Fusión o percepción de sensores Planificación del movimiento del vehículo ¿Por qué? Porque los LLM son: No deterministas Difíciles de verificar formalmente Propensos a errores de confianza (también conocidos como Un coche que alucina no es una característica. El panorama más amplio: democratizar la IA médica La desigualdad en la atención médica no solo tiene que ver con el acceso a los médicos, sino también con el acceso al conocimiento. Modelos abiertos de IA médica: Reducir las barreras para las regiones con bajos recursos Permitir la innovación local Reducir la dependencia de proveedores externos Si se utiliza de manera responsable, MedGemma podría ayudar a garantizar que los beneficios de la IA médica no se limiten a los pocos que pueden pagarlos. Simulación: donde Waymo realmente escala Una de las mayores ventajas de Waymo es la simulación. Miles de millones de millas recorridas virtualmente Casos extremos raros repetidos miles de veces Escenarios sintéticos que no sería seguro probar en la realidad La simulación permite a Waymo validar las mejoras antes de la implementación y medir la seguridad estadísticamente, algo que ningún sistema de conducción controlado solo por humanos puede hacer. Seguridad y redundancia: la superpotencia poco atractiva El sistema de Waymo está diseñado con: Redundancia de hardware Sistemas de seguridad de software Políticas de decisión conservadoras Monitoreo continuo Si algo es incierto, el automóvil reduce la velocidad o se detiene. Sin bravuconería. Sin ego. Sólo matemáticas. Conclusión: más allá del lenguaje, hacia la realidad Waymo funciona porque trata la conducción autónoma como un problema de robótica e ingeniería de sistemas, no como un problema conversacional. Mientras que los LLM dominan los titulares, Waymo resuelve silenciosamente uno de los desafíos de inteligencia artificial más difíciles del mundo real: navegar de manera segura en entornos humanos impredecibles a escala. En otras palabras, los LLM pueden explicar las leyes de tránsito maravillosamente, pero Waymo en realidad las cumple. Y en la carretera, eso importa más que sonar inteligente. Visite nuestro servicio de anotación de datos Visite ahora Lorem ipsum dolor sit amet, consectetur adipiscing elit. Ut Elit Elit, luctus ncp Mattis Ullamcorper, pulvinar dapibus leo.
Introducción. El ajuste fino de un modelo YOLO es un esfuerzo específico para adaptar detectores potentes y preentrenados a un dominio específico. Lo difícil no es la red. Se trata de obtener los datos etiquetados correctamente, a gran escala y con una calidad repetible. Un sistema automatizado de etiquetado de datos combina preetiquetas asistidas por modelos, aprendizaje activo, pseudoetiquetado, datos sintéticos y verificación humana para entregar esos datos de forma rápida y económica. Esta guía muestra por qué ese flujo de trabajo es importante, cómo encajan sus etapas y qué controles y métricas mantienen el ciclo fiable para que pueda pasar de un pequeño conjunto de datos iniciales a un detector listo para producción con un coste predecible y ganancias cuantificables. Público objetivo y supuestos Esta guía asume que: Utilizas YOLO (v8+ o similar de la familia Ultralytics). Tienes acceso a recursos de GPU modestos (1–8 GPU). Puede ejecutar una interfaz de usuario de etiquetado con ingesta previa de etiquetas (CVAT, Label Studio, Roboflow, Supervisely). Su objetivo es la implementación en producción en la nube o en el borde. Pipeline de extremo a extremo (alto nivel) Ingesta de datos: cámaras, dispositivos móviles, vídeo grabado, conjuntos de datos públicos, cargas de clientes. Preprocesamiento: extracción de fotogramas, deduplicación, agrupación de escenas, captura de metadatos. Preetiquetado: ejecutar un detector de línea base para crear sugerencias de modelos. Intervención humana: los anotadores corrigen las predicciones. Aprendizaje activo: seleccionar las imágenes más informativas para su revisión humana. Pseudoetiquetado: el modelo del profesor etiqueta imágenes sin etiquetar con alta confianza. Combinar, seleccionar, ampliar y convertir a YOLO/COCO. Modelo de ajuste fino. Experimentos de seguimiento. Exportar, optimizar, implementar. Monitorear y reentrenar. Diseñar cada etapa para su automatización mediante enlaces API y control de versiones para conjuntos de datos y especificaciones. Recopilación y organización de datos. Entradas y señales a recopilar para cada archivo: ID de origen, marca de tiempo, metadatos de la cámara, ID de escena, ID de vídeo de origen, ID del cargador. Metadatos de la etiqueta: ID del anotador, aprobación de la revisión, confianza de la anotación, fuente de la etiqueta (humana/pseudo/preetiqueta/sintética). Almacenar procedencia. Utilice la agrupación de escenas/vídeos para crear divisiones de entrenamiento/validación que eviten la fuga de señal. Conjuntos de datos objetivo: Semilla: 500–2,000 imágenes diversas con etiquetas humanas (depende de la tarea). Grupo de escalado: 10k–100k+ fotogramas sin etiquetar para pseudo/AL. Validación: 500–2,000 imágenes estrictamente verificadas por humanos. Nunca mezcles pseudoetiquetas en la validación. Ontología y especificación de etiquetas: Mantenga el conjunto de clases mínimo y preciso. Evite las clases que se superponen. Elabore una especificación breve: reglas de inclusión, umbrales de oclusión, objetos truncados, política de objetos pequeños. Incluya entre 10 y 20 imágenes de ejemplo por regla. Versionar la especificación y requerir aprobación antes del etiquetado masivo. Realice un seguimiento del linaje de las etiquetas en una base de datos ligera o en un almacén de metadatos. Preetiquetado (asistido por modelo) ¿Por qué?: acelera a los anotadores de 2 a 10 veces. Cómo: Ejecutar un YOLO de referencia (preentrenado) en un grupo de datos no etiquetados. Guarda las predicciones en formato estándar (.txt o COCO JSON). Importar predicciones como una capa de anotación en la interfaz de usuario. Marque los recuadros delimitadores con confianza de predicción. Para aumentar el rendimiento, solo se mostrarán a los anotadores las imágenes que superen un umbral de puntuación mínimo o cuyas clases predichas estén ausentes en el conjunto de datos. Comando práctico (Ultralytics): yolo detect predict model=yolov8n.pt source=/data/pool imgsz=640 conf=0.15 save=True Ajuste conf para controlar el esfuerzo de anotación. Consulte la documentación de ajuste fino de Ultralytics para obtener más detalles. Flujo de trabajo con intervención humana y flujo de trabajo de control de calidad: Importar las K imágenes preetiquetadas principales a la interfaz de usuario de anotación. Presentar recuadros predichos editables por el anotador. Demuestra seguridad en ti mismo. Aplicar la revisión de control de calidad a una muestra estratificada. En caso de desacuerdo, se requerirá una segunda revisión. Marcar las imágenes con casos ambiguos para su revisión por un especialista. Controles de calidad: Seguimiento de la concordancia entre anotadores. Muestreo aleatorio de auditoría. Comprobaciones automáticas de la validez de los cuadros delimitadores. Registrar las métricas de control de calidad y utilizarlas en la ponderación del conjunto de datos. Aprendizaje activo: estrategias de selección. El aprendizaje activo reduce las necesidades de etiquetado al concentrar el esfuerzo humano. Utilice una puntuación de selección híbrida: Puntuación de selección = α·incertidumbre + β·novedad + γ·diversidad Donde: incertidumbre = 1 − confianza_máxima_clase en todas las detecciones. novedad = distancia en el espacio de características desde el conjunto etiquetado (usar características de la columna vertebral). diversidad = puntuación de agrupamiento para evitar imágenes redundantes. Funciones de adquisición comunes: Muestreo de incertidumbre (baja confianza). Muestreo de margen (diferencia entre las dos puntuaciones de clase superiores). Selección del conjunto principal (cobertura máxima). Incertidumbre ponderada por densidad (priorizar las imágenes inciertas en regiones densas). Estudios recientes sobre aprendizaje activo muestran mejoras sistemáticas y una notable mejora en la eficiencia del muestreo. Utilice conjuntos o MC-Dropout para obtener estimaciones de incertidumbre mejoradas. Pseudoetiquetado y expansión semi-supervisada El pseudoetiquetado permite expandir datos etiquetados de forma económica. Riesgos: las cajas ruidosas perjudican el aprendizaje. Controles: Fuerza del profesor: se prefiere un modelo de profesor de alta calidad (mayor número de profesores o conjunto). Umbrales duales: confianza_de_clasificación ≥ T_cls (por ejemplo, 0.9). calidad_localización ≥ T_loc (por ejemplo, proxy IoU o métrica de varianza del centro). Ponderación: agregue pseudo muestras con un peso de pérdida menor w_pseudo (por ejemplo, 0.1–0.5) o utilice la reponderación de muestras según la confianza del profesor. Filtrado: aplique filtros guiados por densidad o por consistencia de puntuación para eliminar los falsos positivos densos. Entrenamiento de consistencia: aumentar los pseudoejemplos y forzar predicciones estables (pérdida de consistencia). Métodos seminales como PseCo y sus seguimientos detallan pseudoetiquetas con reconocimiento de localización y entrenamiento de consistencia. Estos enfoques mejoran la fiabilidad de las pseudoetiquetas y el rendimiento posterior. Datos sintéticos y aleatorización de dominios Cuando los datos reales son escasos o peligrosos de recopilar, genere imágenes sintéticas. Buenas prácticas: Utilice la aleatorización del dominio: varíe la iluminación, las texturas, los fondos, la posición de la cámara, el ruido y la oclusión. Mezcla datos sintéticos y reales: realiza un preentrenamiento con datos sintéticos y luego afina el ajuste con un pequeño conjunto de datos reales. Validar en un conjunto de validación real reservado. Las métricas de validación sintéticas a menudo sobreestiman el rendimiento real; siempre verifique con datos reales. Estudios recientes en fabricación y robótica confirman estas contrapartidas. Herramientas: Blender+Python, Unity Perception, NVIDIA Omniverse Replicator. Guarda los metadatos de segmentación/máscara/instancia para tareas posteriores. La política de aumento (práctica) de YOLO se beneficia de un aumento fuerte sobre la marcha al principio del entrenamiento y de un aumento reducido en las pasadas finales. Política por fases sugerida: Fase 1 (calentamiento, épocas 0–20): aumento agresivo. Mosaico, MixUp, escala aleatoria, fluctuación de color, desenfoque, corrupción JPEG. Fase 2 (entrenamiento medio, épocas 21–60): aumento moderado. Mantener Mosaico pero con menor probabilidad. Fase 3 (ajuste final, últimas 10-20% épocas): aumento mínimo para permitir que el modelo se estabilice. Notas: Mosaic ayuda al aprendizaje de objetos pequeños pero puede introducir un contexto poco natural. Reducir la probabilidad de mosaico en las fases finales. Utiliza CutMix o copiar y pegar para equilibrar las clases poco frecuentes. No aumente las divisiones de validación o prueba. La documentación de Ultralytics incluye detalles específicos sobre el aumento de datos y la configuración recomendada. Recetas de ajuste fino de YOLO (detalladas) Elija el modelo inicial en función del equilibrio entre latencia y precisión: Iteración / prototipado: yolov8n (nano) o yolov8s (pequeño). Producción: yolov8m o yolov8l/x dependiendo del objetivo. Receta estándar: Preparar data.yaml: train: /data/train/images val: /data/val/images nc: names: ['class0','class1',…] 2. Etapa 1 — solo cabeza: yolo detect train model=yolov8n.pt data=data.yaml epochs=25 imgsz=640 batch=32 freeze=10 lr0=0.001 3. Etapa 2 — descongelar modelo completo: yolo detect train model=runs/train/weights/last.pt data=data.yaml epochs=75 imgsz=640 batch=16 lr0=0.0003 4. Barrido final: reducir la tasa de aprendizaje, desactivar las mejoras pesadas, entrenar durante unas pocas épocas para estabilizar. Notas sobre hiperparámetros: Optimizador: SGD con momento 0.9 suele generalizar mejor para la detección. AdamW trabaja para una convergencia rápida. LR: calentamiento, se recomienda la función de decaimiento coseno. Iniciar LR basado
Introducción En 2025, elegir el modelo de lenguaje grande (LLM) adecuado será una cuestión de valor, no de publicidad. La verdadera medida del rendimiento es qué tan bien un modelo equilibra el costo, la precisión y la latencia bajo cargas de trabajo reales. Cada token cuesta dinero, cada retraso afecta la experiencia del usuario y cada respuesta incorrecta agrega un trabajo oculto. El mercado ahora se centra en tres líderes: OpenAI, Google y Anthropic. El GPT-4o mini de OpenAI se centra en la eficiencia equilibrada, la línea Gemini 2.5 de Google abarca desde Pro de alta gama hasta niveles Flash económicos, y Claude Sonnet 4.5 de Anthropic ofrece máxima precisión de razonamiento a un precio superior. Esta guía los compara lado a lado para mostrar qué modelo ofrece el mejor rendimiento por dólar para su caso de uso específico. Instantánea de precios (representativa) Proveedor Modelo/Nivel Entrada ($/MTok) Salida ($/MTok) Notas OpenAI GPT-4o mini $0.60 $2.40 Entradas en caché disponibles; equilibradas para chat y RAG. Antrópico Claude Sonnet 4.5 $3 $15 Alto costo de producción; se destaca en razonamientos difíciles y carreras largas. Google Gemini 2.5 Pro $1.25 $10 Fuerte rendimiento multimodal; escalonado por encima de 200k tokens. Google Gemini 2.5 Flash $0.30 $2.50 Baja latencia, alto rendimiento. Posibilidad de descuentos por lotes. Google Gemini 2.5 Flash-Lite $0.10 $0.40 La opción de menor costo para transformaciones y etiquetado en masa. Precisión: elija por costo de falla Las tablas de clasificación públicas cambian rápidamente. Patrón típico: – Claude Sonnet 4.5 a menudo gana en razonamientos complejos o de largo horizonte. Espere menos respuestas "casi correctas". – Gemini 2.5 Pro es fuerte como generalista multimodal y maneja bien las tareas que requieren mucha visión. – GPT-4o mini proporciona una precisión estable y "suficientemente buena" para flujos de RAG y chat comunes a bajo costo unitario. Regla de oro: si un error obliga a una costosa revisión humana o a la pérdida de clientes, compre precisión. De lo contrario, compre rendimiento. Latencia y rendimiento – Gemini Flash / Flash-Lite: diseñado para un bajo tiempo hasta el primer token y una alta tasa de decodificación. Bueno para pipelines de alto volumen en tiempo real.– GPT-4o / 4o mini: streaming rápido y predecible; potente para UX de chat interactivo.– Claude Sonnet 4.5: responsivo en modo normal; los modos de "pensamiento" extendidos intercambian latencia por corrección. Úselo selectivamente. Valor por carga de trabajo Carga de trabajo Modelo(s) recomendado(s) ¿Por qué RAG? Chat / Soporte / Preguntas frecuentes GPT-4o mini; Gemini Flash Precio de salida bajo; transmisión rápida; comportamiento estable. Resumen masivo / etiquetado Gemini Flash / Flash-Lite Precio unitario más bajo y descuentos por lote para un alto rendimiento. Razonamiento complejo / agentes de múltiples pasos Claude Sonnet 4.5 Mayor corrección en el primer paso; menos reintentos. UX multimodal (texto + imágenes) Gemini 2.5 Pro; GPT-4o mini Gemini para visión; GPT-4o mini para una UX equilibrada de modo mixto. Copilotos de codificación Claude Sonnet 4.5; GPT-4.x Mejor para ediciones largas y comportamiento agente; validar en repositorios reales. Un protocolo de evaluación práctica 1. Definir el éxito por ruta: exactitud, tasa de citas, pase@1, tasa de rechazo, latencia p95 y costo/tarea correcta.2. Construya un conjunto de evaluación de 100 a 300 elementos a partir de tickets reales y casos extremos.3. Pruebe tres presupuestos por modelo: salidas a corto, medio y largo plazo. Costo de la pista y latencia p95.4. Agregue un presupuesto de reintento de 1. Si lo común es "reintentar y luego pasar", el modelo más barato puede costar más en general.5. Bloquear un ganador por ruta y volver a ejecutarlo trimestralmente. Ejemplos de costos (aproximados) Escenario: 100 000 llamadas/día. 300 tokens de entrada/250 de salida cada uno. – GPT-4o mini ≈ $66/día– Gemini 2.5 Flash-Lite ≈ $13/día– Claude Sonnet 4.5 ≈ $450/día Estos son ilustrativos. Concéntrese en el coste por tarea correcta, no en el precio unitario bruto. Manual de implementación 1) Segmentar por riesgos: bajo riesgo -> Flash-Lite/Flash. Experiencia de usuario general -> GPT-4o mini. Alto riesgo -> Claude Sonnet 4.5.2) Limitar las salidas: establecer límites de generación estrictos y pautas de estilo concisas.3) Almacenar en caché de forma agresiva: los avisos del sistema y los andamiajes RAG son los principales candidatos.4) Proteger y verificar: validadores livianos para esquemas JSON, citas y unidades.5) Observar todo: tokens de registro, latencia p50/p95, pass@1 y costo por tarea correcta.6) Negociar las palancas empresariales: SLA, capacidad reservada, descuentos por volumen. Consejos específicos del modelo: GPT-4o mini: punto ideal para RAG y chat combinados. Utilice entradas almacenadas en caché para solicitudes reutilizables. – Gemini Flash / Flash-Lite: predeterminado para pipelines de millones de elementos. Combine Batch + almacenamiento en caché.– Gemini 2.5 Pro: aumente para necesidades de visión intensiva o mayor precisión por encima de Flash.– Claude Sonnet 4.5: habilite el razonamiento extendido solo cuando lo que está en juego justifique una salida más lenta. P: ¿Puede un modelo cubrir todas las rutas? R: Sí, pero en algún lugar pagará de más o entregará de menos. P: ¿Las tablas de clasificación lo deciden?R: Úsalas para hacer una lista corta. Tus evaluaciones deciden. P: ¿Cuándo subir de nivel?R: Cuando el pase @1 en tus evaluaciones se estanca por debajo del objetivo y los reintentos agotan el presupuesto. P: ¿Cuándo bajar de nivel?R: Cuando los resultados son cortos, estables y la tolerancia del usuario a variaciones menores es alta. Conclusión Los LLM modernos ganan con una curación de datos disciplinada, una arquitectura pragmática y una capacitación sólida. Los mejores equipos ejecutan un ciclo: implementan, observan, recopilan, sintetizan, alinean y vuelven a implementar. La recuperación fundamenta la verdad. La optimización de preferencias moldea el comportamiento. La cuantificación y la dosificación proporcionan escala. Por encima de todo, la evaluación debe ser continua y estar alineada con el negocio. Utilice las listas de verificación para poner en práctica. Comience con algo pequeño, instrumente todo y vaya iterando el volante. Visite nuestro servicio de recopilación de datos Visitar ahora
Introducción Los LLM modernos ya no son curiosidades. Son infraestructura de primera línea. La búsqueda, la codificación, el soporte, el análisis y el trabajo creativo ahora se enrutan a través de modelos que leen, razonan y actúan a escala. Los ganadores no se definen sólo por el número de parámetros. Ganan al ejecutar un ciclo disciplinado: seleccionan mejores datos, eligen arquitecturas que se ajusten a las limitaciones, capacitan y alinean con cuidado y luego miden lo que realmente importa en la producción. Esta guía adopta una visión de sistemas. Empezamos con los datos porque la calidad y la cobertura marcan tu techo. Examinamos arquitecturas densas, MoE e híbridas a través de la lente de la latencia, el costo y la capacidad. Mapeamos los procesos de entrenamiento desde el preentrenamiento hasta el ajuste de instrucciones y la optimización de preferencias. Luego pasamos a la inferencia, donde el rendimiento, la cuantificación y la recuperación determinan la experiencia del usuario. Por último, tratamos la evaluación como una función operativa, no como un pasatiempo de clasificación. La postura es práctica y progresista. Los ecosistemas abiertos superan a los silos cuando se respetan la privacidad y las licencias. La seguridad es un requisito del producto, no un comunicado de prensa. La eficiencia es una política climática con otro nombre. Y sí, se puede tener rigor sin disminuir la velocidad: los perfiladores y las tablas de ablación son más baratos que las interrupciones. Si crea productos LLM, este manual muestra las palancas que mueven los resultados: qué recopilar, qué capacitar, qué servir y qué medir. Si está actualizando una pila existente, encontrará patrones integrados para contexto largo, uso de herramientas, RAG y evaluación en línea. A lo largo del camino, mantenemos el tono claro y las listas de verificación contundentes. El objetivo es simple: modelos de barcos que sean útiles, veraces y asequibles. Si hacemos una broma es sólo para mantener despiertos los gráficos. Por qué triunfan los LLM: una visión de sistemas Los LLM funcionan porque tres volantes de inercia se refuerzan mutuamente: la escala y la diversidad de los datos mejoran los antecedentes y la generalización. La arquitectura convierte el cómputo en capacidad con sesgos inductivos y memoria eficientes. Los canales de entrenamiento explotan el hardware a escala mientras alinean los modelos con las preferencias humanas. Trate un LLM como un sistema de extremo a extremo. Las entradas son tokens y herramientas. Las palancas son la calidad de los datos, las opciones de arquitectura y los programas de capacitación. Los resultados son precisión, latencia, seguridad y costo. Los equipos modernos iteran todo el ciclo, no solo los pesos del modelo. Datos en la taxonomía central de datos de entrenamiento Texto web público: amplia cobertura, ruidoso, variación en las licencias. Corpus curados: libros, código, artículos académicos. Mayor calidad, ancho más estrecho. Datos del dominio: manuales, tickets, chats, contratos, EMR, archivos financieros. Crítico para la empresa. Registros de interacción: conversaciones, seguimientos de herramientas, sesiones de búsqueda. Valioso para post-entrenamiento. Datos sintéticos: auto-interpretación, explicaciones bootstrap, diversas paráfrasis. Una perilla de control para la cobertura. Un modelo base sólido utiliza datos de preentrenamiento grandes y diversos para aprender el lenguaje general. La excelencia del dominio llega más tarde, mediante un entrenamiento y una recuperación posteriores específicos. Calidad, Diversidad y Cobertura Calidad: corrección, coherencia, integridad. Diversidad: géneros, dialectos, dominios, estilos. Cobertura: temas, casos extremos, entidades raras. Utilice un muestreo ponderado: aumente la muestra de géneros escasos pero valiosos (soluciones matemáticas, código, texto de procedimiento) y reduzca la muestra de texto repetitivo o spam de bajo valor. Mantener taxonomías de temas y medir la representación. Aplicar heurísticas basadas en la entropía y la perplejidad para aproximar la dificultad y la novedad. Limpieza, deduplicación y control de contaminación Limpieza: eliminar código repetitivo, normalizar Unicode, eliminar rastreadores, reparar marcado roto. Desduplicación: MinHash/LSH o similitud de incrustación con umbrales por dominio. Conserve una copia de alta calidad. Contaminación: protección contra fugas en las pruebas del tren. Mantener listas de bloqueo de elementos de evaluación, marcas de tiempo de rastreo y verificaciones casi duplicadas. Procedencia del registro para responder a "¿de dónde proviene un token?" Tokenización y estrategia de vocabulario Los sistemas modernos favorecen los tokenizadores BPE o Unigram a nivel de byte con cobertura multilingüe. Objetivos de diseño: Escrituras raras compactas sin aumentar el tamaño del vocabulario. Manejo estable de puntuación, números y código. Baja inflación de tokens para texto de dominio (matemáticas, legal, código). Evaluar el costo de tokenización por dominio. Un pequeño cambio en el tokenizador puede cambiar los costos del contexto y la estabilidad del entrenamiento. Datos estructurados y de contexto largo Si espera más de 128 000 tokens: entrene con programas de estudio de secuencia larga y codificaciones posicionales apropiadas. Incluya formatos de datos estructurados: JSON, XML, tablas, registros. Enseñe la adherencia al formato con generación restringida por esquemas y ejemplos de pocos intentos. Datos sintéticos y volantes de datos Los datos sintéticos llenan vacíos: las explicaciones y los fundamentos aumentan la fidelidad en las tareas de razonamiento. Los pares contrastantes mejoran los límites de rechazo y seguridad. Los contrafácticos ponen a prueba el razonamiento y reducen el aprendizaje por atajos. Construir un volante de datos: implementar → recopilar interacciones de usuarios y casos de falla → iniciar correcciones con datos sintéticos → validar → volver a entrenar. Privacidad, cumplimiento y licencias Mantenga los metadatos de la licencia por muestra. Aplique la limpieza de PII con detectores en capas y revisión humana para dominios de alto riesgo. Apoyar las solicitudes de los interesados mediante el seguimiento de la procedencia y los períodos de retención. Conjuntos de datos de evaluación: construcción de un criterio confiable Diseñe evaluaciones que reflejen su realidad: Capacidad estática: comprensión del lenguaje, razonamiento, codificación, matemáticas, multilingüismo. Específico del dominio: sus políticas, formatos, documentos de productos. En vivo en línea: tráfico en la sombra, avisos canarios, sondas contrafactuales. Gire las evaluaciones y evite el sobreajuste. Mantenga un equipo de prueba sellado. Arquitecturas que escalan transformadores, atención y posicionalidad La línea base sigue siendo transformadores solo con decodificador y con atención causal. Componentes clave: Atención de múltiples cabezas para representación distribuida. Redes de propagación hacia adelante con variantes controladas (GEGLU/Swish-Gated) para expresividad. LayerNorm/RMSNorm para estabilidad. Codificaciones posicionales para inyectar orden. Atención eficiente: variantes Flash, agrupadas y lineales FlashAttention: núcleos que reconocen IO, atención exacta con mejor localidad de memoria. Atención de consultas múltiples o consultas agrupadas: menos encabezados clave/valor, decodificación más rápida con mínima pérdida de calidad. Atención lineal y trucos de kernel: útiles para secuencias muy largas, pero sacrifican exactitud. Ampliación del contexto: RoPE, ALiBi y trucos de extrapolación RoPE (incrustaciones rotatorias): valor predeterminado fuerte para preentrenamiento de contexto largo. ALiBi: sesgo de atención que escala el contexto sin volver a entrenar las tablas posicionales. El escalamiento de NTK/cuerda y la continuación al estilo YaRN pueden ampliar el contexto efectivo, pero siempre se validan en evaluaciones de contexto largas. Los cachés segmentados y la atención en ventanas pueden reducir el costo cuadrático en la inferencia. Mezcla de expertos (MoE) y enrutamiento MoE aumenta el recuento de parámetros con un cómputo limitado por token: el enrutamiento Top-k (k = 1 o 2) activa un subconjunto de expertos. El equilibrio de pérdidas evita el colapso de los expertos. El paralelismo experto es una nueva dimensión en el entrenamiento distribuido. Ganancias: mayor capacidad con FLOP similares. Costos: complejidad, riesgo de inestabilidad, desafíos del servicio. Alternativas con estado: SSM y pilas híbridas Los modelos de espacio de estados estructurados (SSM) y las familias sucesoras ofrecen modelado de secuencias en tiempo lineal. Los híbridos combinan bloques SSM para la memoria con atención para una recuperación flexible. Casos de uso: secuencias muy largas, streaming. Multimodalidad: Texto+Visión+Audio Los asistentes modernos combinan modalidades: los codificadores de visión (tipo ViT/CLIP) proyectan imágenes en flujos de tokens. Los codificadores/decodificadores de audio manejan ASR y TTS. Estrategias de fusión: fusión temprana a través de aprendizaje
Introducción Los modelos de lenguaje grande (LLM) como GPT-4, Claude 3 y Gemini están transformando industrias al automatizar tareas, mejorar la toma de decisiones y personalizar las experiencias de los clientes. Estos sistemas de IA, entrenados con grandes conjuntos de datos, se destacan por comprender el contexto, generar texto y extraer información de datos no estructurados. Para las empresas, los LLM permiten obtener ganancias de eficiencia, innovación y ventajas competitivas, ya sea agilizando el servicio al cliente, optimizando las cadenas de suministro o acelerando el descubrimiento de fármacos. Este blog explora más de 20 casos de uso de LLM de alto impacto en diferentes industrias, respaldados por ejemplos del mundo real, conocimientos basados en datos y estrategias prácticas. Descubra cómo las empresas líderes aprovechan los LLM para reducir costos, impulsar el crecimiento y mantenerse a la vanguardia en la era de la IA. Revolución de la experiencia del cliente Los chatbots inteligentes y los asistentes virtuales LLM potencian la atención al cliente las 24 horas, los 7 días de la semana con interacciones similares a las humanas. Ejemplo: Erica del Bank of America: un asistente virtual impulsado por IA que gestiona más de 50 millones de interacciones con clientes al año y resuelve el 80 % de las consultas sin intervención humana. Beneficios: Reducción del 40 al 60% en costos de soporte. 30% de mejora en la satisfacción del cliente (CSAT). Tabla 1: Principales plataformas de chatbot con tecnología LLM Plataforma Características clave Integración Modelo de precios Dialogflow Multilingüe, reconocimiento de intención CRM, Slack, WhatsApp Pago por uso Zendesk AI Análisis de sentimientos, chat en vivo Salesforce, Shopify Suscripción Ada Automatización sin código, análisis HubSpot, Zendesk Precios escalonados Marketing hiperpersonalizado Los LLM analizan los datos de los clientes para diseñar campañas personalizadas. Caso de uso: Motor de recomendaciones de Netflix: Los LLM impulsan el 80% del contenido visto por los usuarios a través de sugerencias personalizadas. Flujo de trabajo: segmente audiencias mediante agrupamiento impulsado por LLM. Genere variantes dinámicas de correo electrónico/contenido. Pruebe A/B y refine campañas en tiempo real. Tabla 2: ROI de personalización por industria Industria ROI Aumento Incremento de conversión Comercio electrónico 35% 25% Banca 28% 18% Salud 20% 12% Eficiencia operativa Procesamiento automatizado de documentos Los LLM extraen información de contratos, facturas e informes. Ejemplo: COIN de JPMorgan: procesa más de 12,000 documentos legales al año, reduciendo el trabajo manual en 360,000 horas. Fragmento de código: Resumen de documentos con GPT-4 from openai import OpenAI client = OpenAI(api_key="your_key") document_text = "..." # Ingrese un contrato extenso response = client.chat.completions.create( model="gpt-4-turbo", messages=[ {"role": "user", "content": f"Resuma este contrato en 5 viñetas: {document_text}"} ] ) print(response.choices[0].message.content) Tabla 3: Métricas de procesamiento de documentos Métrica Procesamiento manual Automatización LLM Tiempo por documento 45 mins 2 mins Tasa de error 15% 3% Costo por documento $18 $0.50 Optimización de la cadena de suministro Los LLM predicen la demanda, optimizan las rutas y gestionan los riesgos. Estudio de caso: Gestión de inventario de Walmart: los LLM redujeron las faltantes de existencias en un 30 % y el exceso de inventario en un 25 % utilizando análisis predictivos. Los LLM en gestión de talentos y contratación basada en inteligencia artificial examinan currículos, realizan entrevistas y reducen los sesgos. Herramientas: HireVue: analiza entrevistas en vídeo en función del tono y las palabras clave. Textio: Genera descripciones de trabajo inclusivas. Tabla 4: Mejora de las métricas de eficiencia en el reclutamiento Tiempo de contratación -50 % Diversidad de candidatos +40 % Costo por contratación -35 % Capacitación de empleados Los LLM crean rutas de aprendizaje personalizadas y simulan escenarios. Ejemplo: “AI Academy” de Accenture: capacita a los empleados en herramientas LLM, reduciendo el tiempo de incorporación en un 60%. Los LLM en Innovación en Servicios Financieros están revolucionando las finanzas al automatizar la evaluación de riesgos, mejorar la detección de fraudes y permitir la toma de decisiones basada en datos. Los LLM en detección de fraude y gestión de riesgos analizan patrones de transacciones, sentimiento social y datos históricos para señalar anomalías en tiempo real. Ejemplo: el sistema de detección de fraudes de PayPal: los LLM procesan 1.2 millones de transacciones diarias, reduciendo los falsos positivos en un 50% y ahorrando 800 millones de dólares al año. Fragmento de código: Detección de anomalías con LLM de la canalización de importación de transformadores # Cargar un LLM entrenado previamente para la clasificación de secuencias fraude_detector = pipeline(“text-classification”, model="ProsusAI/finbert") transacción_datos = "Usuario 123: transferencia de $5,000 a una cuenta extranjera no verificada a las 3 a. m." resultado = fraude_detector(transaction_data) si resultado[0]['label'] == 'FRAUD': block_transaction() Tabla 1: Métricas de detección de fraude Métrica Sistemas basados en reglas Sistemas impulsados por LLM Precisión de detección 82 % 98 % Falsos positivos 25 % 8 % Velocidad de procesamiento 500 ms/transacción 150 ms/transacción Comercio algorítmico Los LLM ingieren llamadas de ganancias, noticias y presentaciones ante la SEC para predecir los movimientos del mercado. Estudio de caso: Renaissance Technologies: LLM integrados en algoritmos comerciales, logrando un rendimiento anualizado del 27 % en 2023. Flujo de trabajo: Extraer noticias financieras en tiempo real. Genere puntuaciones de sentimiento utilizando LLM. Ejecutar operaciones basadas en umbrales de sentimiento. Asesoramiento financiero personalizado Los LLM potencian a los robo-advisors como Betterment, ofreciendo estrategias de inversión personalizadas basadas en perfiles de riesgo. Beneficios: Aumento del 40% en la retención de clientes. Reducción del 30% en honorarios de asesoría. Los LLM en transformación de la atención médica están acelerando el diagnóstico, el descubrimiento de fármacos y la atención al paciente. Los modelos de apoyo a la toma de decisiones clínicas como Med-PaLM 2 de Google analizan los registros médicos electrónicos (EHR) para recomendar tratamientos. Ejemplo: Clínica Mayo: redujo los errores de diagnóstico en un 35 % utilizando LLM para cotejar las historias de los pacientes con la literatura médica. Fragmento de código: Triaje de pacientes con LLM from openai import OpenAI client = OpenAI(api_key="your_key") patient_history = "65yo male, chest pain, history of hypertension..." response = client.chat.completions.create( model="gpt-4-medical", messages=[ {"role": "user", "content": f"Priorizar el triaje para: {patient_history}"} ] ) print(response.choices[0].message.content) Tabla 2: Precisión diagnóstica Afección Médico Precisión Precisión de LLM Neumonía 78% 92% Control de la diabetes 65% 88% Detección del cáncer 70% 85% Descubrimiento de fármacos Los LLM predicen interacciones moleculares, acortando los ciclos de I+D. Estudio de caso: Insilico Medicine: Se utilizaron LLM para identificar un nuevo objetivo farmacológico contra la fibrosis en 18 meses (en comparación con... 4-5 años tradicionalmente). Los chatbots de telemedicina y salud mental como Woebot brindan terapia cognitivo conductual (TCC) a 1.5 millones de usuarios en todo el mundo. Beneficios: Acceso a apoyo de salud mental las 24 horas, los 7 días de la semana. Reducción del 50% en las visitas a urgencias por ansiedad. Los LLM en legal y cumplimiento automatizan el análisis de contratos, las verificaciones de cumplimiento y el descubrimiento electrónico. Herramientas de revisión de contratos como Kira Systems extraen cláusulas de documentos legales con una precisión del 95%. Fragmento de código: Extracción de cláusulas legal_llm = pipeline(“ner”, model="dslim/bert-large-NER-legal") contract_text = "El plazo comenzará el 1 de enero de 2025 (la 'Fecha de entrada en vigor')". results = legal_llm(contract_text) # Extraer cláusulas clave para la entidad en resultados: if entity['entity'] == 'CLAUSE': print(f"Clause: {entity['word']}") Tabla 3: Manual vs. Revisión manual de métricas de revisión de contratos de LLM Revisión manual de LLM Tiempo de revisión de LLM por contrato 3 horas 15 minutos Costo por contrato $450 $50 Tasa de error 12% 3% Cumplimiento normativo Los LLM rastrean las regulaciones globales (por ejemplo, GDPR, CCPA) y actualizan automáticamente las políticas. Ejemplo: JPMorgan Chase: redujo las violaciones de cumplimiento en un 40 % utilizando LLM para monitorear las comunicaciones comerciales. Desafíos y mitigaciones Soluciones de seguridad y privacidad de datos: Aprendizaje federado: Entrene modelos en datos descentralizados sin compartir datos sin procesar. Cifrado homomórfico: procesar datos cifrados en tránsito (por ejemplo, el kit de herramientas de cifrado totalmente homomórfico de IBM). Tabla 4: Técnicas de privacidad Técnica Caso de uso Latencia Impacto Aprendizaje federado Atención médica (análisis de EHR) +20 % Privacidad diferencial Anonimización de datos de clientes +5 % Mitigaciones de sesgo y equidad: Algoritmos de eliminación de sesgos: utilice herramientas como AI Fairness 360 de IBM para auditar modelos. Datos de capacitación diversos: seleccione conjuntos de datos con una representación equilibrada de género, raza y socioeconómica. Estrategias de optimización de costos y escalabilidad: Cuantización: reduzca el tamaño del modelo en un 75 % con precisión de 8 bits. Destilación modelo: transferencia