Xinference Models Hub#

Added in version v1.13.0.

Resumen#

Xinference Models Hub es una plataforma unificada de Xinference para la gestión y colaboración de modelos. Proporciona soporte integral para el navegador, registro, revisión, actualización y mantenimiento colaborativo de modelos, ofreciendo capacidades de flujo completo tanto para usuarios comunes como para mantenedores de modelos.

Antes de la introducción de Models Hub, los archivos JSON de los modelos debían ser modificados directamente por los usuarios a través de PR en el repositorio de código abierto xorbitsai/inference. Este enfoque provocaba que las versiones de los modelos fueran incontrolables, los ciclos de iteración largos, las actualizaciones dependieran del proceso de lanzamiento del producto, y los usuarios no pudieran obtener los modelos más recientes de manera oportuna.

A través del mecanismo centralizado de gestión de modelos en línea, Xinference Models Hub exige que toda la información del modelo (incluidos metadatos, parámetros y README) se edite en la plataforma. El sistema generará y enviará automáticamente un PR al repositorio xorbitsai/inference según las modificaciones del mantenedor del modelo, logrando una estandarización, automatización y trazabilidad del proceso, y evitando problemas de inconsistencia causados por modificaciones manuales.

Los usuarios pueden obtener la lista de modelos más reciente en cualquier momento mediante la función model update, lo que mejora significativamente la eficiencia de entrega de modelos y la experiencia general de uso.

Guía del usuario general#

Esta sección presenta las funciones básicas que los usuarios registrados comunes pueden utilizar.

Destinatarios: Usuarios comunes sin permisos de registro o mantenimiento de modelos.

Funcionalidades principales#

Los usuarios normales pueden navegar por los modelos públicos sin necesidad de iniciar sesión:

Examinar modelo#

  • Función: Ver todos los modelos disponibles públicamente

  • Ubicación de entrada: Barra de navegación → “Models”

  • Detalles del modelo: Se muestra por defecto la etiqueta README, que incluye la descripción del modelo, la guía de uso y las precauciones.

Nota

Algunos modelos avanzados o empresariales solo son visibles para usuarios con los permisos correspondientes.

Guía del mantenedor del modelo#

Esta sección presenta las funciones disponibles para los usuarios con permisos de registro o mantenimiento de modelos, incluyendo el registro, actualización y proceso de revisión de modelos.

Destinatarios: Usuarios con permisos de registro o mantenimiento de modelos.

Funcionalidades principales (requiere inicio de sesión)#

Sobre la base de las funciones del usuario normal, el mantenedor del modelo puede utilizar las siguientes capacidades avanzadas:

Centro de usuarios#

  • Función: Ver y gestionar información personal

  • Ubicación de entrada: Avatar en la esquina superior derecha → «Centro de usuario»

  • Gestión de cuentas: Actualizar perfil personal, correo electrónico y otra información.

  • Gestión de tokens: Configurar un token personal de GitHub para enviar o actualizar modelos.

Nota

Si no se configura un token personal de GitHub, el sistema utilizará un token predeterminado al generar el PR.

Model Registry#

  • Función: Registrar un nuevo modelo y enviar para revisión.

  • Ubicación de entrada: Tras iniciar sesión → Icono de perfil en la esquina superior derecha → «Registro de modelo»

Pasos para enviar:

  1. Llena la información del modelo base (nombre, motor, formato, etc.)

  2. Editar el README (haga clic en «Obtener README» para generar automáticamente una plantilla)

  3. Enviar el modelo (si necesita registrar un modelo público, active el parámetro «Modelo público»)

Nota

Al registrar un modelo público, el sistema creará automáticamente un PR en el repositorio xorbitsai/inference.

Mi modelo#

  • Función: Ver todos los modelos relacionados con la cuenta actual

  • Ubicación de entrada: Después de iniciar sesión → Icono de perfil en la esquina superior derecha → «Mis modelos»

Modelo en mantenimiento#

  • Función: Modificar el JSON o README del modelo

  • Ubicación de entrada: Página de detalles del modelo → Icono de «Configuración»

Nota

Al actualizar el modelo público, el sistema creará automáticamente un PR en el repositorio xorbitsai/inference.

Proceso de revisión#

Flujo del colaborador:

  1. Enviar modelo

  2. Esperando revisión

  3. Modificar según las observaciones de la revisión.

  4. Para los modelos públicos, el PR se actualiza automáticamente después de la modificación.

Permisos del revisor: Puede acceder a la lista de revisión de modelos y realizar operaciones de revisión.

Flujo del revisor:

  1. Ingrese a la «Lista de Revisión».

  2. Evaluar la calidad del modelo, la integridad y la normatividad de la información.

  3. Aprobado o rechazado, y proporcionar la retroalimentación correspondiente.