Ejemplo

Aquí puedes encontrar ejemplos y recursos de aprendizaje sobre cómo usar Xinference.

Ejemplo

Usar la aplicación de extremo a extremo de Xinference:

• Podcast sobre conversación por voz con agentes de IA en M2 Max

• Interacción con modelos LLM: Ejemplo de línea de comandos

• Interacción con modelos LLM: Ejemplo de página de chat de Gradio

• Chatbot PDF con LLM local y modelo de embedding

• Uso de LangChain y Streamlit para el diálogo con documentos locales

Si encuentras otros ejemplos en tu propio flujo de trabajo, te animamos a contribuir con un PR!

Tutorial

El siguiente tutorial cubre los conceptos básicos del uso de Xinference en diferentes escenarios:

• [Notebook] Aplicación de preguntas y respuestas (QA) con Xinference, Milvus y LangChain

• Usando LLMs locales de Xinference en LlamaIndex

• [Chinese] 如何让 Chatbox 接入开源大模型，实现免费聊天

• [Chinese] 摆脱 OpenAI 依赖，8 分钟教你用开源生态构建全栈 AI 应用

• [Chinese] 使用全套开源工具构建 LLM 应用实战： 在 Dify 调用 Baichuan 开源模型能力

Integración de bibliotecas de terceros

Xinference puede integrar e implementar modelos de IA de código abierto de manera fluida, por lo que admite los kits de herramientas principales en el campo de la IA. Xinference se puede utilizar con las siguientes bibliotecas de terceros:

• LangChain Text Embedding Models and LLMs

• LlamaIndex Xinference LLM