1. X
  2. vLLM
Iniciar sesiónRegístrate
vLLM
1,110 posts
user avatar
vLLM
@vllm_project
A high-throughput and memory-efficient inference and serving engine for LLMs. Join slack.vllm.ai to discuss together with the community!
vllm.ai
Te uniste el March 2024
36
Siguiendo
43.8K
Seguidores
RespuestasRespuestasMultimediaMultimedia

¿Eres nuevo en X?

Regístrate ahora para obtener tu propia cronología personalizada.

Crear cuenta

Al registrarte, aceptas los Términos de servicio y la Política de Privacidad, incluyendo el Uso de Cookies.

Terms·Privacy·Cookies·Accesibilidad·Ads Info·© 2026 X Corp.
Don't miss what's happening
Las personas en X son las primeras en enterarse.
Iniciar sesiónRegístrate
  • Fijado
    user avatar
    vLLM
    @vllm_project
    9 jul
    Announcing the first-ever vLLM Conference — hosted by @inferact at Ray Summit, Aug 24–26 in San Francisco 🎉🌉 This is where we'll get into the work pushing open, high-performance inference forward, such as: 🗺️ Where the vLLM roadmap is headed ⚡ Getting the most out of
    First vLLM Conference at Ray Summit
    De vllm.ai
    29K
  • user avatar
    vLLM
    @vllm_project
    20 oct 2025
    🚀 DeepSeek-OCR — the new frontier of OCR from @deepseek_ai , exploring optical context compression for LLMs, is running blazingly fast on vLLM ⚡ (~2500 tokens/s on A100-40G) — powered by vllm==0.8.5 for day-0 model support. 🧠 Compresses visual contexts up to 20× while keeping