1. X
  2. vLLM
Kirjaudu sisäänRekisteröidy
vLLM
1,110 posts
user avatar
vLLM
@vllm_project
A high-throughput and memory-efficient inference and serving engine for LLMs. Join slack.vllm.ai to discuss together with the community!
vllm.ai
Liittynyt March 2024
36
Seurataan
43.8K
Seuraajat
VastauksetVastauksetMediaMedia

Onko X sinulle uusi?

Rekisteröidy nyt, niin saat itsellesi räätälöidyn aikajanan

Luo tili

Rekisteröitymällä hyväksyt käyttöehdot ja tietosuojakäytännön sekä evästeiden käytön.

Terms·Privacy·Cookies·Esteettömyys·Ads Info·© 2026 X Corp.
Don't miss what's happening
Tuoreimmat uutiset löytyvät X:stä.
Kirjaudu sisäänRekisteröidy
  • Kiinnitetty
    user avatar
    vLLM
    @vllm_project
    9.7.
    Announcing the first-ever vLLM Conference — hosted by @inferact at Ray Summit, Aug 24–26 in San Francisco 🎉🌉 This is where we'll get into the work pushing open, high-performance inference forward, such as: 🗺️ Where the vLLM roadmap is headed ⚡ Getting the most out of
    First vLLM Conference at Ray Summit
    Tililtä vllm.ai
    29K
  • user avatar
    vLLM
    @vllm_project
    20.10.2025
    🚀 DeepSeek-OCR — the new frontier of OCR from @deepseek_ai , exploring optical context compression for LLMs, is running blazingly fast on vLLM ⚡ (~2500 tokens/s on A100-40G) — powered by vllm==0.8.5 for day-0 model support. 🧠 Compresses visual contexts up to 20× while keeping