1. X
  2. vLLM
ΣύνδεσηΕγγραφή
vLLM
1,111 posts
user avatar
vLLM
@vllm_project
A high-throughput and memory-efficient inference and serving engine for LLMs. Join slack.vllm.ai to discuss together with the community!
vllm.ai
Έγινε μέλος March 2024
36
Ακολουθείτε
43.8K
Ακόλουθοι
ΑπαντήσειςΑπαντήσειςΠολυμέσαΠολυμέσα

Νέοι στο Χ;

Εγγραφείτε τώρα και αποκτήστε το δικό σας εξατομικεύμενο χρονολόγιο!

Δημιουργία λογαριασμού

Με την εγγραφή, συμφωνείτε με τους Όρους παροχής της υπηρεσίας και την Πολιτική απορρήτου, καθώς και με τη Χρήση cookie.

Terms·Privacy·Cookies·Προσβασιμότητα·Ads Info·© 2026 X Corp.
Don't miss what's happening
Οι άνθρωποι στο X είναι οι πρώτοι που το μαθαίνουν.
ΣύνδεσηΕγγραφή
  • Καρφιτσωμένα
    user avatar
    vLLM
    @vllm_project
    9 Ιουλ
    Announcing the first-ever vLLM Conference — hosted by @inferact at Ray Summit, Aug 24–26 in San Francisco 🎉🌉 This is where we'll get into the work pushing open, high-performance inference forward, such as: 🗺️ Where the vLLM roadmap is headed ⚡ Getting the most out of
    First vLLM Conference at Ray Summit
    Από vllm.ai
    29K
  • user avatar
    vLLM
    @vllm_project
    20 Οκτ 2025
    🚀 DeepSeek-OCR — the new frontier of OCR from @deepseek_ai , exploring optical context compression for LLMs, is running blazingly fast on vLLM ⚡ (~2500 tokens/s on A100-40G) — powered by vllm==0.8.5 for day-0 model support. 🧠 Compresses visual contexts up to 20× while keeping