Software AMD Ryzen™ AI

Destaques da versão 1.6

• Desempenho aprimorado e tempo de compilação reduzido para o compilador BF16
• Novo compilador Integer com suporte para quantização assimétrica geral (A8W8, A16W8)
• Conjunto expandido de modelos exclusivos de NPU com desempenho otimizado (mais tokens por segundo em KRK e GPT)
• O comprimento do contexto aumentou até 4K para todos os LLMs
• Suporte adicional para novas arquiteturas de LLM: Phi-4 e Qwen-3
• Suporte para resolução dinâmica para SD 3.0/3.5, com ganhos de desempenho em outros modelos SD, incluindo novas adições (SD2.1-v 768×768 text2image, SDXL-base 1024×1024 text2image)

Destaques da versão 1.5

• Novos recursos
  • Gere imagens usando pipelines de difusão estável (SD 1.5, 2.1, SDXL e 3.0).
  • Integre recursos de conversão de fala em texto com suporte para os modelos Zipformer e Whisper-base.
  • Otimize a capacidade de resposta do sistema com a opção Preempção, que aloca dinamicamente recursos de computação para tarefas de alta prioridade.

Destaques da versão 1.4

• Novos recursos
  • Instalador unificado com LLM e fluxo de modelo geral (INT8, BF16), uma experiência contínua com suporte para todos os tipos de modelos em um pacote de versão única.
  • Primeira versão do suporte do Windows para a compilação e a quantização de modelos BF16 para cargas de trabalho de CNN e NLP.
  • Suporte para Fluxo de OGA para LLM, facilitando a implantação eficiente de LLMs.
• Suporte a modelos novos de LLM
  • Série DeepSeek-R1 Distill: Llama-8B, Qwen-1.5B, Qwen-7B
  • Série Qwen2: Qwen2-1.5B, Qwen2-7B
  • Gemma2-2B
  • AMD-OLMO-1B-SFT-DPO
  • Codellama-7B, Mistral-7B e muito mais

Recursos técnicos

Destaques da versão 1.3

• Novos recursos
  • Suporte antecipado para o quantizador unificado AMD “Quark”
  • Suporte para tipos de dados de precisão mista e aplicações Copilot+
  • Atualização da ferramenta de criação de perfil CNN
• Suporte ao novo modelo para fluxo ONNX-GenAI (OGA)
  • Llama2-7B-Chat/Meta-Llama-3.1-8B
  • Phi-3-Mini-4K-Instruct/Phi-3.5-Mini-Instruct
  • Mistral-7B-Instruct-v0.3

Recursos técnicos

Destaques da versão 1.2

• Novo suporte arquitetônico
  • Suporte para o Strix (STX): NPUs AMD Ryzen™ AI 9 HX370 e Ryzen AI 9 365
  • Suporte unificado para GPU integrada (iGPU) e NPU por meio do software Ryzen AI
• Novas ferramentas, modelos e recursos de acesso antecipado
  • Nova ferramenta de análise, criação de perfil e visualização para modelos em execução na NPU (AI Analyzer)
  • Nova ferramenta de inspeção e gerenciamento de plataforma/NPU (xrt-smi)
  • Suporte a fluxo de LLM para vários fluxos no PyTorch e no ONNX

Recursos técnicos

Destaques da versão­ 1.1

• Suporte a novos modelos:
  • Llama 2 7B com quantização w4abf16 (3 bits e 4 bits) (Beta)
  • Base Whisper (acesso antecipado)
• Novas ferramentas e recursos de EoU:
  • Ferramenta de referência CNN sobre representantes do software Ryzen AI
  • Ferramenta de inspeção e gerenciamento de plataforma/NPU

Recursos técnicos

Destaques da versão 1.0

• Suporte a modelos
  • Mais de mil modelos CNN validados
  • OPT-1.3B na NPU usando fluxos PyTorch e ONNX
• Ferramentas e recursos de EoU
  • Suporte a PTQ (Post Training Quantization, Quantização pós-treinamento) ONNX, PTQ PyTorch e QAT (Quantization Aware Training, Treinamento com reconhecimento de quantização)
  • Suporte ao Provedor de execução do Vitis AI do ONNX Runtime com APIs C++ e Python
  • Programação automática de até 8 sessões de inferência simultâneas na NPU

Recursos técnicos