Inferencia de Vision-Language Models (VLM) en GPU AMD ROCm usando PyTorch directo sin vLLM. Cubre carga y ejecución de modelos multimodales (imagen + texto) como LLaVA, Qwen2-VL, InternVL2 y PaliGemma con detección automática del backend GPU (ROCm, CUDA o CPU). Incluye scripts de inferencia y benchmark con métricas de latencia, tokens/s y VRAM. La skill configura el dtype óptimo según el backend (float16 para ROCm, bfloat16 para CUDA, float32 para CPU), maneja preprocesamiento multimodal, sampling con temperatura/top-p, y resolución de issues comunes como OOM, flash-attention no disponible en ROCm, y devicemap fallback. Ideal para captioning, visual question answering (VQA), describe-image, y cualquier tarea de visión-lenguaje en GPUs AMD. Keywords: vlm, rocm, amd, multimodal, llava, qwen2-vl, internvl2, paligemma, pytorch, inference, vision-language, captioning, vqa, image-description, nvidia, cuda, cpu, huggingface, transformers
Install with
Claude CodeCodexCursorGitHub CopilotGemini CLI
Supported by the Atlas install prompt. Skill-specific requirements vary.
Skill stats
Skills1CategoryGeneralStars0
About this skill
Inferencia de Vision-Language Models (VLM) en GPU AMD ROCm usando PyTorch directo sin vLLM. Cubre carga y ejecución de modelos multimodales (imagen + texto) como LLaVA, Qwen2-VL, InternVL2 y PaliGemma con detección automática del backend GPU (ROCm, CUDA o CPU). Incluye scripts de inferencia y benchmark con métricas de latencia, tokens/s y VRAM. La skill configura el dtype óptimo según el backend (float16 para ROCm, bfloat16 para CUDA, float32 para CPU), maneja preprocesamiento multimodal, sampling con temperatura/top-p, y resolución de issues comunes como OOM, flash-attention no disponible en ROCm, y devicemap fallback. Ideal para captioning, visual question answering (VQA), describe-image, y cualquier tarea de visión-lenguaje en GPUs AMD. Keywords: vlm, rocm, amd, multimodal, llava, qwen2-vl, internvl2, paligemma, pytorch, inference, vision-language, captioning, vqa, image-description, nvidia, cuda, cpu, huggingface, transformers
Quick start
Copy the install prompt. Use the green button above this README.
Send it to your agent. Paste it into your coding agent’s chat and send.
Review the setup. Your agent checks the skill’s instructions, requirements, and installation scope.
Inferencia de Vision-Language Models (VLM) en GPU AMD ROCm usando PyTorch directo sin vLLM. Cubre carga y ejecución de modelos multimodales (imagen + texto) como LLaVA, Qwen2-VL, InternVL2 y PaliGemma con detección automática del backend GPU (ROCm, CUDA o CPU). Incluye scripts de inferencia y benchmark con métricas de latencia, tokens/s y VRAM. La skill configura el dtype óptimo según el backend (float16 para ROCm, bfloat16 para CUDA, float32 para CPU), maneja preprocesamiento multimodal, sampling con temperatura/top-p, y resolución de issues comunes como OOM, flash-attention no disponible en ROCm, y device_map fallback. Ideal para captioning, visual question answering (VQA), describe-image, y cualquier tarea de visión-lenguaje en GPUs AMD. Keywords: vlm, rocm, amd, multimodal, llava, qwen2-vl, internvl2, paligemma, pytorch, inference, vision-language, captioning, vqa, image-description, nvidia, cuda, cpu, huggingface, transformers
About this listing
Category
General
Reported license
Apache-2.0
Listing language (estimated)
Spanish
Review status
Not individually reviewed
Agent compatibility
Atlas installation supports Claude Code, Codex, and Cursor. Skill-specific dependencies and features are checked during setup.
Claude Code
Codex
Cursor
GitHub Copilot
Gemini CLI