Resultados en tareas
Escribir código Python a partir de descripciones en japonés (JHumanEval)
Tarea que da en japonés la descripción de una función, pide al modelo escribir el código Python y mide si pasa las pruebas preparadas.
Cómo leer esta tabla
- Cuanto más arriba, mejor valoración; la diferencia entre modelos que aparecen con un intervalo como «1–2» está dentro del margen de error.
- La valoración es la proporción (%) de preguntas comunes que se resolvieron.
- Una diferencia de 3 equivale a 3 preguntas de cada 100.
- El precio es una referencia por cada millón de tokens: primero lo que se le da a leer y después lo que se le pide escribir.
- La longitud es la cantidad de texto que se le puede dar a leer de una vez (tokens).
| Puesto | Modelo | Desarrollador | Tasa de acierto (%) | Fecha de evaluación | Japonés (valoración humana) | Entrada $ /1M | Salida $ /1M | Contexto | Admite | Pesos | Publicación | Precio y características |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 1.º | GPT-5.4 | OpenAI | Valoración 96.3 | 1480Puesto 2–50 | $2.5 | $15 | 1.05M | OpenAI Publicación 2026-03 Precio $2.5 / $15 Longitud 1.05M | ||||
| 2.º | Gemma 4 26B A4B | Valoración 95.9 | — | $0.15 | $0.6 | 262.1K | Google Publicación 2026-04 Precio $0.15 / $0.6 Longitud 262.1K | |||||
| 3.º | Gemma 4 31B | Valoración 95.2 | — | — | — | 262.1K | Google Publicación 2026-04 Precio — Longitud 262.1K | |||||
| 4.º | Qwen3 235B A22B (thinking) | Alibaba | Valoración 94.8 | 1376Puesto 49–142 | — | — | 262.1K | Alibaba Publicación 2025-07 Precio — Longitud 262.1K | ||||
| 5.º | GPT-5 | OpenAI | Valoración 94.6 | 1431Puesto 17–93 | $1.25 | $10 | 400K | OpenAI Publicación 2025-08 Precio $1.25 / $10 Longitud 400K | ||||
| 6.º | GPT-5 mini | OpenAI | Valoración 94.4 | 1364Puesto 63–146 | $0.25 | $2 | 400K | OpenAI Publicación 2025-08 Precio $0.25 / $2 Longitud 400K | ||||
| 7–8.º | o3 | OpenAI | Valoración 93.7 | 1424Puesto 22–95 | $2 | $8 | 200K | OpenAI Publicación 2025-04 Precio $2 / $8 Longitud 200K | ||||
| 7–8.º | Qwen3.5 122B A10B | Alibaba | Valoración 93.7 | 1361Puesto 60–154 | $0.4 | $3.2 | 262.1K | Alibaba Publicación 2026-02 Precio $0.4 / $3.2 Longitud 262.1K | ||||
| 9.º | GPT-OSS-Swallow-120B-RL-v0.1 | Swallow (東京科学大学) | Valoración 93.4 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 10.º | GPT-OSS 20B | OpenAI | Valoración 93.2 | 1256Puesto 140–216 | — | — | 131K | OpenAI Publicación 2025-08 Precio — Longitud 131K | ||||
| 11–12.º | NVIDIA Nemotron 3 Super 120B A12B | NVIDIA | Valoración 93.0 | — | — | — | 262.1K | NVIDIA Publicación 2026-03 Precio — Longitud 262.1K | ||||
| 11–12.º | Qwen3.5 27B | Alibaba | Valoración 93.0 | 1339Puesto 71–166 | $0.3 | $2.4 | 262.1K | Alibaba Publicación 2026-02 Precio $0.3 / $2.4 Longitud 262.1K | ||||
| 13.º | Qwen3-Swallow-32B-RL-v0.2 | Swallow (東京科学大学) | Valoración 92.9 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 14.º | o3-mini | OpenAI | Valoración 92.8 | 1315Puesto 101–175 | $1.1 | $4.4 | 200K | OpenAI Publicación 2025-01 Precio $1.1 / $4.4 Longitud 200K | ||||
| 15–16.º | GPT-OSS 120B | OpenAI | Valoración 92.7 | 1325Puesto 95–166 | — | — | 128K | OpenAI Publicación 2025-08 Precio — Longitud 128K | ||||
| 15–16.º | GPT-OSS-Swallow-120B-SFT-v0.1 | Swallow (東京科学大学) | Valoración 92.7 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 17.º | GPT-OSS-Swallow-20B-RL-v0.1 | Swallow (東京科学大学) | Valoración 92.4 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 18–20.º | OLMo 3 32B Think | Ai2 | Valoración 92.1 | — | — | — | — | — | Ai2 Publicación — Precio — Longitud — | |||
| 18–20.º | Qwen3 14B | Alibaba | Valoración 92.1 | — | $0.35 | $1.4 | 131.1K | Alibaba Publicación 2025-04 Precio $0.35 / $1.4 Longitud 131.1K | ||||
| 18–20.º | Qwen3.5 35B A3B | Alibaba | Valoración 92.1 | 1315Puesto 93–183 | $0.25 | $2 | 262.1K | Alibaba Publicación 2026-02 Precio $0.25 / $2 Longitud 262.1K | ||||
| 21.º | Qwen3-Swallow-30B-A3B-RL-v0.2 | Swallow (東京科学大学) | Valoración 91.7 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 22–23.º | Qwen3 30B A3B | Alibaba | Valoración 91.5 | 1254Puesto 150–211 | — | — | 128K | Alibaba Publicación 2025-04 Precio — Longitud 128K | ||||
| 22–23.º | Qwen3 32B | Alibaba | Valoración 91.5 | — | $0.7 | $2.8 | 131.1K | Alibaba Publicación 2025-04 Precio $0.7 / $2.8 Longitud 131.1K | ||||
| 24–25.º | GPT-4.1 | OpenAI | Valoración 91.1 | 1347Puesto 83–150 | $2 | $8 | 1.05M | OpenAI Publicación 2025-04 Precio $2 / $8 Longitud 1.05M | ||||
| 24–25.º | Qwen3-Swallow-32B-SFT-v0.2 | Swallow (東京科学大学) | Valoración 91.1 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 26–28.º | GPT-OSS-Swallow-20B-SFT-v0.1 | Swallow (東京科学大学) | Valoración 90.9 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 26–28.º | Qwen3.5 9B | Alibaba | Valoración 90.9 | — | — | — | 262K | Alibaba Publicación 2026-02 Precio — Longitud 262K | ||||
| 26–28.º | Qwen3-Swallow-32B-CPT-v0.2 | Swallow (東京科学大学) | Valoración 90.9 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 29.º | Qwen3 Next 80B A3B (instruct) | Alibaba | Valoración 90.5 | 1369Puesto 53–146 | $0.5 | $2 | 129K | Alibaba Publicación 2025-09 Precio $0.5 / $2 Longitud 129K | ||||
| 30.º | Qwen3 235B A22B (instruct) | Alibaba | Valoración 90.0 | 1392Puesto 44–119 | — | — | 128K | Alibaba Publicación 2025-07 Precio — Longitud 128K | ||||
| 31.º | OLMo 3 7B Think | Ai2 | Valoración 89.6 | — | — | — | — | — | — | Ai2 Publicación — Precio — Longitud — | ||
| 32–33.º | Qwen3-Swallow-30B-A3B-CPT-v0.2 | Swallow (東京科学大学) | Valoración 89.5 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 32–33.º | Qwen3-Swallow-8B-RL-v0.2 | Swallow (東京科学大学) | Valoración 89.5 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 34.º | Qwen3 8B | Alibaba | Valoración 89.1 | — | $0.18 | $0.7 | 131.1K | Alibaba Publicación 2025-04 Precio $0.18 / $0.7 Longitud 131.1K | ||||
| 35–36.º | ABEJA-QwQ32b-Reasoning-Japanese-v1.0 | ABEJA | Valoración 89.0 | — | — | — | — | — | — | ABEJA Publicación — Precio — Longitud — | ||
| 35–36.º | Qwen3-Swallow-30B-A3B-SFT-v0.2 | Swallow (東京科学大学) | Valoración 89.0 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 37.º | NVIDIA-Nemotron-Nano-9B-v2-Japanese | NVIDIA | Valoración 88.8 | — | — | — | — | — | — | NVIDIA Publicación — Precio — Longitud — | ||
| 38.º | Gemma 4 E4B | Valoración 88.2 | — | — | — | 131.1K | — | — | Google Publicación — Precio — Longitud 131.1K | |||
| 39.º | Qwen3 4B | Alibaba | Valoración 87.9 | — | — | — | — | Alibaba Publicación 2025-04 Precio — Longitud — | ||||
| 40.º | QwQ Bakeneko 32B | rinna | Valoración 87.4 | — | — | — | — | — | — | rinna Publicación — Precio — Longitud — | ||
| 41.º | Qwen3 Next 80B A3B | Alibaba | Valoración 87.3 | 1293Puesto 112–202 | $0.5 | $6 | 131.1K | Alibaba Publicación 2025-09 Precio $0.5 / $6 Longitud 131.1K | ||||
| 42.º | LLM-jp-4 32B A3B | LLM-jp | Valoración 87.1 | — | — | — | — | — | — | LLM-jp Publicación — Precio — Longitud — | ||
| 43.º | GPT-4o (2024-08) | OpenAI | Valoración 84.4 | 1292Puesto 124–185 | $2.5 | $10 | 128K | OpenAI Publicación 2024-08 Precio $2.5 / $10 Longitud 128K | ||||
| 44.º | LLM-jp-4 8B | LLM-jp | Valoración 84.0 | — | — | — | — | — | — | LLM-jp Publicación — Precio — Longitud — | ||
| 45.º | Qwen3-Swallow-8B-SFT-v0.2 | Swallow (東京科学大学) | Valoración 82.9 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 46.º | Gemma 4 E2B | Valoración 82.6 | — | — | — | 131.1K | — | — | Google Publicación — Precio — Longitud 131.1K | |||
| 47.º | Qwen3-Swallow-8B-CPT-v0.2 | Swallow (東京科学大学) | Valoración 82.3 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 48.º | Llama 4 Scout | Meta | Valoración 82.0 | 1259Puesto 149–209 | — | — | 128K | Meta Publicación 2025-04 Precio — Longitud 128K | ||||
| 49.º | DeepSeek-R1-Distill-Qwen-32B-Japanese | CyberAgent | Valoración 81.8 | — | — | — | — | — | — | CyberAgent Publicación — Precio — Longitud — | ||
| 50.º | ELYZA-Thinking-1.0-Qwen-32B | ELYZA | Valoración 80.5 | — | — | — | — | — | — | ELYZA Publicación — Precio — Longitud — | ||
| 51.º | Llama 3.1 Nemotron Nano 8B (v1) | NVIDIA | Valoración 80.4 | — | — | — | — | — | — | NVIDIA Publicación — Precio — Longitud — | ||
| 52.º | Gemma 3 27B | Valoración 79.6 | 1308Puesto 117–173 | — | — | 128K | Google Publicación 2025-03 Precio — Longitud 128K | |||||
| 53.º | ELYZA-Shortcut-1.0-Qwen-32B | ELYZA | Valoración 77.0 | — | — | — | — | — | — | ELYZA Publicación — Precio — Longitud — | ||
| 54.º | Gemma 3 12B | Valoración 76.3 | — | — | — | 131K | Google Publicación 2025-03 Precio — Longitud 131K | |||||
| 55.º | Qwen3 1.7B | Alibaba | Valoración 75.7 | — | — | — | — | Alibaba Publicación 2025-04 Precio — Longitud — | ||||
| 56.º | Llama 3.3 70B (instruct) | Meta | Valoración 75.2 | 1214Puesto 176–224 | — | — | 131.1K | Meta Publicación 2024-12 Precio — Longitud 131.1K | ||||
| 57–58.º | Llama 3.3 Swallow 70B (instruct, v0.4) | Swallow (東京科学大学) | Valoración 72.7 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 57–58.º | Qwen3.5 4B | Alibaba | Valoración 72.7 | — | — | — | 262.1K | Alibaba Publicación 2026-02 Precio — Longitud 262.1K | ||||
| 59.º | Gemma 3 4B | Valoración 60.4 | — | — | — | 131K | Google Publicación 2025-03 Precio — Longitud 131K | |||||
| 60.º | Llama 3.1 Swallow 8B (instruct, v0.5) | Swallow (東京科学大学) | Valoración 58.4 | — | — | — | — | — | — | Swallow (東京科学大学) Publicación — Precio — Longitud — | ||
| 61.º | Llama 3.1 8B (instruct) | Meta | Valoración 58.0 | 1087Puesto 232–251 | — | — | 128K | Meta Publicación 2024-07 Precio — Longitud 128K | ||||
| 62.º | Sarashina2.2 3B (instruct, v0.1) | SB Intuitions | Valoración 46.4 | — | — | — | — | — | — | SB Intuitions Publicación — Precio — Longitud — | ||
| 63.º | LLM-jp-3.1 13B (instruct4) | LLM-jp | Valoración 46.3 | — | — | — | — | — | — | LLM-jp Publicación — Precio — Longitud — | ||
| 64.º | Qwen3 0.6B | Alibaba | Valoración 44.6 | — | — | — | — | Alibaba Publicación 2025-04 Precio — Longitud — | ||||
| 65.º | LLM-jp-3.1 1.8B (instruct4) | LLM-jp | Valoración 36.5 | — | — | — | — | — | — | LLM-jp Publicación — Precio — Longitud — | ||
| 66.º | Gemma 3 1B | Valoración 11.2 | — | — | — | — | Google Publicación 2025-03 Precio — Longitud — | |||||
| 67.º | Qwen3.5 0.8B | Alibaba | Valoración 1.3 | — | — | — | 32.8K | Alibaba Publicación 2026-02 Precio — Longitud 32.8K | ||||
| 68.º | Qwen3.5 2B | Alibaba | Valoración 1.2 | — | — | — | 32.8K | Alibaba Publicación 2026-02 Precio — Longitud 32.8K |
Cómo leer esta página
- El valor es la proporción que pasa.
- La valoración humana es una puntuación que sale de personas que comparan 2 respuestas y eligen una (cuanto más alta, mejor).
- La tasa de acierto es la proporción de preguntas resueltas. Una diferencia de 1 punto equivale a 1 pregunta de cada 100.
- Los iconos de la columna Admite son, de izquierda a derecha: puede usar herramientas / puede leer imágenes / puede responder con un formato fijo (JSON) (una marca tenue significa que no lo admite o que se desconoce).
- Un modelo de pesos abiertos es aquel cuyo contenido (los pesos) se ha publicado y que también puedes ejecutar en tu propio ordenador o servidor. Los modelos sin la marca de pesos abiertos se usan normalmente a través del servicio del desarrollador (aplicación o API) (algunos modelos no tienen información sobre sus pesos).
- ChatGPT y los demás nombres junto al nombre del modelo son los servicios que ese desarrollador ofrece al público. Comprueba en el propio servicio si ese modelo se puede elegir allí.
Datos: Arena / Epoch AI / Swallow LLM team (CC BY 4.0) / Models.dev (MIT), actualizado el 2026-10-24, Fuentes de datos