Интерактив
Модель → железо → хостер → ₽/1M токенов
Быстрая оценка стоимости inference на live-ценах каталога. Это не бенчмарк-публикация: числа tokens/s — якорные оценки, которые нужно квартально обновлять ручными замерами.
Оценка для 70B-класса в 4-bit quantization. Контекст, батчинг и движок меняют результат.
| GPU / хостер | Цена | Оценка скорости | ₽/1M токенов | |
|---|---|---|---|---|
| NVIDIA GeForce RTX 4090 24GB Selectel · x1 | 79 ₽/ч | 52 tok/s | 422 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x4 | 316 ₽/ч | 208 tok/s | 422 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x4 | 322 ₽/ч | 208 tok/s | 430 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x4 | 509 ₽/ч | 328 tok/s | 431 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x4 | 323 ₽/ч | 208 tok/s | 431 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x4 | 513 ₽/ч | 328 tok/s | 434 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x8 | 1 031 ₽/ч | 656 tok/s | 437 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x3 | 387 ₽/ч | 246 tok/s | 437 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x4 | 517 ₽/ч | 328 tok/s | 438 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x4 | 329 ₽/ч | 208 tok/s | 439 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x4 | 522 ₽/ч | 328 tok/s | 442 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x1 | 83 ₽/ч | 52 tok/s | 442 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x1 | 131 ₽/ч | 82 tok/s | 443 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x1 | 83 ₽/ч | 52 tok/s | 443 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x2 | 262 ₽/ч | 164 tok/s | 443 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x3 | 393 ₽/ч | 246 tok/s | 444 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x4 | 524 ₽/ч | 328 tok/s | 444 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x1 | 83 ₽/ч | 52 tok/s | 444 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x4 | 333 ₽/ч | 208 tok/s | 445 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x1 | 84 ₽/ч | 52 tok/s | 446 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x1 | 132 ₽/ч | 82 tok/s | 446 ₽ | Открыть |
| NVIDIA GeForce RTX 5090 32GB immers.cloud · x6 | 791 ₽/ч | 492 tok/s | 447 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x8 | 671 ₽/ч | 416 tok/s | 448 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x1 | 84 ₽/ч | 52 tok/s | 448 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x3 | 252 ₽/ч | 156 tok/s | 449 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x4 | 337 ₽/ч | 208 tok/s | 451 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x4 | 342 ₽/ч | 208 tok/s | 457 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x2 | 172 ₽/ч | 104 tok/s | 459 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x3 | 258 ₽/ч | 156 tok/s | 459 ₽ | Открыть |
| NVIDIA GeForce RTX 4090 24GB immers.cloud · x4 | 344 ₽/ч | 208 tok/s | 460 ₽ | Открыть |
Ограничение расчёта
Не сравнивайте эти числа с API-прайсами как с лабораторным бенчмарком. Итог зависит от vLLM/TGI/Ollama, batch size, context length, quantization и cold start.