Benchmarki lokalnego AI
Sprzęt i modele, które wdrażamy w firmach, testujemy na własnych maszynach. Do każdego raportu dołączamy surowe dane oraz opis sprzętu i ustawień, żeby można było sprawdzić nasze wnioski albo powtórzyć test.
Raporty
Październik 2026 · modele do kodowania
Lokalny model do kodowania: test 7 modeli na RTX 3090
Siedem otwartych modeli, to samo zadanie i 42 strony sprawdzone w przeglądarce. Najlepszą treść przy dobrej prędkości dał Qwen3.8-27B: 84 tokeny na sekundę.
Sprzęt: NVIDIA GeForce RTX 3090, 24 GB. Ollama 0.35, kwantyzacja Q4_K_M.
Maj 2026 · baza wiedzy RAG
RAG Ingest: ładowanie dokumentów do bazy wiedzy
Dziesięć polskich dokumentów prawnych w PDF, wysyłanych po kolei i naraz. ThinkStation PGX załadował całość w 89,2 s, 3,55 raza szybciej niż komputer biurowy.
Sprzęt: Lenovo ThinkStation PGX (NVIDIA GB10, 128 GB) i Intel NUC7i5DNHE (i5-7300U, 16 GB).
Co jest w każdym raporcie
- Sprzęt i oprogramowanie: model karty lub komputera, ilość pamięci, wersje narzędzi i ustawienia modeli.
- Metoda: co dokładnie mierzymy, na jakich danych wejściowych i w ilu podejściach.
- Surowe wyniki w CSV, z których powstały wykresy i wnioski.
- Ograniczenia: czego test nie mierzy. Na przykład benchmark RAG mierzy ładowanie dokumentów, a nie szybkość odpowiedzi modelu.
Dane udostępniamy na licencji CC BY 4.0: możesz je wykorzystać, także komercyjnie, jeśli podasz jako źródło AI Transformation z linkiem do raportu.
Chcesz, żebyśmy sprawdzili konkretny model albo sprzęt? Napisz do nas. Najbliższe testy wybieramy pod pytania, które słyszymy od klientów.