Weryfikacja specyfikacji wstepnej z 1 wrzesnia 2026. Ceny zebrane z Allegro 2 wrzesnia 2026. Cel: rownolegly serwer do modeli jezykowych — qwen-3.8 na pamieci kart, wieksze modele na pamieci systemowej. Podstawa systemowa: Debian (decyzja Franka).
obliczenia i pamiec modelu
Franek podaje, ze karty zaczynaja sie praktycznie od 1000 zl — przyjmuje ta liczbe, bo pochodzi z konkretnej oferty, a moje wyszukiwanie pokazywalo okolo 1497 zl za sztuke. Przy dwoch sztukach daje to okolo 2000 zl zamiast 2994. Karta z koparki NIE jest tu wada — to zalecenie zostalo wycofane po pytaniu Franka. Glownym zabojca kart sa CYKLE grzania i stygniecia (rozszerzanie lutowia), a nie samo dlugie obciazenie: karta gamingowa ma tych cykli tysiace, koparka pracujaca bez przerwy w stalej temperaturze prawie zadnych. Gornicy zwykle obnizaja tez limit mocy, bo placa za prad, wiec karta czesto pracowala CHLODNIEJ niz nominalnie. Najwazniejsze: my tez bedziemy ja obciazac bez przerwy, wiec odrzucanie karty za to, ze robila dokladnie to, co u nas bedzie robic, nie ma sensu. Realne ryzyko to zuzyte lozyska wentylatorow i wyschnieta pasta — obie rzeczy tanie i wymienialne, rzedu kilkudziesieciu zlotych, a nie powod do placenia dwa razy wiecej. Warto natomiast zapytac o typ chlodzenia, bo karty stana obok siebie. Razem daja 24 GB pamieci, ale przy jednym modelu nie sumuja sie tak jak pamiec: pracuja po kolei, nie rownolegle.
praca modeli nie miesczacych sie w kartach
Najwiekszy rozjazd w calym kosztorysie — trzykrotny. Kingston FURY Beast 128 GB (4×32) 3200 CL16 to okolo 3969 zl. Do tego zastrzezenie techniczne: cztery kosci dwustronne na wszystkich slotach to najciezszy przypadek dla kontrolera pamieci w Zen 3 — takie zestawy w praktyce schodza do 2666–2933 MHz zamiast deklarowanych 3200. Do sprawdzenia na liscie zgodnosci plyty przed zakupem.
procesor; przy pracy na pamieci systemowej liczy warstwy modelu
Ponad dwukrotnie drozej niz w zestawieniu. Warto rozwazyc uzywany egzemplarz albo Ryzena 5 5500 — przy tym zastosowaniu procesor liczy tylko te warstwy, ktore nie zmieszcza sie w kartach.
plyta glowna
Zastrzezenie do sprawdzenia w instrukcji plyty: pelne polaczenie z procesorem ma tylko PIERWSZY slot. Drugi jest pelnowymiarowy fizycznie, ale waski elektrycznie i podpiety pod chipset. Przy dzieleniu jednego modelu miedzy karty to waskie gardlo — druga karta doklada wtedy glownie pamiec, a nie predkosc. Jesli kazda karta ma trzymac OSOBNY model, zastrzezenie tracie na wadze.
zasilanie
Jedyna pozycja, ktora miesci sie w szacunku. Endorfy Supremo FM6 okolo 399 zl, FM5 po zwrocie okolo 279 zl. Zapas mocy wystarczajacy: dwie karty po okolo 170 W plus procesor 65 W plus reszta to okolo 500 W w szczycie. Sprawdzic, czy model ma DWA osobne przewody zasilania kart, a nie jeden z rozgalezieniem.
system i pliki modeli
Ponad dwukrotnie drozej niz szacowano. Do przemyslenia rozmiar: pliki modeli sa duze — sam model o 128 miliardach parametrow w czterech bitach to okolo 64 GB, a zwykle trzyma sie kilku wersji naraz. 1 TB starczy na poczatek, ale 2 TB moze byc rozsadniejsze.
| Pozycja | Zestawienie | Realnie | Roznica |
|---|---|---|---|
| 2× RTX 3060 12 GB (uzywane) | 1700 – 2000 | ~2994 | +1000 |
| Pamiec 128 GB DDR4 3200 | 1100 – 1300 | ~3969 | +2700 |
| Ryzen 5 5600 | 350 – 450 | ~1070 | +650 |
| MSI B550-A PRO | 350 – 450 | 479 – 757 | +180 |
| Zasilacz 750 W Gold | 250 – 350 | 279 – 499 | ~0 |
| Dysk 1 TB NVMe | 250 – 300 | 688 – 740 | +440 |
| Razem | 4000 – 4900 zl | 9479 – 10 029 zl | okolo 2× |
Dwie karty w sasiednich slotach to najtrudniejszy przypadek dla powietrza. RTX 3060 w wersjach z otwartym chlodzeniem — czyli w wiekszosci — wydmuchuja cieplo do wnetrza obudowy, a nie na zewnatrz. Gorna karta zasysa wtedy powietrze podgrzane przez dolna i to ona zacznie sie dlawic pierwsza.
1. Kto liczy warstwy lezace w pamieci systemowej? To rozstrzyga o sensie calego pomyslu z modelem o 128 miliardach parametrow. Jesli liczy je procesor na miejscu — wychodzi okolo 1,3 tokena na sekunde, wolno, ale uzywalnie do zadan wsadowych. Jesli dane mialyby wedrowac na karte przy kazdym tokenie — okolo 0,1 tokena na sekunde, czyli jeden token na dziesiec sekund i to jest bezuzyteczne. Roznica trzynastokrotna, do potwierdzenia POMIAREM, nie rachunkiem.
2. Ile pamieci na karcie naprawde potrzeba? Skoro maszyna nie ma byc szybsza od obecnej, tylko ma uciagnac wieksze modele, warto porownac 2× 12 GB z jedna karta o wiekszej pamieci. Przy dzielonym modelu druga karta i tak ogranicza waskie polaczenie z chipsetem.
Ceny pochodza z wyszukiwania ofert Allegro z 2 wrzesnia 2026 i sa orientacyjne — przed zakupem trzeba je potwierdzic u konkretnego sprzedajacego, bo oferty uzywane zmieniaja sie z dnia na dzien. Parametry techniczne kart, plyty i kontrolera pamieci pochodza z wiedzy o sprzecie i nie zostaly zmierzone na naszym stanowisku — jedyne zmierzone dane w tej analizie dotycza obecnego serwera (Apple M1 Max, 64 GB, mediana 11,2 tokena na sekunde z 34 przebiegow).