Dlaczego AI potrzebuje karty graficznej?
Sztuczna inteligencja liczy na kartach graficznych, bo jej działanie to miliardy prostych mnożeń wykonywanych naraz, a do tego GPU nadaje się lepiej niż procesor. Karty do AI potrzebują własnej pamięci HBM, która powstaje w tych samych fabrykach co zwykły RAM. Producenci przestawili produkcję na to, co bardziej się opłaca, i dlatego pamięć do Twojego komputera podrożała kilkukrotnie.
Czy procesor nie jest mózgiem komputera?
Jest. Procesor zarządza całym systemem, obsługuje różne zadania naraz i radzi sobie z każdym typem obliczeń. Tyle że sztuczna inteligencja nie potrzebuje uniwersalnego myślenia. Potrzebuje jednego rodzaju obliczeń, powtórzonego niewyobrażalną liczbę razy.
Procesor działa jak profesor, który rozwiązuje skomplikowane problemy po kolei, jeden po drugim. Karta graficzna to armia studentów, gdzie każdy umie tylko proste zadania, ale wszyscy pracują jednocześnie. Przy jednym trudnym problemie wygrywa profesor. Przy milionie prostych działań wygrywa armia.
Jakich obliczeń potrzebuje sztuczna inteligencja?
AI to sieci neuronowe, czyli struktury z miliardami połączeń. Każde takie połączenie ma swoją wagę, a model musi wymnożyć te wartości między sobą i zsumować wyniki. To matematyka wektorowa i macierzowa, w której nie ma nic skomplikowanego poza skalą.
Karty graficzne robiły dokładnie to od zawsze, tylko w innym celu. Renderowanie grafiki 3D to liczenie pozycji milionów punktów jednocześnie. Ta sama architektura, która wyświetlała cienie w grach, okazała się idealna do trenowania modeli. Jeśli chcesz zrozumieć podstawy działania modeli, opisałem je w Elementarzu AI.
Czemu RAM jest taki drogi?
Żeby karta graficzna mogła szybko liczyć, musi mieć skąd brać dane. Do tego służy HBM, czyli pamięć o wysokiej przepustowości, montowana bezpośrednio przy układzie obliczeniowym. To wciąż pamięć, tylko innego typu niż kość w Twoim laptopie.
Problem polega na tym, że HBM i zwykły RAM powstają z tych samych krzemowych wafli, w tych samych fabrykach. Jeden gigabajt HBM zużywa około trzy razy więcej powierzchni wafla niż tyle samo standardowego DDR5, a sprzedaje się z kilkukrotnie wyższą marżą.
Każdy wafel przeznaczony na pamięć dla AI to wafel odebrany rynkowi konsumenckiemu. Mała podaż oznacza wyższą cenę.
Kto produkuje RAM na świecie?
Samsung, SK Hynix i Micron. Te trzy firmy odpowiadają za ponad 95 procent światowej produkcji pamięci DRAM. Gdy wszystkie trzy jednocześnie przestawiają linie na produkty dla centrów danych, rynek nie ma alternatywy.
Skutki widać w cenach. Pamięć DRAM podrożała o 90 procent w jednym kwartale na przełomie 2025 i 2026 roku.
Micron wycofał konsumencką markę Crucial, żeby skupić się na klientach korporacyjnych.
Podrożeje też wszystko inne, co ma w środku kość pamięci. Smartfony, laptopy, zegarki, konsole, telewizory.
Kiedy ceny RAMu spadną?
Nowe fabryki powstają, ale budowa hal produkcyjnych trwa lata, nie miesiące. Micron planuje pierwszą produkcję w Idaho na 2027 rok, Samsung uruchamia megafabrykę w Pyeongtaek dopiero pod koniec 2028 roku. Analitycy nie spodziewają się wyraźnej ulgi przed końcem 2027 roku, a część wskazuje na 2028.
Czy szalejące ceny RAMu to wina sztucznej inteligencji?
Nie tylko.
Rynek pamięci od dziesięcioleci działa cyklicznie: nadprodukcja zbija ceny, producenci tną moce, popyt wraca i ceny idą w górę. W latach 2022 i 2023 branża notowała straty i wstrzymała inwestycje, więc obecny niedobór ma korzenie jeszcze przed boomem na AI.
Warto też zauważyć, że producenci pamięci nie są tu bierną ofiarą popytu. Świadomie wybierają wyższą marżę i tak samo postąpiłaby każda firma na ich miejscu. Nvidia, którą najczęściej obwinia się za ceny, jest w tym łańcuchu klientem, a nie sprawcą.
Mój pogląd na to jest prosty. Traktowanie tego jako spisku przeciw konsumentom prowadzi donikąd. To zwykła matematyka opłacalności, ta sama, która stoi za każdą decyzją biznesową, i dopóki centra danych będą płacić więcej, będą obsługiwane pierwsze. Więcej o tym, jak łatwo AI staje się workiem treningowym dla każdego problemu, pisałem w tekście AI to zagrożenie.
Posumowanie
Sztuczna inteligencja wykonuje miliardy prostych mnożeń jednocześnie, a taką pracę karty graficzne wykonują wielokrotnie szybciej niż procesory. Akceleratory AI wymagają pamięci HBM, która powstaje z tych samych wafli krzemowych co zwykły RAM, zużywa około trzy razy więcej powierzchni i przynosi kilkukrotnie wyższą marżę. Samsung, SK Hynix i Micron, kontrolujący ponad 95 procent rynku DRAM, przesunęli moce produkcyjne w stronę centrów danych. Efektem jest wzrost cen DRAM o 90 procent w jednym kwartale i brak perspektyw na ulgę przed końcem 2027 roku.
Źródła
