Jaki komputer do Machine Learning / Deep learning?


Aktualizacja: 02.10.2020

Komputer do Machine Learning, Deep Learning

Witaj Geek’u!

Drogi czytelniku, najprawdopodobniej pojawiłeś się na naszej stronie będąc w ferworze wyszukiwań odpowiedzi na pytanie, które zrodziło się w twojej głowie, gdy uświadomiłeś sobie jaka moc drzemie w Machine Learningu. Niezależnie od Twoich wyszukiwań, pojawiłeś się w miejscu kompletnego przewodnika wiedzy odnośnie budowy komponentów i wykorzystania zasobów komputera w interesującej cię dziedzinie. W tym poradniku pomożemy Ci zbudować komputer do Machine Learning’u, który spełnia oczekiwania jakie narzuca maszynie jej „samoistne” uczenie. Przedstawimy ci aktualnie dominujące produkty na rynku oraz wyjaśnimy na jakie ich właściwości powinieneś poświęcić najwięcej uwagi. Dlatego…

Komputer do uczenia maszynowego – …zacznijmy więc od początku

Technologia stacji roboczych do Deep Learning’u rozwija się w zastraszającym tempie, a algorytmy któremu musi stawić ona czoła aktualizują się równie szybko. Największe firmy na rynku gonią za najlepszą wydajnością, a to wszystko w celu zaspokajania potrzeb swoich klientów. Producenci starają się zaspokoić oczekiwania konsumentów, a Ci z kolei są głodni poszerzania horyzontów swoich informatycznych możliwości. Komputer do Deep Learning’u – do tej jakże nietuzinkowej i specjalistycznej branży potrzebuje największej wydajności, a co za tym idzie odpowiednio skonfigurowanych i zsynchronizowanych ze sobą podzespołów. Właściwy sprzęt w tej wymagającej dziedzinie Machine Learningu to główny priorytet. Właśnie dlatego mój drogi czytelniku, jesteś tutaj z nami.

Budowa odpowiedniego komputera do Machine Learning’u może być dla niektórych bardzo uciążliwa. Inwestycja dużej ilości pieniędzy w swoim założeniu ma być pozytywna, więc głupio roztrwonić pieniądze na coś, co finalnie nie da zamierzonego przez nas efektu. Stacja robocza przystosowana do pokonywania algorytmów musi być odpowiednio przygotowana, a w wszystkich wytycznych można się łatwo pogubić. Naszym zadaniem jest uzmysłowić Ci, że nie taki diabeł straszny jak go malują. Bez zbędnego przedłużania. Na jakie elementy zwrócić uwagę przy zakupie? Co jest ważniejsze w naszej maszynie – CPU czy GPU? Jaki jest stopień produktywności danego podzespołu?

Komputer do Machine Learning
– Na jakie parametry powinniśmy zwrócić najbardziej uwagę?

Jeśli zależy ci na zbudowaniu komputera do uczenia maszynowego, który będzie chłonął horyzontalne łańcuchy danych, oraz nie będzie mieć problemu z szybkim przetasowaniem zbiorów walidacyjnych wymaga to bardzo precyzyjnej optymalizacji stacji roboczej. Komputer do Machine Leraningu to nie przelewki, zakładając potocznie, że ma być on „kotem” – ponieważ w tym artykule skupimy się na budowie stacji roboczej bliskiej ideału. Owy komputer nie może tracić czasu na prostych obliczeniach, ma on pokochać samego siebie i stać się narcystyczny na punkcie własnej mocy obliczeniowej jakkolwiek to brzmi! Dlatego tak ważne jest dobranie idealnego sprzętu w dziedzinie uczenia maszynowego. Optymalizacja to potęgi klucz.

Naszym celem w tym poradniku jest opisanie za co każdy pojedynczy element ma być odpowiedzialny w swojej etyce pracy w twojej stacji roboczej do Machine Learning’u. Odpowiemy również na pytania na jakie produkty od danych producentów warto zwrócić uwagę.

Najważniejsze podzespoły w tym przypadku to:

    • Procesor (CPU)
    • Karta Graficzna (GPU)
    • Pamięć (RAM)
    • Dysk SSD
    • Płyta Główna
    • Zasilacz

W tym wpisie opiszemy każdy z nich, oraz pomożemy ci zobrazować, dlaczego to właśnie im poświęciliśmy najwięcej uwagi. Chciałbym również zaznaczyć, że jest to artykuł uniwersalny. Niezależnie od potrzeb, oprogramowania którego używasz i algorytmów, na których opierasz swoje doświadczenie uczenia maszynowego znajdziesz tutaj coś dla siebie.

Komputer do Deep Learning – Chmura a Twój własny sprzęt

Jeśli miałeś przyjemność zainwestować w użycie usług internetowych do uczenia maszynowego, na pewno wiesz, ile takie rozwiązanie chłonie pieniędzy. Jest to owszem wygodne rozwiązanie, ale przy wąskim budżecie staje się udręką. Budowa własnej maszyny wiąże się z oszczędnościami i niesie za sobą szereg korzyści:

    • 1) Gigantyczna oszczędność. To tak lekko mówiąc. Patrząc w przyszłość, budowa własnej maszyny pozwoli nam zaoszczędzić ogrom pieniędzy w dłużej perspektywie. Budowa własnej maszyny odciąża nas znacząco od stawek ustalonych przez Cloud’owych usługodawców. Dla niektórych fakt płacenia może ograniczyć ich kreatywność do testowania nowych rozwiązań, ponieważ nie chcą płacić za coś, co i tak nie wyjdzie poprawnie. Własna maszyna pozwala na przeprowadzanie eksperymentów do woli.
    • 2) Własna maszyna przydaje się również do innych zadań niż sam Machine Learning. Mając potężną stacje roboczą w domu, możemy używać jej do innych zadań, jak np. Projektowanie Graficzne, Montaż Etc.
    • 3) Własny komputer do Machine Learning’u działa szybciej niż chmura, ponieważ brak w nim operacji konfigurujących jakie mają miejsce w chmurze pomiędzy GPU.

Komputer do Machine Learning – Procesor (CPU)

Jest to element stacji roboczej do Machine Learning’u, któremu powinniśmy poświecić wyjątkowo dużo uwagi na samym początku. Bez odpowiednio dobranego procesora nasza maszyna może stracić dużo możliwości już w przedbiegach. Mała, niewinna kostka umieszczona na płycie głównej to serce całego naszego komputera. Jest to nic innego jak jednostka centralna odpowiadająca za prawidłowe jego funkcjonowanie. Odpowiada ona za dostarczenie mocy obliczeniowej, czyli upraszczając szybkość ładowania zasobów.

Przy wyborze procesora w komputerze do Deep Learning’u bardzo istotnym faktem jest jego liczba rdzeni, które oferuje, lecz nie dajmy się zwieść, ponieważ przy budowie komputera do głębokiego uczenia bardzo duży nacisk powinniśmy położyć również na wielowątkowość procesora. Więcej wątków na procesorze CPU daje nam możliwość załadowania więcej danych w czasie rzeczywistym by móc sprawnie przekazywać je dalej. Jest to bardzo istotnym elementem, ponieważ nieodłącznym punktem stacji roboczej do Machine Learning jest kilka procesorów GPU, a nie muszą one długo czekać na swoją kolej, gdy procesor szybko radzi sobie ze swoim zadaniem. W skrócie znakomita optymalizacja.

W Machine Learningu potrzebujemy procesora o wysokiej częstotliwości i prędkości zegara procesora. Dziedzina ta jest aktywnym procesem roboczym dla komputera, co oznacza złożoność kilku procesów zależnych od siebie jednoczenie. Komputer do Machine Learning’u potrzebuje posiadać wystarczająco dużo miejsca, by móc wykonywać kilka operacji jednocześnie nie tracą przy tym swojej niezawodnej prędkość działania. Inteligenta maszyna dzieli zadania na fizyczne rdzenie i przypisuje zadania na każdy z nich. W ten sposób procesor X-Rdzeniowy wielowątkowy może zwiększać ilość operacji, które może wykonywać w każdej sekundzie. GPU nie może bezczynnie czekać, dlatego procesor, który przekazuje mu dane jest równie ważny.

W przypadku stacji roboczej do głębokiego uczenia się świetnym rozwiązaniem mogą okazać się produkty zarówno od AMD jak i Intel. Najnowsze procesory AMD z serii Ryzen 9 mają na swoim pokładzie od 12 rdzeni obsługując przy tym, aż 24 wątki przy wysokim taktowaniu procesora. Wypadkową tego jest świetnie radząca sobie z algorytmami jednostka, która nie ma problemów z mocnymi wyzwaniami. Produkty z serii Threadripper trzeciej generacji to niesamowite procesory posiadające wszystkie powyższe wytyczne, uwzględniając przy tym wielowątkowość. Rekomendujemy oba wymienione produkty przy budowie komputera do Machine Learning’u.

Uwaga

Przy zakupie procesora powinieneś uświadomić sobie, czy będziesz pracować na kilku kartach graficznych. Jeśli tak, upewnij się, że procesor, którym jesteś zainteresowany obsługuje wiele Kart graficznych jednocześnie.

Komputer do Machine Learning/Deep Learning – Karta Graficzna (GPU)

Odpowiednio dobrana karta graficzna to koń napędowy całej naszej stacji. Gra ona role dominanta, jest wspierana przez procesor CPU i wykonuje najważniejszą część pracy w komputerach do uczenia maszynowego. Procesory graficzne działają bardzo wydajnie w walce z okiełzaniem przetwarzania algorytmów deep learning’owych, ponieważ są podzielone są na kilkaset mniejszych rdzeni, które w zastraszającym tempie wykonują swoją prace. Są znakomicie podatne na obciążenia obliczeniowe. Niemniej jednak, dzięki akompaniamentowi CPU i GPU możemy uzyskać pożądane przez nas rezultaty.

Teraz gdy wiesz, że do Deep Learning’u wymagany jest solidny procesor graficzny zagłębimy się w kilka rzeczy, które czynią go niezawodnym w naszej branży.

Pierwszą rzeczą jest fakt, iż potrzebujemy procesora graficznego GPU posiadającego rdzenie tensorowe. Działają one znacznie szybciej od swojego poprzednika Pascal’a i stworzone zostały z myślą o specjalistycznej matematyce macierzowej wykorzystywanej w głębokiej nauce maszyn. Działają one średnio 12 razy szybciej od poprzednika co czyni ich nad wyraz efektywnymi. Rdzenie tensorowe wpływają na moc przetwarzania GPU, która korzystnie może wziąć przez to więcej operacji w ciągu sekundy. Karta graficzna z takimi rdzeniami to must-have. Tego typu rozwiązania możemy znaleźć na kartach od NVIDI z serii RTX.

Drugim czynnikiem wpływającym na szybkość i przepustowość naszego procesora graficznego jest ilość jego pamięci vRAM. Posiadanie jej dużej ilości pozwala nam na chłonięcie większych partii danych przez GPU, co wpływa w rezultacie na szybsze uczenie się.

Finalnie, aby móc zbudować najlepszy komputer do Machine Learning’u zalecamy oparcie mocy obliczeniowej na minimum 4 procesorach graficznych. Taka konfiguracja pozwala na uzyskanie niesamowitych warunków do przyszłego rozwoju.

Najlepszym wyborem mogą okazać się produkty Nvidia. Śmiało możemy polecić produkty z serii RTX. Posiadają oni w swojej ofercie szeroki wachlarz produktowy, zawierający odpowiednią ilość powyższych wymagań. Powinieneś odpowiednio przemyśleć wybór karty graficznej dla twojej stacji roboczej. Jeśli potrzebujesz pomocy śmiało skontaktuj się z naszymi specjalistami.

Uwaga

W przypadku posiadania wielu kart graficznych w celu zmaksymalizowania szybkości uczenia się stacji roboczej do Deep Learning’u, dobrą opcją, jednakże dużo droższą jest użycie chłodzenia cieczą (custom loop) dla wszystkich kart graficznych oraz procesora. Pozwoli to na zmniejszenie temperatur oraz głośności pracy całej jednostki.

Komputer do Deep Learning – Pamięć RAM

Każdy dobrze wie, że pamięć Ram stacji obliczeniowej to core dla obsługi wszystkich procesów. W przypadku komputera do Deep Learningu ram stanowi równie ważną rolę. Owy komputer dostosowany pod tę branżę potrzebuje znaczących ilość pamięci RAM, lecz nie największych z możliwych.

Odpowiednio dobrana pojemność RAM’u przekłada się bezpośrednio na wielozadaniowość naszej stacji learningowej.

Pamięć RAM jest istotna w głębokim uczeniu, ponieważ to właśnie w niej dane będą przechowywane przed późniejszym chronologicznie przekazaniem ich dalej do procesora. Aby procesor mógł korelować z prędkością swego działania potrzebuje on odpowiedniego dostawcy, który będzie mógł przekazywać mu pokaźne dla niego ilości. Brak jej wystarczającej ilość może skutkować zawieszeniem w najmniej oczekującym momencie. Poważna nauka maszynowa to duże zestawy danych, a twój komputer musi być na nie gotowy.

W twoim komputerze do Machine Learning’u powinna znaleźć się minimalna ilość pamięci RAM, która plasujemy na 32GB, lecz rekomendowanym przez nas wyborem będzie 64GB pamięci RAM. W przypadku większej ilości kart graficznych wymaganym będzie ponowne jej powiększenie do 128GB, ponieważ nic w zoptymalizowanej maszynie spać nie może. Wszystko musi być dobrane pod swoich współpracowników!

Uwaga

RAM Nie skupiaj się na wyborze pamięci Ram wyróżniającej się płynnym zegarem. Jest to stanowcze wyrzucenie pieniędzy w błoto, ponieważ nie dają one znacznych zmian w szybkości działania stacji głębokiego uczenia.

Komputer do Machine Learning’u – Pamięć Dyskowa

To on odpowiada za transfer naszych danych na pokładzie stacji roboczej do Deep Learning’u. Nie powinniśmy olewać tego zgrabnego podzespołu, ponieważ mimo jego małej funkcji w całej dużej układance, wpływa on ogromnie na komfort pracy w codziennym użytkowaniu. Przez komfort mam tutaj na myśli nadawanie tempa przesyłu i magazynowania plików. Od rodzaju dysku jaki wybierzemy (wyróżniamy SSD i HDD), zależy:

      • Szybkość otwierania plików,
      • Szybkość zapisywania plików,
      • Szybkość przenoszenia plików.

Wybór płyty głównej musi być dostosowany do pozostałych powyższych podzespołów, ponieważ jego zadaniem jest spójne złączenie całości i dopięcie ostatniego guzika w koszuli. Szczególną uwagę musimy zwrócić na kompatybilność pomiędzy procesorem, pamięcią ram – a – płytą główną. Musi ona zawierać odpowiednie wejścia pod dany model procesora oraz mieć odpowiednią ilość slot’ów.

Dostosuj również płytę główną, pod wybrana przez Ciebie ilość kart graficznych GPU, ponieważ każda płyta główna ma określoną ilość slotów PCie x16. Wybierz taką, która spełnia wymagania pozostałych komponentów.

Zwróć też uwagę na wielkość obudowy twojego komputera do Machine Learning’u i dostosuj ją do płyty głównej, tak aby całość mogła spokojnie spoczywać w środku stacji roboczej.

Komputer do uczenia maszynowego – Zasilacz

Zakup odpowiednie zasilacza jest nad wyraz ważny. Czym jest komputer bez niego? Puszką, która nie zadziała. Przy podzespołach najwyższej półki wymagany jest od nas zasilacz z certyfikatem 80+ GOLD. Jego główna zaletą jest cicha etyka pracy, przy oferowanej przez niego dużej mocy. Śmiało możemy polecić produkty Seasonic, oraz Corsair.

Odpowiednie chłodzenie

Aby wszystko miało ręce i nogi zadbaj również o poczucie bezpieczeństwa swoich podopiecznych. Komputer do Machine Learning’u w trakcie uczenia się może osiągać bardzo wysokie temperatury, co za tym idzie potrzebuje mieć nad sobą bardzo solidnego opiekuna. Nikt nie lubi pracować w wysokich temperaturach. Wyobraź sobie, że pracujesz nad bardzo ważnym projektem. W twoim pokoju brak jakiejkolwiek klimatyzacji, a 32 stopnie za oknem dają o sobie znać jak nigdy. Jesteś w stanie wykonywać ciężką prace? Procesory tym bardziej nie cierpią ekstremalnych warunków cieplarnianych.

Rekomendujemy markowe chłodzenie np. firmy Noctua., ponieważ jest ono bardzo wydajne w rozpraszaniu temperatury, a pracujące wentylatory bardzo sprawne i ciche. Noctua zapewni odpowiednie warunki cieplne do prawidłowego funkcjonowania całości.

Stacja robocza do Machine Learning’u – Podsumowanie

Mamy nadzieję, że pomogliśmy ci przyswoić potrzebną wiedzę do zbudowania twojego wymarzonego komputera do uczenia maszynowego. Dowiedziałeś się dziś, jakie są najpopularniejsze rozwiązania pod względem wydajności. Podsunęliśmy ci również aktualne, najlepsze do wyboru marki i modele, oferujące odpowiednie podzespoły do twojej przyszłej maszyny. Mamy nadzieję, że uwzględnisz je w procesie budowy idealnego komputer. Dziękujemy, że dotarłeś aż do stopki naszej strony.

Jeśli jednak nie czujesz się na siłach to my chętnie pomożemy, dobierzemy i złożymy wszystkie komponenty tak, aby komputer do Machine Learning spełnił wszystkie Twoje wymagania w określonym przez Ciebie budżecie.

Potrzebujesz indywidualnej konfiguracji stacji roboczej?