W pracy
Pracodawca mój ulubiony, okazuje się, raz na jakiś czas wymienia wszystkim laptopy służbowe na nowe, bo się na stare kończy leasing i mają ponoć dobry deal. Tym samym mój wysłużony dwuipółletni laptopik wrócił do macierzy, w zamian dostałem funkiel nówkę nieśmiganą. Różnice w zasadzie kosmetyczne: ciut nowszy procesor (nadal i7 tylko jakaś odświeżona wersja), jakaś ciut lepsza karta grafiki (stara miała 4GB VRAM, nowa ma 6GB, nie wiedzieć po co, bo i tak nie używam do niczego więcej niż do Ałtluka, Timsów, Eksela i czasem jakiegoś Pałerpointa). Klawisze ścisnęli, bo trzeba było rozmnożyć głośniki, o tak:
Stary:
Nowy:
W efekcie wsiorbało całą kolumnę klawiszy po prawej stronie, ale jest dzięki temu dźwięk stereo, co ani mnie grzeje ani ziębi, bo i tak dźwięku w tym czymś słucham wyłącznie na Teams przez słuchawki, a klawiatury używam zewnętrznej.
Jedyne, co faktycznie poprawili, to proporcje ekranu. Ostatnie trendy w panoramizacji wyświetlaczy doprowadzają mnie do trzęsawki wzdłużnej, tymczasem tutaj proporcje ekranu się zmieniły na bliższe kwadratowi. Co prawda niewiele bliższe, ale zawsze. Zamiast 1080 pikseli, mam ich teraz w pionie aż 1200. W poziomie bez zmian. Efekt uboczny: głaskadełko nieco urosło, co jednakowoż mam w głębokiej, bo i tak zawsze używam zewnętrznej myszy.
Jak teraz sobie pomyślę, to w zasadzie wystarczyłoby mi urządzenie w postaci niewielkiej kostki, z procesorem, RAM-em i jakąś pamięcią stałą, plus dwa porty: jeden zasilający, drugi do monitora. Resztę da się ogarnąć bezprzewodowo. Ekran - zbędny, w domu mam jeden wielki monitor, w pracy dwa mniejsze w stereo. Klawiatura podobnie.
W domu
Tymczasem w domowych klamotach większa rewolucja, bo zachciało mi się ostatnio eksperymentować z lokalnymi LLM-ami, a te jak wiadomo są dość wymagające sprzętowo. Dlatego odłożywszy parę dukatów na tę okazję, wydałem je na całkiem przyzwoitą maszynkę dwuprocesorową na Xeonach, która ma więcej pamięci RAM niż wielkość partycji systemowej dysku twardego w poprzednim pececie, miejsca na dyskach tyle, że mógłbym tam zmieścić całego swojego domowego NAS-a ze trzy razy i jeszcze by zostało na waciki, a do tego wszystkiego całkiem przyzwoita (ale nie "gamingowa") karta grafiki z kupą VRAM-u oraz z możliwością wpięcia w trybie SLI (czy jak się to teraz nazywa) dwóch kolejnych, o ile zasilacz i budżet udźwignie (ze wstępnych obliczeń wynika, że zasilacz udźwignie na styk, no a budżet to wiadomo, jak jest to jest, a jak nie ma to się odczeka i uzbiera). Póki co nie planuję, ale dobrze mieć opcję. W dodatku bydlę waży tyle, że ma w górnej części obudowy dwa wielkie uchwyty do przenoszenia - poprzedniego kompa mogłem bez trudu wziąć pod pachę, ten zagina lokalną czasoprzestrzeń 🙂
Jeszcze nie wiem tak do końca do czego będę tego potwora używał, na razie udało mi się (z wydatną pomocą PyTorch) uruchomić parę niedużych modeli konwersacyjnych (takich na 6, 9 a nawet 20 miliardów parametrów) i wyniki są całkiem interesujące. ChatGPT to to nie jest, ale ogólnie daje radę. Na starym kompie musiałem czekać ponad pięć minut na odpowiedź na proste "Hi, how are you?", a tutaj jak go pytam o stolicę Norwegii, dostaję odpowiedź po 3-5 sekundach, więc jest różnica. Złośliwi pewnie zaraz powiedzą, że pytanie LLM o stolicę Norwegii mija się z celem, ale mam to gdzieś. Haters gonna hate, potatoes gonna potate, jak mawiają lokalni 🙂
“niewielkiej kostki, z procesorem, RAM-em i jakąś pamięcią stałą, plus dwa porty: jeden zasilający, drugi do monitora. Resztę da się ogarnąć bezprzewodowo. Ekran – zbędny, w domu mam jeden wielki monitor, w pracy dwa mniejsze w stereo. Klawiatura podobnie.”
Półśrodki!
Zasilanie i monitor można podłączyć w jeden kabel bez problemu, Thunderbolt/USB-C.
Skoro i tak podłączasz do monitora, to przecież w monitorze równie dobrze może być procesor i RAM i okoliczności. Potrzebujesz tak naprawdę przenośnego dysku twardego, hmm; to brzmi jak pendrajw?
I tak to powinno wyglądać, pendrajw który wtykamy gdzie trzeba; do workstacji w domu/w biurze; ew. laptopie jak potrzeba; a nawet telefonu. Sprzętowo się od dawna da.
Doceniam poczucie humoru! Jednakowoż pendrajw ma dwie zasadnicze wady w tym konkretnym scenariuszu: (1) wymaga w docelowym miejscu komputera, oraz (2) jego prędkość działania (czyli zapis / odczyt) jest niewystarczająca, żeby w miarę sprawnie operować.
Faktycznie zgoda co do wspólnego kabla na zasilanie+monitor. Przecież już i tak tego używam w biurze (w domu nie mam stacji dokującej, więc kabelki mam podpięte dwa).
Dlatego pisałem że CPU/RAM powinny być w monitorze.
Prędkość pendrajwa “takiego tu i teraz” – oczywiście tak.
W ramach postulatu “niewielkiej kostki, z procesorem…”; to nie ma problemu żeby zrobić takie pudełko nawet wpinane do wystawionego odpowiednio złącza PCIe; czyli tożsame szybkościowo z SSD NVMe na płycie.
Jednakże; naprawdę, Thunderbolt będzie wystarczająco wydajny (poza jakimiś super-niszami), są przecież nawet eGPU.
Nowy i7 – nie wiem czy jest się z czego cieszyć, jakaś afera jest ostatnio. Doczytaj, sprawdź aktualizacje BIOS…
Kostka – już są i nie mam na myśli RPi z Linuxem. https://pl.aliexpress.com/item/1005005776132222.html czyli n100 z 8/16 GB i sporym SSD.
> jakaś afera jest ostatnio
Z procesorami Intela co rusz jest jakaś afera 🙂 BIOS mam niby aktualny, co jeszcze mogę zrobić? Co najwyżej pomodlić się, tylko zanim człowiek wybierze do kogo, to znów mi wymienią na nowy…
> Kostka – już są …
Ja to wiem i ty to wiesz, ale korpo jest korpo i wszystkim odgórnie przydziela się konkretny model i już. Wyżej dupy nie podskoczysz. W poprzednim miejscu pracy mogłem sobie wybierać zarówno sprzęt jak i OS, ale tam to była niewielka firma, a tutaj jest nas całe mrowisko, jakby ludzie zaczęli kombinować każdy swoją zabawkę to by się wszystko sypnęło jak domek z kart, obstawiam.
Wiadomo, standaryzacja upraszcza życie przy większej skali. Zresztą, wystarczy, że pojedziesz w delegację i nagle kostka wypada słabo. Zresztą laptop to UPS gratis.
Poza tym, do i7 ma się to raczej nijak. Za to jest ciekawą, niedrogą alternatywą dla kompa w domu.
Co to za sprzęt masz w tym domowym homelabie?
Coś ze 20 TB na paru dyskach (głównie tradycyjnych, mechanicznych, ale są też dwa czy trzy ssd na różnych interfejsach), 192 GB pamięci operacyjnej, dwa Xeony (łącznie 16 rdzeni / 32 wątki) i jakaś w miarę świeża NVidia na pokładzie, z 16 GB pamięci video i pierdylionem rdzeni CUDA. Z opcją rozbudowania RAM-u do 3TB tudzież wetknięcia dwóch dodatkowych kart grafiki w razie gdyby Pasjans nagle przestał działać płynnie 🙂
Obstawiam, że taki zestaw wystarczy mi na zabawę w udawanie programisty na kolejnych 5-8 lat. Pożyjemy, zobaczymy…
Chyba mam coś podobnego (tylko na razie bez grafiki) i nazywa się to Dell T420, będzie robić za nas jak sobie kupię jeszcze dyski (4×20-22TB)