Týždenník

Týždeň 2024-15

vlko

Apr 16, 2024 • 9 min read

Nvidia dostala prvého konkurenta, ktorý začal vyrábať konkurencieschopné AI karty. @vlkodotnet

Udalosť týždňa: Hŕba zaujímavých procesorov

Minulý týždeň sa nám urodilo v stojatých vodách procesorov zopár zaujímavých noviniek. Tú prvú novinku predstavil Intel s názvom Gaudi 3. Ide už o tretiu generáciu ich AI procesorov. Primárne je to konkurent Nvidia H100 procesorov, kde ponúka vyšší výkon, pri nižšej spotrebe (podľa Intelu). Ale viete si to hodiť aj do svojho počítača ako PCIe kartu a rátať si lokálne LLM modely. A nevyrába ich Intel priamo, ale objednáva si ich od TSMC na 5nm výrobnej linke.

Cieľ takéhoto procesora je jasný. Ukrojiť si čo najviac z koláča hype okolo AI, kde každý chce čo najviac AI výkonu. Je ho potrebné ako na trénovanie čoraz väčších modelov, tak aj na pokrytie výkonu, ktorý ráta odpovede chatbotov. Lebo nie je problém poskytnúť službu s LLM modelom, problém je zabezpečiť jej plynulý chod a to, aby ste na nej neprerobili.

Pre trošku inú cieľovku uviedlo AMD druhú generáciu Versal Gen 2. Tie majú v sebe ARM procesory a sú určené pre rôzne špeciálne systémy ako sú autá, lietadlá alebo lekárske prístroje, ktoré potrebujú vysoký výkon a nízku spotrebu pre AI výpočty. Vyrábať sa začnú až budúci rok, ale to nevadí. Trhu, pre ktorý sú určené, chvíľku potrvá, kým ich začne používať.

A do tretice Qualcomm. Aj ten má druhú generáciu procesorov RB3 Gen 2, ktoré sú určené pre robotov a hádajte čo? Aj oni majú 10-krát viac AI výkonu. Asi voči predchádzajúcej generácii. Pre roboty to znamená, že hlavne budú môcť pridať viac kamier. Okrem toho sa popri tom zviezli úsporné WiFi čipy, ktoré sú určené pre IoT zariadenia, ako sú zámky, senzory, atď.

Zasa nám výrobcovia chcú ukázať, že budúcnosť je v AI. Ale to nám tvrdili aj o blockchaine. A neexistuje nič horšie ako zlé načasovanie vydania produktu. Playtron uviedol SuiPlay0X1, čo je SteamDeck klon, ale natívne podporujúci "web3 gaming", teda NFT. Možno dúfajú, že sa doba všetkých pofidérnych blockchain technológií znova vráti, pretože release plánujú budúci rok. Ale predpokladám, že ak tam narýchlo nehodia nejaké AI funkcie, tak sa tohto produktu určite nedožijeme.

Vzdelávacie okienko

Určite ste zvedaví, čo mám pre vás dnes pripravené. Bude to veľmi dôležitá téma. Work-Life Balance. Kto nikdy nevyhorel, nech hodí kameňom, ja mám za sebou už dve veľké vyhorenia, z ktorých každé končilo zmenou práce. Také to vyhorenie, keď sa strašne snažíte robiť, ale práca vám nič neprináša. Cítite sa slabý, nič vás nebaví, bolí vás hlava a kopec iných vecí, ktoré som ja napríklad nemal, ale iní ľudia mali.

Dnes už viem, že tou najväčšou mágiou, ktorá vás pred tým zachráni, je povedať si sebe dosť a druhým nie. Ďalej je treba raz za čas si sadnúť, popremýšľať a nefungujúce veci zmeniť. To preto, že z Work-life balance sa stáva ľahko Work-life integration. Ste proste hlavou v práci, aj keď ste už doma. Za to môže hlavne mobil a všetky tie dopamínové notifikácie a aplikácie, ktoré nám nedovolia vypnúť hlavu. Priznám sa, že takto cyklicky sa s tým snažím bojovať každého pol roka. A každého pol roka do toho znova nabehnem.

Jedným dobrým spôsobom, ako neupadnúť pravidelne do zabehnutých koľají, je si nastaviť dlhodobé ciele. Dva také moje sú písať a prednášať. Do toho mi dobre zapadol koncept týždenníka za stranu písania a súhrnný mesačník na WebUpe za tú prednášajúcu. Neviem, či mi to ide dobre, ale dôležitá je snaha. Mimochodom pár tipov na zlepšenie prednášok mám v nasledujúcej linke.

AI okienko

To sme už pri AI okienku? Nevadí, dnes bude kopec .NET obsahu inde. Google mal Google Cloud Next konferenciu, ktorá je o cloud službách, ale dopadlo to tak, ako tento rok všetko. Keynote bola zasa len o AI. Všetky tie služby, čo ja poznám cez docs.google.com dostanú Gemini (to je u Google to, čo Microsoft volá Copilot) asistentov. Viac AI dostane aj Google Search, kde to nazývajú "grounding", to aby sme nemali pochybnosti, že to bude naozaj, naozaj úplne v základoch.

OLMo je model, ktorý je naozaj open. To znamená, že nemáte k dispozícií len váhy, ale aj dataset, na ktorom sa model učil. Ináč je na úrovni Llama 2. Určite sa pýtate, prečo niekto robí ďalší x-tý model? Nuž preto, lebo pri týchto lokálnych modeloch viete zaručiť, že ak niečo navrhnete, preučíte si ho a poriadne otestujete, tak vám to niekto pod rukami na serveri niekde v OpenAI nezmení.

.NET okienko

Je tu tretia preview verzia .NET 9, ale pre mňa prvá, ktorú som zachytil. V nej nás čakajú rýchlejšie chyby (teda skôr ich zachytávanie, ako ich vytváranie), nový PersistableAssemblyBuilder, ktorý asi využijete v code generátoroch a ostatné vyzerajú zatiaľ ako drobnosti.

Tiež vyšlo nové MSTest SDK, ktoré prináša nové defaulty, rozšírenia a podporu testov pre AoT vykompilované dll.

Tá textová podivnosť pre solution s príponou .sln dostane konečne xml friendly alternatívu .slnx. Zatiaľ si to musíte aktivovať manuálne vo Visual Studiu 17.10.

Čím viac robím s GitHub Copilotom, tým viac mi vadí, akým spôsobom je integrovaný do Visual Studia. Našťastie nie som sám a tak dostaneme novú skúsenosť už v budúcom VS 17.10.

Vznikol balíček, ktorý rozšíri PostgreSQL o podporu jazyku C# a F# v storovaných procedúrach. Ak ste sa vydali cestou storovaných procedúr a biznis logiku píšete v C#, tak pl/dotnet môže byť užitočným doplnkom.

Asi sa vám nestáva často, že v JSON máte objekty, ktoré odkazujú na seba v cyklickej referencii. Ak áno, tak tu je návod ako ich vyriešiť, pretože by default System.Text.Json pri takejto serializácii spadne s chybou "System.Text.Json.JsonException: A possible object cycle was detected.".

Linky na záver

Google spúšťa "Find My Device", čo je služba a aplikácia, ktorá vám pomôže nájsť stratené veci. Nechýba podpora prenosných slúchadiel a rôznych iných tagov, ktorými si môžete označiť veci, ktoré strácate.

Redis implementácia s perzistenciou v SQLite prichádza pod názvom Redka. Je to o čosi pomalšie ako Redis, ale ten mení licenciu a toto zatiaľ nie.

Vlastník WordPress firma Automattic kúpila aplikáciu Beeper, ktorá sa stala známa tým, že implementovala iMessage protokol aj bez povolenia od Apple. Ináč akurát som si to nainštaloval a je zaujímavé môcť mať konečne jednu aplikáciu na všetko. Mne ako pamätníkovi to vyvoláva spomienky na aplikáciu Miranda.

Windows Server 2025 dostane Hotpatching pre bezpečnostné updaty a kopec iných vylepšení.

MarkdownDown prevedie akúkoľvek stránku na Markdown.

Vizuálna bodka na záver

Nechávam bez komentára, aby som nikoho neurazil.