Týždenník

Týždeň 2024-51

vlko

Dec 24, 2024 • 11 min read

Čaká vás posledný tohtoročný týždenník, ktorý vychádza presne na Vianoce. @vlkodotnet

Udalosť týždňa: Také to domáce počítanie

Nečakal som takúto bohatú vianočnú nádielku tento rok. Zväčša sa nič nedeje, ale tentoraz to je jedno zaujímavé oznámenie nasledované ďalším zaujímavým oznámením.

Ak ste paranoidní, a to väčšina vývojárov je, tak budúci rok si budete môcť kúpiť dve zaujímavé zariadenia, ktorými sa budete ešte viac môcť odstrihnúť od tých "zlých" cloud služieb. Prvým zariadením je Jetson Orin Nano Super od Nvidie. 8 GB RAM obslúži vaše AI modely rýchlosťou prenosu do RAM až 102 GB/s (to je cca na úrovni najmodernejších AMD a Intel procesorov) a tie následne pobežia na NPU so 67 TOPS. K tomu ešte dostanete 6 core ARM CPU. Všetko za cenu cca 250 dolárov. Na nejaké náročné LLM modely to určite nevyužijete, ale AI môže byť aj rozpoznávanie obrázkov/videa/zvuku/detekcia anomálií. Mimochodom produkt predstavil Jensen Huang vraj v jeho vlastnej kuchyni. Netuším, či v nej vôbec niekto niekedy varil. Tá naša tak čisto nevyzerala, ani keď bola nová.

Druhým zariadením, ktoré môžete mať doma, je Home Assistant Voice PE (Preview Edition znamená, že budete cool a možno jediní, čo to kedy budú používať). Na tomto zariadení je zaujímavé to, že je celé open source. Nielen software, ale aj hardware. Teoreticky si môžete vyrobiť vlastnú verziu. Má to v sebe ESP32-S3, audio procesor (pre odstránenie šumu), reproduktor, mikrofón a DAC prevodník. Všetko v peknej krabičke za 59 dolárov. To je pekná suma, ale nič iné ako zobrať zvuk a poslať ho na výkonnejší hardware to nevie. A takú slovenčinu a češtinu budete musieť poslať až do vzdialeného cloudu. To sa ale časom môže zmeniť. Čo je podstatné vedieť, je, že je to len také to zariadenie, čo máte v obývačke a môžete mu zadávať rozkazy prirodzeným jazykom. Niekde doma budete navyše musieť mať čosi lepší server, alebo sa spoľahnúť na Home Assistant Cloud.

Arm ešte Qualcomm procesory nezakáže

ARM robí všetko pre čistotu svojej ARM architektúry a zlovoľné úpravy, ako predvádza Qualcomm vo svojej X Elite sérii chce zakázať. Nateraz ale súd rozhodol, že Qualcomm neporušil licenčné dojednanie, ktoré získal akvizíciou spoločnosti Nuvia. Zatiaľ je len isté, že nič neporušil Qualcomm, nezodpovedaná je ešte otázka, či tak neurobila pôvodná spoločnosť Nuvia. Pre Qualcomm to znamená, že môže veselo predávať a ďalej vyvíjať Oryon jadro.

BIZ okienko

Trošku to musím urýchliť, zvečerieva sa, dopiekol som tradičný vianočný makovník (na obranu, nič iné piecť neviem) a zajtra mi budú chcieť zakázať prístup k počítaču. Také sú tu domáce zvyky. A viete, čo je ešte domáce? Home working. Najnovšie ale firmy začínajú zavádzať novú stratégiu Return-to-Office (RTO). Akurát podľa najnovšieho výskumu tým strácajú tie najväčšie talenty. To je pravda. Niekde v kancelárii by som žiaden makovník neupiekol.

Už aj EÚ chce mať svoju vlastnú sieť satelitov na nízkej orbite, ktoré budú poskytovať internet. Samozrejme tam teraz vládne Elon Musk, ale ak sa máte spoliehať pri kritickej infraštruktúre na niekoho, kto je kámoš s vašou najväčšou hrozbou, tak si to radšej postavíte sami.

Apple biznis so stávkou do Vision Pro zatiaľ nevyšiel. Ale, že to nie je úplne márne naznačujú ako projekty spoločnosti Meta, tak najnovšie aj Google s novou Android XR platformou. Ako by to malo vyzerať v skutočnosti, si pozrite v nasledujúcom článku.

AI okienko

OpenAI mal svoj vianočný kalendár, kde predstavil okrem Sora, o ktorej som už písal, aj kopec drobností vo svojom UI. Alebo možnosť v rámci USA volať na 1-800-CHATGPT a pokecať si s AI po telefóne.

Čo všetci čakali, bol nový GPT model. Aspoň 4.5, keď už nie 5. Dočkali sme sa ale o3 a o3-mini reasoning modelu (o2 preskočili, aby sa nedoťahovali s jedným medzinárodným mobilným operátorom). Nuž a o3 je naozaj prielom. V špeciálnom ARC-AGI testovacom datasete dosiahol výsledky, aké ešte pred rokom nikto nečakal. Ako to o3 dokázal? Nuž, keďže vieme, že tradičné učenie k zlepšeniu nevedie, tak učia model na tzv. reasoning. Odôvodňovanie postupu. Aby to fungovalo naozaj dobre, tak každú úlohu odpália vo viacerých paralelných vláknach. Tie sa priebežne vyhodnocuju a odpoveď tak trvá a trvá. Niekedy aj pár minút. Viac v nasledujúcom článku.

To, že OpenAI udáva trendy v AI, potvrdzuje aj Google, ktorý uviedol tiež svoj vlastný reasoning model. Zatiaľ len pre tých, ktorí majú sprístupnené experimentálne funkcie.

To nie je všetko. Google predstavil aj svoj nový projekt Mariner. Ten je rozšírenie v prehliadači Chrome, ktoré za vás bude riešiť komplikované úlohy. Ako napríklad: nájdi mi zo zoznamu firiem v Exceli všetky dostupné kontakty. Mariner začne googliť, klikať na výsledky, preklikávať stránky firiem a dolovať z nich kontakty. Všetko lokálne vo vašom prehliadači.

S AI modelmi sa roztrhlo celé vrece. Klink AI 1.6 dostane obrázok a vytvorí z neho krátku animáciu.

KLING AI

KLING AI, tools for creating imaginative images and videos, based on state-of-art generative AI methods.

KLING AI

Ale najďalej je model od Googlu Veo 2. Nakoniec mať k dispozícii takmer nekonečné množstvo videa na YouTube musí priniesť výsledky. A tie sú takmer neuveriteľné.

V minulom týždenníku predstavený model HunyuanVideo od Tencentu mal tiež krásne nagenerované videá. Ako budú vyzerať tie vaše, si môžete pozrieť v recenzii. Prezradím, že nič moc.

Genesis je AI framework pre učenie sa vašich robotov. Namiesto toho, aby ste museli nastavovať každýkrát nanovo testovacie prostredie, tak senzory robota napojíte na simuláciu. Potom viete veľmi rýchlo vykonať veľké množstvo iterácií, a tak naučiť robota robiť to, čo má, oveľa rýchlejšie.

Na koniec tohto okienka mám novinku. GitHub Copilota už viete používať aj vo free verzii. Tá ma obmedzený počet "nápovied". Ak ste sa pre neho nevedeli doteraz rozhodnúť, tak teraz tomu môžete dať malú šancu.

.NET okienko

Benchmarky porovnávajúce rôzne frameworky väčšinou majú malú výpovednú hodnotu. Pretože pri výbere záleží na viac faktoroch, ako len na nejakom syntetickom teste. Ale napriek tomu ich máme radi. Zaujíma vás, ako je na tom EF Core 9 v porovnaní s Dapperom? Prekvapivo dosť dobre.

TUnit je nový testovací framework postavený na novej Microsoft.Testing.Platform. Ponúka vyšší výkon a dokonca aj možnosť vybuildovať AOT verziu.

Linky na záver

Máte hŕbu dokumentov a radi by ste ich dostali do nejakého interného systému s podporou Markdown? MarkItDown je ten správny tool, ktorý potrebujete. A dokonca podporuje aj AI na popis obrázkov.

Pre Javistov tu mám návod, ako si začať robiť svoje vlastné skriptíky. Len tak súbor vedľa súboru. Spolu s tipom na JBang, cez ktorý si do scriptu viete vložiť Maven balíček.

Amazon S3 je objektový storage, ktorý je dnes už takmer štandard. S2 sa snaží byť novým štandardom. Namiesto úložiska ponúka stream. Do takého streamu iba tlačíte hodnoty a na druhej strane konzumujete. Ak vám to pripomína pub/sub architektúru, tak asi nebudete od základnej idey ďaleko.

Minule som zistil, že takmer všetky stolové hry sa testujú najskôr v online prostredí. Tam sa ladia ich jednotlivé mechanizmy a až potom dostanú fyzickú podobu. Ak ste ako ja rozmýšľali na svojou vlastnou, tak BoardGame.io vám dodá potrebné knižnice. Vy už len to UI budete musieť nejak doplniť.

Viete, že existuje farba chucknorris, a že je červená? Môže za to spôsob, akým sa farby v css parsujú a to, že všetky neznáme znaky sa nahradia za nulu.

Už je síce neskoro na výrobu/kúpu darčekov. Pomocou nasledujúceho nástroja si viete vygenerovať slepú mapu ulíc vášho mesta. Ale zvládne to aj celý okres. To potom môžete nejakej vianočnej obeti vytlačiť ako darček.

Vizuálna bodka na záver

Dnes bude vizuálna bodka trošku viac technická. Na nasledujúcej linke sa dozviete všetky dôležité informácie o našom Mesiaci. Ako putuje so Zemou vo swingovom tanci, prečo spôsobuje príliv a odliv, atď.