Týždenník

Týždeň 2024-30 a 31

vlko

Aug 6, 2024 • 17 min read

Po dovolenke som plánoval mať týždenník krátky a stručný. Dopadlo to ako vždy. @vlkodotnet

Udalosť týždňa: (Ne)koniec treťostranných cookies

Bol som si oddýchnuť na dovolenke. To znamená, že by vás mal dnes čakať bleskový dvojtýždenník. Preto ma prekvapil počet liniek, ktoré potrebujú týždenný komentár. Tak som toho asi toľko na slnku nepreležal. Možno to bude potrebovať stručnejší štýl, ale sám viem, že nie vždy sa mi to podarí dodržať.

Nuž na začiatok sa Google rozhodlo, že z Chrome neodstránia treťostranné cookies.

Skôr, ako budeme Google obviňovať zo svojho chamtivého správania, tak je dobre podotknúť, že sa takto bránia žalobám. Samotný Google si už z Chrome vie vytiahnuť potrebné informácie o vás, ale sú tu iné reklamné siete, ktoré by mohli Google žalovať. Google, ako vlastník najrozšírenejšieho prehliadača a aj reklamnej siete, by mohol byť napadnuteľný za nekalú konkurenciu. Takto povedali, že nič nezrušia, ale užívateľovi len zobrazia nejaký prompt, kde by si ich mohol vypnúť. Z prípadu Apple a iOS vieme, že si to vypne takmer každý. Bude záležať na texte, aký zvolia, ale môžeme definitívne povedať, že koniec treťostranných cookies je tu.

Internetové zaujímavosti

Každá z nasledujúcich tém by mohla byť samostatnou sekciou, ale som lenivý, preto ich len jednoduchšie prepojím. Budeme pokračovať s Google, ktorý je aktuálne jediným vyhľadávačom, ktorý má prístup k Reddit dátam. Len Google má aktuálne s Redditom dohodu, ostatné vyhľadávače a AI boti sú blokovaní.

Ak chcete aj vy zachytiť túto novú vlnu, tak CloudFlare ponúka pre všetkých svojich zákazníkov službu, kde to spravíte na jeden klik. V článku nájdete aj pár zaujímavých štatistík o tom, ako narástol počet AI botov.

Vrátim sa ku Googlu. Ten mal veľmi dobrý finančný kvartál. Akokoľvek nám prídu jeho AI produkty ako blbosť, tak Google reklama najmä na vyhľadávaní priniesla 64 miliárd z celkového balíku 85 miliárd dolárov tržieb. Pre zaujímavosť Google Cloud mal obrat 10 miliárd so ziskovosťou 1 miliarda.

To takej Alexy od Amazonu sa predalo až 500 miliónov zariadení. A napriek tomu Amazon stál podľa neoverených informácií tento biznis s asistentom 25 miliárd dolárov v posledných 4 rokoch. To veru nie je moc dobrý obchodný model, preto tento rok má prísť Alexa AI, ktorá za mesačný poplatok prinesie funkcie, ktoré by sme od takého asistenta čakali už dávno.

Amazon Web Services začal s nepopulárnym vypínaním služieb. AWS bolo práve známe tým, že keď ste tam svoj produkt raz dostali, tak ste sa už o nič nemuseli starať. Týmto dobám je koniec a končí GitHub alternatíva AWS CodeSummit, AWS Cloud9, čo bolo IDE na webe, a tiež Amazon Forecast, čo je služba, kde ste naliali dáta a dostali predikciu budúceho správania. Užívatelia sa sťažujú, že o tom AWS nedalo poriadne vedieť a sú iba postavení pred hotovú vec s krátkou reakčnou dobou.

Pre mňa je celkom prekvapivá informácia, že GitHub Copilot je zodpovedný za 40 % nárastu obratu GitHubu za posledný rok. Celkovo to je až 2 miliardy dolárov. Slušný balík za službu, ktorá iba prebaľuje volania do OpenAI GPT.

We did not build AI just for the sake of having AI. We built GitHub Copilot for the sake of developer happiness. As it turns out, focusing on developer happiness is a solid strategy.

Today, in Microsoft earnings @satyanadella announced: “Copilot is driving GitHub growth, and all… pic.twitter.com/C1Wdz0w6V2
— Thomas Dohmke (@ashtom) July 30, 2024

Ak sa vám bude zdať GitHub Copilot nejaký rýchlejší posledné dni, tak je to preto, že prešli na GPT4o.

CrowdStrike príbeh pokračuje

CrowdStrike zatriasol celým svetom a sama firma pripravuje vylepšenia v procese vývoja a nasadzovania. Okrem toho to samozrejme nebola ich chyba, že to dopadlo ako dopadlo. Problém je vraj v testovacom software.

Teraz všetci začali čítať EULA, kde stojí, že CrowdStrike za žiadne škody nezodpovedá. Proste môžu byť zákazníci, ktorí platia tisíce eur radi, že dostali zľavový kupón na kávu (najmä tí, ktorým fungoval).

Keď padne Windows, tak najväčšiu hanbu nemá ten, čo pád spôsobil, ale Microsoft. Ten má hlavu v smútku a tvrdí, že za tento problém môže EU, ktorá ho prinútila takto integrovať software iných poskytovateľov.

Microsoft preto zverejnil zoznam odporúčaní do budúcnosti. Pravdepodobne sa aj dočkáme možnosti dostať sa na počítač v safe móde aj vzdialene. Samozrejme cez Microsoft nástroje.

Najlepšie na tomto príbehu ale je, že CrowdStrike kupovali veľké firmy preto, aby ním nahradili Microsoft Defender pre firmy. Či už to bolo kvôli cene, alebo kvôli tomu, že firmy chceli takto rozdeliť riziko plynúce z jedného dodávateľa. V krátkodobom horizonte si CrowdStrike firmy nedovolia nahradiť, ale v tom dlhodobom to možno pomôže Microsoftu predávať drahšie produkty.

AI okienko

Meta zverejnila svoj najnovší a najväčší Llama 3.1 model so 405 miliardami parametrov. Ten trénovala na clusteri so 16-tisíc H100 GPU a chváli sa, že poráža Claude Sonet 3.5 a GPT 4. Novej 3.1 verzie sa dočkali aj menší súrodenci s 8 a 70 miliárd parametrami. Máme dostupné väčšie 128k context okno, ale zatiaľ podporuje tento model iba textový vstup. Multimodality sa máme dočkať až v budúcej verzii. Model je open-source a verzia so 405 miliardami parametrov v default verzii potrebuje len 800 GB GPU pamäte, takže ho doma len tak nespustíte.

Pýtate sa, prečo Meta zverejňuje takýto model zadarmo? Odpoveď je, že sa takto bráni, aby trh nezískalo pár veľkých hráčov ako je OpenAI, Microsoft, alebo Google. Úprimne, Meta nie je niekto, kto by sa s novými produktami dostal von mimo svojich služieb (hlavne, kvôli svojej povesti). Takto aspoň zabránia, aby trh plne neprebral niekto iný a k sebe pritiahnu vedcov, ktorým na takýchto veciach záleží a tých je veru neúrekom.

Facebook zverejnil aj AI model SAM 2, ktorý dokáže nájsť a identifikovať na obrázku objekty.

Rýchlo sa pri tejto príležitosti pripomenul aj Mistral, ktorý zverejnil model Large 2. Má 123 miliónov parametrov a s Llama 3.1 chce bojovať najmä v coding a math segmente a tiež je multimodálny. Free je len výskum a nekomerčné účely, inak treba platiť. Ešte jedna výhoda mi napadá. Mistral je EU startup, tak pri jeho použití asi nebudete mať opletačky s EU komisiou.

Aby toho nebolo dosť, tak OpenAI zverejnil prototyp svojej služby SearchGPT. Ten otvára otázku: Odkiaľ majú dáta? OpenAI v tomto produkte s niekým spolupracuje, len zatiaľ nevieme s kým. Potom, ako sme všetci poblokovali OpenAI agresívnych botov, sa im ani nečudujem. Pre SearchGPT plánujú priniesť transparentný spôsob, ako do neho dáta dostať, tak som úprimne zvedavý, ako to dopadne. Budem to sledovať.

Google rozšírilo svoj najmenší model Gemma 2 o verziu s 2 miliardami parametrov. Okrem toho v rámci spolupráce s Nvidia je špeciálne optimalizovaný pre Nvidia grafiky.

Je to samozrejme útok na Microsoft Phi-3 mini model. Tomu Microsoft kontroval tým, že dovolil vývojárom finetunovať mini a medium verziu.

Dlho sme tu nemali nič nové pre generatívne modely obrázkov. Preto túto dieru na trhu využili Black Forest Labs, ktorí zverejnili model Flux.1. Ten má rôzne verzie, medzi ktoré patrí aj verzia s Apache 2 licenciou. Skúšal som pár promptov a nevyzerá to veru zle. Dám kolegovi Andrejovi vyskúšať, mohol by ním nahradiť svoj zastaraný Stable Diffusion SDXL 2.

Uff, tých modelov je nejak veľa, preto pre 3D grafikov ešte pridám jeden Stability Stable Fast 3D. Ten by mal byť super rýchly v generovaní 3D objektov.

Nakoniec tu mám ďalší "nezabudnuteľný" AI gadget. Tento najnovší sa volá Friend. Visí vám na krku, počúva, čo sa okolo šustne a následne vám posiela notifikácie na telefón. To je celé. Vraj, aby to bol najlepší priateľ, tak bude lepšie (hlavne lacnejšie), ak bude len počúvať. Produktové video je ako vykradnuté zo seriálu Black Mirror, a ak sa toto uchytí, tak nás čaká desivá budúcnosť.

Activision Blizzard už začal nahrádzať vyhodených zamestnancov, ktorí sa starali o umelecký obsah, za AI. Ak to takto pôjde ďalej, tak možno to AI umožní aj mne splniť starý sen s vytvorením vlastnej hry.

Pozerám, že tie video AI modely nebudú až také terno. Tu je výber pár nagenerovaných s Runway Gen-3 Alpha. A veru, keby mi to púšťali pred spaním, tak mám teda dosť haluzné sny.

Ale nie sú všetky AI len blbosti. Napríklad na olympiáde pomáha gymnastiku sledovať AI, ktoré vie zvýšiť transparentnosť pri rozhodovaní rozhodcov.

.NET okienko

ReShaper má 20 rokov. Ej boli to časy, keď bez neho bolo Visual Studio takmer nepoužiteľné. Našťastie to je minulosť, mne osobne sa nepáči, že sa neintegrovali do Roslynu, ale išli cestou vlastného parsera. Ale možno je to u vás iné. Dajte vedieť do komentárov, či ho niekto ešte používa.

V časti, kde si opakujeme základy, si zopakujeme, ako async kódu zabezpečiť Timeout. Pripomínam, že v .NET 8 je už na to priamo overload funkcia Task.WaitAsync().

Linky na záver

Pripravuje sa nový TypeScript 5.6 (aktuálne v beta verzii). A konečne ma v ňom niečo zaujalo. Novinka ma názov Disallowed Nullish and Truthy Checks a odhalí rôzne if chyby. Je tam toho viac, ale to už nechám každému na doštudovanie.

Overture sa snaží byť alternatívou pre Google Maps. Samozrejme sú tu OpenStreetMaps, ale tie sa snažia byť komunitné a nedovoľujú jednoducho prispievať komerčným firmám tam, kde priamo nepôsobia. Preto je dobre mať alternatívu na výber.

Overture Maps Foundation Releases General Availability of its Open Maps Datasets – Overture Maps Foundation

Overture Maps

Node.js pridalo podporu TypeScriptu tým najjednoduchším spôsobom. Odstránením typov. Ale aj to sa ráta.

Haystack je postavený na Visual Studio Code, ale namiesto tabov vám ponúka nekonečnú plochu, na ktorej si môžete organizovať priamo kód a funkcie a nie fyzické súbory. Zaujímavý nápad.

Sémantický grep w2vgrep využíva Word2Vec, aby vyhľadal nielen presný výraz, ale aj príbuzné vektory. To môže byť užitočné, ak pracujete v konzole viac so subormi so súvislým textom.

Mám tu aj rozšírenie pre používanie vektorov v SQLite s názvom sqlite-vec.

Logitech vám chce predať myšku na celý život. Znie to ako príliš zaujímavá ponuka s háčikom? Je tam a volá sa predplatné. Nezaplatíte, nebudete môcť myšku používať.

Keď som bol dieťa, tak sme každý chceli mať digitálky Casio. Na birmovku som ale dostal Primky (vedeli ste, že značka Prim stále existuje a ide o prémiovú značku?). Dnes už naopak každý chce smart hodinky a staré dobré digitálky sú len pre retro hipsterov. Ale Casio teraz prinieslo model Casio WS-B1000, ktorý má v sebe krokomer a cenovku 56 dolárov. Až sa pokazia moje aktuálne Fitbity, tak budem silno rozmýšľať.

Audapolis je editor zvukového záznamu v jeho textovej podobe. To znamená, že zoberie napríklad podcast, otextuje ho a umožní ho strihať priamo editáciou textu. Bohužiaľ našiel som, že podporuje iba český jazyk, ale možno by s ním zvládol aj slovenčinu.

Toto som dlho hľadal. Keď nájdem zaujímavý nový podcast, tak horko ťažko z neho vyťahujem rss feed do mojej Pocket Casts aplikácie. Get RSS Feed to spraví za mňa.

A sme na konci. Kolega mi minule hovoril o tom, že existuje na Steame hra Banana, kde ľudia nerobia nič iné, len klikajú na banán. Z neho raz za čas vypadne niečo špeciálne, ale nič iné ako klikanie to nerobí. A predsa je okolo toho ekosystém tvorcov obsahu a trhovisko, kde sa točí veľa peňazí. K tomu treba prirátať stovky tisíc hráčov a vznikne zaujímavý príbeh.

Vizuálna bodka na záver

Dnes trošku nostalgie. Kedysi to potrebovalo Flash. Teraz to ide aj v prehliadači.