Týždenník

Týždeň 2024-50

vlko

• 10 min read
Dnes sa pokúsime nájsť odpoveď na otázku: máme tu revolúciu v kvantových počítačoch? @vlkodotnet

Udalosť týždňa: Revolúcia v kvantových počítačoch?

Určite ste minulý týždeň zachytili, ako Google uviedol svoj nový kvantový čip Willow. Obsahuje 105 qubitov a nepochybne ide o špičku v kvantovej technológii.

Ide ale o dlho očakávaný prielom? Ani nie. 105 qubitov je dosť málo na to, aby sme to vedeli prakticky použiť. Google vybral pre promo úlohu Random Circuit Sampling, ktorá je ako stvorená pre kvantové počítače. Na tých normálnych by ste ju rátali dlhšie, ako je vek vesmíru. Google už ale nespomenul, že jej výsledok, teda kontrolu, trvá zrátať rovnako dlho, teda 10^25 rokov. Google výsledok overil nepriamo extrapolovaním, ale na tom až tak nezáleží. Džin z fľaše bol vypustený a my sa môžeme tešiť budúci rok na nový Quantum BUZZ. AI bude treba niečím nahradiť. Mimochodom na obrázkoch ukazuje Google taký klasicky vyzerajúci čip. Čo už ale neukazujú je, že to bude vložené v špeciálnom zariadení, ktoré bude v špeciálnej miestnosti, obsluhované špeciálnymi počítačmi. My bežní ľudia si na kvantové počítače budeme musieť počkať ešte pár desiatok rokov. Aktuálne Google patrí prvenstvo v znížení chybovosti.

Mimochodom, ak vás zaujíma, ako taký kvantový výpočet vyzerá, tak vy najskôr musíte navrhnúť špeciálny kvantový algoritmus. Ním sa potom naprogramuje samotný kvantový čip. Celé to na tom čipe beží niekoľko tisícov až miliónov krát, aby sa nakoniec výsledok vyhodnotil štatisticky. Menšia chybovosť znamená, že to môže pred štatistickým vyhodnotením bežať v oveľa menšom počte. Ale to je len taký môj laický pohľad, ak vás Willow zaujíma viac ako týchto pár odstavcov, tak čítajte tu:

The Google Willow thing

Electric BETA

Na mojej prednáške na CODECON ZA som ukazoval na PostgreSQL databáze, ako sa dá použiť ako dokumentová databáza. Všetky príklady boli prezentované priamo v prehliadači pomocou PGLite, čo je WASM implementácia PostgreSQL. Hlavný dôvod, prečo vznikol PGLite, je, aby sa do neho lokálne synchronizovali údaje zo vzdialenej PostgreSQL databázy. Práve na túto úlohu je určený Electric, ktorý práve vychádza vo verzii Beta, ktorá je použiteľná na produkčné účely. Namiesto vzdialených volaní do databázy môže ukladať vaša SPA aplikácia dáta do svojej lokálnej databázy. Vy už len potom synchronizujete zmeny.

Electric BETA release | ElectricSQL
The Electric sync engine is now in BETA. If you haven’t checked out Electric recently, it’s a great time to take another look.
Open demoKyle Mathews

Ako na interného chatbota s plnou znalosťou vašich projektov?

Využiteľnosť všetkých tých AI modelov končí tam, kde sa potrebujete spýtať na internú dokumentáciu, komunikáciu, jednoducho niečo, čo nepozná a vy nechcete pustiť von z firmy. Posledné dva týždne som sa snažil vysvetliť, čo je to RAG. Ako je RAG užitočný na vyhľadávanie podobností. Ako je RAG len základný výstup transformera, ktorý si niekde ukladáte.

Je načase prejsť k praktickému využitiu. V nasledujúcom článku sa dozviete, ako si taký RAG systém vytvoriť, nakŕmiť ho internými dokumentami, komunikáciou, čímkoľvek. A následne ho v spojení s LLM modelom využiť na naozaj relevantné odpovede na otázky. Takýto system bude menej náchylný na halucinácie, budete vedieť referencovať konkrétne dokumenty, ktoré spracoval v odpovedi. Proste urobiť z toho užitočný nástroj.

Building an Internal Chatbot That Knows All Your Docs: a Step-by-step guide
I’m one of the first employees in Taranis, and I’ve been in the company for 8 years. I remember the day we grew to more than one team, and we finally decided to have some internal documentation…
Taranis TechAvi Klaiman

Sebarozvojové okienko

Natrafil som na zaujímavý článok, ktorý popisuje moje pocity, keď občas prepadnem do nekonečnej jamy digitálneho obsahu. Toľko zaujímavého a tak málo času to všetko prečítať. U mňa to prichádza pravidelne vo vlnách a končí tým, že potom vymažem nejaké zdroje, lebo nedá sa prečítať celý internet (leda by ste boli AI, ale tu sa zasa sťažujú na nedostatok obsahu). A tak si nakoniec iba tak plávam po povrchu a snažím sa s tým zmieriť. Možno som trošku odborník na .NET, trošku na veci okolo slovenských dátových zdrojov a inak tu len spisujem to, čo sa vo svete deje. A to tak nejak stačí.

digital consumption keeps me from getting better at my job
know thyself
sibervepunksibervepunk

V článku ma ešte zaujala jedna myšlienka. Nikdy nedajte na "online rady". Môžete sa nimi inšpirovať, ale nikdy ich slepo nezaraďujte do svojho života, pretože to, čo funguje jednému, nemusí fungovať vám.

BIZ okienko

Stanfordská štúdia medzi 50-tisíc vývojármi zistila, že 9,5 % z nich nerobí nič. Aby nevyzerali podozrivo, tak niečo commitnú, ale sú to len malé nepodstatné zmeny. Ja len rozmýšľam, ako to je možné? Ale to je už asi také to prekliatie korporátov, že sa takíto ľudia dokážu v tom množstve zamestnancov stratiť.

About 10% of developers ‘do virtually nothing’ - ShiftMag
Stanford research in developer productivity has identified 0.1x engineers.
ShiftMagAntonija Bilic Arar

Keď som tento príbeh videl prvýkrát, tak som si myslel, že je vymyslený. Ale on sa skutočne stal. Indický beauty startup YesMadam urobil firemný prieskum o stave stresu vo firme, aby následne znížil stres vo firme tým, že ľudí, ktorí v dotazníku nahlásili stres, vyhodil. Akurát, že ich nevyhodili, ale im poskytli možnosť na oddych, dovolenku, uvoľnenie sa od stresu. Ale to by už potom tento príbeh nebol taký vtipný.

Epicu sa splnil sen a dostane svoj obchod s hrami na Android zariadenia. Síce len na Samsung zariadeniach operátora Telefónica, ale ten obsluhuje trhy v UK, Nemecku, Španielsku a Latinskej Amerike, čo môže byť dobrý začiatok.

Epic’s dream is starting to come true — its store will be preinstalled on ‘millions’ of Android phones
But not in the US — not yet.
The Verge

Nakoniec na odľahčenie popis toho, ako funguje v súčasnosti vyhľadávanie.

Post by @KarchWrites@wandering.shop
View on Mastodon

AI okienko

Začneme niečím užitočným. Potrebujete niečo od chatbota, ale viete zosmoliť iba svoju jednu jednoduchú vetu? IMPROVE YOUR PROMPT! je AI model, ktorému napíšete tú jednu vetu, on dá doplňujúce otázky. Následne vygeneruje prompt, za ktorý by sa nemusel hanbiť žiaden AI expert.

White Ninja: Intent-Based Prompt Engineering Tool | Langtail
Let White Ninja guide you in transforming your ideas into perfect prompts. Our intent-based prompt engineering tool provides AI-powered assistance to create clear, effective, and precise prompts every time.
Langtail

Aj tento týždeň odložím komentár k novinkám od OpenAI. Počkám si, až to celé zakončia. Už ale leaklo, čo budú predstavovať.

Zatiaľ to najväčšie oznámenie bola dostupnosť AI modelu Sora pre generovanie videa. Akurát, že to AI video je stále také meh. Čo ale treba OpenAI priznať, je, že k tomu budujú použiteľný interface. Môžete si vytvoriť story book pre jednotlivé časti videa, takže nie ste odkázaní na jeden prompt a veľa neočakávaných výsledkov.

Sora’s AI video revolution is still a ways off
The details are impressive, but so are the visual distortions.
The Verge

Ak máte grafickú kartu s 80 GB pamäte, tak si môžete podobné videá s dĺžkou 5 sekúnd generovať sami pomocou Hunyuan Video AI modelu od čínskeho Tencentu. Výsledok vyzerá dobre, ale treba si uvedomiť, že ani Sora neukazovala zle vyzerajúce videá.

HunyuanVideo: A Systematic Framework For Large Video Generation Model Training
Combining Virtual and Real Unlimited Creativity

Už je asi jasné, že OpenAI zverejní novší model GPT, pretože nový model zverejnil Google. Gemini 2.0 vie generovať obrázky, video, audio. Je lacnejší a umožňuje vytvárať AI agentov.

Google launched Gemini 2.0, its new AI model for practically everything
The new Gemini is faster, cheaper, and more powerful — and Google is about to use it everywhere.
The Verge

Rovnako Microsoft prišiel so svojím mini lokálnym AI modelom Phi4, ktorý má len 14 miliárd parametrov. Podľa testov poráža Gemini Pro 1.5 v matematike.

Introducing Phi-4: Microsoft’s Newest Small Language Model Specializing in Complex Reasoning
Learn about Phi-4, the latest small language model in Phi family, that offers high quality results at a small size (14B parameters).

Aj X pridalo AI model do svojho Grok asistenta. Volá sa Aurora a nahradí Flux v generovaní obrázkov. A ako je pri X zvykom, nemá problém generovať obrázky s politikmi, zbraňami, násilím a nahotou.

Elon Musk’s X gains a new image generator, Aurora | TechCrunch
X, the Elon Musk-owned social network previously known as Twitter, has added a new image generator to its Grok assistant called Aurora.
TechCrunchKyle Wiggers

Trellis je AI model pre generovanie vysoko kvalitných 3D objektov.

TRELLIS: Structured 3D Latents for Scalable and Versatile 3D Generation
*

Podobne aj BlenderGPT, ktorý je ale určený priamo pre tých, čo tvoria v Blenderi.

BLENDERGPT
s an advanced artificial intelligence program that creates 3D models from text or image prompts in ~20 seconds. It lets you synthesise fully textured meshes, then import directly to Blender with a shortcut or download the source files for use in any compatible software.

Nakoniec už len priložím článok, ktorý popisuje, prečo Google nahlásilo US Federal Trade Commission (FTC) Microsoft, aby ukončil svoju dohodu s OpenAI. Tá vraj obmedzuje konkurenciu na trhu, pretože OpenAI modely sú tie najznámejšie. Firmy potom musia migrovať do Azure, ktorý ich ako jediný ponúka. V článku sú aj iné zaujímavé súvislosti, ako napríklad, že 13-miliardová dohoda s OpenAI je viac výhodná pre Microsoft ako pre OpenAI.

Report: Google told FTC Microsoft’s OpenAI deal is killing AI competition
Microsoft gatekeeping OpenAI models saddles AI rivals with costs, report says.
Ars TechnicaAshley Belanger

.NET okienko

Dnes len také malé a zaujímavé čítanie, že MediatR netreba používať tam, kde ho netreba.

Don’t use MediatR by default on all .NET projects
The .NET ecosystem has witnessed a significant shift in recent years, with MediatR becoming almost synonymous with Clean Architecture implementations. This library, designed to implement the mediator pattern, has found its way into countless tutorials, templates, and starter kits, making it seem lik…
Goat ReviewPierre Belin

Linky na záver

Raspberry predstavilo vylepšenie svojej klávesnice so vstavaným Raspberry Pi 5 s názvom Raspberry Pi 500. A tiež externý monitor Raspberry Pi Monitor. Oba v cenovke okolo 100 dolárov.

Raspberry Pi’s new keyboard computer can power an optional $100 display
An easier way to get started with the Raspberry Pi.
The Verge

OldMaps sú krásny projekt, ktorý vám zobrazí mapu s hranicami štátov tak, ako vyzerali vo vami zadanom roku.

TimeMap.org - World History Atlas
The easy-to-use getaway to historical maps in libraries around the world.
Old MapsKlokan Technologies GmbH (https://www.klokantech.com/)

Vizuálna bodka na záver

Dnes som písal o dvoch AI video modeloch. Takto to potom vyzerá, keď sa použijú na klasiku.