Týždenník

Týždeň 2023-46

vlko

Nov 21, 2023 • 11 min read

Máme tu druhý týždeň, keď OpenAI napĺňa stĺpčeky novín. @vlkodotnet

Udalosť týždňa: Koniec OpenAI?

Cez víkend sa stala asi najneuveriteľnejšia udalosť tohto roka. Tesne po tom, ako malo OpenAI jeden z najúspešnejších eventov posledného obdobia, prišla sčista-jasna správa, že z OpenAI vyhadzujú jej CEO Sama Altmana a spolu s ním odchádza spoluzakladateľ Greg Brockman.

Na internete je množstvo názorov na vec, od toho, že OpenAI už nie je konkurencieschopná, že ju open-source, Google a Meta modely prevalcovali. Alebo, že to bolo preto, že okrem OpenAI mal aj bokovku, kde robia na hardware pre AI. Čo človek to silný názor. Aby silných názorov nebolo málo, tu je môj pohľad.

OpenAI je v prvom rade neziskovka, ktorá bola založená za účelom vývoja univerzálnej AI. Samozrejme tak, aby potom nevystrieľala celé ľudstvo ako škodnú. Sam Altman ale vycítil potenciál a spravil z OpenAI firmu s potenciálnou hodnotou v rádoch desiatok miliárd dolárov. Ale OpenAI nie je firma, je kontrolovaná správnou radou, ktorá mala možno iné názory na smerovanie a tá rozhodla, že toto teda nie. Najlepšie zhrnutie tejto situácie nájdete vo vynikajúcom newsletteri Patricka Zandla.

Ale to bolo zhrnutie za nedeľu. Potom sa ale začali diať iné neuveriteľné veci, a preto výnimočne tu budú novinky aj za dnešný pondelok. Takže najskôr sa rada dohodla, že teda si to rozmysleli a chcú Altmana späť, počas toho vymenovali asi 3 nových dočasných CEO (vôbec neviem, čo spravili s tými starými), aby sa nakoniec dozvedeli, že Sam dostal "ponuku, ktorá sa neodmieta" od Satya Nadellu z Microsoftu.

Pre Microsoft sú produkty OpenAI kritické, stavili na budúcnosť AI a je logické, že takýto odchod by bol pre nich potenciálnou hrozbou. Takto by si v osobe Sama Altmana zabezpečili svoju vlastnú nezávislú budúcnosť. Okrem toho 650 zamestnancov z cca 770 zamestnancov podpísalo otvorený list, že žiadajú odstúpenie správnej rady a návrat pôvodného vedenia, inak odídu z OpenAI (ak nie majú pripravené teplé miestečko práve v Microsofte).

A čo to znamená pre vás? Ak ste začali svoje služby stavať na OpenAI, tak by ste sa mohli začať obávať. Ak OpenAI neotočí, tak sa ešte nič nedeje, veľa hostuju v Microsofte, takže chvíľu služby pobežia. Ten za pár mesiacov vytvorí nový model a pokúsi sa všetkých OpenAI zákazníkov dostať k sebe. Ale tento zaujímavý príbeh ešte určite nekončí.

Microsoft Ignite

Microsoft mal jesennú konferenciu pre svojich biznis partnerov a mňa zaujali tri novinky. Samozrejme najviac nový hardware, okrem nového AI čipu Maia 100, ktorý bude rátať Copilota a OpenAI hostované v Azure, pribudol druhý Cobalt 100. Ten má najnovšie ARM jadrá Neoverse V2, ktorým len minulý rok uzavreli špecifikáciu. Do Azure ešte pridajú nejaké nové typy Nvidia a AMD virtuálnych strojov pre strojové učenie.

Microsoft Takes "Shock And Awe" Approach To New Azure Custom And Merchant Silicon For AI And General Purpose Workloads

At #MSIgnite, Microsoft went all "shock and awe" in one of the biggest displays I have seen from a CSP in a while.

Custom-silicon:
1/ Microsoft Azure Maia AI… pic.twitter.com/kQDTl9FHpX
— Patrick Moorhead (@PatrickMoorhead) November 15, 2023

Druhou novinkou je Microsoft AI Studio (Microsoft miluje komplikovať ľudom rozlíšenie produktu, preto uviedli ešte aj Copilot Studio), s pomocou ktorého môžete fine-tunovať SLM modely a navyše ich spúšťať lokálne na počítači.

Treťou novinkou je AI model Florence 2, ktorá má dostupnú iba vedeckú štúdiu a cool video. A má poháňať video AI služby v Azure pre spracovávanie Computer Vision.

AI okienko

Nvidia uviedla nové GPU data server procesory H200, ktoré zvládnu obsluhovať až 141 GB HBM3e pamäte pri toku dát 4,8 TB/s. Samozrejme na čo iné ako rátanie veľkých AI modelov.

Startup HOLO dostal povolenie na prevádzku plne autonómnych vozidiel v Nórsku. Začínajú na ploche 21,75 štvorcových kilometrov s pár autami, ale rýchlo plánujú expandovať. To je mimochodom prvý prípad, keď v Európe pustili samoriaditeľné autá do bežnej prevádzky.

StyleTSS 2 model je určený na syntetizáciu reči podľa vzorky hlasu. Môžete si natrénovať svoj hlas pre čítanie anglického textu s možnosťou nastaviť aj nejaké tie pocity, ako zlosť/radosť/atď., aby znel čo najprirodzenejšie.

Frigate je AI model pre detekciu osôb pre váš sieťový video rekordér, ktorý spracováva záznamy IP kamier. Sľubuje bezkonkurenčnú rýchlosť detekcie objektov.

Bill Gates napísal zamyslenie nad tým, ako AI zmení našu prácu s počítačom, a ktoré oblasti z nej môžu najviac ťažiť. Pridáva ale aj technické výzvy, s ktorými sa budeme musieť popasovať.

Ďalšie zamyslenie je nad tým, čo môže priniesť AI do vyučovania. Sú tu veľké riziká, ale správny LLM model môže pomôcť slabším žiakom s tým, čo im až tak moc nejde. Nejde ani tak o pomoc, ale spôsob ako dokáže pomáhať. Môže to robiť priebežne, môže to robiť štýlom, ktorý je žiakovi blízky, bez toho aby dal na sebe poznať, že ho opakované otázky frustrujú. Hlavne v rozvojových krajinách, kde nie je až toľko učiteľov, by to bolo veľmi užitočné. Ale viem si predstaviť aj naše školstvo, kde by taký AI asistent mohol odľahčiť učiteľov.

Nakoniec taká blbôstka. David Attenborough je hlas rôznych dokumentárnych seriálov a filmov. Teraz si predstavte, že na jeho AI model prepojíte kameru, ktorá bude komentovať, čo vidí.

David Attenborough is now narrating my life

Here's a GPT-4-vision + @elevenlabsio python script so you can star in your own Planet Earth: pic.twitter.com/desTwTM7RS
— Charlie Holtz (@charliebholtz) November 15, 2023

.NET okienko: .NET Conf 2023 špeciál

Pôvodne som plánoval uvedenie nového .NET 8 ako tému týždňa. Ale udiali sa zaujímavejšie veci (samozrejme zaujímavé pre tých druhých, nie nás .NET pozitívnych).

Začneme teda samotným novým .NET 8. Ten je Cloud Native, má vylepšený výkon, podporu AI. A plnú podporu pre dve nové UI technológie MAUI a Blazor. Práve Blazor sa snaží byť tou technológiou, ktorá .NET zabezpečí, že bude populárna ako na backende, tak súčasne aj na frontende.

ASP.NET Core 8 toho prináša tiež hŕbu. Za mňa top je AOT kompilácia, ktorá pre všetky container nasadenia ušetrí kopec času a navyše pridá lepší výkon. Druhou podstatnou novinkou sú metriky (Metrics). Bez toho, aby ste museli niečo nastavovať, máte k dispozícii možnosť monitorovať podstatné veci vo vašej aplikácii. Tretí je samozrejme Blazor so svojím hybridným módom.

C# 12 prináša primárne konštruktory, písanie array konštruktorov bez otravného new T[], default parametre pre lambdu, ref readonly parametre. A niečo viac, ale najdôležitejšia vec, ktorá je pecka pre vaše funkcionálne programovanie, má názov Alias any type. K dispozícií je aj užitočný cheat sheet s prehľadom zmien podľa verzie na tejto linke.

Ak ste ešte neupgradovali na Visual Studio 17.8, tak tak môžete učiniť. Pribudne natívny GitHub Copilot, countery z metrík v Diagnostic Tools a Find and Replace vie pri premenovaní zachovať veľkostí malých a veľkých písmenok.

Tým začína práca na novom Visual Studio 17.9, ktoré vo verzii Preview 1 dostáva zopár užitočných noviniek ale najmä UI Refresh. To bude obsahovať konečne dobre viditeľný aktuálny tab, ale aj nové farebné schémy. Aj ružovú? Áno, aj ružovú.

Novinkou (aspoň pre mňa) je .NET Aspire. To by mal byť stack technológií pre vývoj plne cloudovej aplikácie. A to ako z pohľadu nasadenia, správy, ale aj monitoringu. Je k tomu spravený aj eShop sample.

Ak vám toto stále nestačí, tak tu je odkaz na playlist so 102 prednáškami z .NET Conf 2023.

Linky na záver

Apple budúci rok najmä vďaka tlaku EU spustí podporu RCS. To sú také tie správy, ktoré umožňujú lajkovať a rôzne iné funkcionality, ktoré v USA nahradzujú nami používané Messenger, WhatsApp, atď. A RCS správy budú zelené.

UneeBee je open-source interaktívna platforma, v ktorej budete vedieť vytvárať kurzy podobné tým od Duolingo.

D-POINT je open-source digitálne pero s optickým sledovaním aj s pressure senzitivitou.

Intel 4004 ako PCB aj s LED indikáciou stavu. Toto je presne ten projekt, ktorý si spravíte, ak radi pájkujete a viete, že nikto iný na to nebude mať trpezlivosť.

Survival Party hra, kde dostanete nejaký zložitý problém a musíte AI vykecať jeho riešenie.

Vizuálna bodka na záver

Šestnásťročný Euan Garbut z Glasgowa vytvoril takúto animáciu. A čo ste dokázali v šestnástich vy? Ja som teraz celkom deprimovaný.