Týždenník

Týždeň 2023-45

vlko

Nov 14, 2023 • 9 min read

Ja ako amatérsky zberateľ zaujímavých liniek vyhlasujem minulý týždeň za nanajvýš zaujímavý. @vlkodotnet

Udalosť týždňa: OpenAI event

Kde začať? OpenAI mala svoj event a množstvo vecí, ktoré uviedla, bolo ohromujúce. To ostatne hovorím každú chvíľu. Akurát sme nečakali, že tak krátko po vydaní GPT-4 príde OpenAI s GPT-4 Turbo. Ten prinesie za rovnako peňazí ako GPT-3.5 Turbo viac rýchlosti, ale hlavne až 128-tisíc tokenov pre vstupný kontext. To by malo stačiť poslať do konverzácie aj 300-stranovú knihu. Alebo, ak ste vývojár, tak tam viete podhodiť oveľa viac kódu, z ktorého získate oveľa rozumnejší výsledok. Dáta, na ktorých sa model učil, majú hranicu vedomostí po apríl 2023. Nechcem vedieť, koľko museli žhaviť servery v Microsoft datacentrách, aby dosiahli takéto výsledky.

To veru nie je málo, ale aby aj korporáty mohli doma dobre spať, tak k tomu pridali tzv. “Copyright Shield”. Teda garanciu, že všetky prípadné riziká žaloby, ktoré by na vás chceli podať, pokryje za vás OpenAI.

Druhou dôležitou novinkou, ktorú uviedli je možnosť vytvárať si vlastné ChatGPTíky. Toto sa ťažko prekladá, ale umožňuje to vytvoriť váš vlastný model. Tak ako komunikujete s ChatGPT, tak rovnako popíšete, čo váš model má robiť. Pridáte potrebné dáta a stlačíte "compile" tlačidlo. Vo výsledku dostanete špecializovaný model, ktorý následne môžete vložiť do OpenAI obchodu. Otázka je, či váš popis a vaše unikátne dáta budú stáť za to, aby to niekto kúpil.

A OpenAI vám nedá len hostovanie modelu, on rovno zabezpečí históriu a správu konverzácií, ich analýzu, zber feedbacku a celé API okolo toho. Všetko to, na čo ste ešte minulý mesiac potrebovali celé vývojárske tímy.

Táto téma si zaslúži zhrnutie. Aj keď je na trhu AI modelov veľká konkurencia, tak OpenAI po tom, ako zabezpečila prísun peňazí od Microsoftu (hovoríme tu o 10+ miliardách dolárov), začala poriadne tlačiť na pílu. Cieľ je získať čo najviac zákazníkov a zmenšiť životný priestor konkurencie.

GitHub Universe 2023

Najnovší GitHub event najlepšie zhrňuje tento tweet od CEO GitHubu.

Just as GitHub was founded on Git, today we are re-founded on Copilot. From the GA of Copilot Chat, to the new Copilot Enterprise, to the Copilot Partner Program and so much more – we are expanding and infusing Copilot into every aspect of GitHub.https://t.co/cRLqmYeu15
— Thomas Dohmke (@ashtom) November 8, 2023

Tak nejak to znamená, že ďalšia fáza rozvoja GitHub bude úzko zviazaná s AI. S tým AI v GitHube je to zaujímavé. Určite ste si každý mysleli, že pri tvorbe GitHub Copilot zobrali všetky zdrojáky, čo sú open-source, nahrali to do GPU clustra a nechali rátať svoj vlastný LLM model. Lenže to sa mýlite. Bol som na prednáške jedného z vývojárov z GitHub Lab a oni v Copilotovi využívajú pekne krásne OpenAI GPT model. To, že dostanete návrhy vášho kódu, je len veľmi komplikované ladenie query promptu. Používajú na to veľa komplikovaných techník, a najzaujímavejšie na tom je testovanie. Keďže ide o GPT model, tak majú tisícky testov, ktorými testujú úspešnosť každej zmeny.

Inak ohlásili aj, že Copilot už nepoužíva GPT-3.5 Turbo ale nový GPT-4 Turbo. K tomu mám ešte jednu zaujímavosť. GPT-4 rovno preskočili, pretože bol príliš pomalý. Ľudia v pracovnom flow potom nedostávali žiadne návrhy, keď mali, a tak zistili, že je lepší horší výsledok a skôr, ako lepší ale neskoro.

Čo znamená AI v GitHube? To, že bude všade, so všetkým má pomôcť, všade dávať návrhy.

Nejdem sa rozpisovať o tom, ako pomocou Copilot Chat budete môcť na mobile vytvoriť nejakú aplikáciu, ani že pre Enterprise zákazníkov bude dostupný špeciálne vyladený model len pre nich. Idem sa rozpisovať o nových kóderských monospace fontoch, ktoré vytvorili.

Okrem toho mali v GitHube "one more thing..." moment. Tvárili sa, že je koniec, ale huncútsky dali konferenciu na pódium, kde bol uvedený iPad a uviedli GitHub Workspace. Má to byť budúcnosť práce na projekte, kde máte AI úplne integrovanú aj so súčasnou prácou viacerých ľudí naraz. Čakali by ste, že prídu s tradičným CRDT riešením (tu hľa vizuálny príklad)? GitHub ide vlastnou cestou a vytvoril novú technológiu Realtime GitHub, ktorá na synchronizáciu využíva Git.

10 právd, čo vám v škole nepovedia

Túto stredu máme špeciálny WebUp event na mojej alma mater FRI. Nebude chýbať ani môj mesačník, a preto by som študentom rád odovzdal nejaký ten odkaz. A čo je lepší odkaz ako týchto 10 právd:

Škola ťa nepripraví na prácu.
Len málokedy dostaneš nový produkt, support bude tvoja budúcnosť.
Nikoho nezaujímajú tvoje clean code techniky.
Občas a možno často budeš robiť s ľuďmi, čo sa práci nerozumejú.
Stráviš hodiny na meetingoch.
Budeš robiť časové odhady, aj keď všetci budú vedieť, že ich robíš zle.
Čím viac toho vytvoríš, tým viac chýb v tom bude.
To, čo sa učíš dnes, už zajtra bude zastaralá technológia.
Aj večer doma ti bude hlava stále pracovať na probléme z práce.
Viac peňazí zarobíš na svojich soft skilloch ako na tých technických.

Tie samozrejme voľne preberám z nasledujúceho článku.

Humane pripináčik do AI sveta

To sa tak známi produktoví dizajnéri z Apple rozhodnú vytvoriť unikátny AI produkt. Vyzerá to ako niečo zo StarTreku a má to kameru a mikrofón. Tá kamera váš špehuje celý deň, tak isto mikrofón, To preto, aby vám samotné zariadenie kecalo do života. Teda samozrejme zveličujem, ono to kecá len, keď chcete a spýtate sa ho. Aj tá kamera sa bude spúšťať na želanie. Celé je to postavené na koncepte, ktorý ak uspeje, tak vytvorí nový segment zariadení.

Také zariadenie je po ruke, vidí to, čo vidíte vy a má prístup k AI, ktoré to spracuje. V tomto prípade okrem cenovky 700 dolárov si prirátajte mesačný paušál 24 dolárov. Aby to stálo za to, tak to zariadenie má v sebe malý projektor, ktorý nájde vašu dlaň a zobrazí na ňu ovládacie prvky.

Určite si pozrite uvádzacie video. Sú v ňom dvaja ľudia, ktorí vyzerajú, že ich niekto nasilu donútil predvádzať niečo, o čom nemajú istotu, že bude vôbec fungovať.

AI okienko

Dnes bude asi celý týždenník o AI. Tej AI je toľko, že na nás tečie z prehliadačov, Windows, telefónov a najnovšie asi aj z televízorov. To preto, že Samsung uviedol svoj vlastný jazykový model Gauss.

Jediný, kto si v AI ošiali vytiahol krátku zápalku, sú poskytovatelia obsahu. Tí sa snažia, žalujú, alebo žiadajú aspoň zaplatiť. AI firmy majú vždy nejakú výhovorku. Tu je ich ucelený zoznam.

Nakoniec tu mám návod, ako AI apokalypsu prežiť ako AI vývojár. Potrebujete grafickú kartu a najlepšie tú od Nvidie.

.NET okienko

Hodilo by sa nejaké AI prepašovať aj tu do .NET sveta. Nanešťastie niekto musí aj robiť. Mám tu iba článoček o tom, ako nám System.IO prináša pohodlie pre prácu so súbormi. Každý sme iný a na rôzne druhy úloh je vhodný iný prístup.

Linky na záver

Dajte si 3-minutový test o vašej SQL databáze, v ktorom 60 % ľudí zlyhá. Samozrejme nedávajte si ho viackrát. Otázky sú pre každý typ databázy rovnaké, mení sa len syntax.

Tumblr už nebude tak intenzívne vyvíjaným produktom. Keďže firma Automattic, ktorá ho vlastní, má aj iné projekty ako Wordpress, WooCommerce a iné, tak slušne požiadali zamestnancov, nech sa prealokujú inam. Vraj to skúsia na Muska s malým teamom a veľkými výsledkami.

Paint vo Windows už vie odstrániť pozadie obrázka a pridať vrstvy. K tomu už chýba len generátor obrázkov alá Adobe Firefly, v tomto prípade poháňaný Dall-E 3.

Paint has just received new AI features.

Dall-E 3 is integrated directly and free of charge.

Here's how to get the most out of these new features: pic.twitter.com/pMFRxXPm2W
— Paul Couvert (@itsPaulAi) November 5, 2023

Pre používateľov Microsoft Teams v novej verzii je možnosť nainštalovať si Teams aplikáciu Meet, ktorá vám sprehľadní vaše porady.

Vizuálna bodka na záver

Pre budúcu verziu Windows s číslovkou 12 pridávam trocha inšpirácie.