V októbri sme v spolupráci s košickým startupom Nordics a medzinárodnou spoločnosťou First Line Software zorganizovali už deviaty meetup Cassovia Code, s názvom „Prompt to Production: Ako stavať a spravovať AI systémy“. Cieľom bolo ukázať, ako premeniť veľké jazykové modely (LLM) z experimentálneho nástroja na spoľahlivý prvok produkčných systémov.
Keď prompt nestačí: LLM ako stavebnica pre produkčné systémy
Martin Majerníček (CTO, Nordics) vo svojej prednáške vysvetlil, prečo veľké jazykové modely (LLM) nie sú univerzálnym riešením „z krabice“, ale skôr stavebným prvkom, ktorý treba vhodne zapojiť do širšieho systému. Zdôraznil dôležitosť práce s dátami na úrovni sémantiky – teda významu – a nie iba cez kľúčové slová.
Jeho prezentácia vychádzala priamo z praktických skúseností v spoločnosti Nordics a priniesla konkrétne odporúčania a tipy, ktoré sú užitočné nielen pre vývojárov, ale aj pre firmy, ktoré plánujú AI riešenia zavádzať do produkcie.
Cesta k ‚AI‑first‘: Ako riadené AI služby (Managed AI Services) zabezpečujú spoľahlivú AI prevádzku
Viktor Mitruk (Community & Partnership Lead, First Line Software) sa zameral na výzvy, ktoré prídu po nasadení modelu, ako je napríklad riadenie výkonu, minimalizácia halucinácií, optimalizácau nákladov a splnenie regulačných noriem. Predstavil nám reálny príklad, ako udržať AI riešenie pod kontrolou dlhodobo.
Od buzzwordu k biznisovej realite
Umelá inteligencia už dávno nie je len módnym slovom – stáva sa technológiou, ktorá reálne mení spôsob, akým sa vyvíja softvér. Malé tímy či startupy dnes môžu vďaka AI dosiahnuť oveľa viac, ak ju dokážu správne integrovať do svojich riešení.
Kľúčom je však pozerať sa na veľké jazykové modely nie ako na hotové univerzálne nástroje, ale ako na súčasť väčšieho celku. Nestačí mať len dobrý model či kvalitné dáta – rovnako dôležitá je aj ich správa, monitoring, škálovanie a prepojenie s reálnymi biznis procesmi.
Práve podujatia ako tento meetup vytvárajú priestor, kde sa prepája prax, vývoj a komunita, a ukazujú, že aj v Košiciach a na východnom Slovensku sa dajú riešiť technologické výzvy na svetovej úrovni.
Ak ste tentokrát nemohli prísť, nezúfajte. Na jar už plánujeme ďalší meetup, kde opäť ponúkneme hodnotné témy, praktické skúsenosti a možnosť stretnúť sa s rovnako naladenými ľuďmi z IT komunity.
