Jegyzetek a műhelyből.

Iszom a reggeli kávémat, és a szokásos reggeli összefoglalómat olvasgatom arról, mi történt az elmúlt 1–2 napban a szakmában. Eszembe jutott egy nemrég olvasott cikk: egy részletes, több százezer fejlesztőt érintő kutatás alapján azt állapították meg, hogy az AI nem hozza az elvárásokat, nincs érdemi gyorsulás, és a használata nem ad hozzáadott értéket.

Az ilyen cikkek – megmondom őszintén – felbosszantanak. Több oka is lehet annak, hogy ilyen megállapítások születnek:

• Lehet, hogy a fejlesztő az AI segítségével igenis sokkal gyorsabban megcsinálja a munkáját, de nem szól. Miért nem? Mert ő is ember: tudja jól, hogy az adott munka mennyi időt vesz igénybe, és ha hirtelen fele annyi idő alatt kész van, akkor úgyis kap egy másik feladatot, és nem nyer vele semmit. Ráadásul a lusta emberek lesznek az elsők, akik jól fogják használni az AI-t, mert ők ténylegesen arra törekednek, hogy könnyebb, egyszerűbb legyen az életük.
• Az AI is egy technológia, amit meg kell ismerni, el kell sajátítani. Bár igyekeznek a nagy AI-fejlesztő cégek, hogy minél zökkenőmentesebb, egyszerűbb legyen a használat, már az informatikán belül is teljesen máshogy kell használnia egy tesztelőnek és egy backendfejlesztőnek, más folyamatokra kell optimalizálnia az AI-használatot. Márpedig az IT mint szakma csak egy apró szelete a teljes célközönségnek.

Az AI által adott válaszok egy Gauss-görbe közepére esnek:

Egy sarkított példa: ha valakitől megkérdezed, hogy mondjon egy vámpírfilmet, sokan azonnal a Twilight-ot fogják felhozni, és talán senki sem fogja megemlíteni a Nosferatu című 1922-es filmet, aminek legalább olyan híresnek kellene lennie, hiszen az egyik legelső fennmaradt vámpírfilm a történelemben. Ha kérdezel valamit az AI-tól, a válasza abba a sávba fog esni, ami leginkább jellemző, leginkább kapcsolódik a te kulcsszavaidhoz. Ha pontosabb kérdést teszel fel, vagy elég időt szánsz a mélyebb kutatásra, megkaphatod azt a választ is, amire te vágysz.

Akármennyire is szkeptikusak az emberek, egy dolgot nem szabad elfelejteni. A frontier modellek mögött ott van az emberiség tudásának nagy része, és az AI elérhetővé teheti ezt számodra, de az eléréséhez sokszor nem egy kérdés vezet, hanem komplex workflow-k, 20–30 ágens futtatása és több órás, akár többnapos kutatómunka az AI oldalán.

Ebben a pillanatban is futtatok egy workflow-t. Volt egy problémám, megkértem az AI-t, hogy oldja meg. Az eredmény lesújtó volt. Megkértem újból, pontosabban fogalmazva, három ágenssel kutattatva és egy hosszabb diskurzuson végigmenve. Közelebb kerültem a megoldáshoz, de még mindig nem az volt, amit én szerettem volna. Rendben, akkor legyen, gondoltam, csináljuk rendesen. 16 órája dolgozik a megoldáson, a 3. workflow-nál jár, legalább 40 ágenshívás történt. Most már azt kaptam, amit elsőre szerettem volna. Mi a tanulság ebből? Az AI nem egy IKEA-szekrény, amit kibontasz, útmutató nélkül összeraksz, és már használod is. Légy tisztában az általad használt modell és a saját képességeiddel; mindkettőn lehet javítani.

Az elmúlt hónapokban napi 8–10 órát dolgoztam ágensekkel. Voltak zökkenőmentes napok, és voltak olyanok is, amikor az idegeimre mentek. Ha felmerül benned a gondolat, hogy vajon jól használod-e az AI-t, az teljesen rendben van. Legyen benned egészséges törekvés arra, hogy minél hatékonyabb lehess akár te, akár a vállalat, hiszen ez kulcsfontosságú. DE ne zavarjon össze az a rengeteg zaj, ami a YouTube-ról és más csatornákról rád zúdul. Semmit sem ér az AI, ha nincs egy eredeti ötlet. Ez az, amit az AI nem fog neked megadni. Ha nincs ötlet, akkor költséghatékonyabbá teheted a már meglévő megoldásaidat és folyamataidat.

Viszont a mostani döntések akár nagyon is félremehetnek. Pl. LoRA vagy általános intelligencia? 4–5 hónapja hoztál egy döntést, lehet, hogy tényleges mérést is végeztél egy több ezres vagy milliós adathalmazon, de mi van most 5 hónappal később? Én most csináltam egy ilyet, és meglepő eredményt kaptam. Azzal pedig végképp nehéz számolni, hogy mi lesz 6–8 hónap múlva, hol lesz az általános intelligenciája egy filléres modellnek, aminek csak néhány hookot és instrukciót kell megadni, és lokálisan is futtathatod.

Volt egy másik beszélgetésem is, a banki szektorról. Milyen AI-fejlesztések várhatók, és mibe érdemes belefogni? Nehéz kérdés… jönnek a proaktív ágensek, teljes hozzáféréssel az ügyfelek elsődleges e-mail címéhez és telefonszámához, olvasva az SMS-eket, telefonhívásokat bonyolítva. Ez már most is van. Technikailag már most is megvalósítható, hogy akár a mobilbanki alkalmazásunkba is belépjenek, lekérdezzék az egyenlegünket, és tranzakciókról adjanak információt. Hogyan? Náluk vannak a másodlagos azonosítóink, csak egy jelszót kell megadni nekik.

Az semmiképp sem megoldás, hogy nem veszel tudomást a fejlődésről, és bízol abban, hogy majd a te szakterületedet pont elkerüli. Szóval amikor legközelebb ott ülsz a gép előtt és olyan cikket olvasol, hogy az AI nem hozza az elvárásokat, vagy te saját magad tapasztalod ezt meg, kérdezd meg magadtól, mik ezek az elvárások és hogyan volt az egész ellenőrizve. Az AI nem csodaszer, de nem is egy lufi, és nem is az új bitcoin. Ez egy olyan eszköz - akár tetszik akár nem - ami gyorsabban fejlődik, mint ahogy mi megtanuljuk használni. Aki most rászán egy kis időt, hogy megismerje, fél év múlva nem fog elveszni abban az információáradatban, amivel elárasztanak minket. Mit javaslok? Kivonatolj. Keress olyan információforrásokat, amelyek tényszerűek és számodra hasznos tudást tartalmaznak, majd például egy notebooklm segítségével minden nap készíttess egy diasort belőle amely összefoglalja ezeket az információkat. Tegyél rá egy ütemezőt és a reggeli kávé mellett 10 perc alatt több órányi youtube videón tudod átrágni magad. Ha a sorok közt találsz valami érdekeset, megnyitod a hozzá kapcsolódó videót és megnézed.

Még júniusban történt, hogy egy orvosi vizsgálatra kellett mennem, egy magánrendelőbe. Amikor bementem a doktorhoz, elfoglaltan nézte a monitort. Szót szó követett és kiderült, hogy van ugyan egy saját website-ja, időpontfoglalással, hírlevéllel, üzenetküldéssel, stb. de szeretett volna még valami extrát és amikor megkérdezte a szoftverfejlesztő céget, olyan összeget mondtak neki, hogy lemondott róla. Kicsit később megfogalmazódott benne az ötlet, hogy mi lenne, ha megkérdezné az AI-t. Hát megkérdezte. Az AI pedig analizálta a jelenlegi site-ot, felhasználta annak a dizájnját, lefejlesztette és belerakta azt a funkciót is, amit szeretett volna. Amikor én ott voltam, akkor még hibákat "javítottak" és "tesztelték".

Ő egy okos orvos, de mostanra eljutottunk odáig, hogy erre már bárki képes. Az AI pillanatok alatt összedob bárkinek egy webshopot, egy komplex website-ot, egy játékot, vagy egy natív appot. Még nem járunk ott, hogy Marika a sarki boltból internetbankot tudjon fejleszteni és itt külön kell választanunk azt, hogy Marika egyáltalán akar-e valaha az életben internetbankot fejleszteni és azt, hogy AI segítségével képes lesz-e erre. Utóbbira azt tudom mondani, hogy ez nagyon hamar eljön.

Persze-persze mondjátok, soha nem lesz képes azt a tudást elsajátítani, ami ahhoz kell, hogy évtizedes tapasztalattal rendelkező fejlesztőket meghazudtolva összerakjon egy komplex rendszert, megfelelően használva egy fejlesztési módszertant, mint pl. egy vízesés modellt, a specifikációtól kezdve, az iterációkon át, a végső tesztelésig, dokumentálásig, átadásig. Nem is Marika fogja ezt csinálni. Szépen lassan csempészik bele ezt a tudást a frontier modellekbe.

Készítettem egy képet arról, hogy az elmúlt 7 napban mit hozott le az AI:

Nem voltak produktívak, de én se. Hétvégén családi kirándulás, és volt más elfoglaltság is. Az itthoni gépek egy része dolgozott csak. No, ez nem mind kód, a natúr kódsorok száma csak cirka 130k és nem is ész nélküli tool gyártás. Az AI önmagában mit sem ér, ha nem tudsz mögé egy egyedi ötletet tenni. Ezek a fejlesztések még nem natúr skill-ekre épültek, általam deifiniált vízesés modellen alapult, iterációkba szervezve, de lassan nem lesz szükség ilyen eszközökre se:

Erre persze jönnek majd a laposföld-hívők, hogy 500k tiszta, értelmezhetetlen szemét. Nem szeretném meggyőzni őket az ellenkezőjéről, mert legalább addig, velük szemben van egy kis helyzeti előnye az embernek.

Mi lesz velünk, szoftverfejlesztőkkel? Nem tudom, de ha szeretnél kicsit előrébb járni a többieknél, akkor nagyon hamar szembesülsz vele, hogy ez egy borzalmas daráló. Emberi ésszel fel nem fogható a fejlődés üteme, ha tanulod, akkor nincs időd produktumot gyártani, ha nem tanulod, két hónap alatt olyan lemaradásba kerülsz, hogy nehéz behozni.