Nincs cím. Epertorta van.

en barmerre jarok, inkabb a lassu es felenk megbaratkozast latom azzal a gondolattal, hogy talan lehet mashogy, nyugiban elni, baszogatas nelkul.

a teljes kompozíció:

Őszintén szólva én már belefáradtam Ed Zitronba, de ennek most az elején van az elemzés, a végén a rant, szóval ezt lehet még olvasni.

és sztem a későbbi részben azt is nagyon pontosan látja, hogyan kapcsolódik business idiot világa a valódi világhoz

If a journalist gets curious, an LLM can make a good-enough impression of somebody writing software to fool somebody who doesn’t really know what they’re doing, and if you prompt it again and again and again, it can get something functional out the door. This is all it takes for somebody — a reporter or an executive — to extrapolate that because they were able to do something (even though the LLM did it), a subject-matter expert would be able to do even more. 

ezt a jelenséget is éreztem már a bőrömön, nem újságíróval, hanem ahogy a másik cikkben írja, a munka valóságától elszakadt managerrel (csak lusta voltam visszaklikkolni oda onnan kiidézni)

aki érti, hogy mit csinálunk - miből, mit, hogyan - az látja a szemfényvesztést, látja, mennyivel megnehezíti, tévutakra viszi az erőfeszítést

ahelyett hogy a szakmám ismeretében elvégezném a munkát innentől odáig koherensen, álljak neki hallucinált, idióta, kiszámíthatatlan hibákat feltárni és javítani összefüggéstelen lépésekben a folyamat különféle beavatkozási pontjain

ennek tényleg _csak_ akkor van értelme, ha ez a sok extra lépés _valamikor_ a rendszer olyan javulásához vezet, amitől az egész hatása átcsap már támogató jellegűbe. pl ha mint a korábban másik szredben nézett cikkben olvasottak alapján a human in the loop beavatkozási pontokon végzett műveletekből előállítható egy validator, egy szűrő, ami megítéli és javításra (pontosabban újrapróbálkozásra) visszaküldi a terméket. nem egyszer-kétszer, hanem számtalan iterációban

az én saccom most viszont az, hogy mivel az LLM lényegi része ugyanaz, mint ami a hallucinációkat generálja, nem lehet a kiszámíthatatlanságot kiszámíthatóságra, megbízhatóságra konvertálni még egy kemény (nem ai) szűrővel sem. mert nem tudod keménnyé, konkréttá tenni azzal szemben ami az alapjellege, hogy mindig meglep, mindig hallucinál. minél többször dobod vissza az anyagot, annál többször és újabb módokon. ennek nincs vége, nincs üzembiztos határolója

játszani lehet vele, igen, kalandozni, időt tölteni, felfedezni. dolgozni nem

képzelj el egy kézműves műhelyt, ahol emberek nagy szaktudással, személyes elkötelezettséggel alakítanak ki termékeket. játszanak is. felfedeznek is

tedd mellé az ipari tömeggyártás képét, ahol közös erőfeszítéssel kialakított, elsősorban a megismételhetőséget és megbízhatóságot célzó processzek befogásával végzik a munkát

az LLM ebből az első annyiban, hogy megvan benne az ember szeszélyessége (mi is hallucinálunk, és téveszméket tartunk fent és egyebek, az a rész nem idegen tőlünk) és az első antitézise annyiban, hogy nincs meg benne az ember egyedi, eseti ítélőképessége. és a második pedig annyiban, hogy végtelen mennyiségben tud terméket ontani és az antitézise annyiban, hogy semmivel nem vehető rá a következetességre

Ahogy a kiszámíthatatlan és hallucináló emberekből is ki lehet hozni megfelelő keretekkel kiszámítható és precíz munkát, szerintem simán lehetséges a fancy autocomplete köré akkora infrastruktúrát építeni, hogy abból egy használható és menedzselhető végeredmény szülessen. Megkaptad ezzel a technológiával a végtelen írógépen pötyögő végtelen majmot, azzal a bónusszal, hogy mondjuk tudnak angolul -- már csak a szűrőt kell mellérakni, hogy előállítsák a Shakespeare-összest. Fenntartható gazdaságilag az ehhez szükséges compute? Nyilván nem. Tönkre tudja vágni közben a gazdaságot és a társadalmat? Hát persze. De abszolút meg lehet csinálni.

Illetve: a szoftverek 90+%-nak egyáltalán nem kell megismételhetőnek, bővíthetőnek és megbízhatónak lennie. Működnie kell, úgy nagyjából, egy darabig. Ez kb. az a szint, amit elő tud állítani egy egyetemről frissen kikerült fejlesztő (mint anno, meg mostanra megint én is). Ezt meg már most, a mai pillanatban egyértelműen tudja ez a technológia. Persze, hogy nem lehet attól még egy egyenes vonalat húzni mostantól a szingularitásig, de szerintem önálltatás lenne azt mondani, hogy nem automatizálta le a szoftveres szakma a saját belépőszintjét.

tehát ebben a kontextusban kell érteni, hogy nem lehet vele dolgozni. nem feltétlenül minden egyes esetben igaz, de nagyon sok esetben igaz a jelenben, és van okunk feltételezni inherens okot emögött és azt keresni

az emberi I, akármilyen szeszélyes is, GI, az AI viszont nem AGI

azt nem lehet szerintem kijelenteni, hogy akár ezen az úton sose érkezik meg oda a technológia elvileg, viszont amiért a cikk (meg ez a szerző általában sztem) érdekesen áll hozzá, az az, hogy az elvi mellett gyakorlati szempontokat is tud hozni, korlátként. nincs is annyi majmod, nem is tudnád őket etetni, le se tudná mind tenni a seggét a földre az írógép elé, mert kicsi hozzá a bolygó