srevizavé

Nemet csaj franciaorszagban, amerikai cegnel - kezdett csapatunkban. Egy hete probalom elmagyarazni h nalunk az osszes prezentacio amerikai team-nek megy, ne pontozza vesszozze osszevissza a szamokat mert gutautest kapunk tole ha a slide 1 amerikai, slide 2 francia, slide 3 megint vmi mas modon mutatja a szamokat :)

Nyar vegere hatha sikerul.

Őszintén szólva én már belefáradtam Ed Zitronba, de ennek most az elején van az elemzés, a végén a rant, szóval ezt lehet még olvasni.

és sztem a későbbi részben azt is nagyon pontosan látja, hogyan kapcsolódik business idiot világa a valódi világhoz

If a journalist gets curious, an LLM can make a good-enough impression of somebody writing software to fool somebody who doesn’t really know what they’re doing, and if you prompt it again and again and again, it can get something functional out the door. This is all it takes for somebody — a reporter or an executive — to extrapolate that because they were able to do something (even though the LLM did it), a subject-matter expert would be able to do even more. 

ezt a jelenséget is éreztem már a bőrömön, nem újságíróval, hanem ahogy a másik cikkben írja, a munka valóságától elszakadt managerrel (csak lusta voltam visszaklikkolni oda onnan kiidézni)

aki érti, hogy mit csinálunk - miből, mit, hogyan - az látja a szemfényvesztést, látja, mennyivel megnehezíti, tévutakra viszi az erőfeszítést

ahelyett hogy a szakmám ismeretében elvégezném a munkát innentől odáig koherensen, álljak neki hallucinált, idióta, kiszámíthatatlan hibákat feltárni és javítani összefüggéstelen lépésekben a folyamat különféle beavatkozási pontjain

ennek tényleg _csak_ akkor van értelme, ha ez a sok extra lépés _valamikor_ a rendszer olyan javulásához vezet, amitől az egész hatása átcsap már támogató jellegűbe. pl ha mint a korábban másik szredben nézett cikkben olvasottak alapján a human in the loop beavatkozási pontokon végzett műveletekből előállítható egy validator, egy szűrő, ami megítéli és javításra (pontosabban újrapróbálkozásra) visszaküldi a terméket. nem egyszer-kétszer, hanem számtalan iterációban

az én saccom most viszont az, hogy mivel az LLM lényegi része ugyanaz, mint ami a hallucinációkat generálja, nem lehet a kiszámíthatatlanságot kiszámíthatóságra, megbízhatóságra konvertálni még egy kemény (nem ai) szűrővel sem. mert nem tudod keménnyé, konkréttá tenni azzal szemben ami az alapjellege, hogy mindig meglep, mindig hallucinál. minél többször dobod vissza az anyagot, annál többször és újabb módokon. ennek nincs vége, nincs üzembiztos határolója

játszani lehet vele, igen, kalandozni, időt tölteni, felfedezni. dolgozni nem

képzelj el egy kézműves műhelyt, ahol emberek nagy szaktudással, személyes elkötelezettséggel alakítanak ki termékeket. játszanak is. felfedeznek is

tedd mellé az ipari tömeggyártás képét, ahol közös erőfeszítéssel kialakított, elsősorban a megismételhetőséget és megbízhatóságot célzó processzek befogásával végzik a munkát

az LLM ebből az első annyiban, hogy megvan benne az ember szeszélyessége (mi is hallucinálunk, és téveszméket tartunk fent és egyebek, az a rész nem idegen tőlünk) és az első antitézise annyiban, hogy nincs meg benne az ember egyedi, eseti ítélőképessége. és a második pedig annyiban, hogy végtelen mennyiségben tud terméket ontani és az antitézise annyiban, hogy semmivel nem vehető rá a következetességre

Ahogy a kiszámíthatatlan és hallucináló emberekből is ki lehet hozni megfelelő keretekkel kiszámítható és precíz munkát, szerintem simán lehetséges a fancy autocomplete köré akkora infrastruktúrát építeni, hogy abból egy használható és menedzselhető végeredmény szülessen. Megkaptad ezzel a technológiával a végtelen írógépen pötyögő végtelen majmot, azzal a bónusszal, hogy mondjuk tudnak angolul -- már csak a szűrőt kell mellérakni, hogy előállítsák a Shakespeare-összest. Fenntartható gazdaságilag az ehhez szükséges compute? Nyilván nem. Tönkre tudja vágni közben a gazdaságot és a társadalmat? Hát persze. De abszolút meg lehet csinálni.

Illetve: a szoftverek 90+%-nak egyáltalán nem kell megismételhetőnek, bővíthetőnek és megbízhatónak lennie. Működnie kell, úgy nagyjából, egy darabig. Ez kb. az a szint, amit elő tud állítani egy egyetemről frissen kikerült fejlesztő (mint anno, meg mostanra megint én is). Ezt meg már most, a mai pillanatban egyértelműen tudja ez a technológia. Persze, hogy nem lehet attól még egy egyenes vonalat húzni mostantól a szingularitásig, de szerintem önálltatás lenne azt mondani, hogy nem automatizálta le a szoftveres szakma a saját belépőszintjét.

tehát ebben a kontextusban kell érteni, hogy nem lehet vele dolgozni. nem feltétlenül minden egyes esetben igaz, de nagyon sok esetben igaz a jelenben, és van okunk feltételezni inherens okot emögött és azt keresni

az emberi I, akármilyen szeszélyes is, GI, az AI viszont nem AGI

azt nem lehet szerintem kijelenteni, hogy akár ezen az úton sose érkezik meg oda a technológia elvileg, viszont amiért a cikk (meg ez a szerző általában sztem) érdekesen áll hozzá, az az, hogy az elvi mellett gyakorlati szempontokat is tud hozni, korlátként. nincs is annyi majmod, nem is tudnád őket etetni, le se tudná mind tenni a seggét a földre az írógép elé, mert kicsi hozzá a bolygó

Updated 1971 mid century modern in Concord, MA. 5bds, 4ba, 4,073sqft, $2.2m (Zillow's est.: $2,264,600) It's already under contract.

Az elmúlt pár hónapban jobb érzés volt magyarnak lenni, mint az elmúlt tizenhat évben bármikor, de azért

"A kutatásuk szerint a válaszadók háromnegyede egyetértett azzal az állítással, hogy a „romák gondjai megoldódnának, ha elkezdenének dolgozni”, több mint felük pedig azzal, hogy „a bűnözési hajlam romák vérében van”.

van még hová fejlődni, na.

Németh Balázs, az egyik legkitartóbb fideszes képviselő felháborodva tett fel egy kérdést a tiszásoknak a Parlamentben: „Egy tiszás influenszerhölgy nyilatkozatát idézi egy tiszás portál (…): »Orbán szegény leeső farkú kis balfék, csacsi Németh Balázsra bízta az ellenállást«.” (Pottyondy Edina youtuber mondta ezt, és a szeretlekmagyarorszag.hu számolt be róla – egyik sem tiszás.) Németh azt kérdezte, ezt most már a szeretetország-e, és belefér-e az ilyen, illetve most már erre számíthatnak-e. Tanács Zoltán válasza: „Ön valami perverz látomást vélt ebbe belelátni, de hogyha tájékozott lenne a gyermekirodalomban, akkor tudhatná, hogy ez valószínűleg Micimackóra utalt, ahol a negyedik fejezetben Füles, a csacsi, a szamár elveszíti a farkát. (taps) Nem itt van a történet vége, Micimackónak nagyon jó szíve van, és ő segít megkeresni ezt a leesett testrészt. Bejárják az erdőt, és Bagolynál megtalálják, aki csengős zsinórnak használta ezt a darabot. Micimackónak jó szíve van, visszaadják Fülesnek, mindenki boldog, és a történetet Róbert Gida, aki Micimackónak a gazdája, úgy fejezi be, hogy: »Csacsi, öreg medvém…« A csacsi, az a szeretet kifejezése. Szerintem ezek az influenszerek szeretik a politikusokat, szeretik őket froclizni, lehet, hogy még önöket is szeretik, úgyhogy érdemes elfogadni, hogy nem csak tiszások vannak a médiavilágban, hanem vannak független gondolkodók, akik ismerik az irodalmat.”

Az éles gyakorlat előtt a résztvevők úgynevezett száraz gyakorlást végeztek, majd a dobóállásban éles kézigránátot kaptak. A szabályok szerint a dobónak a biztosítószeget ki kellett húznia, miközben végig szorítania kellett a biztosítókart. A robbanás csak akkor indul el, amikor a kart elengedik, és a gránátot eldobják. A sérült nő elsőre nem tudta kihúzni a biztosítószeget, majd amikor ez sikerült, akaratlanul túlzottan elengedte a biztosítókart, így a gránát működésbe lépett még azelőtt, hogy eldobhatta volna.

Kockázat:

-többen meghalhatnak, vagy súlyosan megsérülhetnek

-tulajdoni kár/jogi felelősség 100 milliós nagyságrend lehet

Pro oldal:

Őszintén szólva én már belefáradtam Ed Zitronba, de ennek most az elején van az elemzés, a végén a rant, szóval ezt lehet még olvasni.

és sztem a későbbi részben azt is nagyon pontosan látja, hogyan kapcsolódik business idiot világa a valódi világhoz

If a journalist gets curious, an LLM can make a good-enough impression of somebody writing software to fool somebody who doesn’t really know what they’re doing, and if you prompt it again and again and again, it can get something functional out the door. This is all it takes for somebody — a reporter or an executive — to extrapolate that because they were able to do something (even though the LLM did it), a subject-matter expert would be able to do even more. 

ezt a jelenséget is éreztem már a bőrömön, nem újságíróval, hanem ahogy a másik cikkben írja, a munka valóságától elszakadt managerrel (csak lusta voltam visszaklikkolni oda onnan kiidézni)

aki érti, hogy mit csinálunk - miből, mit, hogyan - az látja a szemfényvesztést, látja, mennyivel megnehezíti, tévutakra viszi az erőfeszítést

ahelyett hogy a szakmám ismeretében elvégezném a munkát innentől odáig koherensen, álljak neki hallucinált, idióta, kiszámíthatatlan hibákat feltárni és javítani összefüggéstelen lépésekben a folyamat különféle beavatkozási pontjain

ennek tényleg _csak_ akkor van értelme, ha ez a sok extra lépés _valamikor_ a rendszer olyan javulásához vezet, amitől az egész hatása átcsap már támogató jellegűbe. pl ha mint a korábban másik szredben nézett cikkben olvasottak alapján a human in the loop beavatkozási pontokon végzett műveletekből előállítható egy validator, egy szűrő, ami megítéli és javításra (pontosabban újrapróbálkozásra) visszaküldi a terméket. nem egyszer-kétszer, hanem számtalan iterációban

az én saccom most viszont az, hogy mivel az LLM lényegi része ugyanaz, mint ami a hallucinációkat generálja, nem lehet a kiszámíthatatlanságot kiszámíthatóságra, megbízhatóságra konvertálni még egy kemény (nem ai) szűrővel sem. mert nem tudod keménnyé, konkréttá tenni azzal szemben ami az alapjellege, hogy mindig meglep, mindig hallucinál. minél többször dobod vissza az anyagot, annál többször és újabb módokon. ennek nincs vége, nincs üzembiztos határolója

játszani lehet vele, igen, kalandozni, időt tölteni, felfedezni. dolgozni nem

képzelj el egy kézműves műhelyt, ahol emberek nagy szaktudással, személyes elkötelezettséggel alakítanak ki termékeket. játszanak is. felfedeznek is

tedd mellé az ipari tömeggyártás képét, ahol közös erőfeszítéssel kialakított, elsősorban a megismételhetőséget és megbízhatóságot célzó processzek befogásával végzik a munkát

az LLM ebből az első annyiban, hogy megvan benne az ember szeszélyessége (mi is hallucinálunk, és téveszméket tartunk fent és egyebek, az a rész nem idegen tőlünk) és az első antitézise annyiban, hogy nincs meg benne az ember egyedi, eseti ítélőképessége. és a második pedig annyiban, hogy végtelen mennyiségben tud terméket ontani és az antitézise annyiban, hogy semmivel nem vehető rá a következetességre

Ahogy a kiszámíthatatlan és hallucináló emberekből is ki lehet hozni megfelelő keretekkel kiszámítható és precíz munkát, szerintem simán lehetséges a fancy autocomplete köré akkora infrastruktúrát építeni, hogy abból egy használható és menedzselhető végeredmény szülessen. Megkaptad ezzel a technológiával a végtelen írógépen pötyögő végtelen majmot, azzal a bónusszal, hogy mondjuk tudnak angolul -- már csak a szűrőt kell mellérakni, hogy előállítsák a Shakespeare-összest. Fenntartható gazdaságilag az ehhez szükséges compute? Nyilván nem. Tönkre tudja vágni közben a gazdaságot és a társadalmat? Hát persze. De abszolút meg lehet csinálni.

Illetve: a szoftverek 90+%-nak egyáltalán nem kell megismételhetőnek, bővíthetőnek és megbízhatónak lennie. Működnie kell, úgy nagyjából, egy darabig. Ez kb. az a szint, amit elő tud állítani egy egyetemről frissen kikerült fejlesztő (mint anno, meg mostanra megint én is). Ezt meg már most, a mai pillanatban egyértelműen tudja ez a technológia. Persze, hogy nem lehet attól még egy egyenes vonalat húzni mostantól a szingularitásig, de szerintem önálltatás lenne azt mondani, hogy nem automatizálta le a szoftveres szakma a saját belépőszintjét.

barmilyen szoftver elkeszuleset ebben ket dimenzioban lehet abrazolni, egy informalis/formalis es egy absztrakt/konkret tengelyen.

amikor elmeseled a haverodnak egy sor mellett a legujabb startup otletedet, az a bal felso sarok, a kesz szoftver pedig a jobb also.

az a helyzet, hogy az LLM az informalis/formalis tengelyen tudja mozgatni a szoftvert, azaz leirod mit szeretnel (informalisan, szabad szavasan), es az eredmeny a konkret kod (formalis, szintaktikailag valoszinuleg helyes, a szamito altal ertelmezheto kod).

a fuggoleges tengelyen ha mozog, az hallucinacio. ez nem velemeny, hanem teny. pont az a lenyeg, hogy az "absztrakt" informaciotartalma kevesebb mint a "konkret" informaciotartalma. az LLM persze bele tud trafalni hogy mi a "logikus" (ertsd: legvaloszinubb), de by definition itt hallucionacio tortenik.

egyebkent tok vicces, hogy 20-30 eve is a formalizalas automatizalasan dolgozott mindenki (pl. modell-alapu fejlesztes, ahol az volt a terv, hogy majd az UML diagramokbol, meg mindenfele kovetelemy specifikaciokbol fog keszulni a kod). ezt az AI tobbe-kevesbe megoldotta, nem veletlenul hivjak a transformer architekturat annak ami.

az LLM mint glorified autocomplete azert mukodik, mert a kod amit leir az ember, annak az informaciosurusege nagyon kicsi, es kvazi mivel mar ezerszer latta hogy hogy "szoktak" folytatni a kodot, igy szepen ki tudja egesziteni.

elismerem, nagyobb valtozasokat is meg tud csinalni, ha jol van specifikalva, hogy mit kell csinalni. nade mi az egyetlen (jo, az egyik) problema minden szoftver projecten? igen, pontosan ez, hogy nincs jol specifikalva a feladat.

a szoftverfejlesztesben sosem az volt a nehez, hogy milyen lassan gepel a programozo, hanem hogy hany ember kozos gondolkodasa, es hany ember kozos donteseinek eredmenye az elkeszult szoftver (ez az absztrakt -> konkret tengelyen a mozgas).

egy fintech cegnel dolgozok, es az a helyzet, hogy baromira nem a kodolas a kihivas, hanem hogy olyan megoldas keszuljon el, ami a jognak, a compliancenek, a termekfejlesztesnek, az ugyfeltamogatasnak, a marketingnek, uzemeltetesnek, it secnek, penzugynek (meg a joistennek) elfogadhato, es meg a usereknek is tetszik.

nyilvan ha az AI B2B SaaS otletedet kell lekodolni, akkor persze go ahead, vibecodeold le aztan valaki vagy felvasarolja a ceget, vagy kidobod a kukaba. en sajnos (szerencsere?) nem tehetem meg, hogy ilyen lazan fejlesszek, ma is tobb milliard forint ertekben ment at a rendszereinken az emberek penze, tegnap is tobb milliard ment at, es valoszinuleg holnap is tobb milliard fog atmenni.

a szoftverfejlesztesben sosem az volt a nehez, hogy milyen lassan gepel a programozo, hanem hogy hany ember kozos gondolkodasa, es hany ember kozos donteseinek eredmenye az elkeszult szoftver (ez az absztrakt -> konkret tengelyen a mozgas).

Őszintén szólva én már belefáradtam Ed Zitronba, de ennek most az elején van az elemzés, a végén a rant, szóval ezt lehet még olvasni.

és sztem a későbbi részben azt is nagyon pontosan látja, hogyan kapcsolódik business idiot világa a valódi világhoz

If a journalist gets curious, an LLM can make a good-enough impression of somebody writing software to fool somebody who doesn’t really know what they’re doing, and if you prompt it again and again and again, it can get something functional out the door. This is all it takes for somebody — a reporter or an executive — to extrapolate that because they were able to do something (even though the LLM did it), a subject-matter expert would be able to do even more. 

ezt a jelenséget is éreztem már a bőrömön, nem újságíróval, hanem ahogy a másik cikkben írja, a munka valóságától elszakadt managerrel (csak lusta voltam visszaklikkolni oda onnan kiidézni)

aki érti, hogy mit csinálunk - miből, mit, hogyan - az látja a szemfényvesztést, látja, mennyivel megnehezíti, tévutakra viszi az erőfeszítést

ahelyett hogy a szakmám ismeretében elvégezném a munkát innentől odáig koherensen, álljak neki hallucinált, idióta, kiszámíthatatlan hibákat feltárni és javítani összefüggéstelen lépésekben a folyamat különféle beavatkozási pontjain

ennek tényleg _csak_ akkor van értelme, ha ez a sok extra lépés _valamikor_ a rendszer olyan javulásához vezet, amitől az egész hatása átcsap már támogató jellegűbe. pl ha mint a korábban másik szredben nézett cikkben olvasottak alapján a human in the loop beavatkozási pontokon végzett műveletekből előállítható egy validator, egy szűrő, ami megítéli és javításra (pontosabban újrapróbálkozásra) visszaküldi a terméket. nem egyszer-kétszer, hanem számtalan iterációban

az én saccom most viszont az, hogy mivel az LLM lényegi része ugyanaz, mint ami a hallucinációkat generálja, nem lehet a kiszámíthatatlanságot kiszámíthatóságra, megbízhatóságra konvertálni még egy kemény (nem ai) szűrővel sem. mert nem tudod keménnyé, konkréttá tenni azzal szemben ami az alapjellege, hogy mindig meglep, mindig hallucinál. minél többször dobod vissza az anyagot, annál többször és újabb módokon. ennek nincs vége, nincs üzembiztos határolója

játszani lehet vele, igen, kalandozni, időt tölteni, felfedezni. dolgozni nem

képzelj el egy kézműves műhelyt, ahol emberek nagy szaktudással, személyes elkötelezettséggel alakítanak ki termékeket. játszanak is. felfedeznek is

tedd mellé az ipari tömeggyártás képét, ahol közös erőfeszítéssel kialakított, elsősorban a megismételhetőséget és megbízhatóságot célzó processzek befogásával végzik a munkát

az LLM ebből az első annyiban, hogy megvan benne az ember szeszélyessége (mi is hallucinálunk, és téveszméket tartunk fent és egyebek, az a rész nem idegen tőlünk) és az első antitézise annyiban, hogy nincs meg benne az ember egyedi, eseti ítélőképessége. és a második pedig annyiban, hogy végtelen mennyiségben tud terméket ontani és az antitézise annyiban, hogy semmivel nem vehető rá a következetességre

Ahogy a kiszámíthatatlan és hallucináló emberekből is ki lehet hozni megfelelő keretekkel kiszámítható és precíz munkát, szerintem simán lehetséges a fancy autocomplete köré akkora infrastruktúrát építeni, hogy abból egy használható és menedzselhető végeredmény szülessen. Megkaptad ezzel a technológiával a végtelen írógépen pötyögő végtelen majmot, azzal a bónusszal, hogy mondjuk tudnak angolul -- már csak a szűrőt kell mellérakni, hogy előállítsák a Shakespeare-összest. Fenntartható gazdaságilag az ehhez szükséges compute? Nyilván nem. Tönkre tudja vágni közben a gazdaságot és a társadalmat? Hát persze. De abszolút meg lehet csinálni.

Illetve: a szoftverek 90+%-nak egyáltalán nem kell megismételhetőnek, bővíthetőnek és megbízhatónak lennie. Működnie kell, úgy nagyjából, egy darabig. Ez kb. az a szint, amit elő tud állítani egy egyetemről frissen kikerült fejlesztő (mint anno, meg mostanra megint én is). Ezt meg már most, a mai pillanatban egyértelműen tudja ez a technológia. Persze, hogy nem lehet attól még egy egyenes vonalat húzni mostantól a szingularitásig, de szerintem önálltatás lenne azt mondani, hogy nem automatizálta le a szoftveres szakma a saját belépőszintjét.

tettem bele kokusztejet. te jossz