bohumilo

Ovo je good stuff: Džordž je sjajan tip, pisao sam ranije o njemu i njegovom startapu CommaAI, koji je radeće sa nekoliko ljudi iz garaže u San Dijegu napravio jedinog ozbiljnog konkurenta Tesli u oblasti autonomne vožnje. Sada je osnovao novu "malu korporaciju", Tiny corp (čiji je, mislim još uvek, jedini "zaposleni"), sa ultimativnim ciljem proizvodnje personalnog AI računara, tzv. "tiny box"-a, sposobnog za lokalno treniranje AI/LLM modela, što bi bio ključni korak u obezbeđivanju da svako ima pristup veštačkoj inteligenciji, nezavisno od političke volje vlada i velikih kompanija - i što bi na koncu stavilo tačku na ove debate i ideje o zaustavljanju tehnološkog progresa, bombardovanju data centara itd...Mislim da je za to nedavno podigao 5 miliona od čuvene venture capital firme Andreessen Horowitz, što je vrlo dobar signal... A kad sam kod Andreessen-a, Marc Andreessen (osnivač pomenutog fonda) je i sam zauzeo vrlo aktivnu ulogu u debati oko budućnosti AI, kao jedan od najlucidnijih ne samo tehnoloških već i političkih mislilaca današnjice. Videti, npr, ovde: https://a16z.com/ai-will-save-the-world/ ili ovde: https://www.fromthenew.world/p/marc-andreesen-the-time-to-fight#details

Ja sam "experiencer" svega nekoliko desetina godina. Mlečni put, sa druge strane, postoji 13.6 milijardi godina (Univerzum, prostor i vreme još i više), pa je jasno da ja NISAM jedan od "experiencera" koji su učestvovali u njegovom stvaranju. Mene zanima ko su ONI, dakle ti experienceri/svesni čvorovi/ agenti/kuglice svesti koji su stvorili Mlečni put, sa kojom pojavom iz realnosti TE reči korespondiraju?

To je samo referenca na drugu reč, "experienceri", koja neće postići ono što ja zaista tražim, a to je referenca na neku pojavu iz realnosti. "Expirienceri", "oni koji nešto osećaju", "doživljivači", "svesne kuglice", "svesni agenti", "čvorovi svesti", itd, isl...je mreža reči koje lebde u lingvističkom limbu jer ni jedna od njih ne označava ništa iz realnosti, jedino služe da kada neko pita šta tačno znači neka od njih (recimo šta su/ko su te "svesna kuglica iz koje je nastalo prostor i vreme i Mlečni put") onda ga se uputi na drugu reč (recimo "to su doživljavači", ili "nisu nastali nego emergirali", itd) pa onda kada se pita šta je to uputi se na treću reč i td, pa onda u nekom trenutku opet dođemo na prvu reč isl... Ti kada pitaš za kvarkove, niko ne kaže "to su šmarkovi" - a šta su "šmarkovi" - a, pa to su "žmarkovi" - a šta su žmarkovi? - e, to je jasno, to su kvarkovi...Ne! Kada uzmeš elektrone energije 20GeV i njima bombarduješ protone u ovima se razaznaje unutrašnja struktura, tačkaste elementarne čestice spina 1/2, naelektrisanja 2/3 i -1/3, tri različita "obojena naelektrisanja" - baš kao što predviđa Standardni model i Kvantna hromodinamika - itd, isl...e, TO su "kvarkovi"! To što neka struktura "višeg reda" ima osobinu koju nema struktura nižeg reda iz koje ona nastaje ne znači da se prva ne može objasniti drugom (i redukovati na nju). Naravno da se ponašanje mravlje kolonije može objasniti "mravljim" ponašanjem pojedinačnih mrava (uključujući, naravno, i njihovo ponašanje kao reakciju na ponašanje drugih mrava, što jesu interakcije, ali tu nema nikakve mistike), kao što se ponašanje te kolonije može objasniti ponašanjem atoma u mravima koje čine tu koloniju i koji samo slede zakone atomske fizike itd. Verovanje da to nije tako, da negde dolazi do prekida uzročno-posledične veze je po definiciji verovanje u magiju i u natrprirodno. Vi ultimativno MOŽETE cenu nafte, žirafin dugi vrat ili (da pozajmim primer iz Dojča) atom na vrhu nosa Čerčilovog spomenika u Londonu da objasnite na nivou elementarnih čestica - jedini je problem što to (čak i kada bi bilo praktično) nije dobro objašnjenje. Ono prati trajektorije atoma, ali vi ako hoćete da razumeta ZAŠTO su te stvari takve opet biste morali iz tih trajektorija da na neki način pronađete emergentne fenomene višeg nivoa koji su negde u njima kodirani, kao što su "ponuda i tražnja", "Drugi svetski rat", "prirodna selekcija" itd...To je problem sa redukcionizmom, a ne da on u nije korektan u nekom bazičnom smislu...

Ali u ekonomiji je savršeno jasno KO su čvorovi - to su ljudi - kao i KAKO nastaju "emergentni" fenomeni - KAKO iz ponašanja ljudu nastaju cene, KAKO tržište funkcioniše kao fini mehanizam za prikupljanje i procesiranje informacija i motivaciju ljudi da guraju u najkorisnijem vektoru, KAKO to što ljudi lokalno optimizuju neku svoju funkciju korisnosti vodi globalnom optimumu u nekom jasno definisanom smislu(recimo u smislu Pareta), itd, isl (to imate detaljno opisano u svakom boljem udžbeniku Mikroekonomije, nema nikakve mistike)... Međutim, kod ove "teorije" nikako da dobijem ništa ni blizu toga. Ne znam ni KO su ti čvorovi (entiteti, "svesne kuglice", zovi kako hoćeš) čijom interakcijom su "emergirali" prostor i vreme i Sunčev sistem, niti KAKO je se to desilo - KAKO neko može iz "date interakcije svesnih kuglica" da predvidi kako će funkcionisati prostor i vreme i Sunčev sistem, ko će se oko koga i koliko brzo i dugo okretati u realnosti, ili ako hoćeš (pošto insistiraša na ovoj formulaciji) šta će čovek percipirati na ekranu kompjutera kada teleskop sa kojeg taj kompjuter čita podatke okrene tačno ka tom i tom mestu - kao što sve to vrlo lepo i precizno može pomoću ovih klasičnih fizičkih teorije koje ni na kakav način ne uključuju input bilo kakvih svesnih kuglica. Bez odgovora na ova pitanja, reći da je nešto emergentan fenomen iz interakcije "svesnih kuglica" je prosto zamena stare dobre reči "magija" rečju "emergencije", koja je malo duža i koristi malo drugačija slova ali znači isto. Umesto "prostor i vreme i Mlečni put su nastali iz svesti magijom" samo se kaže "prostor i vreme i Mlečni put su nastali iz svesti emergencijom". Ima već-nekoliko-puta-pomenuti Eliejzer jedan stari blog post na ovu temu: https://www.lesswrong.com/posts/8QzZKw9WHRxjR4948/the-futility-of-emergence

Nemam ja ništa protiv metafizike (kao ni protiv metamatematike, metabiologije, itd), naprotiv. Samo ne mislim da je to šta se tačno dešava sa fotonom u eksperimentu sa 2 proreza (objašnjenje pitanja "kako to?", koje neki u ovom slučaju pokušavaju da zabrane), ili koliko tigar ima nogu i koje je boje - ili, još interesantnije, koje su boje BILI dinosaurusi, što je tek nedavno razjašnjeno zahvaljujući probojima u razumevanju procesa koji (objektivno, u realnosti, nezavisno od ljudske svesti) proizvode boju perja - metafizika.

Naravno da je percepcija, i to ne nekakve "gole", "prave", "čiste" realnosti - kažem, ta vrsta nekakvog neposrednog i trenutnog "usisavanja" svekolile realnosti je magija, to ne postoji - već njene REPREZENTACIJE na ekranu kakvog računara (u vidu, recimo, grafa, dijagrama, histograma, šeme ili možda tako nečega), ili na nekom papiru i slično (danas profesionalni ljudski astronomi nikad u životu - osim možda u slobodno vreme - ne pogledaju u nebo, niti najbolji profesionalni teleskopi imaju cev da se kroz njih gleda u nebo). Ali ta reprezentacija i njena interpretacija može biti tačna i netačna, može da korespondira ili da ne korespondira sa objektivnom, perzistentnom i konzistentnom realnošću! Mrlja na snimku pluća može da bude reprezentacuja raka pluća, a može da bude i mrlja od kafe koju je lekar prosuo - a očigledno je fundmanetalna razlika za pacijenta (bukvalno "pitanje života ili smrti") šta je od toga tačno, da li je snimak tačna ili netačana reprezentacija njegovih pluća. On u realnosti ima ili nema rak, a to koja od te 2 radikalno različite opcije je tačna je potpuno nezavisno od lekareve percepcije i interpretacije snimka - dok samo ovo drugo (dakle ljudska reprezentacija, interpretacija ili percepcija) može biti tačno i pogrešno. Svetlost sa tigra ili jeste ili nije dužine 580-620 nm (tj. tigar ili jeste ili nije narandžast, jer ta reč to znači). Naši uređaji koji mere talasnu dužinu (kao i ovi što slikaju pluća) su prilično pouzdani, napravljeni na osnovi najboljih i najpreciznijih fizičkih teorija koje imamo, nezavisno testirani i verifikovani mnogo puta - ali oni mogu da pogreše, kao što može da pogreši i čovek koji ih čita, ali to ne utiče na boju tigra niti na stanje pluća. Ko su ti svesni agenti koji su kreirali/zamislili Sunčev sistem? Koji su to što postoje od Velikog praska, čije nam se interakcije prikazuju kao vreme i prostor? Je li svetlost svesna ili nije? Kada govorimo o tome šta ko podrazumeva pod terminom "svest", ja sam negde na početku teme natuknio šta podrazumevam po time: * kroz prostor i vreme, dodao bih ovde...Dakle neko najobičnije, najzastupljenije i najinteresantnije značenje tog pojma (koje, naravno, nije precizna definicija, to će doći tek na kraju "puta")...

Haha, naravno da jeste - tigar je OBJEKTIVNO, u REALNOSTi narandžaste boje (uzmimo za potrebe diskusije da je u celosti takav)! To možemo da kažemo kako u vrtiću tako i stanovniku neke planete u drugoj galaksiji gde uopšte ne postoje tigrovi. On bi odmah pitao šta to znači i mi bismo mu rekli da to znači da je dominantna talasna dužina svetlosti između 580 i 620 nm. On bi, samo ako je na dovoljnom saznajnom nivou, mogao da pogleda svojim instrumentom u tigra u drugoj galaksiji (našoj) i da potvrdi da tigar zaista jeste narandžast. Mogao bi da proveri i pomorandžu, i dres holandske reprezentacije i td i da potvrdi da su sve te stvari OBJEKTIVNO narandžaste. Mogao bi da pita i "dobro, a zašto je uzet taj proizvoljan opseg za definiciju, kada su svi objekti između 500 i 700 nm za mene iste boje, Barandžaste?". E tu je odgovor da postoji na toj planeti Zemlji jedna vrsta, tzv, "ljudi" koja talasne dužine u opsegu 580-620 percipira različito od drugih talasnih dužina i zove ih "narandžastim" i za njih ta definicija ima smisla, predstavlja zaokružen fenomen odvojen od drugih (to bi takođe drugar vanzemaljac mogao da proveri - konzistentnost i opravdanost definicije - praveći anketu među ljudima oko toga koje je boje tigar, pomorandža i holandski dres, kao i koje su boje objekti koji zrače na 550 i 650 nm). Tigar je, u tom slučaju takođe i Barandžaste boje (kako god stanovnici iz druge galaksije nju percipirali; "narandžasta" i "Barandžasta" su samo imena, nomeni, slova, koja nemaju nikakva magijska svojstva po sebi), jer je skup objekata koji su narandžasti pravi podskup objekata koji su Barandžasti - jer je realnost objektivno postojeća, konzistentna i perzistentna. Takođe, kada bi mušica koja "tigra vidi kao oblak" ili oseća kao neki talas radioaktivnosti ili elekteiciteta samo IMALA mozak sposoban da kreira eksplanatorno znanje, da predlaže i kritikuje/testira objašnjenja fenomena u realnosti, ona bi bez sumnje nekad došla do znanja da tigrovi postoje, da su narandžasti i Barandžasti (jer je to stvar koja je važna za fenomen zvani "tigar", koja mu je omogućila da opstane***) i da imaju 4 noge - jer je i TO stvar koja je važna za tigra, za njegovu dinamiku kretanja, trčanja, lova (kao što su to i 2 oka koja mu daju dobru sliku, i da 2 uha itd) itd... ...To su sve u nekom smislu zanimljive ali davno razjašnjene stvari, ali u nekom smislu - gde se insistira da je tu neko na neki način prevaren, zakinut za "pravu" sliku realnosti itd - trivijalne i izbagatelisane, kao kada neko tvrdi da tigar nema glavu kada ga gledas otpozadi, nema rep kada ga gledas spreda, nema boje ako si slep ili ako ga gledaš u mraku, itd... ...A u tu kategoriju spada i kvantni skok iz tog zanimljivog i relativno bezazlenog i jasnog diskursa u tvrđenja da je "svetlost svesna" i da "svest postoji od velikog praska", te da "jedna konfiguracija mreže svesnih agenata daje planete i galaksije": Ja za sada ne mogu kazati čak ni da su to beskorisne i preširoke definicije jer mi kada govorimo o svesti mislimo na sasvim konkretan i uzak fenomen koji nas zanima, pa sada ako hoćete da kažete da je sve svest onda nam treba drugo ime za ovo što trenutno podrazumevamo pod tim pojmom (kao kada neki ljudi kažu da je sve kompjuter, da je, npr, kamen kompjuter koji stalno izračunava svoje sledeće stanje). Neću reći ni da je to "hipoteza" koja nema nikakvu prediktivnu sposobnost, koja nije falsifikabilna, te ima nulti informacioni sadržaj, itd... Ne. Za mene su pre svega ovo reči koje namaju smisla. Pridodaješ li im ti neki smisao? Šta one tačno znače? Šta znači da "jedna konfiguracija mreže svesnih agenata daje planete i galaksije"? ***btw, ovo takođe nije sasvim tačno - mada je česta miskoncepcija koja ni Darvinu nije bila sasvim jasna. Evolucija ne optimizuje fitnes vrsta, ili apaptaciju varijante gena na okruženje, već optimizuje relativnu sposobnost varijante da se proširi kroz populaciju. Sasvim je moguće da, recimo, paunov veliki rep (ili boja tigra) maladaptacija vrste na okruženje, ali se ta varijanta proširila jer su paunovi većeg repa imali bolju prođu kod dama paunica - iako bi svima bilo bolje da svi imaju manji rep za neki jednak procenat. U takvim slučajevima, naravno, evolucija forsira duži rep do ekvilibrijama, gde malo druži rep donosi jednaku prednost kod dama kao i štetnost u okružejnu (od drugih predatora, recimo)...

Ali to nije metafizika nego objektivno postojeća realnost. Konzistentna, perzistentna, saznatljiva, testabilna, merljiva, navigabilna. To malo podseća na debate s kraja 19. veka, gde je recimo Mah optuživao Bolcmana da se bavi "metafizikom" jer veruje u postojanje atoma, za koje su instrumentalisti i pozitivisti smatrali da su u najboljem slučaju koristan alat (ili ikonica) za predviđanja rezultata eksperimenata, i da nema smisla govoriti o njima kao o realno postojećim objektima jer ih "niko nikada nije video nite će ikada biti u stanju da ih vidi" (što se ispostavilo kao pogrešno, danas atomi mogu da se vide, ali to nije ni važno). Bolcman je, to je sasvim jasno, izašao kao pobednik iz tih debata i to pokazuje kompletna 20-ovekovna nauka i filozofija nauke, Atomi POSTOJE, dinosaurusu su postojali (to nije metafizika, iako ih niko nije video niti je stupao u nekakav mistični splet sa njihovom svešću), tigrovi postoje, IMAJU 4 noge i IMAJU šare, potpuno nezavisno od toga da li je neko slep ili daltonista i kulturni relativista - svakome od njih će uređaj za spektrofotometriju apliciran na kožu tigra dati isti rezultat! To što on podrazumeva pod time da "neko teži istinitoj realnosti" je da neko može momentalno, automatski, bez procesiranja i nekakve unutrašnje reprezentacije, u svim rezolucijama i aspektima i odnosima da zna sve o svemu u svetu - šte je magija, ili neki koncept božanskog uvida, koji naravno da ne postoji i niko nikada nije tvrdio da postoji, i NARAVNO da težnja takvom uvidu u predačkom okruženju ne donosi fitnes poene (koji, gle čuda, takođe objektivno postoje u realnosti, i njihova TAČNA percepcija pomaže organizmima da opstanu). Ljudi percipiraju stvari samo u određenoj rezoluciji, određene aspekte i apstrakcije realnih objekata*, kognitivo obrađuju njihove reprezentacije itd - ali to ne znači da "realnost nije onakva kao što izgleda". To što recimo, moje oči vide tigra samo u određenoj rezoluciji (koja najbolje promoviše interese mojih predaka) - a ne vidim ga u svim drugim rezolucijama, ne vidim ga u većoj rezoluciji (ne vidim jasno svaki pojedinačni njegov atom) niti u manjoj (da mi je on u nekom smislu zamagljen i razmrljan sa okolinom) ne znači da ja imam pogrešnu sliku tigra, već samo da preko čula dobijam istinitu sliku jednog apsekta tigra, u jednoj rezoluciji - dok na druge načine mogu da dođem do istinitih saznanja o drugim njegovim aspektima. Ovo jeste slučaj da, kako Hofman kaže u ovom radu "payoff funkcija ne čuva uvek homomorfizam iz realnosti" - nemamo da bolja rezolucija očiju vodi boljem fitnesu - (kao i, recimo, činjenica, da mi bliži objekti izgledaju veći od daljih - očigledan nehomomorfizam) ali to, dakle, ne znači da da ja nemam uvid u realnost, da me oči varaju o tome kakav je tigar "zaista". Kažem, deo ovoga može biti možda koristan u didaktičke svrhe, za ljude koji nikada nisu čuli i razmišljali i razumeli ove stvari - a to su sve korisni i važni i tačni i vrlo zanimljivi naučni i filozofski uvidi (samo što su spadaju u onaj deo "ono što je dobro nije novo"). Međutim drugi deo, radikalni zaključci koje on izvodu su prosto loša filozofija koju kvalitetno mogu da pobiju i deca u vrtiću. Moje dvogodišnje kćerče zna da tigar JESTE šaren i da IMA 4 noge, i zna kako to zna, zna da bi svet bio nekonzistentan kada to ne bi bilo tačno. Pogledajte samo ovaj circulus vitiosus, on tvrdi da je vreme (i prostor) konstrukt/produkt svesti, i to bazira na evolutivnim "argumentima" - međutim samo vreme je ključni kontekst u kojem se evolucija odigrava, promene su KROZ VREME. Dakle vreme je proizvelo svest a svest je proizvela vreme? To su sve stvari - uključujući i ovaj panpsihizam po kojem je sve svesno (pa u nekom smislu svest stoji i iza kamenja i čaša) - koje su ga nužno na povele na taj neki put misticizma i spiritualizma da se, koliko vidim, i Dipak Čopra pigibekuje uz ove ideje. Inače, ovu sliku sa naslovnice knjige on na predavanju (očigledno i u knjizi) koristi kao primer i dokaz da mi ne vidimo realnost kakva ona jeste, jer je slika na 2D papiru a naš mozak vidi 3D kocku. To je takođe još jedan primer gde deca u vrticu imaju bolje shvatanje realnosti od ponekih akademika - jer se niko od njih neće mašiti rukom za kocku i pokušati da je zakotrljaju jer razumeju da to NIJE 3D objekat već da samo za naše oči i mozak u tom kontekstu LIČI na njega. Ja sam to predavanje, kao i preko 2 miliona drugih gledalaca, gledao na 2D ekranu laptopa, koji je napravljen da se na njemu tačkice pomeraju tako da dovoljno LIČE na D. Hofmana, ali ne verujem da ima puno ljudi koji su pomislili da je to zaista D.H. ušao u njihov laptop, ili da se osećaju u nekom smislu prevarenim zbog toga. Prosto je korisno (u cilju učenja ili zabave) imati ekran čije pikseli liče na čoveka koji drži predavanje (u tačno toj rezoluciji, dok bi mnogo veća ili manja rezolucija štetila tom cilju). * btw, to se ne dešava na neki mistični način - mi tačno znamo kako oko i mozak funkcionišu i KAKO ono što se dešava u realnosti stvara našu percepciju toga, mi znamo zašo takav i takav tigar prouzrokuje da mi u mozgu vidimo da je on takve i takve boje, da je na toj udaljenosti itd (rečju, i iz rezultate spektrofotometrije tigra možemo da znamo da će ljudi videti da je on šaren).

Peter Brotzmann, sila prirode, patrijarh evropskog free džeza. Duvao je kroz one brčine kao vetar kroz guste germanske šume koje su progutale Varusove legije, bukvalno do poslednjeg dana. Gledao sam ga jednom u Rex-u, sa Kenom Vandermarkom i Matsom Gustafssonom - mislim da je bio festival Ring Ring. Oni su bili zvede večeri i trebalo je da nastupe u udarnom, kasnom terminu. Međutim kada je izašao raspored, ovaj trio je bio prvi. Počeli su pre 8, svi su došli na vreme, duvalo je kao da je se sam đavo popeo i dokopao saksofona, muzika se bukvalno mogla osetiti fizički, na licu, kosi, koži i u stomaku. Iako je sve gorelo i pušilo se na sve strane, Piter ceo koncert nije ni pomislio da skinu svoju kožnu jaknu. Nakon seta se ljubazno pokonio, zahvalio, i objasnio da sada mora da krene da gleda Bajern koji igra u ligi šampiona to veče (možda je čak bilo i finale LŠ, mora da je bio neki kasni maj). Bilo je dosta. Bilo je dobro. Došlo je vreme, i hvala na svemu.

Slušao sam ga jednom ranije kod Sema Herisa, i ovim si me podsetio da obnovim gradivo i da prelistam nekoliko njegovih radova na internetu i da malo propitam i samog GPT-a o njemu. Odmah da kažem (tj. ponovim), budući da ne postoji teorija svesti*, u ovoj fazi svaka hipoteza je dobrodošla i svaki pokušaj je vredan, a u ovim radovima, naročito sa Četenom Prakašem stvarno ima interesnantih stvari i matematičkih modela evolucije. Rekavši to, centralna teza meni malo deluje kao ono: "Ovde ima mnogo dobrih i novih stvari. Problem je što se ta 2 skupa ne preklapaju (ono što je dobro nije novo, a ono što je novo nije dobro)". Šta je od toga dva zavisi od njegovog odgovora na pitanje "da li realnost objektivno postoji, i da li su ljudi u stanju da je spoznaju?" - koji, kako se čini, sam Hofman često menja, trudeći se po nekad da zvuči šokantnije i nudeći negativne odgovore na ova pitanja, pa onda, kada ga intervjuer malo pritisne, kao da se približava pozitivnom odgovoru. Ja na ove stvare uvek gledam iz poperovske perspektive (a pošteno govoreći, isto kaže i dokinskovska, dekartovska, kopernikanska...pa i platonovska), i za mene nema apsolutno ništa novo ni čudno u ideji da mi NEMAMO nikakav "direktan i neposredan" uvid u realnost (niti je jasno šta bi to značilo!), već samo preko čula koja nas ponekad varaju, i koja su evolutivno baždarena da apstrahuju fenomene i renderuju realnost tako da mi ta slika povećava "fitness" u predačkom okruženju. Tako, recimo, ne percipiram svet kao nekakvu talasnu funkciju ili nekakav histogram radioaktivnosti ili toplote, već jasno vidim tigra koji mi se približava, pošto on može da me pojede, i spreči da ostavim potomstvo. Iako se, naravno tigar sastoji od elementarnih čestica i njegovo kretanje ka meni se u potpunosti može objasniti na taj način, to u ovom kontekstu nije korisno i nije dobro OBJAŠNJENJE i ne promoviše moje razmnožavanje. (tu već nastaje prvi problem sa Donaldovom hipotezem - ti ne možeš da imaš adaptivnu funkciju koja je indifirentna na realnost jer se to da li će tigar mene pojesti i da li ću ja imati decu odlučuje u realnosti, a ne u mojoj percepciji). Dalje, mi IMAMO dobra objašnjenja (tzv. "teorije") fenomena u realnost koja - iako nisu i nikada neće ni biti nekakve potpune i dovršene istine - aproksimiraju realnost, pružaju dobar uvid u ono šta se stvarno i objektivno tamo dešava. Iako se nama čini da Sunce izlazi i kreće se preko neba i zalazi iza ravne ploče na kojoj se nalazimo, mi imamo mnogo bolje objašnjenje tog fenomena, koje je teško varirati i koje istovremeno objašnjava i mnogo drugih fenomena (što je uvek odlika dobrog objašnjenja), tipa kako to da ako sada zovnete tetku u Australiji kod nje će biti dan, a ako otputujete kod nje će biti zima - dakle imamo mnogo bolji uvid u samo realnost, iako niko nikada svojim čulima (do nedavno) nije video kako izgleda Zemlja i Sunčev sistem itd. Uostalom, samo uzak krug dobrih objašnjenja kako realnost ZAISTA funkcioniše je uopšte bio u stanju da proizvede avion kojim možete da odletite u Australiju - netačne aproksimacije realnosti vas ne mogu odvesti mnogo daleko. Sama teorija evolucija, na koju se Hofman poziva, je upravo jedno takvo objašnjenje i uvid u objektivnu realnost, potpuno integrisano u kompletan korpus svih drugih objašnjenja (od astronomskih preko geoloških pa do hemijskih), čije negiranje bi negiralo i samu TE. "Razumni Hofman" izgleda da nema problem sa ovim, dok ponekad izgleda kao da "ekstremni Hofman" ima, i ja tu imam problem samo sa ovim drugim. Međutim, kada od realnosti dođemo na polje svesti, tu imam mnogo više nesuglasica. On svest predstavlja kao nekakav matematički precizno definabilan koncept (iako nikada ne kaže tu definiciju) koji je najfundamentalniji fenomen onoga što percipiramo kao "realnost". On bi, dakle, iz samog svog koncepta svesti morao da izvede recimo kvantnu mehaniku, teoriju relativiteta, pa i teoriju evolicije (što on i priznaje kod Sema Herisa), ali bi - još jače - morao da izvede i neke fenomene koje sve ove teorije do sada nisu predvidele (kao što je t. rel. predvidela crne rupe, zakrivljenost svetlosti oko masivnih objekata, razliku satova na vrhu i dnu zgrade i gomilu krajnje neintuitivnih fenomena koje Njutnova mehanika nije predviđala). Srećno sa tim. Ali ne samo to. Po ovoj koncepciji nauka se i ne bavi realnošću već ljudskim kognitivnim procesima, pa domen našeg znanja ostaje jedino "korisnički interfejs" (da se poslužim njegovom metaforom) u kojem ostajemo večito zarobljeni, bez mogućnosti da odatle iskočimo i vidimo šta je spolja. To je veštački "conversation stopper" u istom smislu u kojem je to religijska hipoteza "Bog je to uradio" - što NIKADA nije dobro objašnjenje, mi od nauke trebamo odgovore na neprestano pitanje "kako?". Notirao sam još nekoliko problema sa Hofmanovim gledištem, recimo vrlo izražen scientizam i pozitivizam (polaženja od matematičke definicije koja obično dolazi na kraju a ne od empirije, objašnjenja, rešenja problemske situacije, od toga kako eksperimentom odvojiti njegovu od neke druge hipoteze), zatim neka vrsta panpsihizma (koju je Sem Heris ispravno uočio mada je Hofman negira), itd, ali za sada ću se zaustaviti na ovome radi jezgrovitosti. * jedna zabavna potvrda ovoga od pre 2 dana: https://www.nature.com/articles/d41586-023-02120-8

Tamara Obrovac, 2023. Svaki novi album je novo počašćavanje:

Evo ga jedan tour de force ekonomskog razmišljanja primenjenog na LLM-ove i to kako će oni tranformisati svet, puna preporuka: (unutra je i preporuka za posetu Kosova)

Svaki dan novi šok, ovo je jedan od većih: The insight from this is that GPT based language models appear to have a "logic core", that can be "activated" when you express information to them in some exact representations. Kako sada stvari stoje, jedna od najprofitabilnijih veština će ubrzo biti "kako postaviti pravo pitanje, koje će istisnuti ono što ti treba iz kompjutera..."

Jelena Stojković na volšeban način sprovodi Fazila Saja: inače, prošlog meseca su u Beogradu ljudi mogli da čuju uživo i Jelenu (u Legatu Slavenskog) i Fazila (na Kolarcu) kako sviraju ovo...

https://www.nber.org/system/files/working_papers/w31222/w31222.pdf Generative AI and Firm Values ABSTRACT What are the effects of recent advances in Generative AI on the value of firms? Our study offers a quantitative answer to this question for U.S. publicly traded companies based on the exposures of their workforce to Generative AI. Our novel firm-level measure of workforce exposure to Generative AI is validated by data from earnings calls, and has intuitive relationships with firm and industry-level characteristics. Using Artificial Minus Human portfolios that are long firms with higher exposures and short firms with lower exposures, we show that higher-exposure firms earned excess returns that are 0.4% higher on a daily basis than returns of firms with lower exposures following the release of ChatGPT. Although this release was generally received by investors as good news for more exposed firms, there is wide variation across and within industries, consistent with the substantive disruptive potential of Generative AI technologies. Ovo je dosta značajan rani rezultat koji govori u prilog potencijalu v.i. da odigra snažno tranformativnu ulogu u ekonomiji, a time i društvu te ljudskoj civilizaciji na velikoj skali.

Ovo je takođe odličan podkast, sa Skotom Aronsonom, naročito drugi deo gde diskutuje svoje konkretne rezultate na prepoznavanju da li je tekst proizvod LLM-a (inače vrlo važan (i težak) problem za političku budućnost ove tehnologije). Topics we discuss, and timestamps: - 0:00:36 - 'Reform' AI alignment - 0:01:52 - Epistemology of AI risk - 0:20:08 - Immediate problems and existential risk - 0:24:35 - Aligning deceitful AI - 0:30:59 - Stories of AI doom - 0:34:27 - Language models - 0:43:08 - Democratic governance of AI - 0:59:35 - What would change Scott's mind - 1:14:45 - Watermarking language model outputs - 1:41:41 - Watermark key secrecy and backdoor insertion - 1:58:05 - Scott's transition to AI research - 2:03:48 - Theoretical computer science and AI alignment - 2:14:03 - AI alignment and formalizing philosophy - 2:22:04 - How Scott finds AI research - 2:24:53 - Following Scott's research Skot je jedan od najprominentnijih računarski naučnik današnjice, sa UT Ostina, ranije sa MIT, koji se pretežno bavi teorijom algoritamske kompleksnosti i kvantnim računarstvom, ali trenutno na "dopustu" da bi radio za OpenAI. Možda najpoznatiji po svom popularnom blogu, gde se poslednji post bavi pokušajem klasifikacije mogućih AI budućnosti: https://scottaaronson.blog/?p=7266 Five Worlds of AI (a joint post with Boaz Barak)

Slažem se, iako treba odati priznanje i ljudima, poput Frenka Rozenblata* i Hintona (čiji doktorant i saradnik je glavni naučnik OpenAI-a, Ilja Sutskever) koji su to shvatili i pokazaili. Jer tokom 70ih i prve polovine 80ih to nije bilo opšte znanje, naprotiv. Recimo Marvin Minski, potpuna legenda računarskih nauka, je napisao visoku uticajnu knjigu o perceptronu (neuralnoj mreži sa jednim slojem) gde je između ostalog matematički dokazao da on nije u stanju da izračuna logički predikat "ekskluzivno ILI" (XOR), što je u dobroj meri doprinelo opadanju interesovanje i finansiranja istraživanja NN-ove. Bilo je potrebno dosta rada i plivanja protiv struje da bi se izguralo ono što danas izgleda jasno. Premda još uvek postoji velika debata i vrlo otvoreno pitanje dokle se može DNN-ovima... * Rozenblat je skoro decniju pre knjige Minskog i Paperta pokazao da troslojni perceptron može da simulira univerzalnu Tjuringovu mašinu (kompjuter - a to znači, ko veruje da se univerzum može simulirati kompjuterom (kao što ja verujem), da se neuralnom mrežom može napraviti čovek (kao deo univerzuma)). On je nažalost umoro neposredno nakon njihove knjige i izgubio akademski uticaj, što je, nažalost, važna determinanta prominentnosti nečijih ideja i u tom svetu.

Prvi put sam čuo za Čakonu čitajući autobiografiju Vernera Hajzenberga, zaboravio sam u kom je kontekstu on tamo pominje, da li voleo da svira na nekim večerima, ili je njegova žena svirala kada ju je upoznao (pre će biti ovo drugo), uglavnom otrčao sam na internet, daj baš da vidim o čemu se radi, i zvučala je veličanstveno u nekoj dubokoj noći: Jednom sam slušao Edina Karamazova kako je svira u kuli Nebojša, sam, jal na gitari jal na lauti, takođe ne mogu da se setim ali bilo je lepo.

Dobar intervju o temi: Henson je profesor ekonomije sa Džordž Mejsona i jedan od najorginalnijih, najprodornijih i najzabavnijih intelektualaca današnjice, sa originalnim doprinosima u disciplinama toliko različitim kao ekonomija, računarstvo, studije budućnosti, veštača inteligencija, psihologija, statistika, bajesijanska analiza, evolucija, racionalizam, prediktivna tržišta, potraga za vanzemaljskom inteligencijom, i mnogim drugim. Njegov intelektualni autput je jedan od najdubljih i najbogatijih rudnika interneta... Inače je stari Eliejzerov znanac, prijatelj i debater: https://www.lesswrong.com/tag/the-hanson-yudkowsky-ai-foom-debate

Podložna melodija za prvi koral Pasje po Mateju, u traskripciji za klavir Đerđa i Marte Kurtag: Nisam mogao da nađem na YT snimak njih dvoje kako sviraju, mada on postoji, i može se naći po internetu, recimo ovde, ko ima nalog:

Šta je "autentični srpski (ili italijanski*, sasvim svejedno) jezik" u ovom kontekstu? To ne postoji u realnosti, to je ideološka apstrakcija - poput koncepata "proleterijat" ili "ljudi od boje", koji se takođe ne odnose na realne ljude već se u njega ljudi učlanjuju ili iščlanjuju stepenom ideološkog dogmatizma - koja služi za "uvođenje ideologije u kosti" i maltretiranje neistomišljenika, disidenata i ostalih "nenarodnih elemenata". Za takve stvari se uglavnom zalažu ljudi koji ne razumeju šta je jezik i čemu on služi zato što niti šta čitaju niti šta rade, niti imaju kontakt sa ljudima iz inostranstva ili stranim firmama (naročito sa prepredenim Englezima koji non-stop kidišu na "male ali ponosne narode"), dakle nemaju nikakve potrebe za komunikacijom niti za jezikom. On je se prosto učlanio u Partiju i podržava bilo kakvu ideju koja će mu omogućiti da prijavi komšiju u komitet - da li zato što je Židov, da li što je pripadnik "buržoaske klase", da li zato što je što zna biologiju ili genetiku (što je bila smrtna presuda u SSSR-u), da li zato što zna arapski jezik (što je bila smrtna presuda u feudalnoj Evropi) ili zato što ne koristi "autentični srpsko-talijanski jezik" - a u realnosti jer je frustriran zato što je komšija bio bolji djak i student ili ima veću kuću ili je bolji fudbaler itd. Pa čekajte, ko je taj ko treba da sudi da li je nešto "autentični srpski", neko ko nikada nije čuo za Borislava Pekića i Danila Kiša? Kako se na "autentičnom srpskom" kaže, recimo, "decentralizovane finansije", ili "generativni pri-trenirani tranformer"? Verovatno nikako i ne treba da se kaže, ko god se bavi time već je dovoljno sumnjiv, kao Rodžer Bekon koji čita arapski u 13. veku u Oksfordu. Prosto, ovakve (kao i sve totalitarne) ideju se jezgrovito mogu opisati sa 3 reči - osveta loših đaka! * naravno, ukoliko se ovde ne radi o nekom komičnom skeču, posto vest deluje kao da je iz Monti Pajtona ili Top liste nadrealista....