Leaderboard

Moja, terapija!

https://racer.com/2023/06/22/weather-postpones-final-pikes-peak-qualifying/ Inace ceo Pajks Pik ce biti uzivo strimovan na ovom kanalu: https://www.youtube.com/@OfficialMobil1

Evo ga jedan tour de force ekonomskog razmišljanja primenjenog na LLM-ove i to kako će oni tranformisati svet, puna preporuka: (unutra je i preporuka za posetu Kosova)

Otkrio sam From prošle godine, pre jedno mesec dana je stigla i 2. sezona... Ima taj neki šmek Lost, Wayward Pines i još jedne serije koju sam gledao pre nekih možda 10ak godina (slične ideje) ali ne mogu da se setim imena... Malo mi je sumnjiv horor deo priče, ali mi za sad ne smeta onoliko koliko mi horori inače ne leže... Plašim se samo da neko razrešenje ne bude i razočarenje, tj. da kao i u, recimo, Outsideru sve ne završi kao jeftini horor sa - kriv je monster of the week. Ipak, gledam je i dalje, priča drži pažnju, što se za mnoge serije i nije moglo reći.

Slažem se, iako treba odati priznanje i ljudima, poput Frenka Rozenblata* i Hintona (čiji doktorant i saradnik je glavni naučnik OpenAI-a, Ilja Sutskever) koji su to shvatili i pokazaili. Jer tokom 70ih i prve polovine 80ih to nije bilo opšte znanje, naprotiv. Recimo Marvin Minski, potpuna legenda računarskih nauka, je napisao visoku uticajnu knjigu o perceptronu (neuralnoj mreži sa jednim slojem) gde je između ostalog matematički dokazao da on nije u stanju da izračuna logički predikat "ekskluzivno ILI" (XOR), što je u dobroj meri doprinelo opadanju interesovanje i finansiranja istraživanja NN-ove. Bilo je potrebno dosta rada i plivanja protiv struje da bi se izguralo ono što danas izgleda jasno. Premda još uvek postoji velika debata i vrlo otvoreno pitanje dokle se može DNN-ovima... * Rozenblat je skoro decniju pre knjige Minskog i Paperta pokazao da troslojni perceptron može da simulira univerzalnu Tjuringovu mašinu (kompjuter - a to znači, ko veruje da se univerzum može simulirati kompjuterom (kao što ja verujem), da se neuralnom mrežom može napraviti čovek (kao deo univerzuma)). On je nažalost umoro neposredno nakon njihove knjige i izgubio akademski uticaj, što je, nažalost, važna determinanta prominentnosti nečijih ideja i u tom svetu.

Dao sam lajk posto smatram da su ovo sve bitne teme i indirektno povezane sa pitanjem opste inteligencije i razvojem AI tehnologija kao i sa opstim zakljuckom da opasnost od AI uopste ne lezi u potencijalnost maliciozosti samovsvenog AGI entiteta, ali sa ovim tezma u vezi svesti, veze sa inteligencijom i njihovoj evolucionoj povezanosti se uopste ne slazem. Kao ni sa tim citatom Rastina Kola iz TD. Naime scenario serije je pisan, neki kazu da je cak plagiran mada se ne bih slozio, po knjizi Tomasa Ligotija "Zavera protiv ljudske vrste" gde bukvalno kroz knjigu gradi argumentaciju za antinatalistikcu filozofiju. Ligoti, koji licno pati od anhedonije, nije problem postojanja stavio na samu svest nego na kvaliu, ma sumu kvaliteta svih dozivljaja koje covek i svako bice moze imati tokom zivota. Posto je suma kvaliteta uvek vise negativna nego pozitivna zakljucak je da je zivot los a da zlo bude jos vece imamo samosvest pa ta samo svest akumulira patnju kroz memoriju. Zbog toga onaj citat koji Kol izgovra u autu da ljudska svest ne bi trebala da postoji po prirodnim zakonima, tu se pre svega misli na to da sa neverovatnom mogucnosti akumulacije memorije sve patnje koja individua dozivljava kumulativno postaju jos gore jer se nadovezuju na novonastale i tako redom. Ali upravo je u tome kvaka sto svest jeste protiv prirodna (ili natrpirodna) posto omogucava evolucionu adaptaciju koju bioloska memorija (dnk i rnk) nema sanse da omoguce. U rnk i dnk memoriji mora da prodje mnogo vremena da bi se potrefila mutacija na pravom mestu u pravo vreme koja daje adaptivnu prednost te zbog toga se za velike promene kod organizama treba cekati milione i desetine milione godina a kultura koja raste eksonencijalno za manje od deste hiljada godina dosla od klesanog kamena do procesora i spesj satla. A kulturoloska evolucija ima taj eksponencijalni rast upravo zbog te samorefleksije svesti gde je korekcija gresaka u memoriji kako individualno tako i kolektivno moguca gotovo u svakoj iteraciji. Meme prikikom svakog kopiranaj moug da naprave korekciju dok geni, po prirodi dok se meme ne umesaju u budnocsti nekom naprednom tehnologijom, to nema sanse da urade. Na tome pociva teorija bikameralnog uma Dzulijana Dzejnsa, koju si koliko mi se cini i ti u par navrata pominja kao jednu od pitencijalnih osnova za budu opstu teoriju svesti, da smo samosvest stekli razvojem samoreferisuce memorije kroz dovoljno kompleksan jezik. Sto ce reci da svest u smislu samosvesti, dakle necega sto nas definitivno cini time da nismo filozofski zombiji, zavisi od memorije koja izrazito napredne sposobnosti samokorecije u realnom vremenu sto je jedna od najrakcijih definicija inteligencije. Tim ne postoji nacin gde se samosvest moze posmtrati odvojeno od inteligencije dok inteligenacija od samosvesti moze u raznim modelima. Ali sustinsk poenta ostaje, opasnost od AI nece doci od samosvestnog AGI entiteta zgrozenog ili uplasenog postojanjem ljudske vrste nego upravo od toga sto ljudi ocekuju opasnost sa te strane i od toga sto daleko precenjuju ovakve budalaste igracke poput ChatGPT i nerazumevajuci pravu opasnost ovakvim weak AI sistemima mogu prepustiti previse slozene zadatke i tu mogu nastati tragedije.