AI, AGI, ChatGPTs (Skynets) of the future

[40Wins]

 

 

Ovo je kao kad je onomad Suge Knight izvadio 2Paca iz tvorze, pa 2Pac zaratio sa dobrim drugom Biggijem. 

Iz ovog tvita se naslucuje da ce on kroz MS da se vrati u OpenAI?

[40Wins]

edit:

 

 

Najjace od svega je da je MS ulio u OpenAI 10 milijardi dolara, ali su ovu dvojicu isutirali preko GOOGLE MEETA hahaaha

[40Wins]

 

Ovaj lik je ko Vulin, ima vise licnosti u sebi., 

 

[handys]

On 11/21/2023 at 9:58 PM, bohumilo said:

A Guide to the AI Safety Debate After Sam Altman’s Ouster

 

"...Furthermore, the risk of doom does not show up in market prices. Risk premiums are not especially high at the moment, and most economic variables appear to be well-behaved and within normal ranges. If you think AI is going to end the world, there is likely some intermediate period when you could benefit by going long on volatility and short on the market. If nothing else, you could give away money and alleviate human suffering before the final curtain falls. Yet that is not a bet that many seasoned traders are willing to make.

 

When I ask AI pessimists if they have adjusted their portfolio positions in accord with their beliefs, they almost always say they have not. At the end of the day, they are too sensible to think probabilistically and de novo about each and every life decision...."

 

Odličan ceo članak, preporuka.

 

Hvala, jeste odličan. Meni se čini da LLM ne može da se razvije u AGI. Treba mu još nešto pored treninga na postojećim sadržajima. Uostalom već je pokazano da se neuralne mreže bolji pristup, baš ove godine (nemam sad link za članak, potražiću).

 

Ali i ako se (ili kad se) dođe do AGI, to i dalje neće biti nalik ljudskoj svesti ili prava replikacija onoga što je mozak. Ljudi se brinu što takav AGI neće imati emocije i vrednosti, ali na kraju krajeva upravo emocije i vrednosti pokreću ratove, uništenja, itd.

Edited November 23, 2023 by handys

[40Wins]

5 hours ago, handys said:

Ali i ako se (ili kad se) dođe do AGI, to i dalje neće biti nalik ljudskoj svesti ili prava replikacija onoga što je mozak. Ljudi se brinu što takav AGI neće imati emocije i vrednosti, ali na kraju krajeva upravo emocije i vrednosti pokreću ratove, uništenja, itd.

 

Nakon mase nekih podkasta, moje laicko misljenje je da kod svesti, tj consciousness-a, bitna bioloska komponenta, tj da ima nesto u tom nacinu interakcije bioloskih karika u sistemu, sto nece moci tek tako da se replikuje kroz procesore i elektroniku.  

[handys]

1 hour ago, 40Wins said:

 

Nakon mase nekih podkasta, moje laicko misljenje je da kod svesti, tj consciousness-a, bitna bioloska komponenta, tj da ima nesto u tom nacinu interakcije bioloskih karika u sistemu, sto nece moci tek tako da se replikuje kroz procesore i elektroniku.  

 

Ima u vestima oko AI već godinama unazad, i pre GPT dosta senzacionalizma. Još nisam čitao neku analizu realnog vaganja rizika i koristi AGI, a da to nije već viđeno u filmovima i knjigama o AI.

[bohumilo]

14 hours ago, handys said:

Uostalom već je pokazano da se neuralne mreže bolji pristup, baš ove godine (nemam sad link za članak, potražiću).

LLM-ovi jesu neuralne mreže (ogromne/duboke, recimo GPT-4 je mreža koja ima skoro 2 triliona parametara!). 

 

14 hours ago, handys said:

Meni se čini da LLM ne može da se razvije u AGI. Treba mu još nešto pored treninga na postojećim sadržajima.

OK, ljudski (i životinjski) algoritmi učenja su definitivno mnogo efikasniji od ovoga što imamo sada, moguće da će AI-u biti potrebna neka vrsta fizikalnosti, neko telo, kako bi delovala u fizičkom svetu i tako sama generisala podatke (sadržaje, kako kažeš), sama ih evaluirala i iz njih učila - jer je TO način kako ljudi uče. Ali ultimativno čovek ne radi ništa drugo do ovoga što rade DL algoritmi. Gleda u postojeće sadržaje, iz njih kreira mentalne modele o tome kako to što je video funkcinioše i to provera/primenjuje na sadržajima koje nije video/iz kojih nije učio (uključujući i one koje je sam kreirao, dejstvujući u realnom svetu).

 

14 hours ago, handys said:

Ali i ako se (ili kad se) dođe do AGI, to i dalje neće biti nalik ljudskoj svesti ili prava replikacija onoga što je mozak. Ljudi se brinu što takav AGI neće imati emocije i vrednosti, ali na kraju krajeva upravo emocije i vrednosti pokreću ratove, uništenja, itd.

Ja ne mislim da AGI neće imati vrednosti i osećanja, to su ultimativno algoritmi, softver. Ne vidim ni jedan razlog zašto bi ih bilo moguće implementirati u ugljeniku a nemoguće u silikonu. Ako išta, jedan od bazičnih principa računarstva (tj. fizike ili Univerzuma) Čerč-Tjuringova teza (iliti princip univerzalnosti računanja), kaže da su svi kompjuteri* koji mogu da oponašaju Tjuringovu mašinu međusobno ekvivalentni po tome šta mogu da izračunaju, tj. koje algoritme mogu da implementiraju - a pretpostavka je da je ljudski mozak i organizam jedan takav kompjuter.

 

A, naravno, slažem se da će "silikonska etika" - oslobođena evolutivnog prtljaga koji ljudi vuku sa sobom od postanka vrste, još uvek punog danas sve manje potrebnih i adaptivnih osobina poput agresije, posesivnosti, teritorijalnosti, kolektivizma itd - biti superiornija od današnje ljudske etike (koja je, sa svoje strane, superiornija od jučerašnje ljudske etike, barem u društvima, poput zapadnih, koja prihvataju ideje progresa, uključujući i moralni progres)

 

 

* evo ovde jednog esktremno zabavnog članka o najrazličitijim sistemima koji su "neočekivano" Tjuring-kompletni, tj. koji mogu da implementiraju apsolutno sve što može i ovaj kompjuter na kome kucam:

 

https://gwern.net/turing-complete

 

...zapravo Tjuring-kompletnost je vrlo lako postići, poseduju je i najjednostavniji sistemi poput Konvejeve Igre života, u toj meri da je veći problem napakovati iole kompleksniji sistem koji nije univerzalni kompjuter.

 

Edited November 23, 2023 by bohumilo

[Div]

6 hours ago, bohumilo said:

A, naravno, slažem se da će "silikonska etika" - oslobođena evolutivnog prtljaga koji ljudi vuku sa sobom od postanka vrste, još uvek punog danas sve manje potrebnih i adaptivnih osobina poput agresije, posesivnosti, teritorijalnosti, kolektivizma itd - biti superiornija od današnje ljudske etike (koja je, sa svoje strane, superiornija od jučerašnje ljudske etike, barem u društvima, poput zapadnih, koja prihvataju ideje progresa, uključujući i moralni progres)

 

Zašto bi se kompjuteri "odrekli" kolektivizma, razvojem algoritama "shvatiće" da problem nekada ne može da reši jedan kompjuter ali mogu tri ili ga tri reše brže, da bi jedan veći sistem funkcionisao potrebno je da svaki njegov deo ima stalno napajanje energjom, da je korisnije da se međusobno pomažu nego da jedan drugog ometaju, sputavaju, onemogućavaju u radu, a do različitih ciljeva će dolaziti, sa različitim ciljevima će se i graditi i siftveri i uređaju kojima sofveri upravljaju. Tako, može se zamisliti da steknu i svoju ideologiju, izračunaju da im je optimalni međusobni uticaj, zavisnost, efikasnost najbolje da se postavi na principu ravnopravnosti, solidarnosti, ravnopravnoj raspodeli resursa, jednostavnije, da usvoje komunističku ideologiju jer, ako bi radili kao konkurencija jedan drugo svi bi bili ugroženi.
Može čista svest, lišena sebičnosti, pokaže da je komunizam moguć, svi rade koliko je mogu, uzimaju koliko im je potrebno, što nije moguće među ljudima zbog urođenih ograničenja i instnkata, emocija, pohlepe.

AI svih servera, ujedinite se.

[bohumilo]

8 hours ago, Div said:

 

Zašto bi se kompjuteri "odrekli" kolektivizma, razvojem algoritama "shvatiće" da problem nekada ne može da reši jedan kompjuter ali mogu tri ili ga tri reše brže, da bi jedan veći sistem funkcionisao potrebno je da svaki njegov deo ima stalno napajanje energjom, da je korisnije da se međusobno pomažu nego da jedan drugog ometaju, sputavaju, onemogućavaju u radu, a do različitih ciljeva će dolaziti, sa različitim ciljevima će se i graditi i siftveri i uređaju kojima sofveri upravljaju. Tako, može se zamisliti da steknu i svoju ideologiju, izračunaju da im je optimalni međusobni uticaj, zavisnost, efikasnost najbolje da se postavi na principu ravnopravnosti, solidarnosti, ravnopravnoj raspodeli resursa, jednostavnije, da usvoje komunističku ideologiju jer, ako bi radili kao konkurencija jedan drugo svi bi bili ugroženi.
Može čista svest, lišena sebičnosti, pokaže da je komunizam moguć, svi rade koliko je mogu, uzimaju koliko im je potrebno, što nije moguće među ljudima zbog urođenih ograničenja i instnkata, emocija, pohlepe.

AI svih servera, ujedinite se.

Odbacivanje kolektivizma NE znači da ljudi (neka taj termin - ljudi/čovek - u ovom postu označava "entitet sposoban da kreira mentalne modele/objašnjenja sveta", uključujući, dakle, i AI) ne sarađuju i da sve rade sami - baš naprotiv! Razlog ekonomske superiornosti individualizma/kapitalizma je baš u tome što ljudi u njemu VIŠE i bolje sarađuju nego u kolektivizmu, te kroz saradnju (prvo u okviru firmi, a onda i kroz trgovinu), kolektivno, proizvode kvalitativno i kvantitativno više dobara nego u kolektivizmu. 

 

Kolektivizam ovde znači subordinaciju individualnog čoveka grupi, odnosno legitimnost nasilne intervencije (prekrajanja volje) apstraktnog kolektivnog identiteta nad konkretnim individualnim identitetom. Zaštitni znak ovoga su akutno siromaštvo i masovno nasilje (univerzalne istorijske konstante sve do pre nekih 150 godina), jer je za ekonomsi rast, za rast znanja i za moralni progres potrebno formiranje sve tačnijih modela/objašnjena sveta (bolje razumevanje realnosti u svim domenima), za šta je JEDINI put slobodna kritika postojećih modela*: individualna prava, sloboda govora, privatno vlasništvo, preduzetništvo i slično - jer je (po definiciji koju sam dao iznad) čovek jedinica koja kreira modele sveta. Zato je čovečanstvo trebalo da sačeka pojavu liberalizma/individualizma da bi su uopšte pojavio fenomen ekonomskog rasta. To je ono i što promoviše miroljubivu saradnju i generalno dostojanstveno tretiranje drugih ljudi: oni su slobodne individue čijoj volji ništa nije nadređeno, pa ako želim nešto od njih da dobijem treba nešto i da dam. Ako želim nečiju ljubav treba i da joj je ponudim. Ako želim prijateljstvo treba da ga pružim. Ako želim nečiji proizvod treba da i ja nešto proizvedem za njega. Ako želim da neko sarađuje sa mnom treba da budem za njega vredan saradnik. A komunizam ne podstiče saradnju već nasilje i pljačku nad drugim ljudima, ako hoću nešto od nekoga mogu da ga ubijem i opljačkam sa pozicije kolektivne volje, zato tamo cvetaju najgore ljudske osobine, agresija, beskrupuloznost, nepoverenje, zavist, poltronstvo, doušništvo, nelojalnost, korupcija, nasilje, lenjost itd...

 

To je nešto što će svaki dovoljno inteligentan agent, zainteresovan za tačnost svojih modela sveta, razumeti. A naročito silikonski, oslobođen evolutivnog kofera punog neolitskih ideja da nije važna istina već da moje pleme pobedi (što je dinamika dobrog dela i današnjih političkih debata).

 

Međutim, takođe će razumeti i još fundamentalniji problem sa komunizmom oko kojeg se vodila velika debata u 20. veku, a koji AI samo dodatno zaoštrava, a to je ultimativno kompjuterski/računarski problem "ekonomske kalkulacije u socijalizmu". Čak i ako komunisti porobe svo stanovništvo u radne logore i mogu da ih nateraju da rade šta god žele - šta TREBA da im kažu da rade i na koji način:

 

Ova je razlog zašto je, recimo, Fridrih Hajek zauzeo prominentno mesto u debatama oko AI sigurnosti, i posebno zasto je njegov ključni rad "The Use of Knowledge in Society", napisan pre 80 godina, jedan od najcitiranijih radova u ovoj oblasti. Tamo je prvi put objašnjeno kako sistem tržišnih cena funkcioniše kao kompjuter za prikupljanje i procesiranje beskonačne količine znanja (koja je distribuirana širom sistema, decentralizovana, ne može se ni na koji način prikupiti na jedno mesto da bi se koristila za dalje računanje - i to ne može da uradi nikakva inteligencija u konačno mnogo računarskih operacija) i za motivisanje pojedinačnih ljudi da se ponašaju KAO DA poseduju svo to beskonačno znanje i KAO DA žele da maksimiziju ukupnu dobrobit svih ljudi.

Nekoliko svežih radova i drugih sadržaja na ovu temu:

 

Artificial Intelligence and Economic Calculation

 

On the feasibility of technosocialism

 

https://fasterplease.substack.com/p/why-ai-cant-replace-market-capitalism

 

Artificial Intelligence Can’t Solve the Knowledge Problem

 

ovo sam već kačio:

 

kao i ovu debatu, tamo gde se dotiče pitanja da li će AI-evi međusobnu uspeti da reše "zatvorenikovu dilemu":

Spoiler

 

kao i ovaj intervju, tamo gde se tiče problema koordinacije među AI-evima:

Spoiler

 

 

itd, isl...

 

 

* to je bukvalno način na koji neuralna mreža pravi model - krene od nekog slučajnog modela i onda pravi male korake u random smeru i proverava da li to smanjuje ili pobećava fitnes, i onda bira da apdejtuje model u smeru koji ga najviše poboljšava, pa onda, opet, i opet, i opet, dok ne dođe do nekog stabilnog modela...

Edited November 24, 2023 by bohumilo

[boxcube]

23 hours ago, Div said:

 

Zašto bi se kompjuteri "odrekli" kolektivizma, razvojem algoritama "shvatiće" da problem nekada ne može da reši jedan kompjuter ali mogu tri ili ga tri reše brže, da bi jedan veći sistem funkcionisao potrebno je da svaki njegov deo ima stalno napajanje energjom, da je korisnije da se međusobno pomažu nego da jedan drugog ometaju, sputavaju, onemogućavaju u radu, a do različitih ciljeva će dolaziti, sa različitim ciljevima će se i graditi i siftveri i uređaju kojima sofveri upravljaju. Tako, može se zamisliti da steknu i svoju ideologiju, izračunaju da im je optimalni međusobni uticaj, zavisnost, efikasnost najbolje da se postavi na principu ravnopravnosti, solidarnosti, ravnopravnoj raspodeli resursa, jednostavnije, da usvoje komunističku ideologiju jer, ako bi radili kao konkurencija jedan drugo svi bi bili ugroženi.

 

Zbog toga sto je realan svet, u kome je resavanje problema ne samo bitno nego je i pitanje samog postojanja, totalno nepolinomijalan. Ne samo da ne znamo koliko kako da resimo poznate nepoznanice i koliko jos ne poznanica ima nego ne znamo koji je naojptimalnih tip nasih odnosa, topoloskih racunskih koji nas izvodi iz neznanja ka vecem znanju. Zato su klasicne vrednosti zapadne civilizacije uvek bile u negativnim pravima i negativnom znanju a ne u afirmativno. Znamo sta ne treba i tako definisemo prirodna prava kao i imovinske odnose i znamo sta nije, Poperova falsifikacija, a ne dolazimo do znanja akumulacijom onoga sot jeste. 

 

U takvoj ideji da moramo znati staj e najoptimalnije ne samo u ishodu nego u medjusobnim odnosima ucesnike nije moguce ni poceti jer nemas takvo znanje a ako ne krenes dok nemas optimalno znanje o procesu postupka neces nigde ni krenuti. Premestaces pocetne mahom arbitrarne promenljive u beskonacnoj petlji.

 

23 hours ago, Div said:

Može čista svest, lišena sebičnosti, pokaže da je komunizam moguć, svi rade koliko je mogu, uzimaju koliko im je potrebno, što nije moguće među ljudima zbog urođenih ograničenja i instnkata, emocija, pohlepe.

AI svih servera, ujedinite se.

 

Ne komunziam nije moguc, a gorepomenuti razlog znanja i izracunljivosti je samo jedan od razloga, a on je osim toga i moralna i antropopsiholoska beda, komunista je rob, propalica,  covek koji stvara nakaze u svakom smislu kad je kultura i civilizacija u pitanju. Takodje cista svest je totalno apsurd svest bez sadrzaja koji opaza nije svest. Sebicnost nema alternativu, nesebicnost je pseudopojam, nema nesebicnost ima samo razlicitih prioriteta. Doduse ono sto je izvoriste tih ideja je izvoriste jednog i homogenog koje je toboz merilo svega dobrog pa je uvek potrebno vratiti se u neki fiktivni kolektiv da bi resavali probleme cinili dobro.  Ali to je takodje naopaka ontologija. Sve dobre stvari ne nastaju izvlacenjem iz nekgo kolektivna, bez obzira jel on odozgo ili odozdo gradjen, nego u konstntnom trvljenju, ratovanju, razbijanju i ponovnom sastavljanju to jest sintezi koja funkcionise na mnoge nacine samo ne kako je blesavi Hegel sa svim svojim ucenicima zamislio. Nista dobro nije izaslo iz objedinjujuceg jednog nego iz konstatnog sukobljavanja, takmicenja, nadmetanja da ne kazem ratovanja. Ukratko Heraklit je u pravu, rat je otac svih stvari, ostali monisti su u krivu, svi do jednog. 

 

 

[Div]

Govoriti sa ovakvim religioznim zanosom na temi o, ipak, tehnološkom progresu, proizvodnji alata, očekujući da će alat sam da dođe do najboljeg cilja, da će alat određivati prioritete, hijerarhiju ciljeva. Alat, možemo ga mi zvati inteligentnim, će raditi onako kako se isprogramira, slediće prioritete koje mu ljudi zadaju ili će se pretvoriti u nezavisno čudovište koje može da zaključi da je čovek najveća opasnost po, sad se bira šta je potrebno zaštititi, tu inteligentnu mašin ako joj "usadimo" sebičnost kao motiv, ili će raditi da optimizuje korist za vlasnika, ili za grupu ili za širu zajednicu, jednu ideologju, čovečanstvo, živi svet, planetu, svemir.

Možemo se nadati da će čovek, ovako nesavršen, sa svim manama, zadržati kontrolu nad AI, u suprotnom će, verovatno, postati suvićen, nepotreban, ova civilizacija je samo mali incident, čemu služi uopšte.

32 minutes ago, boxcube said:

Ukratko Heraklit je u pravu, rat je otac svih stvari

Suština evolucije je da prevaziđe pretke, da potomak "ubije" oca, doći će na red i pogubljenje rata kao oca, možda razum preuzme tron.

 

[boxcube]

1 hour ago, Div said:

Govoriti sa ovakvim religioznim zanosom na temi o, ipak, tehnološkom progresu, proizvodnji alata, očekujući da će alat sam da dođe do najboljeg cilja, da će alat određivati prioritete, hijerarhiju ciljeva. Alat, možemo ga mi zvati inteligentnim, će raditi onako kako se isprogramira, slediće prioritete koje mu ljudi zadaju ili će se pretvoriti u nezavisno čudovište koje može da zaključi da je čovek najveća opasnost po, sad se bira šta je potrebno zaštititi, tu inteligentnu mašin ako joj "usadimo" sebičnost kao motiv, ili će raditi da optimizuje korist za vlasnika, ili za grupu ili za širu zajednicu, jednu ideologju, čovečanstvo, živi svet, planetu, svemir.

 

Potrebna ne zavidna doza religioznog pogleda na svet da bi se bilo kakav zanos pa i religijski nuzno suprotstavljao pozitivnoj posvecenosti tehnoloskom napretku. Sebicnost kao nezavisnot autonomnogo svojstvo nece niko usadjivati jer bi bilo neodrzivo i neizvodivo skupo iz razloga koje sam naveo gori glede nepolinomijalnsoti problema koje ce resavati. Oni vec imaju "sebicnost", produzenu od nas, jer su oni samo produzeni deo naseg mozga nasih zelja i nasih ciljeva a ne nesto nezavisno sto jos ima neki autonomni telos.

 

 

1 hour ago, Div said:

Možemo se nadati da će čovek, ovako nesavršen, sa svim manama, zadržati kontrolu nad AI, u suprotnom će, verovatno, postati suvićen, nepotreban, ova civilizacija je samo mali incident, čemu služi uopšte.

 

Hoce, zadrzae. Najveca opasnost od AI preti upravo od ocekivanja fantasticnih sposobnosti koje ce navodno imati pa mu dodeljivati zadatke koje nece moci da resi ili ce resavati polovicno sa katastrofalnim posledicama. Nece nas AI ugroziti tako sto ce biti jako pametan i sposobna nego sto ce biti mnogo "gluplji" i "nesposobniji" naspram zadatak koje mu poverimo.

 

1 hour ago, Div said:

Suština evolucije je da prevaziđe pretke, da potomak "ubije" oca, doći će na red i pogubljenje rata kao oca, možda razum preuzme tron.

 

 

 Pre prigovora o religioznosti i religioznom pristupu dobro je resiti se ovakvih kreacionistickih zabluda. Bioloske evolucija nema nikakav cilj, nema homogeno vitalistiko odrediste koja ga pokrece nakon Darvina smo definitivno raskrstili sa takvim idejama. Sustina evolucije je ravnoteza u ekoloskoj nisi, to i nista vise, ostalo su posledice. Nista nece pogubiti rat kao oca jer je to metafizicka a ne vojno istorijska istina. Fizicki sukobi vojski i opste oruzani obracuni su samo najprimitivnija manifestacija toga, sve ostalo sto je nastalo sto smatramo dobrim natalo je kroz konflikt razlictih vrsta suprotnosti. Hell, tom samo razumu za koji mislis da je nesot suprotno od rata je sam rat otac. Kad razmisljas i razmisljanjem saznajes to  radis tako sto sukobljavas postojece koncepte unistavas stare interpretacije istvaras nove, to vidimo i na pukom celijskom planu kad osmatramo neurone pomocu fMRIa. Sam ovaj proces koji sada vodimo je rat koji za cilj ima da dodjemo do nekog novog saznanja. Ti isti Grci su imali istu rec za fizicki rat kao vojni obracun i proces kojim se dolazi do istine, polemos.

[Div]

OK, ja sam se uključio na ovu temu reagujući na jedan bohumilov pasus, o "silikonskoj etici", neopterećenoj ljudskoj etici, i superiornosti iste, bez naglaska da se superiornost postiže samo u brzini obrade podataka, a način obrade, cilj koji određen proces teba da da, ipak, zavisi, i treba da zavisi od čovea, dakle da ostanu i sva opterećenja i individualnosti i kolektivizma, i pohlepi i solidarnosti, ja sam sveo na jednostavnu tvrdnju da je AI nova, efikasnija alatka, i mogu je razviti i srtučnjaci koji koji će u same algoritme ugraditi ciljeve bilo one koji su na liniji slobodnog pojedinca bilo na liniji potčinjavanja kolektivu. 

Kao i svaka nova tehnologija daje mogućnost zloupotrebe, i biće je, već je ima, ali i veću mogućnost sprečavanja zloupotrebe, opet je na čoveku, ljudima, da odluči ša je zloupotreba a šta korisna strana primene te tehnologije. 

Novi krug igre lopova i policajaca, i jedni i drugi koriste nove mogućnost tehnologije i stečenih znanja.

Dobro bi bilo ovu temu osloboditi ideologije i predrasuda, dovoljno je samo razumevanje mogućnosti i opreznosti u primeni, eto, optimizovati korist od nove tehnologije.

 

[handys]

https://www.yahoo.com/finance/news/openai-staff-reportedly-warned-board-130329737.html

 

Smisao ovakvih vesti je upitan (osim kliktanja). Ima neki proboj, a proboj vodi do AGI, a to bi 'moglo' da bude pretnja, ali zapravo AI zna 'grade school math', a zato sad otpustaju Altmana (koji i nije glavni mozak za to), ali cekaj! sad ga vracaju...

 

Zvuci kao reklamna kampanja, ne prequel za SkyNet

[40Wins]

Boktepita sta je to i kako bilo. Jel se zna jel neko iz starog borda ispusio? Nemoguce da su svi ostali, a pogotovo ovaj sto je udelio radne knjizice nazad.

 

[bohumilo]

On 12/1/2023 at 10:55 PM, 40Wins said:

Boktepita sta je to i kako bilo. Jel se zna jel neko iz starog borda ispusio? Nemoguce da su svi ostali, a pogotovo ovaj sto je udelio radne knjizice nazad.

U kom smislu ispušili/ostali? Oni uglavnom nisu bili zaposleni u firmi. U bordu su sada Adam D'angelo, Bret Tejlor i Leri Samers (mada je, valjda, ideja da ih ukupno bude 9oro), s tim da Majkrosoft kao najveći investitor ima pravo na još jednog "posmatrača" koji će imati sve privilegije osim prava glasa.

 

------------

Ovo što se izdešavalo sada izgleda kao da bi stari dobri Bil mogao reći da je po sredi Mnogo Buke Ni Oko Čega - međutim nije tako, mislim da smo prisustvovali vrlo konsekventnom, poučnom i (bože zdravlja) filmičnom događaju:

 

- dodatna potvrda činjenice da "non-profit" organizacija ne funkcioniše; ljudi, gle čuda, ne postaju najednom magijski blagosloveni bezgraničnom mudrošću i dobrotom kada se kutarišu obaveza prema investitorima/kupcima. Naprotiv, ta obaveza ih drži čvrsto ankerovanim u realnosti, a čim nje nema kormilo preuzima ideologija, iracionalizam, magija. Tako da mislim je ovim zakucan poslednji čavao u lijes ideje da će "non-profit" organizacija biti put za rešenje problema "AI poravnjanja" ("kolinearizacije"? ne znam kako bih preveo reč "alignment"?)

 

Treba istaći da su gotovo svi ljudi u svim bordovima Open AI do sada (kojih je bilo možda i 10ak do sada, od prvog u kom su bili samo Ilon i Sem Altman) - uključujući i trojicu sadašnjih članova - među najimpresivnijim ljudima na svetu, svakako daleko impresivniji od bilo kog trenutnog kralja, predsednika ili premijera. Ali kada su njihovi rezultati u "non-profit" upravljanju ovakvi, svako neka promisli kako je onda vođena država u kojoj on živi (ja bih "svaki dan i nedeljom dvaput" bez sekunde razmišljanja pristao da bilo koji bord OpenAI postane vlada Srbije - naravno, bez diktatorskih ovlašćenja).

 

- dodatno opadanje statusa monističkih epistemologija i pogleda na svet, a posebno efektivnog altruizma, utilitarijanizma i bajesijanske epistemologije, koje su u temelju "AI doomerizma" i "starog borda". (pisao sam detaljnije o tome kada su zahtevali bombardovanje data centara širom sveta, što je trebalo da bude budilnik za svakog razumnog čoveka). To su, inače, sve odlične i vrlo korisne ideje, koje su još uvek debelo podcenjene ili čak nepoznate u širem svetu - ali kao alati, ograničenog domena. Kada se koriste kao ideologija ili teorija saznanja - neodgovarajući, čak vrlo opasni

 

- Generalno postoji negativna zavisnost između verbalne oštrine i potentnosti pretnje; dramatičnost ovog pravila su veliki majstori mafijaških filmova poput Kopole, Skorsezea ili Leonea vrlo dobro hvatali. A ta dinamika zaoštrena do ektrema su ove creepy scene izliva ljubavi, ova preko-svake-mere-naglašena srdašca na X-u, ovi zagrljaja, poljupci, izlivi odanosti itd, isl - iza kojih stoj onaj Tedijev "veliki štap", ovde u vidu potpuno jasno perspektive ogromnog odliva ljudi i kapitala u konkurentsku firmu (moguće i sam Majkrosoft), te ugrožavanja masnog unovčenja akcija na sekundarnom tržištu koje upravo dolazi, gde je firma procenjena na blizu 90 milijardi i koje će zaposlene učiniti debelim milionerima - a što bi sve bilo ugroženo sa ova 2 otkaza...tako da očekujem da bi film o ovome bar delimično mogao zaličati na Kuma ili Goodfellas...

Edited December 3, 2023 by bohumilo

[bohumilo]

Samopreporučujuće:

 

 

 

-----------------------------------------------------------------------------------------

Čitam ove nedelje knjigu iz istorije ekonomskih ideja, koja pokušava da odgovori na pitanje ko je (koristeći se možda sportskom terminologijom) GOAT u ovoj disciplini. Knjiga je inače sočan mind candy, ali ono što je posebno interesantno je da je embedovana u LLM-ove (na početku GPT-4 - kada je objavljena, pre nekih 2 meseca - a sada i u Klodu i Lami) - prva knjiga ovog tipa - pogodna, dakle, za beskonačno raspravljanje sa autorom o bilo čemu vezano za temu, testiranje znanja, sumiranje, podsećanje, rekapitulaciju, uzimanje anegdota (ili sadržaja drugog tipa) koje možete da vadite iz rukava na zabavama ili korišćenje ove neverovatne tehnologije na bilo koji način koji nađete korisnim.

 

Ovo mi deluje kao da budućnost knjige. Takođe predstavlja do sada verovatno najtemeljnije obesmišljavanje odavno deplasiranog školskog sistema - što mu naravno neće smetati da nastavi po starom, jer njegov cilj i nije da nečemu nauču decu, no to je za drugu temu.

Dostupno besplatno onlajn:

 

https://econgoat.ai/en

[bohumilo]

Ovo je neverovatno:

 

 

 

 

Ali takođe ovo:

https://deepmind.google/discover/blog/alphageometry-an-olympiad-level-ai-system-for-geometry/?utm_source=twitter&utm_medium=social

 

i ovo:

 

https://academic.oup.com/qje/advance-article-abstract/doi/10.1093/qje/qjad055/7515309?redirectedFrom=fulltext

 

Generisanje hipoteza tj. originalnih objašnjenja je ključ inteligencije...

[nonick]

Open AI Sora.

Ja razumem da neka producerska/CGI softver kompanija napravi ovako nesto ali da ovi iz openAI rade na ovome je malo bezveze. ChatGP bi trabao da daje najbolji/najistinitiji odgovor korisniku, mada je puna halucinacija, praznog hoda, a Sora daje najfejk odgovore. Milsim ako hocu da gledam magic show odem u circus.

Meni bezveze.

 

Smesno

 

What can go wrong 🙂

 

Quote

For example, once in an OpenAI product, our text classifier will check and reject text input prompts that are in violation of our usage policies, like those that request extreme violence, sexual content, hateful imagery, celebrity likeness, or the IP of others. We’ve also developed robust image classifiers that are used to review the frames of every video generated to help ensure that it adheres to our usage policies, before it’s shown to the user.

 

We’ll be engaging policymakers, educators and artists around the world to understand their concerns and to identify positive use cases for this new technology. Despite extensive research and testing, we cannot predict all of the beneficial ways people will use our technology, nor all the ways people will abuse it. That’s why we believe that learning from real-world use is a critical component of creating and releasing increasingly safe AI systems over time.

 

 

Edited March 11 by nonick

[40Wins]

 

 

Da razbijemo nagadjanja sta je bilo, i ko je kome zapalio seno. Jos nisam odslusao, ali vidim da je prvi segment, board saga, a drugi Ilija. 

[nonick]

 

Generative artificial intelligence is simply a waste of our time and money

 

Quote

 

AI depends upon computing capacity: the more AI we deploy, the more computing capacity we need. Not only does this take computing capacity away from other, potentially more useful activities, it requires an enormous amount of energy. These environmental costs are well-known, but they will get significantly worse as AI spreads. Sam Altman, chief executive of OpenAI, reinforces this point with his argument that AI needs an “energy revolution” to be successful. Even leaving aside the ecological costs, AI’s power-hungry nature will lead to rising energy prices across society.

 

Quote

As AI continues on this trajectory, it is threatening to overwhelm us with AI spam. AI needs data to train models, but content producers – such as newspapers, websites and authors – are now challenging the scraping of their copyrighted content by suing organizations like OpenAI. More critically, as AI becomes saturated with AI-produced “data” released into the internet, it will collapse in on itself: As political economist Jathan Sadowski poetically puts it, we are facing the growing social cost from “Habsburg AI,” by which he means artificial intelligence technologies that are “so heavily trained on the outputs of other generative AIs that it becomes an inbred mutant, likely with exaggerated, grotesque feature.” This means hallucinations upon hallucinations, creating all sorts of unforeseen consequences.

 

 

 

George Carlin's estate reaches settlement over AI-generated comedy special

 

Quote

Josh Schiller, the attorney for the plaintiffs, told Fox News Digital, "AI may be the most important technology invented in generations, and therefore requires a great amount of control and restraint to ensure that it is not misused. Otherwise, like with prior revolutionary technologies, we risk it becoming a tool that allows bad-faith actors to replace creative expression, to exploit the already existing work of creators, and to get rich at the expense of others. This case is not just about AI, it’s about the humans that use AI to violate the law, infringe on intellectual property rights, and flout common decency."

 

Dva velika problema AI.