AI, AGI, ChatGPTs (Skynets) of the future

[nonick]

Is ChatGPT a ‘virus that has been released into the wild’?

 

Quote

 

More than three years ago, this editor sat down with Sam Altman for a small event in San Francisco soon after he’d left his role as the president of Y Combinator to become CEO of the AI company he co-founded in 2015 with Elon Musk and others, OpenAI.

At the time, Altman described OpenAI’s potential in language that sounded outlandish to some. Altman said, for example, that the opportunity with artificial general intelligence — machine intelligence that can solve problems as well as a human — is so great that if OpenAI managed to crack it, the outfit could “maybe capture the light cone of all future value in the universe.” He said that the company was “going to have to not release research” because it was so powerful. Asked if OpenAI was guilty of fear-mongering — Musk has repeatedly called all organizations developing AI to be regulated — Altman talked about the dangers of not thinking about “societal consequences” when “you’re building something on an exponential curve.”

The audience laughed at various points of the conversation, not certain how seriously to take Altman. No one is laughing now, however. While machines are not yet as intelligent as people, the tech that OpenAI has since released is taking many aback (including Musk), with some critics fearful that it could be our undoing, especially with more sophisticated tech reportedly coming soon.

 

 

Stephen Hawking, kao mnogi drugi kao sada i Musk (koji voli ovakve stavri ali i plasi se) pisali i opomenuli sta se sve moze desiti u vezi AI.

 

Jedan os sadasnjih problema je u skolstvu i autorskim textovima, pa kako da "watermark AI content" da se zna da li je pisao robot ili bilosko bice sa mozgom. Dali cemo stici do Skynet-a polako ili uskoro? 🙂 

 

 

Ako vec ima AI topik nek moderator ovo prebaci tamo.

 

 

 

 

 

[bohumilo]

Skajnet scenario je overkill. Za ljude je realna opasnost već i potpuno benevolentna generalna VI koja se samo trudi da radi ono šta ljudi od nje traže. Jer, kako se ispostavlja, tačno specifikovati šta mi to zapravo hoćemo da kompjuter uradi je vraški težak (verovatno i nerešiv) problem. Razlog ovoga leži u čenjenici koju je prvi formulisao Stjuart Rasel (autor naprominentnijeg udžbenika/knjige iz ove oblasti), da koliko god varijabli ulazi u funkciju korisnosti (koju VI ima zadatak da optimizuje na neki način) veštačkog agenta, najefikasniji način da se ona ostvari je da se SVE DRUGE varijable (koje, dakle, ne figurišu ekplicitno u funkciji korisnosti) uzmu najekstremnije moguće vrednosti.

 

Šta ovo znači u praksi. Ako kažete veštačkom agentu da vam napravi i donese sendvič (to u njegovoj funkciji ima najveću vrednost), najoptimalniji način da on to uradi je da se sjuri preko sobe i usput vam pregazi dete. Ok, može maksimalna funkcija da mu bude: "ne povredi dete i napravi sendvič". Najoptimalniji način da se OVO uradi je da zaobiđe dete i polomi vam sobnu lampu. Ok, možete da probate sa "napravi i donesi sendvič uz što je moguće manje promena u svetu" - ovo znači da će vam agent doneti sendvič i potruditi se da ga NE pojedete (a ekstremno je dobar u tome) - da ne biste prešli iz gladnog u sito stanje, što je "promena stanja sveta" koja njemu smanjuje funkciju korisnosti, itd, isl.

 

Ovaj primer je relativno zabavan, ali recimo druga ilustracija bi bila čuvena VI koja ima zadatak da proizvede što više spajalica - i (budući superinteligentna, pronalazi način da) uzurpira kompletne resurse planete, sunčevog sistema i galaksije i iskoristi ih u proizvodnji spajalica, jer su joj ljudi tako tražili. Ako ostavite neki prekidač na koji možete da ga isključite, on će se potrudite da ga na pritisnete (a dobar je u tome) jer ćete ga tako sprečiti da ispuni zadatak. Generalno, što je VI pametnija to joj je teže promeniti funkciju korisnosti (šta to ona treba da uradi) - novi zadatak joj smeta da uradi stari zadatak. Generalno, što imaš više resursa to efikasnije možeš da uradiš posao itd, isl...

 

Već na ovom vrlo niskom i svedenom stadijumu VI na kojem smo sada, postoji gomila primera ovoga, koji su za sada čak i zabavni. Jedna lista takvih primera iz igrica na kojima je korišćena VI, iz 2018. godine, se može naći ovde. Npr, Super Mario koji je pronašao bag u igri i umesto da nauči da "igra" onako kako čovek želi, uspeo da pristupi mestu u memoriji odakle se čita "game score" i sebi upisao maksimalnu vrednost koja može da se upiše u to polje (jer mu je zadak bio da maksimizuje game score). Ili ovaj brodić koji je naučio da je najefikasniji način da pobedi u trci (jer mu deo funkcije korisnosti čini i taj neki helt koji skuplja usput) da se vrti na jednom specifičnom mestu i stalno kupi ove neke poene koji uvek tu izlaze umesto da zaista ide po stazi i trka se sa drugim brodovima:

 

 

Edited December 15, 2022 by bohumilo

[nonick]

17 hours ago, bohumilo said:

Skajnet scenario je overkill. Za ljude je realna opasnost već i potpuno benevolentna generalna VI koja se samo trudi da radi ono šta ljudi od nje traže. Jer, kako se ispostavlja, tačno specifikovati šta mi to zapravo hoćemo da kompjuter uradi je vraški težak (verovatno i nerešiv) problem. Razlog ovoga leži u čenjenici koju je prvi formulisao Stjuart Rasel (autor naprominentnijeg udžbenika/knjige iz ove oblasti), da koliko god varijabli ulazi u funkciju korisnosti (koju VI ima zadatak da optimizuje na neki način) veštačkog agenta, najefikasniji način da se ona ostvari je da se SVE DRUGE varijable (koje, dakle, ne figurišu ekplicitno u funkciji korisnosti) uzmu najekstremnije moguće vrednosti.

 

Šta ovo znači u praksi. Ako kažete veštačkom agentu da vam napravi i donese sendvič (to u njegovoj funkciji ima najveću vrednost), najoptimalniji način da on to uradi je da se sjuri preko sobe i usput vam pregazi dete. Ok, može maksimalna funkcija da mu bude: "ne povredi dete i napravi sendvič". Najoptimalniji način da se OVO uradi je da zaobiđe dete i polomi vam sobnu lampu. Ok, možete da probate sa "napravi i donesi sendvič uz što je moguće manje promena u svetu" - ovo znači da će vam agent doneti sendvič i potruditi se da ga NE pojedete (a ekstremno je dobar u tome) - da ne biste prešli iz gladnog u sito stanje, što je "promena stanja sveta" koja njemu smanjuje funkciju korisnosti, itd, isl.

 

Ovaj primer je relativno zabavan, ali recimo druga ilustracija bi bila čuvena VI koja ima zadatak da proizvede što više spajalica - i (budući superinteligentna, pronalazi način da) uzurpira kompletne resurse planete, sunčevog sistema i galaksije i iskoristi ih u proizvodnji spajalica, jer su joj ljudi tako tražili. Ako ostavite neki prekidač na koji možete da ga isključite, on će se potrudite da ga na pritisnete (a dobar je u tome) jer ćete ga tako sprečiti da ispuni zadatak. Generalno, što je VI pametnija to joj je teže promeniti funkciju korisnosti (šta to ona treba da uradi) - novi zadatak joj smeta da uradi stari zadatak. Generalno, što imaš više resursa to efikasnije možeš da uradiš posao itd, isl...

 

Već na ovom vrlo niskom i svedenom stadijumu VI na kojem smo sada, postoji gomila primera ovoga, koji su za sada čak i zabavni. Jedna lista takvih primera iz igrica na kojima je korišćena VI, iz 2018. godine, se može naći ovde. Npr, Super Mario koji je pronašao bag u igri i umesto da nauči da "igra" onako kako čovek želi, uspeo da pristupi mestu u memoriji odakle se čita "game score" i sebi upisao maksimalnu vrednost koja može da se upiše u to polje (jer mu je zadak bio da maksimizuje game score). Ili ovaj brodić koji je naučio da je najefikasniji način da pobedi u trci (jer mu deo funkcije korisnosti čini i taj neki helt koji skuplja usput) da se vrti na jednom specifičnom mestu i stalno kupi ove neke poene koji uvek tu izlaze umesto da zaista ide po stazi i trka se sa drugim brodovima:

 

 

 

Hvala na primerima.

Znaci li to da rise of the machines nije moguce (mnogo puta prezvakan u sf knjigama i filmovima), da masine dobiju "svest" i pocnu da se brinu o sebi da ih neko ne iskljuci? 

Meni jos uvek deluje da je to mozda moguce, ne sada ali u buducnosti, za 50, 100 ili 1000 godina? Cak sta vise, mislim da ce ciborzi morati da se bore za svoja prava kao sto su to radili robovi, zene itd. u dalekoj buducnosti.

 

 

Edited December 16, 2022 by nonick

[Kronostime]

1 hour ago, nonick said:

 

Hvala na primerima.

Znaci li to da rise of the machines nije moguce (mnogo puta prezvakan u sf knjigama i filmovima), da masine dobiju "svest" i pocnu da se brinu o sebi da ih neko ne iskljuci? 

Meni jos uvek deluje da je to mozda moguce, ne sada ali u buducnosti, za 50, 100 ili 1000 godina? Cak sta vise, mislim da ce ciborzi morati da se bore za svoja prava kao sto su to radili robovi, zene itd. u dalekoj buducnosti.

 

 

Opasnije ce biti razvoj prebacivanja svesti u masine nego razvoj masina da misle. Naime, logika, pored binarnih DA i NE, ima i neodredjeno stanje MOZDA, koje poprilicno odredjuju ljudske reakcije i izbore prilikom donosenja odluka vezanih za buducnost. Sa druge strane, mehanicko telo kiborga je lakse za odzavanje (prakticno vecno) i uz razvoj mogucnosti za prenos svesti u masinu - veca opasnost po civilizaciju kakvu poznajemo.

[40Wins]

6 hours ago, nonick said:

 

Hvala na primerima.

Znaci li to da rise of the machines nije moguce (mnogo puta prezvakan u sf knjigama i filmovima), da masine dobiju "svest" i pocnu da se brinu o sebi da ih neko ne iskljuci? 

Meni jos uvek deluje da je to mozda moguce, ne sada ali u buducnosti, za 50, 100 ili 1000 godina? Cak sta vise, mislim da ce ciborzi morati da se bore za svoja prava kao sto su to radili robovi, zene itd. u dalekoj buducnosti.

 

 

 

Mislim da smo relativno blizu toga da AI zameni dosta radnih mesta iz sektora usluga, ali da smo jako daleko od potencijalnog The Butlerian Jihad-a. 

[nonick]

Cheating on your college essay with ChatGPT won't get you good grades, say professors — but AI could make education fairer

 

Quote

 

"I'm not a huge fan of the gloom and doom," said Professor Stuart Selber, who teaches English at Pennsylvania State University. "Every year or two, there's something that's ostensibly going to take down higher education as we know it. So far, that hasn't happened."

Selber told Insider he's "no more worried" about ChatGPT than any other development in the history of literary technologies. "You can go back a couple decades and find similar alarm over Word, Wikipedia, and the Internet in general," said Selber.

While ChatGPT's writing might seem "quite good in an abstract way", Selber thinks it struggles to address precise or local issues, generate an original argument, or interrogate other arguments rather than just citing them. These are all key aspects of effective essay-writing in his opinion.

That's why Selber ultimately doesn't think essays written entirely by ChatGPT have any hope of scoring high grades.

 

 

Quote

He's not alone in this assessment. Dr Jacqueline Antonovich, an Assistant Professor at Muhlenberg College, wrote on Twitter that she put a question from her midterm essays into ChatGPT and the paper it produced "would earn an F. Probably an F- if that's possible."

 

Ove profe kazu suprotno od nekih drugh.

[bohumilo]

On 12/16/2022 at 4:49 PM, nonick said:

 

Hvala na primerima.

Znaci li to da rise of the machines nije moguce (mnogo puta prezvakan u sf knjigama i filmovima), da masine dobiju "svest" i pocnu da se brinu o sebi da ih neko ne iskljuci? 

Ne znači da nije moguće, ali u novije vreme postoji dosta polemike oko toga da li svest uopšte ima pozitivnu adaptivnu vrednost, da li je korisna ili štetna (u evolutivnom kontekstu), i da li je na bilo koji način povezana sa inteligencijom, ili se tu radi o dva potpuno ortogonalna fenomena. I kako se čini, tas sve više preteže na stranu negativnog odgovora na oba pitanja. Ove ideje već difunduju i u popularnu kulturu, pa tako, npr, u seriji (sada već modernom klasiku) Pravi detetktiv glavni protagonista kojeg tumač Metju Mekonahi na samom početku iznosi (i obrazlaže) tvrdnju da je ljudska svest "tragična greška evolucije" - što predstavlja ključ za jedno moguće gledanje i razumevanje cele serije (prve sezone).

 

Moja poenta je, tek, da za ozbiljne/fatalne probleme nikakva svest ni neprijateljstvo veštačke intelegincije prema ljudima nije ni potrebno...

[boxcube]

On 12/19/2022 at 9:15 PM, bohumilo said:

Ne znači da nije moguće, ali u novije vreme postoji dosta polemike oko toga da li svest uopšte ima pozitivnu adaptivnu vrednost, da li je korisna ili štetna (u evolutivnom kontekstu), i da li je na bilo koji način povezana sa inteligencijom, ili se tu radi o dva potpuno ortogonalna fenomena. I kako se čini, tas sve više preteže na stranu negativnog odgovora na oba pitanja. Ove ideje već difunduju i u popularnu kulturu, pa tako, npr, u seriji (sada već modernom klasiku) Pravi detetktiv glavni protagonista kojeg tumač Metju Mekonahi na samom početku iznosi (i obrazlaže) tvrdnju da je ljudska svest "tragična greška evolucije" - što predstavlja ključ za jedno moguće gledanje i razumevanje cele serije (prve sezone).

 

Moja poenta je, tek, da za ozbiljne/fatalne probleme nikakva svest ni neprijateljstvo veštačke intelegincije prema ljudima nije ni potrebno...

 

Dao sam lajk posto smatram da su ovo sve bitne teme i indirektno povezane sa pitanjem opste inteligencije i razvojem AI tehnologija kao i sa opstim zakljuckom da opasnost od AI uopste ne lezi u potencijalnost maliciozosti samovsvenog AGI entiteta, ali sa ovim tezma u vezi svesti, veze sa inteligencijom i njihovoj evolucionoj povezanosti se uopste ne slazem. Kao ni sa tim citatom Rastina Kola iz TD. 

 

Naime scenario serije je pisan, neki kazu da je cak plagiran mada se ne bih slozio, po knjizi Tomasa Ligotija "Zavera protiv ljudske vrste" gde bukvalno kroz knjigu gradi argumentaciju za antinatalistikcu filozofiju. Ligoti, koji licno pati od anhedonije, nije problem postojanja stavio na samu svest nego na kvaliu, ma sumu kvaliteta svih dozivljaja koje covek i svako bice moze imati tokom zivota. Posto je suma kvaliteta uvek vise negativna nego pozitivna zakljucak je da je zivot los a da zlo bude jos vece imamo samosvest pa ta samo svest akumulira patnju kroz memoriju. Zbog toga onaj citat koji Kol izgovra u autu da ljudska svest ne bi trebala da postoji po prirodnim zakonima, tu se pre svega misli na to da sa neverovatnom mogucnosti akumulacije memorije sve patnje koja individua dozivljava kumulativno postaju jos gore jer se nadovezuju na novonastale i tako redom.

 

Ali upravo je u tome kvaka sto svest jeste protiv prirodna (ili natrpirodna) posto omogucava evolucionu adaptaciju koju bioloska memorija (dnk i rnk) nema sanse da omoguce. U rnk i dnk memoriji mora da prodje mnogo vremena da bi se potrefila mutacija na pravom mestu u pravo vreme koja daje adaptivnu prednost te zbog toga se za velike promene kod organizama treba cekati milione i desetine milione godina a kultura koja raste eksonencijalno za manje od deste hiljada godina dosla od klesanog kamena do procesora i spesj satla. A kulturoloska evolucija ima taj eksponencijalni rast upravo zbog te samorefleksije svesti gde je korekcija gresaka u memoriji kako individualno tako i kolektivno moguca gotovo u svakoj iteraciji. Meme prikikom svakog kopiranaj moug da naprave korekciju dok geni, po prirodi dok se meme ne umesaju u budnocsti nekom naprednom tehnologijom, to nema sanse da urade. Na tome pociva teorija bikameralnog uma Dzulijana Dzejnsa, koju si koliko mi se cini i ti u par navrata pominja kao jednu od pitencijalnih osnova za budu opstu teoriju svesti, da smo samosvest stekli razvojem samoreferisuce memorije kroz dovoljno kompleksan jezik. Sto ce reci da svest u smislu samosvesti, dakle necega sto nas definitivno cini time da nismo filozofski zombiji, zavisi od memorije koja izrazito napredne sposobnosti samokorecije u realnom vremenu sto je jedna od najrakcijih definicija inteligencije. Tim ne postoji nacin gde se samosvest moze posmtrati odvojeno od inteligencije dok inteligenacija od samosvesti moze u raznim modelima.

 

Ali sustinsk poenta ostaje, opasnost od AI nece doci od samosvestnog AGI entiteta zgrozenog ili uplasenog postojanjem ljudske vrste nego upravo od toga sto ljudi ocekuju opasnost sa te strane i od toga sto daleko precenjuju ovakve budalaste igracke poput ChatGPT i nerazumevajuci pravu opasnost ovakvim weak AI sistemima mogu prepustiti previse slozene zadatke i tu mogu nastati tragedije.

 

 

[nonick]

On 12/19/2022 at 3:15 PM, bohumilo said:

Pravi detetktiv glavni protagonista kojeg tumač Metju Mekonahi na samom početku iznosi (i obrazlaže) tvrdnju da je ljudska svest "tragična greška evolucije" 

 

 

 

Hm, meni svest vise izgleda kao vehicle za evoluciju. Nesto sto i ubrzava evoluciju.

[bohumilo]

On 12/23/2022 at 12:48 AM, boxcube said:

li upravo je u tome kvaka sto svest jeste protiv prirodna (ili natrpirodna) posto omogucava evolucionu adaptaciju koju bioloska memorija (dnk i rnk) nema sanse da omoguce. U rnk i dnk memoriji mora da prodje mnogo vremena da bi se potrefila mutacija na pravom mestu u pravo vreme koja daje adaptivnu prednost te zbog toga se za velike promene kod organizama treba cekati milione i desetine milione godina a kultura koja raste eksonencijalno za manje od deste hiljada godina dosla od klesanog kamena do procesora i spesj satla. A kulturoloska evolucija ima taj eksponencijalni rast upravo zbog te samorefleksije svesti gde je korekcija gresaka u memoriji kako individualno tako i kolektivno moguca gotovo u svakoj iteraciji. Meme prikikom svakog kopiranaj moug da naprave korekciju dok geni, po prirodi dok se meme ne umesaju u budnocsti nekom naprednom tehnologijom, to nema sanse da urade.

Iskren da budem, nemam toliko jako mišljenja o svesti, budući da nemamo ni približno dobru teoriju nje. Ovaj deo koji sam citirao je svakako tačan, međutim uopšte nije jasno koja je tu uloga svesti - pod čime ovde podrazumevam to što ti zoveš kvaliom, ovaj osećaj perzistentnog identiteta unutar mene, ili slobodne volje, ili tog kako to izgleda biti ja iznutra, ili "kako to izgleda biti slepi miš" (što bi rekao Tomas Nejgel u znamenitom radu na ovu temu), iako mnogi ozbiljni naučnici i filozofi (poput Daniela Deneta) negiraju samo postojanje ovog fenomena. Za mene se to pitanje (kako od butne kosti do spejs šatla) odlučuje na pitanju odakle dolazi kreativnost, odakle dolaze ideje i naučne hipoteze - koje su ključne za kreiranje eksplanatornog znanja, neophodnog za ovaj kjubrukovski proces, da li je za ovo potrebna svest (odmah da kažem, ja sam ovde bliži negativnom odgovoru)? Jer, niko nije video kroz teleskop da je Zemlja okrugla, niti je video kroz mikroskop atome (zapravo jeste, ali mnogo kasnije nego što smo mi ZNALI da je to tako), nego je nekome PALO NA PAMET (kako?) da je to možda tako, a onda se ispostavilo da te pretpostavke mnogo dobro objašnjavaju razne opažene fenomene, i mnogo dobro predviđaju druge fenomene koje do tada niko nije primećivao.

Međutim, Mekonahijev citat i sama serija se u ovom kontekstu može čitati na više načina, koji su svi vrlo interesantni. Prvi je ovaj ligotijevski, da je svest ili kvalia greška u računuvodstvenom smislu, da donosi više patnje nego zadovoljstva. Drugi je da je to greška u evolutivnom smislu, da je maladaptacija koja će doprineti izumiranju naše vrste. I, ukoliko se da pozitivan odgovor na pitanje iz mog prvog pasusa - da je, dakle, svest nužna u kreiranju eksplanatornog znanja - onda je nemoguće ne zamislit se dobro nad ovom tvrdnjom u trenutku dok Hitler iz Kremlja preti čovečenstvu atomskim bombama - koje su proizvod eksplanatornog ljudskog znanja. I tu ja isto mislim da je izlaz uvek ne u zaustavljanju znanja, nego u što bržem rastu eksplanatornog znanja, i specijalnog i generičkog (koje se odnosi na fundamentalne nauke). Npr, naučno-tehnološkog znanja (koje bi posedovale sile dobra) o tome kako neutralisati atomsku bombu, kako napraviti neko oružje za takvo nešto, ili kako proširiti ljudsku civilizaciju u svemiru, ili političkog znanja o tome kako sprečiti da do rata dođe itd, isl...Međutim ta tenzija izmežu rasta znanja koje može biti i opasno i tavorenja u neznanju jeste jedna prizma kroz koju se može posmatrati serija, i koja se prelama u dvojici glavnih detektiva ali i u samom Rastinu - ni on nije načisto sa tim (i to završetak serije pokazuje). Jer glavna "sila tame" u seriji jeste neznanje i zatucanost kojoj se on otvoreno ismeva (tamo kaže na jednoj službi nešto tipa "možemo biti sigurni da se niko odavde neće bavi cepanjem atoma"), i kao da do kraja gledaocu sugeriše (ako se čita u ovom ključu) duboka istina da - da, možda je u srednjem veku bilo manje šanse za nestanak čovečanstva jer je bilo manje znanja, ali je tavorenje u sredjnevekovlju siguran put u nestanak čovečanstva - baš zbog nedostatka znanja (to ne bi bilo zbog nuklearnog rata ali može biti usled vulkana, zemljotresa, sudara sa asteroidom, klimatksih promena ili bilo čega drugog za čije suzbijanje je potrebno znanje).

Druga važna stvar tu je da on kaže da je svest proizvod (biološke) evolucije, što je očigledno istinita ali i dalje vrlo kontroverzno tvrđenje. U tom smislu i meme treba posmatrati kao deo evolutivnog procesa, a ne nešto što mu je uteklo (to jeste jedna od poenti Ričarda Dokinsa)...

Ali ova mala diskusija me je isprovocirala da ću morati da uz novogodišnje praznike još jednom odgledam seriju...

[erwin]

 

 

 

Edited February 9, 2023 by erwin

[McLeod]

I ChatGPT ima dosta netacnih podataka, ali napreduje.

 

Najveci njegov problem, posto ga koristim dosta ekstenzivno, je sto je cesto down i cesto izbacuje gresku "too many requests within an hour".

[erwin]

 

[McLeod]

Namucismo se malo, ali nije los rezultat 😄

 

 

I dalje finiji od Vucica xD Pitanje je bilo kako bi Vucic odgovorio na pitanje N1 o slobodi medija.

Edited February 27, 2023 by McLeod

[Amigo]

ChatGTP koristim ponekad kada zelim da neki mail koji pisem bude napisan ljepse, te samo kazem Rewrite i dobijem tekst kao da ga je pisao neko kome je engleski maternji i ko je fakultetsku obrazovan 

Cista prevara, ali moramo se snalaziti nekako. Ako se bude placalo i ako to bude neka normalna cijena, npr 15 dolara mjesecno, rado cu to placati.

Ja znam dobro da radim svoj posao, lider sam u svom poslu, ali mi je engleski dosta prost, ovako cu to popraviti 

[McLeod]

20 dolara mesecno ce biti, ali mnogi razvijaju i svoje softvere, Google razvija Bard, ali cini mi se da ce Chat GPT imati primat neko vreme.

 

Moze da se koristi opcija i da se restrukturira, stavi akcenat na nesto, sve to solidno dobro funkcionise.

 

Sto su precizniji inputi za konkretnije delove teksta, to su bolji rezultati.

 

Sto vise pokusavate da sa jednim ili dva prompta napisete duzi tekst, to su rezultati gori, ali to je i normalno.

 

Jedina stvar koja ostaje problematicna sto se moraju proveriti podaci koji se izbacuju, cesto su netacni.

[Amigo]

[Charles De Ketelaere]

Odslusao Altmana kod Lex-a (CEO OpenAI-a), kao i vecina epizoda zanimljivo, ali nista epohalno, vise se pricalo o nekim nacelnim stvarima.

 

U medjuvremenu, naleteh na gospodina Robert Miles-a (ne onaj sa numerom Children) i generalno na temu AI Safety - nesto o cemu smo citali, slusali, gledali dosta prethodnih godina ali uglavnom u nekoj low quality produkciji ili kroz click bait artikle da cemo svi da pomremo, Skynet komparacije, etc. Ima nekoliko zanimljivih primera trenutnih AI modela i kako su reagovali u nekim situacijama, da ne bih spojlovao, izvol'te:

 

 

[BattleBender]

Kod gore pomenutog Lex-a sam cuo u nekoj epizodi (mislim da je sam Lex pricao to) da sami lead inzenjeri koji rade na YT-u ne znaju uopste kako funkcionise recommendation algorithm YT-a. 
Na kraju krajeva YT je dummy, a pogotovo njegov recommendation algorithm.

Ono sto sam 99% ubedjen je to da ce se poslovi menjati, tj tip poslova.  Novi poslovi ce nastati, mnogi ce se izgubiti.
Moj laicki utisak je da ce najbitniji biti ljudi koji su:
1. Matematicari/Data inzenjeri
2. Pravnici
3. Psiholozi/Filozofi

1.Prvi ce servisirati i raditii under the hood poslvoe.
2. Drugi ce morati sada da prave pravni okvir za sve ovo sto dolazi, pocevsi od toga sto ce se promeniti mnogo toga, pocevsi od dokazivanja krivice. Npr, izasao je AI koji nakon jedne izgovorene recenice nauci glas odredjene osobe, a nakon kratkog vremena treniranja i ucenja o toj osobi savrseno nauci kako neko prica, sa kojom energijom moze da prica odredjene stvari, preference prilikom pricanja. I naravno das mu tekst i on isprica to, jos ti kaze "Ej, nisam siguran da bi Pera ovako slozio recenicu". I sljaka odlicno.  Svet se menja, a ono sto ubedjeniji je da cemo na globalnom nivou morati da menjamo pravno-zakonske okvire, konvencije itd.
3. Treci se traziti smisao u ovom svetu. Pod ovom trecom kategorijom vise mislim na sve vrste UX-a (ne samo aplikativni), na ljude koji su entrepreneur-i i na malom i na velikom nivou.

Mislim da ce dobar IT trenutnih zanimanja da se svedu na ono sto su sad osobe koje su nekad bili profesionalci u kucanju na masini, ili npr nekada davno ljudi koji su bili placeni da nose fenjer.
Evo i za moj posao, celokupni UI skill, sa sve gradjenjem design system-a ce postati nesto sto moze AI da odradi. UX mislim sam ubedjen da nece, mislim da ce UX da evoluiranja kao disciplina/oblast, i razvice se akademski pravci.

Jako, ali jaaaaaaaaaako mi je naivna prica da ce se AI svesti na koriscenje chatGPT-a, otvaranje drugog tab-a u browseru i nekako prompt-ovanja, navodjenja, ispitivanja AI-a.
Na to mozete da zaboravite, to ce biti vrlo verovatno trivijalna stvar u jako bliskoj buducnosti (tipa 2025 god).
Microsoft office izbacio svoj integralni AI 365 Copilot, Notion ima svoj jako lepi AI za workspace. AI ce postati integralni deo svake platforme, sluzice za optimizovanje procesa (za sta generalno data analytics mozda i najvise sluzi), i znace kontekt svih projekata.
Konkretno nece da otvaras ChatGpt, imaces to prvo u svom code editor-u, koji ce biti povezan sa github-om (koji ce imati takodje AI), a ceo projekat na Jiru koja ce imati svoj AI.
Ima da zna ceo kontekst.
"Pero ne mozes da radis tako, u protivnom je sa arhitekturom projekta, super je sto si to nasao na stack overflow-u, ali evo ja mogu da ti izgenerisem bolje resenje za 2 sekunde"
 

Edited March 28, 2023 by BattleBender

[Charles De Ketelaere]

19 minutes ago, BattleBender said:

Jako, ali jaaaaaaaaaako mi je naivna prica da ce se AI svesti na koriscenje chatGPT-a, otvaranje drugog tab-a u browseru i nekako prompt-ovanja, navodjenja, ispitivanja AI-a.
Na to mozete da zaboravite, to ce biti vrlo verovatno trivijalna stvar u jako bliskoj buducnosti (tipa 2025 god).
Microsoft office izbacio svoj integralni AI 365 Copilot, Notion ima svoj jako lepi AI za workspace. AI ce postati integralni deo svake platforme, sluzice za optimizovanje procesa (za sta generalno data analytics mozda i najvise sluzi), i znace kontekt svih projekata.

 

Naravno, ChatGPT je komercijalna primena najnaprednijeg AGI-a koji je izasao, za sveopste trivijalne i manje trivijalne stvari. Nije mala stvar sto su META, Google, Microsoft, svi izbacili svoje komercijalne AGI-e u svega nekoliko meseci. Imajuci na umu potencijal i buzz oko AI-a, podrazumeva se da se uveliko radi u nekim mnogo uzim nisama, pre svega u nekim vladinim, vojnim sektorima, a tu zapravo i lezi velika doza brige za AI Safety koliko cujem.

 

Ja vidim bas mnogo AI potencijala u mom fieldu, ali imajuci iskustvo kako sam rad u svetu podataka izgleda, ne vidim da ce inzenjere, scientiste i analyste moci AI da odmeni, barem u nekoj blizoj buducnosti. Mnoge industrije i dalje imaju semi-structured datu, cak i one koje nemaju i dalje prave insighte za C-suite i razne stakeholdere koje ne vidim da ce na par klikova moci sami sebi da generisu bilo kakve korisne stvari iz date, jer uglavnom ne znaju sta im treba ili ne zele ni da znaju. 

 

Za pravnike sam siguran da ce vrlo brzo imati jako mocna pomagala, ali ogroman impact AI-a ne vidim tako brzo, previse je tu moralnih, etickih, retorickih stvari i struka ce sigurno na konto toga prolongirati primenu AI-a. Da ne pominjem sudstva, tendencije i agende kojih se razni okruzi, gradovi, drzave, institucije ne bi tek tako odrekli i dosli do nekog flat line-a i generalnosti.

 

U prethodnih 70ak godina imali smo industrijsku revoluciju, a onda i digitalnu revoluciju, svaka je na svoj nacin uticala na poslove a najvise u pozitivnom smislu. Sigurno su neki small business ispastali zbog toga, ali covecanstvo je nakon tocka, struje, nafte, dobilo neverovatne olaksice i nezamislivo se poboljsalo. AI pozitivci generalno misle da ce zivot obicnog coveka biti dosta olaksan, da ce se na globalu manje raditi, pogotovo fizicki a vise zaradjivati, dok AI doomer-i misle da cemo najebati.

 

Na jednoj od anketi Oxforda, gde su pitali najeminentnije AI glave razna pitanja, 5% strucnjaka je imalo very strong opininion da ce AI u narednih 50-100 godina moci da prouzrokuje katastrofalne posledice po covecanstvo, poput istrebljenja. 5% je mali procenat, ali cena je nemerljiva, tako da svakako nije nesto sto ce se otresti sa ramena i nastaviti dalje.

[erwin]

 

[McLeod]

AI, bar na ovom nivou, ne moze da ima neki poseban efekat i da izazove tektonske poremecaje na trzistu rada. Ja ga koristim u poslu i mislim da sam bar u top 5% najnaprednijih korisnika za moju oblast u svetu, a moguce i jace, ali trenutno skracuje ono to zelim da uradim za nekih 10%.

 

Dokle god ne budes mogao da mu kazes "Napisi mi kod za sajt sa ovim specifikacijama" i onda da to kopiras u editor i dobijes funkcionalan sajt ili recimo "Napisi mi copy za landing page firme koja prodaje fitnes pomagala, evo ti layout sajta" niko nece ostati bez posla, jer bukvalno ovakvi promptovi su potrebni da se to desi, imajuci u vidu spid u kojem se svi nalaze i kako hoce sve na tacni.

[bohumilo]

Sparks of Artificial General Intelligence:
Early experiments with GPT-4

https://arxiv.org/pdf/2303.12712.pdf

 

We demonstrate that, beyond its mastery of language, GPT-4 can solve novel and difficult tasks that span mathematics, coding, vision, medicine, law, psychology and more, without needing any special prompting. Moreover, in all of these tasks, GPT-4’s performance is strikingly close to human-level performance, and often vastly surpasses prior models such as ChatGPT. Given the breadth and depth of GPT-4’s capabilities, we believe that it could reasonably be viewed as an early (yet still incomplete) version of an artificial general intelligence (AGI) system.

 

GPT4 na ispitu iz ekonomije:

https://betonit.substack.com/p/gpt-retakes-my-midterm-and-gets-an

 

GPT revolucija u medicini:

https://www.amazon.com/AI-Revolution-Medicine-GPT-4-Beyond/dp/0138200130/

https://erictopol.substack.com/p/the-gpt-x-revolution-in-medicine

 

“How well does the AI perform clinically? And my answer is, I’m stunned to say: Better than many doctors I’ve observed.”

 

(doduše, ko je čitao knjigu Kanemana i Tverskog zna da čak i najelemnatrniji algoritmi koje je moguće zapisati na džepnoj maramici, poput "drveta odlučivanja", u nekim oblastima donose bolje medicinske odluke nego prosečan lekar)

 

Evo jednog dobrog primera pravog zaključivanja koji sam zabeležio:

 

 

 

--------------------------------------------------
Elem, mislim da se više ne može negirati da nova generacija jezičkih modela predstavlja najveći tehnološki proboj u životu svakoga ko čita ovu rečenicu (ako neko pamti otkriće štamparije ili konstrukciju teleskopa nek se javi u inbox). Ne treba tražiti dalji dokaz toga od činjenice da se u NY Times-u javio Noam Čomski, čovek koji je uvek u krivu i uvek na pogrešnoj strani, da objasni kako GPT predstavlja "lažna obećanja" (a btw, ChatGPT je zakucao konačni čavao u lijes Čomskijeve teorije o tome kako su govor i razmišljanje sinonimi, koja je predstavljala bazu dugogodišnjeg neuspešnog napora da se napravi AI koji govori). 

 

To znači novo pokretanje istorije, novo ubrzavanje ekonomskog rasta barem u nekim oblastima ali i novo mešanje karata - tako da je sad, ovaj mesec, ova godina, životna prilika da svako dobro razmisli u šta vredi uložiti vreme i novac. Svako bi možda dobro uradio da razmisli kako bi na ovo pitanje odgovorio da se nađe u 1450. godini u Evropi, kada je otprilike proradila prava štamparska mašina? (razume se, ne koristeći naknadnu pamet iz 21. veka, već nužno TADAŠNJE najbolje znanje o svetu, o moralu, o ekonomiji itd...). Sve ovo, naravno, pretpostavljajući da borci protiv znanja i istinskog napretka ljudske civilizacije - od one vrste koja je udavila prvog čoveka koji je razumeo da koren iz 2 nije racionalan broj, preko ludista koji su razbijali mašine u Engleskoj, do woke morona koji kidišu na Njutnove zakone, matematiču analizu i slobodu govora - ne zaustave ili zabrane tehnološki napredak u ime svojih nazadnih ideologija.

 

Prethodna kompjuterska revolucija je drastično pojeftinila aritmetiku. Po ekonomskom principu supstitucije sve što bilo moguće je preformulisano u jezik aritmetičkih operacija (digitalizovano). Odjednom je sve, od reprodukcija slike i zvuka do upravljanja automobilom pretvoreno u problem sabiranje brojeva. Veštačka inteligencija pojeftinjuje predviđanje i po meni je pitanje za milion (milijardu, trilion?) dolara: šta se sve može preformulisati u problem predviđanja (govor je, kako stoje stvari, samo jedan podskup toga)?

 

 

Neuralne mreže su u principu jednostavan algoritam koji je moguće u potpunosti razumeti u 4. razredu gimnazije (ili kada se već uči kalkulus) i za mene je zaista šokantno da se njime moglo doći ovoliko daleko, pa možda će biti moguće i do samog kraja, do AGI-a, ili barem do rešenja Tjuringovo testa. To je inače jedan već klasičan patern u istoriji veštačke inteligencije, da se neki problem smatra talonom "inteligencije", ali kada se on reši onda se ispostavi da to ipak nije bio, što bi se reklo, "AGI-kompletan" problem (da je za njegovo rešavanje potrebna generalna inteligencija). To je bio slučaj sa šahom, pa sa GO*-om, pa sa vožnjom (koja još uvek nije rešena) i slično, a sada je izgleda na red da se zagrize došao i sam Tjuringov test, univerzalno prihvaćen kao zlatni standard inteligencije.

 

Preporučujem i sjajan blog Stivena Volframa o tome kako ovo tačno ovo radi:

https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

 

 

 

* btw, ni GO još nije rešen iako se tako mislilo do nedavno, kada je grupa istraživača na čelu sa Stjuartom Raselom pokazala i uspela da eksploatiše činjenicu da najbolji programi za igranje GO-a nisu shvatili elementarne koncepte ove igre:

https://innovator.news/interview-of-the-week-stuart-russell-282bd57fdd57

Edited March 29, 2023 by bohumilo

[Charles De Ketelaere]

Ajaaaao, izasla Lex epizoda sa Eliezerom... must watch.

 

 

[BattleBender]

On 3/29/2023 at 12:12 PM, McLeod said:

 

 

Dokle god ne budes mogao da mu kazes "Napisi mi kod za sajt sa ovim specifikacijama" i onda da to kopiras u editor i dobijes funkcionalan sajt ili recimo "Napisi mi copy za landing page firme koja prodaje fitnes pomagala, evo ti layout sajta" niko nece ostati bez posla, jer bukvalno ovakvi promptovi su potrebni da se to desi, imajuci u vidu spid u kojem se svi nalaze i kako hoce sve na tacni.

Nisi ni svestan koliko smo blizu toga. 

Landing page industrija nije mnogo jaka i bice sve slabija. Landing pages po IA (informational architecture) se sve vise i pravi po ustaljenim sablonima. Biznisi i kompanije kao jednu od sfera rada odredjenim radnicima daju da gledaju sajtove potencijalnih b2b koji ima treba, i to naravno ide poprilicno automatizovano. Nema vise reports na nivou "Pogledao sam njihov sajt, dobar/los je", za sve sada postoji ustaljen metod report-a. Sam UX landing page-a ce se svesti da napravis nekoliko user person-a, bez obzira da li gadjas obicnog customera ili drugi business (kao b2b model). U svakom slucaju moderna IT industrija je okrenuta b2b modelu, jednostavno preskupo je da se igras b2c lutrije, organski enduser-i su nazajebaniji da se pogode, jer svi mi obicni ljudi nismo placeni da koristimo neki product, pa smo i razmazeni. A platfrom-based upotreba je sve veca, tako da su non b2b apps poprilicno hrabra stvar danas. Inace, landing pages kao entiteti nemaju maltene nikakav UX, to nisu dashboard paneli ili ozbiljniji products. UI se sablonizuje sve vise i vise, naravno tako da odredjene user persona-s nemaju learning process, prakticno da se prati jako bazican Jacob Law (ocekujes da je nesto dizajnirano i napralvjeno kako je i svuda). 

Ali ako ti je bas do toga, poprilicno sam siguran da ce Framer moci veoma uskoro to sto si ti rekao. Ili neki drugi novi Framer, ko sto ce Framer sjebati Webflow/WP i ostale, tako ce i neko njega.
UX copy je isto stvar metrike, metodologije itd... i vec postoje pravila za nas product designer-e kako da se radi to, od broja reci, broja recenica, nacina na koji se to pise. Takodje isto i ton same poruke iz  UX copy-a, to se vise nista ne radi slucajno. Postoje vec odredjeni principi (mrzim da se kaze "pravila) koja se koriste.  AI i data analytics ce samo dovesti to doga da se jos bolje zna to na osnovu konteksta koliko ima smisla pratiti te principe.
Framer je spojio maltene Figmu/Adobe sa CMS-om. Gledao sam neki tool koji ti daje ideju za dizajn, bas za zajtove, i ecommerce stvari, poprilicno dobro radi ono cudo. Ne napravi ga JOS na figma/xD/framer format. Ali uskoro ce moci i to (jer cak i moja percepcija moze da vidi kako to moze under the hood-a da funkcionise) Mislim, ponovo, UI landing page-a je poprilicno sablonska stvar. UI i sam dizajn je stvar metodologije, i dobar dizajn je metodologija, nije talenat. Pod metodologijom je da se postuju odredjeni principi pravila itd. Sve ce to da radi dosta AI.
Ono sto mene licno tesi, sto sam ja na svu srecu odlucio da idem tezim putem, pa sam se odlucio za product design, gde UX i business strana imaju svoj kontekst. Ali i u product design-u, koji je prakticno UX+product (management/business) + UI, AI ce imati jako veliki uticaj. Adaptacija ce biti neophodna. AI ce biti integralna stvar svakog velikog producta i optimizovace procese, operativni poslovi ce se svesti minimum na personal bias inpute.


Inace, moja devojka radi u slicnoj industriji kao ti, sa sestrom imaju svoju mini firmu, i njen zet radi u istoj industriji, rade content writing/editing/seo i sve zajebancije oko toga.
Upotreba AI u toj prici mi je vec poznata godinu dana, kao i svi tool-ovi oko toga, i detector-i i sl.
Ja mislim da ste vi, ta vasa sfera, mozda i u solidno dobroj poziciji, zato sto kad se izvrti ceo krug, organski kontent ce uvek biti potreba korisnika. Preko devojke sam jos bolje naucio sta su naruceni i spam artikli po internetu. U toj meri je to dovedeni do absurda da ja vec 2 godine na pretrazujem google za bilo sta. Cesce koristim twitter za pretragu nego google.
Ali to ce se dovesti do absurda, gde ce biti jako bitan asset imati originalan content. Smislice se neki novi nacin plasiranja kontenta koji odskace, a tu ce najbolje adaptirati oni koji vec rade content creation.