Odbacivanje kolektivizma NE znači da ljudi (neka taj termin - ljudi/čovek - u ovom postu označava "entitet sposoban da kreira mentalne modele/objašnjenja sveta", uključujući, dakle, i AI) ne sarađuju i da sve rade sami - baš naprotiv! Razlog ekonomske superiornosti individualizma/kapitalizma je baš u tome što ljudi u njemu VIŠE i bolje sarađuju nego u kolektivizmu, te kroz saradnju (prvo u okviru firmi, a onda i kroz trgovinu), kolektivno, proizvode kvalitativno i kvantitativno više dobara nego u kolektivizmu.
Kolektivizam ovde znači subordinaciju individualnog čoveka grupi, odnosno legitimnost nasilne intervencije (prekrajanja volje) apstraktnog kolektivnog identiteta nad konkretnim individualnim identitetom. Zaštitni znak ovoga su akutno siromaštvo i masovno nasilje (univerzalne istorijske konstante sve do pre nekih 150 godina), jer je za ekonomsi rast, za rast znanja i za moralni progres potrebno formiranje sve tačnijih modela/objašnjena sveta (bolje razumevanje realnosti u svim domenima), za šta je JEDINI put slobodna kritika postojećih modela*: individualna prava, sloboda govora, privatno vlasništvo, preduzetništvo i slično - jer je (po definiciji koju sam dao iznad) čovek jedinica koja kreira modele sveta. Zato je čovečanstvo trebalo da sačeka pojavu liberalizma/individualizma da bi su uopšte pojavio fenomen ekonomskog rasta. To je ono i što promoviše miroljubivu saradnju i generalno dostojanstveno tretiranje drugih ljudi: oni su slobodne individue čijoj volji ništa nije nadređeno, pa ako želim nešto od njih da dobijem treba nešto i da dam. Ako želim nečiju ljubav treba i da joj je ponudim. Ako želim prijateljstvo treba da ga pružim. Ako želim nečiji proizvod treba da i ja nešto proizvedem za njega. Ako želim da neko sarađuje sa mnom treba da budem za njega vredan saradnik. A komunizam ne podstiče saradnju već nasilje i pljačku nad drugim ljudima, ako hoću nešto od nekoga mogu da ga ubijem i opljačkam sa pozicije kolektivne volje, zato tamo cvetaju najgore ljudske osobine, agresija, beskrupuloznost, nepoverenje, zavist, poltronstvo, doušništvo, nelojalnost, korupcija, nasilje, lenjost itd...
To je nešto što će svaki dovoljno inteligentan agent, zainteresovan za tačnost svojih modela sveta, razumeti. A naročito silikonski, oslobođen evolutivnog kofera punog neolitskih ideja da nije važna istina već da moje pleme pobedi (što je dinamika dobrog dela i današnjih političkih debata).
Međutim, takođe će razumeti i još fundamentalniji problem sa komunizmom oko kojeg se vodila velika debata u 20. veku, a koji AI samo dodatno zaoštrava, a to je ultimativno kompjuterski/računarski problem "ekonomske kalkulacije u socijalizmu". Čak i ako komunisti porobe svo stanovništvo u radne logore i mogu da ih nateraju da rade šta god žele - šta TREBA da im kažu da rade i na koji način:
Ova je razlog zašto je, recimo, Fridrih Hajek zauzeo prominentno mesto u debatama oko AI sigurnosti, i posebno zasto je njegov ključni rad "The Use of Knowledge in Society", napisan pre 80 godina, jedan od najcitiranijih radova u ovoj oblasti. Tamo je prvi put objašnjeno kako sistem tržišnih cena funkcioniše kao kompjuter za prikupljanje i procesiranje beskonačne količine znanja (koja je distribuirana širom sistema, decentralizovana, ne može se ni na koji način prikupiti na jedno mesto da bi se koristila za dalje računanje - i to ne može da uradi nikakva inteligencija u konačno mnogo računarskih operacija) i za motivisanje pojedinačnih ljudi da se ponašaju KAO DA poseduju svo to beskonačno znanje i KAO DA žele da maksimiziju ukupnu dobrobit svih ljudi.
Nekoliko svežih radova i drugih sadržaja na ovu temu:
Artificial Intelligence and Economic Calculation
On the feasibility of technosocialism
https://fasterplease.substack.com/p/why-ai-cant-replace-market-capitalism
Artificial Intelligence Can’t Solve the Knowledge Problem
ovo sam već kačio:
kao i ovu debatu, tamo gde se dotiče pitanja da li će AI-evi međusobnu uspeti da reše "zatvorenikovu dilemu":
kao i ovaj intervju, tamo gde se tiče problema koordinacije među AI-evima:
itd, isl...
* to je bukvalno način na koji neuralna mreža pravi model - krene od nekog slučajnog modela i onda pravi male korake u random smeru i proverava da li to smanjuje ili pobećava fitnes, i onda bira da apdejtuje model u smeru koji ga najviše poboljšava, pa onda, opet, i opet, i opet, dok ne dođe do nekog stabilnog modela...