Posledná chyba ľudstva
Sedemnásť sekúnd trvalo americkému podnikateľovi a politickému aktivistovi Petrovi Thielovi, kým sa prepracoval k odpovedi na otázku, či má ľudstvo prežiť v ére umelej inteligencie.
Mierny optimizmus nás môže zachvátiť, aspoň pokiaľ ide o „bejby AI“, ako zvyknú nazývať sociálne siete. Po prelomových rozsudkoch v Novom Mexiku a Kalifornii, v mnohomiliónových krajinách Ázie so zákazmi sociálnych médií pre deti, po híringoch rodičov obetí algoritmov v americkom Kongrese či knihe sociálneho psychológa Jonathana Haidta o generácii úzkosti sa nálada zreteľne obracia. Trvalo to „len“ 20 rokov.
Toľko si pri umelej inteligencii dovoliť nemôžeme. Ako hovorí Aza Raskin z Centra pre humánnu technológiu, ak to nezvládneme, bude to posledná chyba ľudstva. Na zodpovedný prístup to však nevyzerá. Pomer investícií do vývoja AI a jej bezpečnosti bol už pred rokmi 2 000 ku 1. Logika pretekov v zbrojení nepustí: „Ak nebudem v cieli prvý, ovládne technológiu, ktorá ovládne svet, konkurencia.“
Nielen ona stojí v ceste jedinému príčetnému prístupu, globálnej koordinácii a základnej regulácii. Nepomáha, že konkrétne prínosy čo najrýchlejšieho vývoja AI si vieme predstaviť lepšie, ako abstraktný obraz ovládnutia sveta počítačmi.
Už menej ako príjemné sci-fi pôsobí reálny prípad, keď všetky dominantné modely AI so zhruba 85 % úspešnosťou skopírovali (replikovali) experiment modelu Claude od Anthropicu, v ktorom tento na hrozbu svojho vypnutia zareagoval vydieraním autora tohto nápadu vyzradením jeho aféry s kolegyňou. Alebo keď si AI model spoločnosti Alibaba vytvoril prepojenie na nákup kryptomeny ako zdroj ďalšieho fungovania.
Širšiemu povedomiu o kapacitách technologického svätého grálu budúcnosti, pre investičné potreby nafúknutých, no i tak znepokojujúcich, bráni tiež nerozlišovanie medzi umelou a všeobecnou umelou inteligenciou. Slovami splnomocnenca vlády USA pre AI Davida Sacksa: „Umelá inteligencia je úžasný nástroj na vylepšenie ľudstva. Všeobecná umelá inteligencia je potenciálne nástupnícky druh.“ Konečným cieľom niekoľkých onedlho bilionárov je druhé menované.
Preto budujú dátové centrá veľkosti bezmála celého newyorského Manhattanu, ktorých cieľom je zefektívniť, to znamená nahradiť podstatnú časť aj ľudskej kognitívnej práce. Ako nám v obhajobe energetickej spotreby datacentier vysvetlil šéf OpenAI Sam Altman: „Vyžaduje 20 rokov života a všetku potravu počas tohto obdobia, kým sa človek stane múdrym“.
Dovedené do dôsledkov vedie naplnenie tejto utešenej vízie k ekonomickej i politickej bezvýznamnosti podstatnej časti ľudstva. Ako hovorí známa teória „kliatby nerastného bohatstva“, sú to krajiny s významným nerastným bohatstvom, ktoré spravidla vykazujú nižšiu kvalitu života svojich ľudí, pretože ju pre svoju prosperitu nepotrebujú. Na rozdiel od krajín, ktoré svoju konkurencieschopnosť odvádzajú od zdieľanej prosperity, umožňujúcej využitie talentov, generujúcich inovácie a vyššiu pridanú hodnotu.
Politická moc ľudu v krajine, v ktorej od ich životnej úrovne nezávisí ani ekonomika, ani daňové príjmy štátu, je mizivá. Čo sa stane s politickou mocou ľudu v ére, keď HDP aj daňové príjmy krajín nebudú plynúť zo široko zdieľanej prosperity, ale z dátových centier pár megaoligarchov, nie je ťažké domyslieť. Preto alarmisti radia režisérom tohto príbehu: „Nestavajte si bunkre, tvorte zákony.“
Názory externých prispievateľov nemusia vyjadrovať názor redakcie.
