AI & Wikipedia

Otázka z linkedin

Godwin Josh (roz. Sam): Spolupráca Wikipédie je fascinujúca. Model s otvoreným zdrojovým kódom podporuje kolektívnu inteligenciu. Ako si predstavujete, že to ovplyvní vývoj etiky umelej inteligencie vzhľadom na prirodzené predsudky v obsahu vytváranom človekom?

Jozef Vasko: (ospravedlňujem sa za slovenskú odpoveď, AI dúfam to preloží zrozumiteľne :-) ) - "prirodzené predsudky v obsahu vytváranom človekom" Doterajšie LLM spracovali najmä obsah vytváraný človekom. Človek vytvára obsah na základe svojich vedomosti, skúsenosti a aj predsudkov. Vedomosti získava pozorovaním okolia, skúsenosti praxou a tým môže aktualizovať svoje predsudky. Proces ucenia môže privolať metanoiu - zmenu myslenia aj predsudkov. "vývoj etiky umelej inteligencie " Umelá inteligencia je len stroj / nastroj tvorený a používaný ľuďmi. Etika stroja /nástroja je daná etikou tvorcami a používateľmi stroja / nastroja. Aj nôž je nastroj. aka je etika noža, ked sa používa na krájanie chleba a aka je ak sa používa na zabíjanie ? Ked sme nemali pismo, informácie sme odovzdávali z úst do ucha a overovali sme praxou, pripadne vytesali do kameňa. Ďalej sme odovzdávali hlavne tie informácie, ktoré sme si potvrdili svojou praxou. Tie vytesane do kameňa a neskôr do iného média, sú vlastne konzervou danej doby. V prípade nárastu množstva informácii už nie sme schopní všetko overovať svojou praxou. Musíme dôverovať / veriť zverejnenou praktickou skúsenosťou iných. "ora et labora" ;-)

Godwin Josh (roz. Sam): Je fascinujúce, ako kreslíte paralely medzi obmedzeniami našich minulých metód zdieľania informácií a výzvami, ktorým dnes čelíme s obrovským objemom údajov. Koncept "metanoia" v kontexte vývoja AI je obzvlášť zaujímavý, zdôrazňuje potenciál neustáleho učenia a zdokonaľovania v rámci týchto systémov. Zaujímalo by ma, či existuje spôsob, ako začleniť túto dynamiku do dizajnu umelej inteligencie a umožniť modelkám aktívne vyhľadávať a integrovať nové perspektívy, podobne ako to robia ľudia prostredníctvom skúseností a reflexie. Ďakujeme, že ste sa podelili o svoje prenikavé myšlienky!