Veštačka inteligencija je često upoređivana sa naftnom industrijom: jednom izvučeni i rafinisani, podaci, kao i nafta, mogu da budu veoma unosan posao. Izgleda da ova metafora ima još dublja značenja. Kao i njegov srodnik fosilno gorivo, process deeb learning ima sličan uticaj na životnu sredinu.
Naučnici sa Univerziteta Masačusets (University of Massachusetts) sproveli su eksperiment trenirajući AI da bi videli kakvi su uticaji tokom treninga na životno okruženje. Ono što su otkrili nisu nimalo dobre vesti za naše, već jako zagađeno okruženje:
Otkrili su da proces treniranja AI emituje više od 200 kilograma ugljen dioksida što je ekvivalentno emitovanju pet automobila za ceo životni vek (uključujući I fabričku izradu tih automobila).
To je oštra kvantifikacija nečega što su istraživači AI sumnjali dugo vremena. "Mada su mnogi od nas verovali u ovo na apstraktan, nejasan nivo, brojke zaista pokazuju veličinu problema", kaže Carlos Gomez-Rodriguez, kompjuterski naučnik na Univerzitetu A Coruna u Španiji, koji nije bio uključen u istraživanju. "Ni ja ni drugi istraživači sa kojima sam razgovarao sa mislima da je uticaj na životnu sredinu tako značajan."
Koliko ugljen dioksida se emituje dok AI uči NLP odnosno prirodni jezik?
U zadnje dve godine NLP zajednica dostigla je nekoliko značajnih dostignuća u performansama za mašinsko prevođenje, završetku rečenice I drugim standardnim zadacima. Recimo, zloglasni GPT – 2 model odličan je u pisanju uverljivih lažnih novinskih članaka.
U okviru sprovedenog istraživanja naučnici su ispitali četiri modela na terenu koji su odgovorni za najveće skokove u performansama: Transformator, ELMo, BERT I GPT-2. Finansijski I ekološki troškovi obuke rasli su u skladu sa veličinom modela. Otkriveno je da je process podešavanja poznat kao pretraga neuronske arhitekture koji optimizuje model AI-ja tako što postepeno prilagođava dizajn neuronske mreže kroz iscrpne probe I greške. Ekološki troškovi bili su izutetno visoki a rezultati na AI-ju lošiji od predviđenog.
Naučnici upozoravaju da se ove brojke moraju smatrati samo osnovom.
“Obuka jednog modela je minimalan posao”, kaže Emma Strubell sa Univerziteta u Masačusetsu. S obzirom da je u toku samo teorijski deo obuke AI-ja, istraživači veruju da će u praksi obuka zahtevati mnogo više energetskih I finansijskih resursa, te je vrlo verovatno da će i ovi brojevi znatno skočiti.
Značaj ovih cifara je uznemirujući, većina najnovijih istraživanja u AI zanemaruje efikasnost s obzirom da se pokazalo da su velike neuronske mreže korisne za različite zadatke, te ih kompanije koriste kako bi ostvarile značajnu konkurentsku prednost. Međutim analiza ekološkog uticaja I potrošnje energije za obuku AI-ja mora uticati na podizanje svesti o važnosti resursa koji se troše.
Privatizacija AI istraživanja – otežavajuća okolnost za istraživače
Postoji još jedan rastući problem u istraživanju AI-ja: intezitet resursa koji su potrebni da bi postigli uspešne rezultate sve su izazovniji za ljude koji rade u akademskoj zajednici da I dalje dopriniose istraživanju.
Ispitivanje obuke velikih AI modela koji obrađuju tone podataka nije izvodljiv u akademskoj sredini, jer nemaju dovoljno dobre računarske resurse. Dakle, rezultati koje postižu naučnici nikako ne mogu biti verni onima koje bi mogli imati u okviru istraživanja velikih AI modela.
Izvor: www.technologyreview.com
