Dažādi

AI apmācība videi ir šokējoši dārga

AI apmācība videi ir šokējoši dārga

Mēs esam redzējuši jaunu mākslīgā intelekta darbināmu algoritmu rezultātu, kas var darīt visu, sākot no vēža noteikšanas līdz pat automašīnas vadīšanai.

AI ir tik daudz jaunu tehnoloģiju virzītājspēks, bet par kādu cenu?

Jauns ziņojums liecina, ka parasts AI apmācības modelis var radīt vairāk nekā 626 000 mārciņu oglekļa dioksīda ekvivalenta. Tas ir apmēram piecas reizes lielāks nekā vidējā amerikāņu automobiļa izmešu daudzums visā dzīves laikā - ieskaitot pašas automašīnas ražošanu.

SKAT ARĪ: AIS TURPINĀT RĪKOTIES NENAMĒROJAMOS VEIDOS, VAI JUMS VĒRTOS PANIKA?

Kaut arī daži AI pētnieki ir atzīmējuši to iespējamo ietekmi uz vidi, faktiskais skaitlis ir šokējis nozari.

Mašīnu izpratne par valodu ir videi kaitīga

Darbā tika aplūkots dabiskās valodas apstrādes process (NLP). šis AI apakšlauks ir vērsts uz sacīkšu mašīnām darbam ar cilvēku valodu. NLP attīstības kopiena pēdējos gados ir veikusi dažus aizraujošus sasniegumus. Šīs jomas pētnieku darbs ir atbildīgs par tādām tehnoloģijām kā mašīntulkošana un teikumu pabeigšana.

Šie sasniegumi ir ļoti noderīgi dažādās lietojumprogrammās, taču, lai tur nokļūtu, apmācībai nepieciešamas milzīgas datu kopas, kas nokasītas no interneta. Šo izplešošo datu kopu pārveidošana no nejēdzībām apmācības programmā prasa milzīgu datora jaudu un rezultātā milzīgu enerģijas daudzumu.

Jārisina enerģijas izmaksas

Tika pārbaudīti četri modeļi, kurus pētnieki identificēja kā atbildīgus par vislielāko sasniegumu sasniegšanu; transformatoru, ELMo, BERT un GPT-2.

Lai noskaidrotu, cik lielas CO2 emisijas bija modeļiem, pētnieki vispirms katru dienu apmācīja katru modeli ar vienu GPU, lai izmērītu tā enerģijas patēriņu.

Pēc tam viņi izmantoja apmācības stundu skaitu, kas norādīts modeļa oriģinālajos dokumentos, lai aprēķinātu kopējo enerģiju, ko patērēs viss apmācības process.

Tad šis skaitlis tika pārvērsts oglekļa dioksīda ekvivalenta mārciņās. Rezultāti liecina, ka apmācības skaitļošanas un vides izmaksas pieauga proporcionāli modeļa izmēram.

Pēdējie soļi ir visdārgākie

Izmaksas palielinājās, kad tika pievienota papildu apmācība, lai palielinātu modeļa precizitāti.

Piemēram, noregulēšanas procesam, kas pazīstams kā “neironu arhitektūra”, un kura izmanto izmēģinājumu un kļūdu modeli, lai optimizētu modeli, pielāgojot tīkla dizainu, ir milzīgas bērnu gultiņas, lai mazinātu kopējo ieguvumu.

Noņemot šo pēdējo soli, visdārgākajam modelim BERT bija daudz pieticīgāks oglekļa dioksīda nospiedums - aptuveni 1400 mārciņas oglekļa dioksīda. Tas ir gandrīz līdzvērtīgs turp un atpakaļ lidojumam pa Ameriku vienai personai.

Sliktākais ir tas, ka pētnieki saka, ka tie ir pieticīgi skaitļi, kuru pamatā ir modeļa apmācība līdz minimālajam līmenim. Turklāt lielākajai daļai lielo apmācības programmu būs daudz lielāks nospiedums, jo tās no nulles attīsta pieaugošās programmas daļas.

Šo skaitļu ietekme ir milzīga.

AI vada visu, sākot no medicīniskās izpētes līdz aizsardzībai. Raksta autori pauž bažas par mākslīgā intelekta attīstības virzību prom no akadēmiskās aprindas uz privāto pasauli. AI izstrādes izmaksas ir tik augstas, kā redzams šajā dokumentā, ka izglītības iestādes nespēj sekot līdzi.

AI attīstības izsekošana un uzraudzība var kļūt arvien grūtāka.


Skatīties video: Laika apstākļi, zibens vētras un burāšana apkārt Dienvidāfrikas MĪLĒTAJAI KAPAI! Patrick Childress65 (Decembris 2021).