Il-ħtiġijiet ta 'enerġija massiva tas-sistemi AI qed ipoġġu attenzjoni fuq is-sostenibbiltà fl-ekosistema tas-semikondutturi. L-industrija taċ-ċippa teħtieġ li tkun kapaċi tipproduċi semikondutturi aktar effiċjenti u ta 'enerġija aktar baxxa. Iżda t-talbiet għal żieda fil-veloċità tal-ipproċessar qed jiżdiedu bl-użu mifrux ta 'mudelli lingwistiċi kbar u ż-żieda ġenerali fl-ammont ta' dejta li jeħtieġ li tiġi pproċessata. Gartner jistma li 50% tal-organizzazzjonijiet se jadottaw monitoraġġ li jippermetti s-sostenibbiltà sal-2026 biex jimmaniġġjaw il-konsum tal-enerġija u l-metriċi tal-marka tal-karbonju għall-ambjenti tal-cloud ibridi tagħhom. Dan huwa meħtieġ, peress li 40% taċ-ċentri tad-dejta x'aktarx ikunu ristretti mill-enerġija sal-2027, skont id-ditta.
Is-semikondutturi jistgħu jgħinu fis-sostenibbiltà jekk ikunu ddisinjati b'mod korrett. Dak huwa minnu anke għal ċipep AI/ML iddisinjati għal prestazzjoni massima, sakemm ikunu jistgħu jagħmlu komputazzjonijiet aktar malajr bl-użu ta 'algoritmi sparser. Dan jirriżulta fi tnaqqis ġenerali fl-ammont ta 'enerġija kkunsmata. Dan huwa fejn jidħlu l-aċċeleraturi tad-dwana. Jistgħu jipprovdu titjib sinifikanti meta mqabbla ma 'proċessuri għal skopijiet ġenerali, ħafna drabi jaħdmu flimkien.
footprint dejjem tikber tal-AI
L-informatika qed isseħħ kullimkien, u kollox jeħtieġ li jkun aktar effiċjenti. Il-bliet intelliġenti, l-infrastruttura intelliġenti u t-trasport intelliġenti mhumiex possibbli mingħajr teknoloġija intelliġenti, u dejjem aktar dan huwa permess mill-AI. Hekk kif l-AI ssir aktar sod, l-ekosistema tas-semikondutturi qed tipprova timminimizza l-impatt tagħha fuq ir-riżorsi.
Iċ-ċentri tad-dejta tal-lum diġà jikkunsmaw ammonti enormi ta 'enerġija. Globalment, 460 terawatt-siegħa (TWh) ta 'elettriku huma meħtieġa kull sena. Dan huwa ekwivalenti għall-ammont kollu ta 'enerġija prodotta mill-Ġermanja. Fl-Istati Uniti, il-konsum tal-elettriku taċ-ċentru tad-dejta kien 2.5% tat-total tal-Istati Uniti (~ 130 TWh) fl-2022, u li huwa mistenni li jittriplika għal 7.5% (~ 390 TWh) sal-2030, skont il-Boston Consulting Group. Dan huwa l-ekwivalenti tal-elettriku użat minn madwar 40 miljun dar tal-Istati Uniti, jew kważi terz tad-djar totali fl-Istati Uniti
"L-AI għandha l-potenzjal li taqbeż l-innovazzjonijiet trasformattivi kollha maħluqa fis-seklu li għadda," qal Imran Yusuf, direttur tal-ekosistemi tal-ħardwer f'Arm's Infrastructure Group. "Iżda l-esiġenzi ta' enerġija tal-komputazzjoni tal-AI huma sinifikanti, u hekk kif il-kumpaniji jgħaġġlu biex jibnu l-kapaċitajiet tal-AI tagħhom, jirriskjaw li jaqbżu l-miri ta' sostenibbiltà tagħhom stess. Mudelli tal-AI tal-ġejjieni se jkomplu jsiru akbar u aktar intelliġenti, u jkattru l-ħtieġa għal aktar komputazzjoni, li tiżdied. id-domanda għall-enerġija bħala parti minn ċiklu virtuż Fi kliem sempliċi, l-ebda elettriku, l-ebda AI Kif nibbilanċjaw il-ħtieġa tal-elettriku mal-ħtieġa li nkomplu nalimentaw ir-rivoluzzjoni tal-AI Billi nsibu modi biex innaqqsu r-rekwiżiti tal-enerġija għal ċentri tad-dejta kbar Sistemi ta' komputazzjoni AI."
Oħrajn jaqblu. "Jiena biex tkun aktar effiċjenti fid-disinn," qal Neil Hand, direttur tal-marketing ta 'Siemens EDA. "Tista 'tħares lejn kwalunkwe algoritmu. Hemm ordnijiet ta' effiċjenza. L-aktar approċċ ineffiċjenti minn perspettiva ta 'enerġija huwa li tħaddem il-kodiċi mhux maħdum fuq proċessur għal skopijiet ġenerali u ħallieh jitbiegħed - u toast xi marshmallows 'il fuq mis-CPU għax sejjer. biex tisħon ħafna."
Rack ta 'servers ibbażat fuq GPUs NVIDIA Grace Blackwell jeħtieġ 120 kilowatt. Iżda huma wkoll 1,000 darba aktar kapaċi mill-ġenerazzjonijiet preċedenti, li huwa ekwivalenti għal 500 darba aktar komputazzjoni għal kull unità ta 'enerġija, skond Rich Goldman, direttur ta' Ansys. "Jekk tibni ċentru tad-data ta 'CPUs, u trid tagħmel ħafna kompjuters, tista' tissostitwixxi s-CPUs bl-aħħar GPUs u tnaqqas il-mod tal-enerġija għall-istess kapaċitajiet tal-kompjuters. Għadna ser ikollna kwistjonijiet ta 'enerġija enormi, għax bl-AI qed nagħmlu aktar kompjuters, iżda dan jgħin."
Hand jara t-tip Grace Blackwell speċjalizzat ta 'hardware mibni apposta għall-AI bħala l-pass li jmiss fl-iżvilupp, iżda jżid li jista' jsir ħafna aktar minħabba li dawn għadhom ċipep għal skopijiet ġenerali. Huwa qal li huwa possibbli li jinbnew ċipep AI aktar effiċjenti li huma maħsuba biex jikklassifikaw u jaħdmu bi klassifikazzjoni wiesgħa.
"Dan huwa dak li naraw li NVIDIA tagħmel, dan huwa dak li naraw li jagħmlu Google u ħafna mill-fornituri tal-cloud," innota Hand. "Hemm livelli ta' effiċjenza li nistgħu nagħmlu biex inħallu dawk iċ-ċipep jiġu prodotti b'mod aktar effiċjenti, u biex nippermettu dak kollu madwar is-sostenibbiltà li jmur ma' dan. Imbagħad, tista' tmur pass 'il quddiem b'teknoloġiji ġodda li jieħdu mudell ta' AI imħarreġ bis-sħiħ. u jaqilbuh f'hardware Dak se jkun l-aktar effiċjenti li tista 'tkun, u se tuża frazzjoni tal-qawwa Int imsakkar f'dak il-punt, allura trid tiffaċċja l-isfida li qed tħaffef u jinbidlu daqshekk malajr. Kemm tista' tissakkar bl-avviżi reċenti minn Intel u Qualcomm fuq is-CPUs mobbli tagħhom, u Apple ilha tagħmel dan għal ftit ġenerazzjonijiet tkun xi tkun in-netwerk newrali li trid ikollok fuq iċ-ċippa, u se jkun hemm dak il-kontinwu."
Steve Roddy, uffiċjal kap tal-marketing f'Quadric, qabel. "Il-forzi li jmexxu l-isplużjoni tal-mudelli AI/ML huma massivi fl-ambitu. Il-mewġa ġenerattiva tal-AI qed tbiddel il-mod kif jaħdmu l-individwi u l-korporazzjonijiet; possibilment taffettwa miljuni ta’ impjiegi madwar id-dinja. L-ekosistema tas-semikondutturi/EDA/IP ma tistax tgħawweġ b’mod raġonevoli l-kurva ta’ progress fl-evoluzzjoni ta 'mudelli AI massivi li qed jiġu mbuttati minn mijiet ta' biljuni ta 'dollari ta' investiment minn titani tat-teknoloġija kull sena Iżda l-industriji tas-semikondutturi u l-IP jistgħu jgħinu biex titnaqqas b'mod radikali l-impronta tal-konsum tal-enerġija tat-tħaddim ta 'dawk il-mudelli GenAI fil-ġurnata. -użu tal-inferenza għall-ġurnata."
L-akbar sfida tas-sostenibbiltà għall-inferenza tal-GenAI hija l-konverżjoni tal-modi f'formati kwantizzati interi b'inqas konsum tal-enerġija. "It-timijiet tax-xjenza tad-dejta li joħolqu mudelli GenAI jidhru li ma jagħtux każ il-fatt li l-mudelli ta' referenza li jippubblikaw f'format ta' punt li jvarja jikkonsmaw 10X l-enerġija għal kull inferenza meta mqabbla mal-istess mudell maqluba f'formati interi (tqabbel 32b floating point multiplik-akkumulat kontra 8 x 8 jew 4 x 8 integer MAC)," qal Roddy. "Sew jekk l-inferenza sseħħ fiċ-ċentru tad-dejta jew fuq l-apparat, l-iffrankar tal-enerġija - u l-benefiċċji li jirriżultaw għas-sostenibbiltà - mill-konverżjoni għal formati interi ta 'enerġija aktar baxxa huma sostanzjali. inġiniera."
Avvanzi fit-teknoloġija
Meta t-tim tad-disinn jiddeċiedi li wasal iż-żmien li jmur għall-ħardwer, minkejja li l-algoritmi tal-AI qed javvanzaw daqshekk malajr, se jkun hemm ċertu ammont ta 'stabbiltà, qal Hand. "Huwa daqsxejn bħal meta dħalna fl-evoluzzjoni tat-TPUs, NPUs, XPUs. Ġeneralment, ma tantx kienu vijabbli għal xi żmien minħabba li l-blokki tal-bini ewlenin kienu qed jinbidlu b'mod aktar regolari. Iżda matul l-aħħar ftit snin, dawk il-funzjonalitajiet ewlenin stabbilizzaw sabiex issa tista 'tagħmel aktar ħardwer effiċjenti fl-enerġija Se jkun l-istess hawn hekk kif l-affarijiet jibdew jistabbilizzaw Dejjem se jkun hemm algoritmi ħafna aktar qawwija, u aħna. Probabbilment dejjem nispiċċaw juża aktar milli ngħidu għax iċ-ċentri tad-dejta huma konsumatur enormi tal-enerġija, iżda x'jibbilanċjaw il-kwistjoni kollha mill-perspettiva tal-produttività Qed jippermettulna nagħmlu affarijiet li kieku ma nkunux nistgħu nagħmlu Imma ħafna minn dan huwa biss jekk huwiex ċippa AI kumplessa jew xi tip ta 'ċippa. L-aspetti tal-EDA huma bejn wieħed u ieħor l-istess.
Konsiderazzjoni oħra hija kif tiġġenera biżżejjed enerġija għaċ-ċentru tad-dejta. Kif tpoġġi dawn iċ-ċentri tad-dejta f'postijiet fejn m'hemmx biżżejjed enerġija? "Int ser tara ċentri tad-dejta aktar spiss f'postijiet li għandhom qawwa żejda, u pajjiżi li għandhom enerġija żejda se jsiru ċentri ta 'ċentri tad-dejta," qal Goldman. "Huma se jillokalizza ċ-ċentru tad-dejta hemmhekk, imbagħad joħroġ l-għarfien li tikseb minn dik is-setgħa."
Dan se jkun akkumpanjat minn sorsi ġodda u ġodda ta 'poter. "Smajna nitkellmu dwar impjanti tal-enerġija nukleari żgħar biex iħaddmu ċentri tad-dejta individwali, u applikazzjonijiet bħal li jitpoġġewhom fuq il-bjar taż-żejt sabiex il-metan li issa qed jidħol fl-arja u jniġġes l-arja, inkunu nistgħu naħarqu dak u noħolqu enerġija minn dawk biex imexxu ċ-ċentri tad-dejta,” qal Goldman. "Irridu nġibu ġdid bħal dak sabiex inħaddmu dawn iċ-ċentri tad-dejta."
Parti integrali mid-diskussjoni dwar is-sostenibbiltà tal-IA hija l-effiċjenza taċ-ċentru tad-dejta, fejn hemm kunflitt kontinwu bejn is-setgħa meħtieġa biex tiċċaqlaq id-dejta u kemm dik id-dejta fil-fatt teħtieġ li tiċċaqlaq. "Aħna naraw nies jibnu proċessuri kbar ħafna minn chiplets, u parti minn dan huwa għaliex filwaqt li jafu li jistgħu jibnu sistema ekwivalenti minn żewġ ċipep li huma konnessi fuq xarabank, iżda ċ-ċaqliq tad-data bejniethom se jiswa ħafna tal-poter,” spjega Steven Woo, sħabi u inventur distint f’Rambus. "Iktar ma tgħaqqad l-affarijiet flimkien, inqas distanza d-data għandha biex tivvjaġġa, inqas enerġija tonfoq tiċċaqlaq id-data. Imma mbagħad il-problema hija li d-densità tal-enerġija tiżdied. Trid tagħti aktar enerġija, u għandek kessaħ il-ħaġa Allura, l-irmonk tal-gwerra huwa, kif nista 'nkessaħ din il-ħaġa I'm jiffrankaw xi qawwa billi ma jkollhomx iċ-ċipep ikunu 'l bogħod minn xulxin, iżda issa ltqajna biex tagħti aktar qawwa f'dak il-volum? Għandi tkessaħ dan huwa l-irmonk tal-gwerra li l-periti fil-livell tas-sistema issa.
Fil-livell taċ-ċentru tad-dejta, qed jiżdied l-użu ta 'tekniki avvanzati ta' tkessiħ fis-servers. "Iktar nies qed jitkellmu dwar tkessiħ likwidu, inklużi pjanċi kesħin," qal Woo. "Google ilha tagħmel dan, u NVIDIA ilha titkellem dwarha għal Grace Blackwell. Dik hija t-teknoloġija li wħud mis-superkompjuters jużaw illum, u mhix teknoloġija barranija jew ġdida. Hija biss kwistjoni ta' żmien qabel ma narawha bħala pervażiv Probabbilment se jkun hemm xi sistemi li jitkessħu bl-arja għall-futur prevedibbli, iżda tara aktar sistemi li jadottaw xi tip ta 'likwidu ppumpjat b'sistema tat-tip ta' tkessiħ b'żewġ fażijiet.
Fl-aħħar estrem ta 'dan l-approċċ huwa tkessiħ immersjoni. "Dan jista 'ma jkunx soluzzjoni vijabbli tat-tkessiħ tas-server taċ-ċentru tad-data dalwaqt, iżda jista' jkun jekk nispiċċaw ir-runway fuq il-likwidi bil-pajpijiet," żied jgħid. "Ladarba tkun kapaċi timmaniġġja s-sħana b'likwidu, jew xi ħaġa bħal dik, allura tista' tillimita l-firxa tat-temperatura li tgħaddi minnha ċippa, li jfisser li jekk tagħmel iċ-ċiklu termali, tista' ma tolqotx it-temperaturi estremi. Dak tajjeb , għax imbagħad ma jkollokx l-espansjoni u l-kontrazzjoni termali fuq din il-firxa akbar, u xi wħud mill-fallimenti l-oħra relatati mal-affidabbiltà jittaffew xi ftit."
L-analiżi tad-dejta kbira għandha wkoll rwol fis-sostenibbiltà billi tidentifika xejriet fid-disinn taċ-ċippa bbażati fuq l-użu taċ-ċentru tad-dejta. "Hemm ferrovija sħiħa ta 'poter," qal Adam Cron, perit distint ta' Synopsys. "It-tħassib huwa fil-livell tad-die. Imbagħad għandek il-bord li qiegħed fuqu, ir-rack li fih, ir-razzett li fih, u mbagħad imur lura lejn il-linji ta 'trażmissjoni. U dak li l-maniġers taċ-ċentru tad-data jixtiequ jaraw huwa sabih anki keel Tħawwadx id-dgħajsa wisq, għax jekk trid ħafna hawn, allura jista’ jkollok tinżel hemm, jew viċi versa.
Idealment, il-qawwa titnaqqas kullimkien. "Iċ-ċentri tad-dejta qed jużaw bejn 1 u 2% tal-elettriku tad-dinja, u qegħdin fuq kors ta 'ħabta biex jużawha kollha," qal Cron.
Rendiment, rabtiet tal-manifattura
Hemm rabta interessanti bejn l-isforz biex isiru semikondutturi sostenibbli u rendiment u manifattura, innota Hand Siemens. "Dawn iċ-ċipep qed jikbru. Għalhekk, ir-rendiment isir aktar problema. Iktar ma nistgħu nagħmlu bir-rendiment, aħjar inkunu għas-sostenibbiltà, għax die mejta hija ħela ta' riżorsi. Die tajba hija dejjem ħaġa aħjar. . X'nistgħu nagħmlu hemm ħafna xogħol li nagħmlu fl-ekosistema tas-semikondutturi tal-EDA biex intejbu r-rendiment Ironikament, ċerti soluzzjonijiet tal-fab kummerċjali jużaw AI biex jiksbu rendiment aħjar l-ispiża tas-sostenibbiltà tal-AI u l-opportunità tas-sostenibbiltà tal-AI u kif jaħdmu flimkien jgħid dak li jiswa biex jitħarrġu dawn il-mudelli Huwa għali li tużahom Imma kif tista 'tkejjel l-għarfien x'aktarx li jiswew PhD kollu biex tipprova tikkalkula dak l-impatt. u t-teknoloġiji tal-IA jistgħu jiġu sfruttati hawn. Hija biss l-EDA li tagħmel il-ħaġa tagħha tal-EDA."
L-analiżi termali u t-tixjiħ ukoll se jkollhom sehem fis-sostenibbiltà taċ-ċentru tad-dejta tal-AI. Dan mhuwiex uniku għall-AI, ovvjament. Japplika għaċ-ċipep kollha," qal Hand. "Tista 'tibda tifhem x'inhuma t-termali fil-livell tad-die, fil-livell tas-sub-die, biex tifhem l-implikazzjonijiet. Issa, nista 'npoġġi munzell 3D flimkien u nagħmel li tkun affidabbli? Nista 'nmexxi dawn l-affarijiet f'livell ta' qawwa suffiċjenti li mhux qed naċċellera l-mewt tagħhom? Dawn il-kapaċitajiet se jippermettulna mmorru saħansitra aktar. Ukoll, hekk kif nibdew nespandu d-definizzjoni tat-tewmin diġitali u nibdew nespandu dak li hu inkluż f'dan, tista 'tibda tara l-impatti fil-livell tas-sistema. U filwaqt li mhux speċifiku għall-AI u s-sostenibbiltà, huwa fejn ser nibdew naraw qabżiet kbar fl-effiċjenza għax kemm huwa mfassal iżżejjed bħalissa? Kemm għandu wisq skart ġewwa fih? Ladarba nistgħu nibdew ikollna disinn aktar konsistenti fil-livell tal-prodott u l-livell tal-problema, hemm benefiċċji hemm ukoll. Li ġġib lura lill-AI speċifikament, biex tasal għal tewmin diġitali komprensivi b'ħafna oqsma veri, l-AI se tkun meħtieġa minħabba li l-AI se tagħmel l-analiżi trans-dominju għalik u għall-estrazzjoni tal-mudell surrogat u l-adattament awtomatiku tal-fedeltà. Se jkun hemm dawk kollha. Iktar ma neħtieġu AI, aktar nużaw AI."
Konklużjoni
Is-sostenibbiltà mhix suġġett ġdid, iżda dejjem kien suġġett għal xi diskussjoni futura. Dak m'għadux il-każ.
"Il-bejjiegħa tal-ħardwer u s-softwer fehmu għal snin sħaħ li l-iskala tal-komputazzjoni u s-sostenibbiltà jistgħu jkunu fuq korsa ta 'ħabta mar-realtà, iżda m'għandhomx għalfejn ikunu jekk l-industrija tisfrutta l-kapaċitajiet tal-ekosistema tagħha," qal Yusuf ta' Arm. "Ħu Arm Total Design, pereżempju, li hija ekosistema ta' kumpaniji ewlenin minn madwar l-industrija tas-semikondutturi ddedikata biex tippermetti soluzzjonijiet effiċjenti u personalizzati tas-silikon għal każijiet ta' użu AI/ML. Bħala tali, jipprovdi lill-imsieħba aċċess preferenzjali għal Arm Neoverse Compute Subsystems. (CSS), għodod IP u EDA integrati minn qabel, servizzi ta’ disinn, appoġġ għall-funderiji, u appoġġ għal softwer kummerċjali Jirrappreżenta wkoll mentalità ġdida li trawwem il-kollaborazzjoni, il-flessibbiltà u l-innovazzjoni, filwaqt li tifhem li l-età tal-IA teħtieġ li tikkoeżistu. b’għanijiet ta’ sostenibbiltà globali.”
Dak li nbidel huwa li s-sostenibbiltà mxiet minn "sabiħ li jkollok" għal "għandu jkollha." Mill-perspettiva tagħha bħala mexxej tal-industrija, Intel ħolqot Seba Għajnuniet għall-użu tal-AI mingħajr l-ispiża ambjentali għolja. Barra minn hekk, Intel temmen li l-fatt li tkun intenzjonat dwar kif l-AI tiġi implimentata għad-disinn huwa essenzjali biex jinkisbu l-għanijiet ta’ sostenibbiltà. B'intenzjoni, dawk li jeżegwixxu inizjattivi AI jistgħu jaħsdu l-benefiċċji ta 'tagħbija tax-xogħol ottimizzata (ara hawn għal aktar), u approċċ proattiv għad-disinn tal-proġetti u l-ġestjoni tal-IT huwa kritiku biex jimmassimizza l-impatt tal-inizjattivi tal-AI u jimminimizza l-marka tal-karbonju (ara hawn għal aktar każijiet ta’ użu).
Fundamentalment, it-tnaqqis tal-impatt tal-IA fuq is-sostenibbiltà se jasal għat-teknoloġija nnifisha. Roddy ta 'Quadric qal li l-ekosistema tas-semikondutturi tista' tgħin billi "żżid l-għarfien ġenerali dwar il-ħtieġa li jintużaw formati ta 'dejta ta' preċiżjoni aktar baxxa, kif ukoll tibni għodda aktar awtomatizzata biex tnaqqas id-distakk bejn il-matematiku u l-inġinier inkorporat."
