Kapag ang ulap ay napuno, ito ay gilid ng computing, ai upang iligtas

Sa kahabaan ng baybayin ng estado ng New South Wales (NSW) ng Australia ay nag-hover ng isang fleet ng drone, na tumutulong upang mapanatiling ligtas ang tubig. Mas maaga sa taong ito, ang mga drone ay nakatulong sa mga lifeguard sa Far North Coast ng estado na iligtas ang dalawang tinedyer na nahihirapan sa mabigat na pag-surf.

Ang mga drone ay pinalakas ng mga artipisyal na intelihente (AI) at mga algorithm ng pangitain ng makina na patuloy na pinag-aaralan ang kanilang mga video feed at i-highlight ang mga item na nangangailangan ng atensyon: sabihin, mga pating, o mga nalalangoy na mga manlalangoy. Ito ay ang parehong uri ng teknolohiya na nagbibigay-daan sa Mga Larawan ng Google na mag-ayos ng mga larawan, isang home security camera upang makita ang mga estranghero, at isang matalinong refrigerator na babala sa iyo kapag ang iyong mga pagkamatay ay malapit sa kanilang mga petsa ng pag-expire.

Ngunit habang ang mga serbisyong iyon at aparato ay nangangailangan ng patuloy na koneksyon sa ulap para sa kanilang mga pag-andar ng AI, ang mga drone ng NSW ay maaaring magsagawa ng kanilang mga gawain sa pag-deteksyon ng imahe na may o walang isang solidong koneksyon sa internet, salamat sa mga neural compute chips na hayaan silang magsagawa ng mga pagkalkula ng malalim na pag-aaral. .

Ang mga chips na ito ay bahagi ng isang lumalagong takbo ng mga makabagong-likurang mga pagbabago na nagbibigay-daan sa aming mga aparato na pinalakas ng software na magsagawa ng hindi bababa sa ilang mga kritikal na pag-andar nang walang pare-pareho ang link sa ulap. Ang pagtaas ng computing ng gilid ay tumutulong sa paglutas ng mga problema bago at luma at paglalaan ng paraan para sa susunod na henerasyon ng mga matalinong aparato.

Hindi binubuksan ang ulap

Sa nakalipas na dalawang dekada, ang ulap ay naging paraan ng defacto sa pag-host ng mga aplikasyon, na may mabuting dahilan.

"Ang bagay na ginagawang kaakit-akit ng ulap ay na gustung-gusto nitong maibawas ang gastos ng pagsisimula ng anumang aktibidad na nais mong maisagawa, " sabi ni Rob High, CTO ng IBM Watson. "Ang ulap … nagpapahintulot sa mga tao na … malutas ang totoong mga problema ngayon nang hindi na kailangang dumaan sa gastos ng paglikha ng imprastruktura."

Sa maraming nakakabit na koneksyon sa internet at malapit sa hindi mabilang na mga aplikasyon ng ulap, serbisyo, at mga platform ng pag-unlad, ang mga hadlang sa paglikha at paggamit ng mga aplikasyon ay nabawasan nang malaki. Ang malawak na mapagkukunan ng mga tagapagbigay ng ulap tulad ng IBM, Google, at Amazon ay pinalakas ang pag-unlad hindi lamang ng mga walang kwenta na aplikasyon ng negosyo kundi pati na rin ng kumplikadong software na nangangailangan ng malawak na pagkalkula at pag-iimbak - AI at algorithm ng pag-aaral ng machine pati na rin streaming at AR (pinalaki na katotohanan) na aplikasyon.

Ngunit ang mga pagsulong na ito ay lumikha din ng isang hamon: Karamihan sa mga application na ginagamit namin ay hindi maaaring gumana maliban kung sila ay konektado sa ulap. Kasama dito ang karamihan sa mga application na tumatakbo sa mga computer at telepono pati na rin ang software sa mga fridges, termostat, mga kandado ng pinto, mga surveillance camera, kotse, drone, sensor ng panahon, at iba pa.

Sa pagdating ng Internet ng mga Bagay (IoT), ang pagtaas ng bilang ng mga aparato ay nagpapatakbo ng software at bumubuo ng data, at karamihan sa mga ito ay mangangailangan ng isang link sa ulap upang mag-imbak at magproseso ng data na iyon. Ang dami ng lakas at bandwidth na kinakailangan upang maipadala ang data na iyon sa ulap ay napakalawak, at ang puwang na kailangan upang maiimbak ang data ay tutulan ang mga mapagkukunan ng kahit na ang pinakamalakas na mga behemoth na ulap.

"Maraming data na kinokolekta namin sa mga sistemang ito, nasa gilid man ito, o ito ay isang IoT aparato, o anumang iba pang lugar, na halos makakapagpasya kang huwag alalahanin, " sabi ng Mataas. Ngunit kung ang bawat desisyon ay dapat maganap sa ulap, ang lahat ng data na iyon ay kailangang maipadala sa buong network sa mga server ng ulap upang mai-scrub at ma-filter.

Bilang halimbawa, ang mga Mataas na pangalan ay mga modernong eroplano, na naglalaman ng daan-daang mga sensor na sinusubaybayan ang mga jet engine at nangongolekta ng daan-daang gigabytes ng katayuan at data ng pagganap sa bawat flight. "Ilan sa mga data na iyon ang mahalaga kung nais mong pag-aralan ito sa isang pinagsama-sama? Marahil ay isang maliit na bahagi lamang nito, " sabi ng Mataas. "Bakit hindi mo na lang tanggalin ito sa pinagmulan kapag hindi kinakailangan para sa anumang ginagawa mo?"

Ang paggawa ng kung ano ang High nagmumungkahi sa labas ng ulap ay dati lahat ngunit imposible, ngunit ang pagsulong sa mga mababang-kapangyarihan, murang mga System-on-Chip (SoC) na mga prosesor ay nagbigay ng mga aparato sa gilid ng mas maraming kapangyarihan ng computing at hayaan silang balikat ang ilan sa mga computational na pasanin ng kanilang ecosystem, tulad ng pagsasagawa ng real-time na analytics o pag-filter ng data.

"Maraming data sa paligid ng kapaligiran, makatuwiran na dalhin ang ilan sa mga kakayahan sa computing ng ulap sa kapasidad ng computational ng aparato sa gilid, " sabi ng Mataas.

Mga Alalahanin sa Pagkapribado

Ang mga benepisyo sa pag-compute ng edge ay hindi limitado sa pag-freeze ng mga mapagkukunan ng ulap.

Si Remi El-Ouazzane, New Technology Group at General Manager sa Movidius (Intel), ay binabanggit ang mga komersyal na security camera bilang isa pang halimbawa ng kapag ang pag-computing ng gilid ay maaaring gumawa ng isang malaking pagkakaiba. Nakikita mo ang mga camera na ito sa mga ilaw ng trapiko, sa mga paliparan, at sa pasukan ng mga gusali, pag-record at streaming ng mataas na kalidad na video sa buong network.

"Ang mas kaunting data na kailangan mong ibalik sa isang server o data center, mas maraming pag-scrub at finessing na maaari mong gawin sa lokal, mas mahusay ang iyong pangkalahatang gastos ng pagmamay-ari ay mula sa isang pananaw sa pag-iimbak at paglipat, " sabi ni El-Ouazzane.

Nangangahulugan ito ng pagbibigay ng mga camera ng lakas upang pag-aralan ang kanilang sariling mga video feed, matukoy kung aling mga frame o haba ng video ang nangangailangan ng pansin, at ipadala lamang ang data na iyon sa server.

Kapag ang mga camera ay naka-install sa iyong bahay, sa iyong tanggapan, o anumang pribadong lokasyon, ang koneksyon sa cloud ay nagiging isang potensyal na pag-aalala sa seguridad. Ang mga hacker at security researcher ay nagawang kompromiso ang koneksyon sa pagitan ng mga gamit sa bahay at sa kanilang mga server ng ulap upang maagap ang mga sensitibong feed ng video. Ang pag-parsing ng data nang lokal ay nakakaapekto sa pangangailangan na magkaroon ng isang conduit ng video sa pagitan ng iyong bahay, iyong pribadong buhay, at isang service provider.

Si Movidius, na nakuha ng Intel noong 2016, ay isa sa maraming mga startup na gumagawa ng mga computer chips na dalubhasa para sa mga gawain ng AI tulad ng pagkilala sa pagsasalita at pangitain sa computer. Ang kumpanya ay gumagawa ng Mga Pananaliksik sa Pagproseso ng Mga Yunit (VPU) - mga proseso ng mga kapangyarihan na nagpapatakbo ng mga network ng neural na nagsasuri at "nauunawaan" ang konteksto ng mga digital na imahe nang hindi kinakailangang ipadala ang mga ito pabalik sa ulap.

Ang Movidius Myriad 2 ay isang palaging processor ng pangitain na ginawa para sa mga nakapaloob na kapangyarihan.

"Kapag nauunawaan ng camera ang mga semantika kung ano ang tinitingnan nito, kung gayon ang kakayahang magpataw ng mga patakaran sa kung ano ang magagawa o hindi magagawa ng camera ay naging isang napakadaling gawain, " sabi ni El-Ouazzane. "Hindi mo na kailangang aktwal na makuha ang iyong sala sa susunod na 12 oras upang malaman mo na, sa isang naibigay na oras, ang iyong aso ay tumawid sa karpet sa harap ng sofa."

Ang iba pang mga kumpanya ay naggalugad ng paggamit ng dalubhasang computing ng AI na pinapagana ng gilid upang mapanatili ang privacy ng gumagamit. Ang Apple iPhone X, halimbawa, ay pinalakas ng A11 Bionic chip, na maaaring magpatakbo ng mga gawain sa AI nang lokal, na pinapayagan itong magsagawa ng kumplikadong pagkilala sa facial nang hindi ipadala ang mugshot ng gumagamit sa ulap.

Marami pang pagproseso ng AI sa gilid ay maaaring magbayad ng paraan para sa desentralisadong artipisyal na katalinuhan, kung saan ang mga gumagamit ay kailangang magbahagi ng mas kaunting data sa mga malalaking kumpanya upang magamit ang mga aplikasyon ng AI.

Pagbabawas ng Latency

Ang isa pang problema sa mga malalaking provider ng ulap ay ang kanilang mga data center ay matatagpuan sa labas ng malalaking lungsod, na inilalagay ang mga ito daan-daang at libu-libong milya ang layo mula sa mga tao at aparato gamit ang kanilang mga aplikasyon.

Sa maraming mga kaso, ang latency na dulot ng data na naglalakbay patungo at mula sa ulap ay maaaring magbunga ng hindi magandang pagganap, o mas masahol pa, nakamamatay na mga resulta. Maaari itong maging isang drone na sinusubukan upang maiwasan ang pagbangga o pag-landing sa hindi pantay na lupa, o isang kotse na nagmamaneho sa sarili na nagsisikap na magpasya kung tumatakbo ito sa isang balakid o isang pedestrian.

Ang magaan na pagpapatupad ni Movidius ng malalim na neural network at computer vision ay ginagawang angkop sa mga chips ng mobile na mga aparatong tulad ng mga drone, kung saan hindi makakaya ang mga gamit na kapangyarihan tulad ng GPU. Ang mga drone ay isang partikular na kagiliw-giliw na pag-aaral, dahil kailangan nila ang mababang-latency na pag-access sa pagkalkula ng AI at dapat na patuloy na gumana sa mga setting ng offline.

Ang pag-deteksyon ng kilos bilang isa pang lugar kung saan ang gilid ng computing ay tumutulong upang mapagbuti ang karanasan sa drone. "Ang layunin ay upang gawing maa-access ang mga drone para sa maraming tao, at ang gesture ay tila isang magandang paraan para magamit ito ng mga tao. Mahalaga ang latency kapag gesture mo ang drone upang maisagawa ang ilang gawain, " sabi ni El-Ouazzane.

Para sa mga startup tulad ng Skylift Global, na nagbibigay ng mga mabibigat na serbisyo ng drone upang iligtas ang mga manggagawa at unang sumasagot, ang pag-access sa mababang pag-access sa AI at mga pagkukunan ng compute ay maaaring makatipid ng pera at buhay. "Ito ay makabuluhang i-cut ang mga gastos sa ingestion ng data, bawasan ang latency ng network, dagdagan ang seguridad, at makakatulong na i-stream ang data sa mga desisyon sa real-time, " sabi ni Amir Emadi, ang CEO at tagapagtatag ng Skylift.

Ang paghahatid ng mga supply sa mga unang tumugon ay nangangailangan ng split-second decision. "Ang mas maraming oras na lumipas, halimbawa sa pakikipaglaban sa isang wildfire, ang gastos ay nagiging lunas sa sitwasyon. Dahil ang ating mga drone ay may kakayahang gumawa ng mga tunay na desisyon sa gilid kahit na nawalan sila ng pagkakakonekta, magagawa nating makatipid ng higit buhay, pera, at oras, "sabi ni Emadi.

Ang iba pang mga domain na nangangailangan ng malapit-real-time na computation ay pinalaki- at ​​virtual-reality application at autonomous na mga sasakyan. "Ito ang lahat ng mga nakabatay sa karanasan sa computing na nakabase sa karanasan. Mangyayari ang mangyayari sa paligid ng mga tao, " sabi ni Zachary Smith, CEO ng Packet, isang startup na nakabase sa New York na nakatuon sa pagpapagana ng mga developer na ma-access ang lubos na ipinamamahagi na hardware.

Ang isang AR o aplikasyon ng VR na hindi makasabay sa mga paggalaw ng gumagamit ay maaaring magdulot ng pagkahilo o maiiwasan ang karanasan mula sa pagiging immersive at tunay. At ang pagiging latency ay magiging higit pa sa isang problema kapag ang mga kotse na nagmamaneho sa sarili, na lubos na umaasa sa paningin ng computer at mga algorithm ng pag-aaral ng machine, ay maging pangunahing.

"Ang isang 30-millisecond latency ay hindi mahalaga para sa pag-load ng iyong webpage ngunit talagang mahalaga para sa isang kotse upang matukoy sa 60mph kung dapat itong lumiko pakaliwa o pakanan upang maiwasan ang pag-crash sa isang maliit na batang babae, " sabi ni Smith.

Natugunan ang mga Hamon ng Edge

Sa kabila ng pangangailangang mapalapit ang gilid ng kompyuter, ang paglalagay ng dalubhasang hardware sa bawat aparato ay maaaring hindi pangwakas na sagot, ayon kay Smith. "Bakit hindi lamang ilagay ang lahat ng mga computer sa kotse? Sa palagay ko talagang may kaugnayan ito sa ebolusyon kung gaano kabilis makontrol mo ang lifecycle ng iyon, " sabi niya.

"Kapag inilalagay mo ang hardware sa mundo, karaniwang mananatili roon ng limang hanggang 10 taon, " sabi ni Smith, habang ang tech na nagbibigay kapangyarihan sa mga kaso na nakabatay sa karanasan na ito ay umuusbong tuwing anim hanggang 12 buwan.

Kahit na ang mga napakalaking kumpanya na may kumplikadong mga kadena ng supply ay madalas na nagpupumilit sa pag-update ng kanilang hardware. Noong 2015, kailangang alalahanin ng Fiat Chrysler ang 1.4 milyong mga sasakyan upang ayusin ang kahinaan sa seguridad na nakalantad ng limang taon bago nito. At ang higanteng chipmaker Intel ay nag-scrambling pa rin upang makitungo sa isang disenyo na kapintasan na naglalantad ng daan-daang milyong mga aparato sa mga hacker.

Kinilala ng mga hamong ito ang Movidius's El-Ouazzane. "Alam namin na bawat taon ay kailangan nating baguhin ang isang hanay ng mga produkto, dahil bawat taon ay magdadala tayo ng mas maraming katalinuhan sa gilid, at hihilingin namin sa aming mga customer na mag-upgrade, " sabi niya.

Upang maiwasan ang patuloy na paggunita at upang hayaan ang mga customer na gumawa ng pang-matagalang paggamit ng kanilang mga hardware sa gilid, Inihahanda ni Movidius ang mga processors nito na may labis na mga mapagkukunan at kapasidad. "Kailangan namin ang kakayahan sa susunod na ilang taon upang maisagawa ang mga pag-upgrade sa mga produktong iyon, " sabi ni El-Ouazzane.

Ang Packet, kumpanya ni Smith, ay gumagamit ng ibang pamamaraan: Lumilikha ito ng mga micro data center na maaaring ma-deploy sa mga lungsod, mas malapit sa mga gumagamit. Pagkatapos ay maaring magbigay ng kumpanya ang mga developer ng napakababang mga mapagkukunan ng computational-malapit na makukuha mo sa mga gumagamit nang hindi inilalagay ang aktwal na hardware.

"Ito ay ang aming paniniwala na magkakaroon ng pangangailangan para sa isang mekanismo ng paghahatid ng imprastraktura upang ilagay ang hardware na maaaring ma-access ng mga developer sa bawat lungsod sa buong mundo, " sabi ni Smith. Ang kumpanya ay nagpapatakbo sa 15 mga lokasyon at plano upang kalaunan mapalawak sa daan-daang mga lungsod.

Ngunit ang mga ambisyon ng Packet ay higit pa kaysa sa paglikha ng mga pinaliit na bersyon ng mga nakasisilaw na pasilidad na pinatatakbo ng mga kagustuhan ng Google at Amazon. Tulad ng ipinaliwanag ni Smith, ang paggamit at pag-update ng dalubhasang hardware ay hindi magagawa sa pampublikong ulap. Sa modelo ng negosyo ng Packet, ang mga tagagawa at mga developer ay nagtataglay ng dalubhasang hardware sa mga sentro ng data ng gilid ng kumpanya, kung saan maaari nilang mabilis na mai-update at i-refresh ito kapag ang pangangailangan, habang tinitiyak din na ang kanilang mga gumagamit ay nakakakuha ng sobrang matatag na pag-access sa mga mapagkukunan ng computing.

Si Hatch, isa sa mga customer ng Packet, ay isang pag-ikot mula sa Rovio, ang mobile gaming company na lumikha ng Angry Birds. Ang kumpanya ay nagpapatakbo ng Android sa mga server na nasa gilid-computing upang magbigay ng mga mababang-latency na Multiplayer Multiplayer gaming gaming na mga serbisyo sa mga gumagamit na may mga mababang aparato sa Android.

"nangangailangan ng medyo dalubhasang mga ARM server sa lahat ng mga pamilihan sa buong mundo, " sabi ni Smith. "Pinasadya nila ang mga pagsasaayos ng alok ng aming server, at inilalagay namin ito sa walong pandaigdigang merkado sa buong Europa, at sa lalong madaling panahon ito ay magiging 20 o 25 na merkado. Narito ang pakiramdam sa Amazon sa kanila, ngunit nakakuha sila upang patakbuhin ang pasadyang hardware sa bawat merkado sa Europa . "

Sa teoryang, maaaring gawin ni Hatch ang parehong bagay sa pampublikong ulap, ngunit ang mga gastos ay gagawing isang hindi mahusay na negosyo. "Ang pagkakaiba ay sa pagitan ng paglalagay ng 100 mga gumagamit bawat CPU kumpara sa paglalagay ng 10, 000 mga gumagamit bawat CPU, " sabi ni Smith.

Naniniwala si Smith na ang modelong ito ay mag-apela sa henerasyon ng developer na magdadala sa susunod na mga makabagong software. "Ang tinutuon namin ay kung paano ikonekta ang henerasyon ng software, mga taong lumaki sa ulap, na may dalubhasang mga primitibo ng hardware, " sabi ni Smith. "Pinag-uusapan namin ang tungkol sa mga gumagamit na hindi maaaring buksan ang kanilang MacBook upang tumingin sa loob, at iyon ang taong magpabago sa hardware / software stack."

Magtatanggal ba ang mga ulap?

Sa pamamagitan ng mga aparato sa gilid na may kakayahang magsagawa ng mga kumplikadong mga gawain sa computational, nasa hinaharap ba ang ulap ng ulap?

"Sa akin, ang gilid ng computing ay isang likas at lohikal na susunod na pag-unlad ng cloud computing, " sabi ng HighM sa IBM Watson.

Sa katunayan, noong 2016, inilunsad ng IBM ang isang hanay ng mga tool na hayaan ang mga developer na walang putol na namamahagi ng mga gawain sa pagitan ng gilid at ulap, lalo na sa mga IoT ecosystem, kung saan ang mga aparato ng gilid ay nangolekta ng maraming data tungkol sa kanilang agarang kapaligiran. At sa huling bahagi ng 2016, ang Amazon Web Services, isa pang pangunahing platform sa pag-unlad ng ulap, ay inihayag ang Greengrass, isang serbisyo na nagpapahintulot sa mga developer ng IoT na magpatakbo ng mga bahagi ng kanilang mga aplikasyon sa ulap sa kanilang mga aparato sa gilid.

Wala rito ay nangangahulugang ang ulap ay aalis. "Marami lamang ang mga bagay na mas mahusay na ginagawa sa ulap, kahit na ang maraming trabaho ay ginagawa pa rin sa gilid, " sabi ng Mataas. Kasama dito ang mga gawain tulad ng pag-iipon ng data mula sa maraming iba't ibang mga mapagkukunan at paggawa ng malakihang analytics na may malaking mga database.

"Kung kailangan nating lumikha ng mga modelo sa mga algorithm ng AI na ginagamit namin sa mga aparato sa gilid na ito, ang paglikha at pagsasanay sa mga modelong ito ay pa rin isang napakalawak na problema sa computational-intensive at madalas na nangangailangan ng computational na kapasidad na higit sa kung ano ang magagamit sa mga gilid na aparato, " Mataas sabi.

Sumasang-ayon si El-Ouzzane. "Ang kakayahang sanayin ang mga modelo ng AI sa lokal ay sobrang limitado, " sabi niya. "Mula sa isang malalim na pananaw sa pag-aaral, ang pagsasanay ay may isang lugar lamang upang maupo, at ito ay nasa ulap, kung saan makakakuha ka ng sapat na mga mapagkukunan ng compute at sapat na imbakan upang makitungo sa mga malalaking database."

Ang mga probisyon ng El-Ouazzane ay gumagamit ng mga kaso kung saan ang mga aparato ng gilid ay itinalaga sa mga gawain na may misyon at kritikal na oras, habang ang ulap ay nangangalaga sa mas advanced na inferencing na hindi nakasalalay sa latency. "Kami ay nabubuhay sa isang mundo ng pagpapatuloy sa pagitan ng ulap at sa gilid."

"Mayroong napaka-symbiotic at synergistic na relasyon sa pagitan ng gilid ng computing at cloud computing, " sabi ng Mataas.