Taristu
Google esitles TPU 8tx-i ja 8i Maxi: andmekaitse ning mäluvajadus suunavad taristuvalikut
Google’i uued TPU-süsteemid keskenduvad konfidentsiaalsele töötlusele ja suurele kontekstile. Esitlus ei kinnita üldist saadavust; töövoo kaitset ja kogukulu tuleb eraldi kontrollida.
Toimetaja Kristjan Krimm · Avaldatud · 5 min lugemist
- Olulisus
- Sihtrühm
- Kõik
- Allikaid
- 2
- Esmaallikas

Arengulugu
Taristu
Viimase 60 päeva seismograaf: 139 signaali. Joone kõrgus näitab olulisust.
Mis juhtus
Google’i uued TPU-süsteemid keskenduvad konfidentsiaalsele töötlusele ja suurele kontekstile. Esitlus ei kinnita üldist saadavust; töövoo kaitset ja kogukulu tuleb eraldi kontrollida.
Miks see loeb
Taristuvalik sõltub lisaks arvutusvõimsusele andmete töötluskaitsest ja mäluvajadusest. Saadavus, andmete asukoht, õigused ja tegelik kogukulu vajavad eraldi kinnitamist.
Sisukord
Lühidalt
4 põhipunkti- Google esitles 9. novembril TPU 8tx-i ja TPU 8i Maxi süsteeme.
- 8tx on suunatud konfidentsiaalsele mudelikäitusele ja andmete kaitsmisele töötlemise ajal.
- 8i Max ühendab kaks TPU 8i kiipi, et suurendada arvutus- ja mäluressurssi mahuka kontekstiga tööks.
- Esitlus ei kinnita kõigi klientide kohest ligipääsu ega lahenda üksinda töövoo andmekaitsenõudeid.
Google laiendas kaheksanda põlvkonna TPU-valikut kahe süsteemiga, mille fookused on erinevad. 9. novembri ametlik teade kirjeldab 8tx-i konfidentsiaalseks töötluseks ja 8i Maxi suure infomahu korraga käsitlemiseks. Reutersi kajastus kinnitab esitlust ning nende erinevat sihti.
Google rõhutab, et uus süsteem ei tähenda tingimata täiesti uut kiipi. Muuta saab olemasoleva kiibi ümber ehitatud arvutuse, mälu, võrgu ja pakenduse kooslust. Seetõttu tasub ostuotsuses uurida terviklikku konfiguratsiooni, mitte võrrelda ainult kiibinimesid.
Buildrya jaoks tekib kaks eraldi küsimust: kas tundlikku sisendit saab lubatud tingimustel töödelda ning kas mahukas töö saab senisest parema hinna ja viivitusega valmis. Vastused vajavad teenuse tingimusi ja oma koormuse mõõtmist. Käesolev analüüs ei esita AI-Radari enda riistvaratesti tulemusi.
Konfidentsiaalne töötlus puudutab üht kaitsekihti
Google’i kirjelduse järgi kasutab 8tx TPU 8t kiibitehnoloogiat koos AMD protsessoritega ning kaitseb andmeid ja mudelikaale ka aktiivse töötluse ajal. See on ettevõtte tehniline kirjeldus. Ühe funktsiooni olemasolust ei saa tuletada kõigi rakenduse kaudu toimuvate andmeliikumiste kaitstust.
Töövoo kavandamisel võiks kõigepealt joonistada sisendi teekonna: kust dokument loetakse, milline teenus selle ette valmistab, kuhu saadetakse päring ja kus vastus säilib. Iga etapi juurde tuleb märkida, kes saab andmeid lugeda või muuta. Nii selgub, millisele lõigule uus riistvaraline kaitse üldse rakenduks.
Eraldi tuleb kontrollida logisid ja abiteenuseid. Kui rakendus salvestab tundliku sisendi oma vealogisse, ei vasta kiirendi turvaomadus selle logi ligipääsu küsimusele. Samuti vajavad oma kontrolli väljundid, mida agent saadab järgmisele tööriistale.
Asukoht ja õigused vajavad eraldi vastust
Andmete asukohta puudutav nõue tuleb seostada konkreetse teenuse ja piirkonnaga. Süsteemi esitlemine ei tõenda, et soovitud konfiguratsioon on ettevõttele sobivas piirkonnas juba tellitav. Seda tuleks kinnitada teenusepakkuja dokumentatsiooni või konkreetse pakkumise kaudu.
Õiguste puhul võiks alustada minimaalsest tööks vajalikust ligipääsust. Näiteks dokumendi analüüs ei pruugi vajada võimalust muuta sama dokumendi algallikat. Kui agendil on välise süsteemi kirjutusõigus, peab rakendus kontrollima nii sihtobjekti kui ka lubatud muudatust.
Selline eristus aitab vältida olukorda, kus kaitstud arvutuskeskkonda käsitletakse üldise loana kõiki andmeid sinna saata. Sobivuse otsus eeldab nii andmekategooriate, lepinguliste tingimuste kui ka tegeliku tehnilise lahenduse vaatamist. See lugu ei anna hinnangut ühegi konkreetse ettevõtte õiguslikule vastavusele.
Rohkem mälu ei asenda tulemi kontrolli
8i Max koondab Google’i teatel kaks TPU 8i kiipi ühte pakendusse. Ettevõte seob selle suuremate kontekstiakende ja mäluvajadusega töödega. Rohkem sisendit korraga töödelda ja sellest õige järeldus teha on siiski eri mõõdikud.
Näiteks terve koodibaasi ülevaatuse puhul võiks katse küsida, kas mudel leiab konkreetse sõltuvuse ja esitab kontrollitava muudatuse. Võrdluses peaks olema teada, millised failid sisaldavad vajalikku tõendit. Vastasel juhul võib pikk vastus näida põhjalik ka siis, kui keskne seos jäi leidmata.
Kasulik oleks võrrelda kahte tööviisi: kogu materjal korraga ning valitud osade järkjärguline laadimine. Mõlema puhul tuleb mõõta sama lõpptulemust. Mälu suurendamise väärtus selgub siis, kui see vähendab puudulikke vastuseid või vajalikku kordustööd, mitte ainult sisendi lubatud pikkust.
Võrdluse aluseks sobib kogu töö maksumus
Taristukatse võiks hoida mudeli ja ülesande samana ning muuta ainult uuritavat süsteemikonfiguratsiooni. Kui korraga vahetada mudelit, täpsust, konteksti ja tööriistu, muutub ebaselgeks, millest erinevus pärines. Kõik seadistused tuleks katse juurde salvestada.
Kulusse peaksid minema lisaks arvutusajale andmete laadimine, salvestus ja testideks vajalik töö. Samuti tuleb märkida ooteaeg enne töö algust. Ettevõttele võib olla oluline just see, millal kontrollitud tulemus valmis saab, isegi kui aktiivne arvutus kestab vähe.
Ühe kiire jooksu asemel tasub vaadata korduste jaotust. Tavalise viivituse kõrval on kasulik teada aeglaste juhtumite kestust ning ebaõnnestunud tööde arvu. Google’i jõudlusväited annavad põhjuse katsetada, kuid neist ei saa arvutada oma rakenduse tulemust ilma mõõtmiseta.
Enne pilooti kinnita tegelik saadavus
Esimene praktiline samm võiks olla täpse teenuse, piirkonna, kvoodi ja hinnastamise kinnitamine. Väljalasketeate kuupäev tähistab siin esitlust. Loos ei väideta, et mõlemad süsteemid olid samal päeval kõigile klientidele üldiselt avatud.
Seejärel saab koostada väikese piloodi, mille edu mõõdetakse kokkulepitud väljundi, viivituse ja kogukulu kaudu. Tundliku töö puhul tuleb enne pärisandmete lisamist kontrollida kogu andmeteed. Nii saab eristada riistvara lubatud kasu sellest, mida konkreetne rakendus tegelikult saavutab.
Turvafunktsiooni mõju uurimiseks võiks esmalt küsida, kas pakkuja võimaldab võrreldavat konfiguratsiooni sama mudeli ja sama koormusega. Kui tingimused erinevad, tuleb erinevus raportis nähtavaks jätta. Ühe süsteemi tulemust ei tohi jagada teise süsteemi hinnaga ega kanda väikese koormuse mõõtmist otse tipptunni peale üle. Mõõtmise juurde kuulub ka kirjeldus, milline osa keskkonnast oli mõlemas katses tegelikult sama ja milline jäi kontrollimata.
Juhtpilt: Google’i ametlik graafika, millel on eraldi tähistatud TPU 8tx ja TPU 8i Max. Krediit: Google; kasutatud samu süsteeme käsitlevas toimetuslikus kajastuses.
KKK
Korduma kippuvad küsimused
Kas Google teatas kahest täiesti uuest kiibist?
Ettevõte kirjeldab neid uute TPU-süsteemidena olemasoleva põlvkonna tehnoloogia ümber. Süsteemi juurde kuuluvad ka mälu, võrk ja pakendus.
Mille jaoks on TPU 8tx?
Google suunab selle konfidentsiaalsele mudelikäitusele ja tundlike andmetega töödele. Kaitse ulatust tuleb hinnata koos kogu rakenduse andmete liikumisega.
Mida annab TPU 8i Max?
Google’i järgi ühendab see kaks TPU 8i kiipi ning suurendab arvutus- ja mäluressurssi. Konkreetse pika kontekstiga ülesande kasu vajab oma mõõtmist.
Kas esitlus tähendab kohe tellitavat teenust?
Üldist saadavust kõigile klientidele ei saa sellest järeldada. Piirkond, kvoot ja kasutusõigus tuleb konkreetse teenuse jaoks kinnitada.
Kas riistvaraline kaitse tõendab andmekaitsenõuete täitmist?
Üks tehniline kaitsefunktsioon ei vasta kõigile asukoha, õiguste ja säilitamise küsimustele. Need tuleb kontrollida eraldi koos lepingute ning rakenduse ülesehitusega.