Generatiivinen tekoäly (AI) muuttaa asiakaskokemusta toimialoilla ympäri maailmaa. Asiakkaat rakentavat generatiivisia tekoälysovelluksia käyttämällä suuria kielimalleja (LLM) ja muita perusmalleja (FM), jotka parantavat asiakaskokemusta, muuttavat toimintaa, parantavat työntekijöiden tuottavuutta ja luovat uusia tulokanavia.

FM:t ja niiden ympärille rakennetut sovellukset ovat erittäin arvokkaita investointeja asiakkaillemme. Niitä käytetään usein erittäin arkaluontoisten yritystietojen, kuten henkilötietojen, vaatimustenmukaisuustietojen, toimintatietojen ja taloustietojen kanssa, mallin tuloksen optimoimiseksi. Suurin huolenaihe, jota kuulemme asiakkailta, kun he tutkivat generatiivisen tekoälyn etuja, on kuinka suojella erittäin arkaluonteisia tietojaan ja sijoituksiaan. Koska heidän tietonsa ja mallinsa painot ovat uskomattoman arvokkaita, asiakkaat vaativat heidän pysymistä suojattuna, suojattuna ja yksityisenä, olipa kyse sitten heidän omista järjestelmänvalvojan tileistään, asiakkaistaan, heidän omassa ympäristössään toimivien ohjelmistojen haavoittuvuuksista tai jopa pilvipalveluntarjoajansa takia. pääsy.

AWS:ssä tärkein prioriteettimme on asiakkaidemme työtaakan turvallisuuden ja luottamuksellisuuden turvaaminen. Ajattelemme turvallisuutta generatiivisen AI-pinomme kolmella kerroksella:

• Pohjakerros – Tarjoaa työkalut LLM:ien ja muiden FM:ien rakentamiseen ja kouluttamiseen
• Keskikerros – Tarjoaa pääsyn kaikkiin malleihin sekä työkalut, joita tarvitset luovien tekoälysovellusten rakentamiseen ja skaalatamiseen
• Yläkerros – Sisältää sovelluksia, jotka käyttävät LLM:itä ja muita FM:itä tekemään työstä stressitöntä kirjoittamalla ja virheenkorjauksella koodia, luomalla sisältöä, hankkimalla oivalluksia ja ryhtymällä toimiin

Jokainen kerros on tärkeä, jotta generatiivisesta tekoälystä tulee kaikkialle leviävä ja muuntava.

Kanssa AWS Nitro -järjestelmä, toimitimme asiakkaidemme puolesta lajissaan ensimmäisen innovaation. Nitro System on vertaansa vailla oleva AWS:n laskentarunko, jonka ytimessä on turvallisuus ja suorituskyky. Sen erikoislaitteet ja siihen liittyvät laiteohjelmistot on suunniteltu valvomaan rajoituksia, jotta kukaan, mukaan lukien AWS:n käyttäjät, ei pääse käsiksi työkuormituksiisi tai laitteessasi oleviin tietoihin. Amazonin elastinen laskentapilvi (Amazon EC2) -tapauksissa. Asiakkaat ovat hyötyneet tästä luottamuksellisuudesta ja AWS-operaattoreiden eristämisestä kaikissa Nitro-pohjaisissa EC2-esiintymissä vuodesta 2017 lähtien.

Suunniteltuna ei ole mekanismia, jolla yksikään Amazonin työntekijä pääsisi Nitro EC2 -esiintymään, jota asiakkaat käyttävät työkuormituksensa suorittamiseen, tai päästä käsiksi tietoihin, joita asiakkaat lähettävät koneoppimiskiihdytin (ML) -kiihdytin tai GPU. Tämä suojaus koskee kaikkia Nitro-pohjaisia ​​ilmentymiä, mukaan lukien ilmentymät, joissa on ML-kiihdyttimiä, kuten AWS Inferencia ja AWS Trainium, ja esiintymät, joissa on GPU:t, kuten P4, P5, G5 ja G6.

Nitro-järjestelmä mahdollistaa Elastinen kangasadapteri (EFA), joka käyttää AWS:n rakentamaa AWS Scalable Reliable Datagram (SRD) -viestintäprotokollaa pilvimittakaavaiseen joustavaan ja laajamittaiseen hajautettuun koulutukseen, mikä mahdollistaa ainoan aina salatun Remote Direct Memory Access (RDMA) -yhteensopivan verkon. Kaikki viestintä EFA:n kautta on salattu VPC-salaus ilman suoritusrangaistusta.

Nitro Systemin suunnittelu on ollut NCC Groupin hyväksymä, riippumaton kyberturvallisuusyritys. AWS tarjoaa korkeatasoisen suojan asiakkaiden työkuormille, ja uskomme, että tämä on tietoturva- ja luottamuksellisuustaso, jota asiakkaiden tulee odottaa pilvipalveluntarjoajaltaan. Tämä suojaustaso on niin tärkeä, että olemme lisänneet sen tietoomme AWS-palveluehdot tarjotaksemme lisävarmuutta kaikille asiakkaillemme.

Innovoimme turvallisia generatiivisia tekoälytyökuormia AWS-alan johtavien tietoturvaominaisuuksien avulla

Ensimmäisestä päivästä lähtien AWS AI -infrastruktuurissa ja -palveluissa on ollut sisäänrakennettuja suojaus- ja tietosuojaominaisuuksia, joiden avulla voit hallita tietojasi. Kun asiakkaat siirtyvät nopeasti ottamaan käyttöön luovaa tekoälyä organisaatioissaan, sinun on tiedettävä, että tietojasi käsitellään turvallisesti koko tekoälyn elinkaaren ajan, mukaan lukien tietojen valmistelu, koulutus ja päättely. Mallin painojen turvallisuus – parametrit, jotka malli oppii harjoituksen aikana ja jotka ovat kriittisiä sen kyvylle tehdä ennusteita – on ensiarvoisen tärkeää tietojesi suojaamisessa ja mallin eheyden ylläpitämisessä.

Tästä syystä on tärkeää, että AWS jatkaa innovointia asiakkaidemme puolesta nostaakseen turvarimaa generatiivisen tekoälypinon jokaisessa kerroksessa. Tämän tekemiseksi uskomme, että sinulla on oltava suojaus ja luottamuksellisuus sisäänrakennettuna generatiivisen AI-pinon jokaiselle tasolle. Sinun on kyettävä turvaamaan infrastruktuuri LLM:iden ja muiden FM:ien kouluttamiseen, rakentaa turvallisesti työkaluilla LLM:iden ja muiden FM:ien suorittamiseen ja ajaa sovelluksia, jotka käyttävät FM:iä sisäänrakennetulla suojauksella ja yksityisyydellä, joihin voit luottaa.

AWS:ssä tekoälyinfrastruktuurin suojaaminen tarkoittaa sitä, että kaikki luvattomat henkilöt eivät pääse käsiksi arkaluontoisiin tekoälytietoihin, kuten tekoälymallien painotuksiin ja näillä malleilla käsiteltäviin tietoihin, joko infrastruktuurin operaattorin tai asiakkaan luona. Se koostuu kolmesta keskeisestä periaatteesta:

1. Tekoälytietojen täydellinen eristäminen infrastruktuurin operaattorilta – Infrastruktuurin ylläpitäjällä ei saa olla pääsyä asiakkaiden sisältöön ja tekoälytietoihin, kuten tekoälymallien painoihin ja malleilla käsiteltyihin tietoihin.
2. Asiakkaiden mahdollisuus eristää tekoälydataa itsestään – Infrastruktuurin tulee tarjota mekanismi, joka mahdollistaa mallien painojen ja tietojen lataamisen laitteistoon, samalla kun se pysyy eristettynä ja saavuttamattomissa asiakkaiden omista käyttäjiltä ja ohjelmistoilta.
3. Suojattu infrastruktuuriviestintä – ML-kiihdytysinfrastruktuurin laitteiden välinen tiedonsiirto on suojattava. Kaikkien ulkoisesti käytettävissä olevien linkkien laitteiden välillä on oltava salattuja.

Nitro-järjestelmä täyttää suojatun AI-infrastruktuurin ensimmäisen periaatteen eristämällä tekoälytietosi AWS-operaattoreista. Toinen periaate tarjoaa sinulle tavan poistaa omien käyttäjien ja ohjelmistojen järjestelmänvalvojan käyttöoikeudet tekoälytietoihisi. AWS tarjoaa sinulle tavan saavuttaa se, mutta teimme siitä myös suoraviivaisen ja käytännöllisen investoimalla integroidun ratkaisun rakentamiseen AWS Nitro Enclaves ja AWS-avainhallintapalvelu (AWS KMS). Nitro Enclavesin ja AWS KMS:n avulla voit salata arkaluontoiset tekoälytietosi omistamillasi ja hallitsemillasi avaimilla, tallentaa tiedot valitsemaasi paikkaan ja siirtää salatut tiedot turvallisesti eristettyyn laskentaympäristöön päätelmiä varten. Koko tämän prosessin ajan arkaluontoiset tekoälytiedot salataan ja eristetään omista käyttäjistäsi ja ohjelmistoistasi EC2-instanssissasi, eivätkä AWS-operaattorit pääse käsiksi näihin tietoihin. Käyttötapaukset, jotka ovat hyötyneet tästä virtauksesta, sisältävät juoksemisen LLM päättely erillisalueella. Tähän päivään asti Nitro Enclaves toimivat vain prosessorissa, mikä rajoittaa suurempien generatiivisten AI-mallien ja monimutkaisemman käsittelyn mahdollisuuksia.

Ilmoitimme suunnitelmistamme laajentaa tätä Nitro päästä päähän -salattua kulkua sisältämään ensiluokkainen integraatio ML-kiihdyttimien ja GPU:iden kanssa, mikä täyttää kolmannen periaatteen. Pystyt purkamaan ja lataamaan arkaluontoista tekoälydataa ML-kiihdyttimeen käsittelyä varten ja samalla eristämään omia operaattoreitasi ja varmistamaan tekoälytietojen käsittelyyn käytetyn sovelluksen aitouden. Nitro-järjestelmän kautta voit vahvistaa sovelluksesi salausteknisesti AWS KMS:lle ja purkaa tietojen salauksen vasta, kun tarvittavat tarkistukset ovat läpäisseet. Tämän parannuksen ansiosta AWS voi tarjota päästä päähän -salauksen tiedoillesi, kun ne kulkevat generatiivisten AI-työkuormien läpi.

Aiomme tarjota tämän päästä päähän -salatun kulun tulevassa AWS-suunnitellussa Trainium2 sekä NVIDIAn tulevaan Blackwell-arkkitehtuuriin perustuvat GPU-instanssit, jotka molemmat tarjoavat suojatun viestinnän laitteiden välillä, Secure AI Infrastructure -infrastruktuurin kolmannen periaatteen. AWS ja NVIDIA tekevät tiivistä yhteistyötä tuodakseen markkinoille yhteisen ratkaisun, mukaan lukien NVIDIAn uuden NVIDIA Blackwell GPU -alustan, joka yhdistää NVIDIAn GB200 NVL72 -ratkaisun Nitro System- ja EFA-teknologioihin tarjotakseen alan johtavan ratkaisun seuraavan sukupolven turvalliseen rakentamiseen ja käyttöönottoon. generatiivisia tekoälysovelluksia.

Edistää generatiivisen AI-turvallisuuden tulevaisuutta

Nykyään kymmenet tuhannet asiakkaat käyttävät AWS:ää kokeillakseen ja siirtääkseen muuntavia generatiivisia tekoälysovelluksia tuotantoon. Generatiiviset tekoälytyökuormat sisältävät erittäin arvokasta ja arkaluontoista dataa, joka tarvitsee omien operaattoreiden ja pilvipalveluntarjoajan suojaa. Asiakkaat, jotka käyttävät AWS Nitro -pohjaisia ​​EC2-esiintymiä, ovat saaneet tämän tason suojan ja eristyksen AWS-operaattorilta vuodesta 2017 lähtien, jolloin lanseerasimme innovatiivisen Nitro-järjestelmämme.

Jatkamme AWS:ssä tätä innovaatiota investoidessamme suorituskykyisten ja saavutettavien ominaisuuksien rakentamiseen, jotta asiakkaidemme olisi käytännöllistä turvata generatiivisen tekoälypinon kolmella tasolla luova tekoäly, jotta voit keskittyä tekemiseen. paras: generatiivisen tekoälyn rakentaminen ja käytön laajentaminen useammille alueille. Lue lisää tätä.

---

Tietoja kirjoittajista

Anthony Liguori on AWS:n VP ja EC2:n arvostettu insinööri

Colm MacCárthaigh on AWS:n varapääjohtaja ja EC2:n arvostettu insinööri

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/