Tämän viestin on kirjoittanut Jackie Rocca, tuotejohtaja, Slackin tekoäly

Slack on paikka, jossa työtä tapahtuu. Se on tekoälyllä toimiva työalusta, joka yhdistää ihmiset, keskustelut, sovellukset ja järjestelmät yhteen paikkaan. Vasta lanseeratun kanssa Slack AI– luotettu, natiivi, luova tekoäly (AI) -kokemus, joka on saatavilla suoraan Slackin kautta – käyttäjät voivat tuoda esiin ja priorisoida tietoja, jotta he voivat löytää painopisteensä ja tehdä tuottavimman työnsä.

Meillä on ilo ilmoittaa, että Salesforce-yritys Slack on tehnyt yhteistyötä Amazon SageMaker JumpStart tehostaa Slackin AI:n alkuperäisiä haku- ja yhteenvetoominaisuuksia ja antaa Slackin suojan käyttää suuria kielimalleja (LLM) turvallisemmin. Slack työskenteli SageMaker JumpStartin kanssa alan johtavien kolmannen osapuolen LLM:ien isännöimiseksi, jotta tietoja ei jaeta kolmansien osapuolien mallintarjoajien omistaman infrastruktuurin kanssa.

Tämä pitää asiakastiedot aina Slackin sisällä ja ylläpitää samoja turvallisuuskäytäntöjä ja vaatimustenmukaisuusstandardeja, joita asiakkaat odottavat Slackin itseltään. Slack on myös käytössä Amazon Sage Maker Päätelmäominaisuudet edistyneille reititysstrategioille ratkaisun skaalaamiseksi asiakkaille optimaalisella suorituskyvyllä, viiveellä ja suorituskyvyllä.

"Amazon SageMaker JumpStartin avulla Slack voi käyttää huippuluokan perustusmalleja Slackin tekoälyn tehostamiseksi ja asettaa samalla turvallisuuden ja yksityisyyden etusijalle. Slack-asiakkaat voivat nyt etsiä älykkäämmin, tehdä yhteenvedon keskusteluista välittömästi ja olla tuottavimmillaan."

– Jackie Rocca, tuotejohtaja, Slackin tekoäly

Perusmallit SageMaker JumpStartissa

SageMaker JumpStart on koneoppimiskeskus (ML), joka voi nopeuttaa ML-matkaasi. SageMaker JumpStartin avulla voit arvioida, vertailla ja valita perusmalleja (FM) nopeasti ennalta määritettyjen laatu- ja vastuumittareiden perusteella suorittaaksesi tehtäviä, kuten artikkelien yhteenvedon ja kuvien luomisen. Valmiiksi koulutetut mallit ovat täysin muokattavissa käyttötilanteeseesi tietojesi kanssa, ja voit ottaa ne vaivattomasti käyttöön tuotantoon käyttöliittymän tai SDK:n avulla. Lisäksi voit käyttää valmiita ratkaisuja, joilla voit ratkaista yleisiä käyttötapauksia ja jakaa ML-artefakteja, mukaan lukien ML-malleja ja muistikirjoja, organisaatiosi sisällä nopeuttaaksesi ML-mallin rakentamista ja käyttöönottoa. Mitään tietojasi ei käytetä taustalla olevien mallien kouluttamiseen. Kaikki tiedot on salattu, eikä niitä koskaan jaeta kolmansien osapuolien kanssa, joten voit luottaa siihen, että tietosi pysyvät yksityisinä ja luottamuksellisina.

Tutustu SageMaker JumpStart -mallisivu saatavilla oleville malleille.

Slack AI

Slack lanseerasi Slack AI:n tarjotakseen alkuperäisiä luovia tekoälyominaisuuksia, jotta asiakkaat voivat helposti löytää ja kuluttaa suuria määriä tietoa nopeasti, jolloin he voivat saada entistä enemmän irti Slackin jaetusta tiedosta. Käyttäjät voivat esimerkiksi esittää kysymyksen selkeällä kielellä ja saada välittömästi selkeitä ja ytimekkäitä vastauksia tehostetulla haulla. He voivat seurata kanavia ja viestiketjuja yhdellä napsautuksella keskustelutiivistelmien avulla. Äskettäin julkaistujen yhteenvetojen avulla he pääsevät käsiksi räätälöityihin päivittäisiin tiivistelmiin siitä, mitä tietyillä kanavilla tapahtuu.

Koska luottamus on Slackin tärkein arvo, Slack AI toimii yritystason infrastruktuurilla, jonka he rakensivat AWS:lle ja ylläpitävät samaa turvallisuuskäytännöt ja vaatimustenmukaisuusstandardit joita asiakkaat odottavat. Slack AI on suunniteltu turvallisuustietoisille asiakkaille, ja se on suunniteltu turvalliseksi – asiakkaiden tiedot pysyvät talon sisällä, tietoja ei käytetä LLM-koulutustarkoituksiin ja tiedot säilyvät siiloissa.

Ratkaisun yleiskatsaus

SageMaker JumpStart tarjoaa pääsyn monille LLM:ille, ja Slack valitsee oikeat FM:t, jotka sopivat heidän käyttötapauksiinsa. Koska näitä malleja isännöidään Slackin omistamassa AWS-infrastruktuurissa, malleille kutsun aikana lähetetty data ei poistu Slackin AWS-infrastruktuurista. Lisäksi turvallisen ratkaisun tarjoamiseksi SageMaker-mallien käynnistämistä varten lähetettävät tiedot salataan siirron aikana. SageMaker JumpStart -päätepisteisiin mallien kutsumista varten lähetettyä dataa ei käytetä perusmallien kouluttamiseen. SageMaker JumpStart antaa Slackin tukea korkeita turvallisuus- ja tietosuojastandardeja ja käyttää samalla huippuluokan malleja, jotka auttavat Slackin tekoälyä toimimaan optimaalisesti Slackin asiakkaille.

Slackin yrityssovelluksia palvelevat SageMaker JumpStart -päätepisteet toimivat AWS-instanssien avulla. SageMaker tukee a laaja valikoima instanssityyppejä mallin käyttöönottoa varten, jolloin Slack voi valita ilmentymän, joka sopii parhaiten tukemaan Slack AI -käyttötapausten latenssi- ja skaalautuvuusvaatimuksia. Slack AI voi isännöidä SageMaker JumpStart -mallejaan useaan grafiikkasuoritinpohjaiseen tapaukseen. Useat GPU-instanssit sallivat jokaisen Slack AI:n päätepistettä tukevan ilmentymän isännöidä useita kopioita mallista. Tämä auttaa parantamaan resurssien käyttöä ja pienentämään mallin käyttöönottokustannuksia. Lisätietoja on kohdassa Amazon SageMaker lisää uusia päättelyominaisuuksia, jotka auttavat vähentämään perusmallin käyttöönottokustannuksia ja viivettä.

Seuraava kaavio kuvaa ratkaisuarkkitehtuuria.

Käyttääkseen ilmentymiä tehokkaimmin ja tukeakseen samanaikaisuus- ja latenssivaatimuksia Slack käytti SageMakerin tarjoamia reititysstrategioita SageMaker-päätepisteiden kanssa. Oletuksena SageMaker-päätepiste jakaa saapuvat pyynnöt tasaisesti ML-ilmentymille käyttämällä round-robin-algoritmin reititysstrategiaa nimeltä RANDOM. Generatiivisissa tekoälytyökuormissa pyynnöt ja vastaukset voivat kuitenkin olla erittäin vaihtelevia, ja kuormituksen tasapainottaminen on toivottavaa ottamalla huomioon ilmentymän kapasiteetti ja käyttöaste satunnaisen kuormituksen tasapainotuksen sijaan. Slack käyttää pyyntöjen tehokasta jakamista päätepisteitä tukevien esiintymien kesken LEAST_OUTSTANDING_REQUESTS (LAR) reititysstrategia. Tämä strategia reitittää pyynnöt tiettyihin esiintymiin, joilla on enemmän kapasiteettia käsitellä pyyntöjä, sen sijaan, että poimittaisiin satunnaisesti mikä tahansa käytettävissä oleva ilmentymä. LAR-strategia tarjoaa tasaisemman kuormituksen tasapainotuksen ja resurssien käytön. Tämän seurauksena Slack AI huomasi yli 39 %:n latenssin pienenemisen p95-viiveissään, kun ne otettiin käyttöön LEAST_OUTSTANDING_REQUESTS verrattuna RANDOMiin.

Lisätietoja SageMaker-reititysstrategioista on kohdassa Minimoi reaaliaikainen päättelyviive käyttämällä Amazon SageMaker -reititysstrategioita.

Yhteenveto

Slack tarjoaa alkuperäisiä luovia tekoälyominaisuuksia, jotka auttavat asiakkaita olemaan tuottavampia ja hyödyntämään helposti Slack-keskusteluihinsa sisällytettyä kollektiivista tietoa. Slack AI tarjoaa nopean pääsyn suureen valikoimaan FM-laitteita ja edistyneitä kuormantasausominaisuuksia, joita isännöidään omistetuissa tapauksissa SageMaker JumpStartin kautta, joten Slack AI pystyy tarjoamaan monipuolisia luovia tekoälyominaisuuksia tehokkaammalla ja nopeammalla tavalla noudattaen samalla Slackin luottamus- ja turvallisuusstandardeja.

Lisätietoja SageMaker JumpStart, Slack AI ja kuinka Slack-tiimi rakensi Slack AI:n turvalliseksi ja yksityiseksi. Jätä ajatuksesi ja kysymyksesi kommenttiosioon.

---

Tietoja Tekijät

Jackie Rocca on Slackin tuotejohtaja, jossa hän valvoo Slackin näkemystä ja toteutusta. Slack AI tuo generatiivisen tekoälyn natiivisti ja turvallisesti Slackin käyttökokemukseen. Nyt hänen tehtävänsä on auttaa asiakkaita nopeuttamaan tuottavuuttaan ja saamaan entistä enemmän irti keskusteluistaan, tiedoistaan ​​ja kollektiivisesta tiedosta generatiivisen tekoälyn avulla. Ennen Slackiin siirtymistään Jackie työskenteli Googlen tuotepäällikkönä yli kuusi vuotta, missä hän auttoi Youtube-television lanseerauksessa ja kasvattamisessa. Jackie sijaitsee San Franciscon lahden alueella.

Rachna Chadha on AWS:n strategisten tilien pääratkaisuarkkitehti AI/ML. Rachna on optimisti, joka uskoo, että tekoälyn eettinen ja vastuullinen käyttö voi parantaa yhteiskuntaa tulevaisuudessa ja tuoda taloudellista ja sosiaalista vaurautta. Vapaa-ajallaan Rachna viettää mielellään aikaa perheensä kanssa, vaeltaa ja kuuntelee musiikkia.

Marc Karp on ML-arkkitehti Amazon SageMaker Service -tiimin kanssa. Hän keskittyy auttamaan asiakkaita suunnittelemaan, ottamaan käyttöön ja hallitsemaan ML-työkuormia laajasti. Vapaa-ajallaan hän nauttii matkustamisesta ja uusien paikkojen tutkimisesta.

Maninder (Mani) Kaur on AWS:n strategisten ISV:iden AI/ML-asiantuntija. Asiakaslähtöisellä lähestymistavalla Mani auttaa strategisia asiakkaita muotoilemaan tekoäly/ML-strategiaansa, vauhdittamaan innovaatioita ja nopeuttamaan tekoälyn/ML-matkaansa. Mani uskoo vakaasti eettiseen ja vastuulliseen tekoälyyn ja pyrkii varmistamaan, että hänen asiakkaidensa tekoälyratkaisut ovat näiden periaatteiden mukaisia.

Gene Ting on AWS:n pääratkaisuarkkitehti. Hän keskittyy auttamaan yritysasiakkaita rakentamaan ja käyttämään työkuormia turvallisesti AWS:ssä. Vapaa-ajallaan Gene nauttii teknologian ja urheilun opettamisesta lapsille sekä kyberturvallisuuden viimeisimpien tapahtumien seuraamisesta.

Alan Tan on SageMakerin vanhempi tuotepäällikkö, joka johtaa suuria mallipäätelmiä. Hän on intohimoinen koneoppimisen soveltamisesta analytiikan alalla. Työn ulkopuolella hän viihtyy ulkona.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://aws.amazon.com/blogs/machine-learning/slack-delivers-native-and-secure-generative-ai-powered-by-amazon-sagemaker-jumpstart/