Amazon interaktiivinen videopalvelu (Amazon IVS) on hallittu suoratoistoratkaisu, joka on suunniteltu tarjoamaan nopea ja suoraviivainen asennus, jonka avulla voit luoda interaktiivisia videokokemuksia ja käsittelee interaktiivista videosisältöä käsittelystä toimitukseen.

Kun suoratoiston käyttö lisääntyy, tehokkaan sisällön moderoinnin tarve tulee entistä tärkeämmäksi. Käyttäjien luoma sisältö (UGC) asettaa monimutkaisia ​​haasteita turvallisuudelle. Monet yritykset luottavat ihmismoderaattoreihin videovirran valvontaan, mikä on aikaa vievää, virhealtista eikä skaalaudu liiketoiminnan kasvun nopeuteen. Automatisoitua moderointiratkaisua, joka tukee HITL:ää, tarvitaan yhä enemmän.

Amazon Rekognition -sisällön moderointi, kyky Amazonin tunnistus, automatisoi ja virtaviivaistaa kuvien ja videoiden moderoinnin työnkulkuja ilman koneoppimiskokemusta (ML). Tässä viestissä selitämme yleisen suoratoiston visuaalisen moderoinnin käytännön ratkaisulla, joka käyttää Amazon Rekognition Image API -sovellusliittymää suoratoistojen moderointiin. Voit ottaa tämän ratkaisun käyttöön AWS-tilillesi käyttämällä AWS Cloud Development Kit (AWS CDK) -paketti saatavilla meiltä GitHub repo.

Kohdista suoratoiston visuaalista sisältöä

Yleisin lähestymistapa UGC-suoratoistolähetyksen visuaaliseen moderointiin sisältää kuvien ottamisen streamista ja kuvien moderoinnin hyödyntämisen lähes reaaliaikaisten tulosten saamiseksi. Suoratoistoalustat voivat käyttää joustavia sääntöjä visuaalisen sisällön moderointiin. Esimerkiksi nuoremman yleisön alustoilla saattaa olla tiukat säännöt aikuisille suunnatusta sisällöstä ja tietyistä tuotteista, kun taas toiset saattavat keskittyä vihasymboleihin. Nämä alustat luovat erilaisia ​​sääntöjä, jotka vastaavat käytäntöjään tehokkaasti. Yhdistämällä ihmisen ja automaattisen tarkastelun hybridiprosessi on yleinen suunnittelutapa. Tietyt streamit pysäytetään automaattisesti, mutta ihmisvalvojat arvioivat myös, rikkooko stream alustakäytäntöjä ja pitäisikö se poistaa käytöstä.

Seuraava kaavio havainnollistaa lähes reaaliaikaisen moderointijärjestelmän käsitteellistä työnkulkua, joka on suunniteltu löysästi suoratoistojärjestelmään.

Työnkulku sisältää seuraavat vaiheet:

1. Suoratoistopalvelu (tai asiakassovellus) ottaa näytteitä videostriimistä kuvakehyksiä tietyn aikavälin perusteella.
2. Sääntömoottori arvioi moderointiohjeita määrittäen stream-näytteenottotiheyden ja sovellettavat valvontaluokat, kaikki ennalta määritettyjen käytäntöjen puitteissa. Tämä prosessi sisältää sekä ML- että ei-ML-algoritmien käytön.
3. Sääntömoottori varoittaa ihmisvalvojat havaitessaan rikkomuksia videovirroissa.
4. Ihmismoderaattorit arvioivat tuloksen ja deaktivoivat suoratoiston.

UGC-suoratoiston valvominen eroaa perinteisestä median videovalvonnasta. Se vastaa erilaisiin säädöksiin. Se, kuinka usein kuvia otetaan videokehyksistä moderointia varten, määräytyvät yleensä alustan luottamus- ja turvallisuuskäytännön sekä palvelutason sopimuksen (SLA) mukaan. Jos esimerkiksi suoratoistoalusta pyrkii pysäyttämään kanavat 3 minuutin sisällä sääntörikkomusten vuoksi, käytännöllinen tapa on ottaa näyte 1–2 minuutin välein, jolloin ihmisvalvojat voivat tarkistaa ja ryhtyä toimiin. Jotkut alustat vaativat joustavan moderointitaajuuden hallinnan. Esimerkiksi erittäin hyvämaineiset striimaajat saattavat tarvita vähemmän maltillisuutta, kun taas uudet vaativat tarkempaa huomiota. Tämä mahdollistaa myös kustannusoptimoinnin pienentämällä näytteenottotaajuutta.

Kustannukset ovat tärkeä näkökohta kaikissa suoratoiston moderointiratkaisuissa. Kun UGC-suoratoistoalustat laajenevat nopeasti, samanaikaisten suoratoistojen moderointi korkealla taajuudella voi aiheuttaa kustannusongelmia. Tässä viestissä esitetty ratkaisu on suunniteltu optimoimaan kustannukset sallimalla sinun määrittää moderointisäännöt näytetaajuuden mukauttamiseksi, huomioimatta samanlaisia ​​kuvakehyksiä ja muita tekniikoita.

Amazon IVS -suoratoistosisällön tallentaminen Amazon S3:lle

Amazon IVS tarjoaa alkuperäisiä ratkaisuja tallentaa suoratoistosisältöä ja Amazonin yksinkertainen tallennuspalvelu (Amazon S3) -säilö ja pikkukuvien luominen – kuvakehykset videovirrasta. Se luo pikkukuvat oletuksena 60 sekunnin välein ja tarjoaa käyttäjille mahdollisuuden mukauttaa kuvan laatua ja taajuutta. Käyttämällä AWS-hallintakonsoli, Voit luoda tallennuskokoonpanon ja linkitä se Amazon IVS -kanavaan. Kun tallennuskokoonpano liitetään kanavaan, kanavan suorat lähetykset tallennetaan automaattisesti määritettyyn S3-alueeseen.

Amazon IVS:stä ei veloiteta automaattisen nauhoituksen käyttämisestä Amazon S3:lle tai kirjoittamisesta Amazon S3:lle. On maksullisia Amazon S3 -tallennustilasta, Amazon IVS:n asiakkaan puolesta soittamista Amazon S3 API -puheluista ja tallennetun videon toimittamisesta katsojille. Lisätietoja Amazon IVS -kustannuksista on kohdassa Kustannukset (alhaisen viiveen suoratoisto).

Amazon Rekognition Moderation API:t

Tässä ratkaisussa käytämme Amazon Rekognition DetectModerationLabel API moderoida Amazon IVS -pikkukuvia lähes reaaliajassa. Amazon Rekognition Content Moderation tarjoaa valmiiksi koulutetut sovellusliittymät analysoimaan monenlaista sopimatonta tai loukkaavaa sisältöä, kuten väkivaltaa, alastomuutta, vihasymboleja ja paljon muuta. Kattava luettelo Amazon Rekognition Content Moderation -taksonomioista on osoitteessa Sisällön moderointi.

Seuraava koodinpätkä näyttää, kuinka voit kutsua Amazon Rekognition DetectModerationLabel API:ta kuvien moderointiin AWS Lambda toiminto Python Boto3 -kirjastolla:

import boto3 # Initialize the Amazon Rekognition client object
rekognition = boto3.client('rekognition') # Call the Rekognition Image moderation API
response = rekognition.detect_moderation_labels( Image={'S3Object': {'Bucket': data_bucket,'Name': s3_key}}
)

Seuraava on esimerkkivastaus Amazon Rekognition Image Moderation API:lta:

{ "ModerationLabels": [ { "Confidence": 99.9290542602539, "Name": "Female Swimwear Or Underwear", "ParentName": "Suggestive" }, ... ], "ModerationModelVersion": "6.1"
}

Lisää esimerkkejä Amazon Rekognition Image Moderation API:sta on meidän Sisällönvalvontakuvalaboratorio.

Ratkaisun yleiskatsaus

Tämä ratkaisu integroituu Amazon IVS:ään lukemalla pikkukuvat S3-säilöstä ja lähettämällä kuvia Amazon Rekognition Image Moderation API:lle. Se tarjoaa vaihtoehtoja streamin automaattiseen pysäyttämiseen ja ihmissilmukan tarkastelemiseen. Voit määrittää järjestelmälle säännöt pysäyttämään streamit automaattisesti olosuhteiden perusteella. Se sisältää myös kevyen ihmisarviointiportaalin, jonka avulla valvojat voivat valvoa streameja, hallita rikkomusilmoituksia ja pysäyttää streameja tarvittaessa.

Tässä osiossa esittelemme lyhyesti järjestelmäarkkitehtuuria. Katso tarkemmat tiedot osoitteesta GitHub repo.

Seuraava näytön tallennus näyttää moderaattorin käyttöliittymän, jonka avulla he voivat valvoa aktiivisia streameja valvontavaroitusten avulla ja ryhtyä toimiin, kuten pysäyttää streamin tai hylätä varoitukset.

Käyttäjät voivat mukauttaa moderointisääntöjä, ohjata videovirran näytetaajuutta kanavakohtaisesti, määrittää Amazon Rekognitionin moderointiluokkia luotettavuuskynnyksillä ja mahdollistaa samankaltaisuustarkistukset, mikä varmistaa suorituskyvyn ja kustannusoptimoinnin välttämällä ylimääräisten kuvien käsittelyä.

Seuraava näytön tallennus näyttää käyttöliittymän yleisen kokoonpanon hallintaa varten.

Ratkaisu käyttää mikropalveluarkkitehtuuria, joka koostuu kahdesta avainkomponentista, jotka on löyhästi yhdistetty Amazon IVS:ään.

sääntöjen moottori

Sääntömoottori muodostaa suoran lähetyksen moderointijärjestelmän selkärangan. Se on reaaliaikainen käsittelypalvelu, joka mahdollistaa lähes reaaliaikaisen moderoinnin. Se käyttää Amazon Rekognition -sovellusta kuvien moderointiin, tarkistaa tulokset mukautettavien sääntöjen mukaan, käyttää kuvien hajautusalgoritmeja tunnistaakseen ja sulkeakseen pois samanlaisia ​​kuvia ja voi pysäyttää streamit automaattisesti tai varoittaa ihmisen tarkastelualijärjestelmää sääntörikkomuksista. Palvelu integroituu Amazon IVS:ään Amazon S3 -pohjaisen kuvanluennan kautta ja helpottaa API-kutsua kautta Amazon API -yhdyskäytävä.

Seuraava arkkitehtuurikaavio havainnollistaa lähes reaaliaikaista moderointityönkulkua.

On kaksi tapaa käynnistää sääntöjen moottorin käsittelyn työnkulku:

• S3-tiedoston liipaisin – Kun uusi kuva lisätään S3-ämpäriin, työnkulku alkaa. Tämä on suositeltava tapa Amazon IVS -integraatioon.
• REST API -kutsu – Voit soittaa RESTful API-kutsun API Gatewaylle kuvatavuilla pyynnön rungossa. API tallentaa kuvan S3-ämpäriin, mikä käynnistää lähes reaaliaikaisen käsittelyn. Tämä lähestymistapa sopii kuviin, jotka on otettu suoratoistosovelluksen asiakaspuolella ja lähetetään Internetin kautta.

Kuvankäsittelyn työnkulku, jota hallinnoi AWS-vaihetoiminnot, sisältää useita vaiheita:

1. Tarkista näytetaajuussääntö. Käsittely pysähtyy, jos edellinen näyteaika on liian tuore.
2. Jos asetus on käytössä, suorita samankaltaisuustarkistus kuvan hajautusalgoritmeilla. Prosessi ohittaa kuvan, jos se on samanlainen kuin edellinen samalla kanavalla vastaanotettu kuva.
3. Käytä Amazon Rekognition Image Moderation API -sovellusta arvioidaksesi kuvaa määritettyjen sääntöjen mukaan, käyttämällä luottamuskynnystä ja ohittaen tarpeettomia luokkia.
4. Jos moderoinnin tulos rikkoo sääntöjä, lähetä ilmoitukset osoitteeseen Amazonin yksinkertainen ilmoituspalvelu (Amazon SNS) -aihe, varoittaa loppupään järjestelmiä moderointivaroituksella.
5. Jos automaattisen pysäytyksen moderoinnin sääntöä rikotaan, Amazon IVS -virta pysäytetään automaattisesti.

Suunnittelu hallitsee sääntöjä Step Functions -tilakoneen kautta, mikä tarjoaa vedä ja pudota -graafisen käyttöliittymän joustavaa työnkulun määrittelyä varten. Voit laajentaa sääntömoottoria sisällyttämällä siihen lisää Step Functions -työnkulkuja.

Seurannan ja hallinnan kojelauta

Seurannan ja hallinnan kojelauta on verkkosovellus, jossa on käyttöliittymä, jonka avulla moderaattorit voivat seurata Amazon IVS:n live-lähetyksiä. Se tarjoaa lähes reaaliaikaisia ​​valvontahälytyksiä, joiden avulla valvojat voivat pysäyttää suoratoiston tai hylätä varoitukset. Verkkoportaali antaa myös järjestelmänvalvojille valtuudet hallita sääntömoottorin valvontasääntöjä. Se tukee kahden tyyppisiä kokoonpanoja:

• Kanavan säännöt – Voit määrittää säännöt tietyille kanaville.
• Globaalit säännöt – Nämä säännöt koskevat kaikkia tai osajoukkoa Amazon IVS -kanavista, joista puuttuu tiettyjä kokoonpanoja. Voit määrittää säännöllisen lausekkeen soveltaaksesi yleissääntöä Amazon IVS -kanavanimiin, jotka vastaavat kuviota. Esimerkki: .* koskee kaikkia kanavia. /^test-/ koskee kanavia, joiden nimet alkavat kirjaimella test-.

Järjestelmä on palvelimeton verkkosovellus, jossa on staattinen React-käyttöliittymä, jota isännöidään Amazon S3:ssa Amazon CloudFront välimuistiin tallentamista varten. Todennuksen hoitaa Amazon Cognito. Tiedot toimitetaan API Gatewayn ja Lambdan kautta tilatallennustilassa Amazon DynamoDB. Seuraava kaavio havainnollistaa tätä arkkitehtuuria.

Valvontakojelauta on kevyt demosovellus, joka tarjoaa moderaattoreille tärkeitä ominaisuuksia. Toimivuuden parantamiseksi voit laajentaa toteutusta tukemaan useita moderaattoreita hallintajärjestelmän kanssa ja vähentää viivettä ottamalla käyttöön push-mekanismin WebSocketsin avulla.

Moderoinnin viive

Ratkaisu on suunniteltu lähes reaaliaikaiseen moderointiin, ja viive mitataan kahdessa erillisessä alajärjestelmässä:

• Säännöt moottorin työnkulkua – Sääntömoottorin työnkulku kuvien vastaanottamisesta ilmoitusten lähettämiseen Amazon SNS:n kautta on keskimäärin 2 sekunnissa. Tämä palvelu käsittelee kuvat nopeasti Step Functions -tilakoneen kautta. Amazon Rekognition Image Moderation API käsittelee alle 500 millisekuntia, jos tiedostokoko on alle 1 Mt. (Nämä havainnot perustuvat näytesovelluksella tehtyihin testeihin, jotka täyttävät lähes reaaliaikaiset vaatimukset.) Amazon IVS:ssä voit valita erilaisia pikkukuvien resoluutiot säätääksesi kuvan kokoa.
• Valvontaportaali – Valvontaverkkoportaali tilaa sääntömoottorin SNS-aiheen. Se tallentaa varoitukset DynamoDB-taulukkoon, kun taas verkkosivuston käyttöliittymä hakee uusimmat varoitukset 10 sekunnin välein. Tämä malli esittelee kevyesti moderaattorin näkemystä. Jos haluat vähentää viivettä entisestään, harkitse WebSocketin käyttöönottoa, joka lähettää varoitukset välittömästi käyttöliittymään niiden saapuessa Amazon SNS:n kautta.

Laajenna ratkaisua

Tämä viesti keskittyy suoratoiston visuaalisen sisällön moderointiin. Ratkaisu on kuitenkin tarkoituksella joustava, se pystyy mukautumaan monimutkaisiin liiketoimintasääntöihin ja laajennettavissa tukemaan muita mediatyyppejä, kuten chat-viestien ja äänen moderointia live-streameissa. Voit parantaa sääntömoottoria ottamalla käyttöön uusia Step Functions -tilakoneen työnkulkuja, joissa on alkupään lähetyslogiikka. Tulevissa postauksissa perehdymme lähemmin suoratoiston tekstin ja äänen moderointiin AWS AI -palveluiden avulla.

Yhteenveto

Tässä viestissä annoimme yleiskatsauksen esimerkkiratkaisusta, joka esittelee Amazon IVS -suoratoistovideoiden moderointia Amazon Rekognitionin avulla. Voit kokea mallisovelluksen noudattamalla ohjeita GitHub repo ja ota se käyttöön AWS-tilillesi mukana tulevalla AWS CDK -paketilla.

Lisätietoja sisällön valvonta AWS:ssä. Ota ensimmäinen askel kohti virtaviivaistaa sisällönvalvontatoimintojasi AWS:n avulla.

Tietoja Tekijät

Lana Zhang on AWS WWSO AI Services -tiimin vanhempi ratkaisuarkkitehti, joka on erikoistunut tekoälyyn ja ML:ään sisällön moderointiin, tietokonenäköön, luonnollisen kielen käsittelyyn ja generatiiviseen tekoälyyn. Asiantuntijuudellaan hän on omistautunut edistämään AWS AI/ML -ratkaisuja ja auttamaan asiakkaita muuttamaan liiketoimintaratkaisujaan eri toimialoilla, mukaan lukien sosiaalinen media, pelit, sähköinen kaupankäynti, media, mainonta ja markkinointi.

Tony Vu on Twitchin vanhempi yhteistyökumppaniinsinööri. Hän on erikoistunut arvioimaan kumppaniteknologiaa integroitavaksi Amazon Interactive Video Service (IVS) -palveluun, tavoitteenaan kehittää ja toimittaa kattavia yhteisratkaisuja IVS-asiakkaillemme.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://aws.amazon.com/blogs/machine-learning/moderate-your-amazon-ivs-live-stream-using-amazon-rekognition/