Amazonin luova tekoälyavustaja Amazon Q on tarkastelun alla. Raportit osoittavat hallusinaatioita ja tietovuotoja, mikä herättää keskustelua sen valmiudesta yrityskäyttöön.
Asiantuntijat korostavat perusteellisen testauksen merkitystä, mahdollisia määräyksiä ja Amazonin roolia näiden haasteiden ratkaisemisessa.
Hallusinaatiot ja yksityisyysongelmat tulevat esiin
The Platformerin ilmoittamat vuotaneet asiakirjat paljastavat tämän Amazon Q kamppailee epätarkkuuksien kanssa, mukaan lukien hallusinaatiot ja tietovuodot. Tutkimukset tuovat esiin suurten kielimallien (LLM) epätarkkuuden, kun ne on liitetty yritysten tietokantoihin. Toimialaa seuraavat analyytikot ehdottavat, että nämä ongelmat tekevät Amazon Q:sta sopimattoman päätöksentekoon yritysympäristössä.
EIIRTrend & Pareekh Consultingin toimitusjohtaja Pareekh Jain huomauttaa rajoituksista ja toteaa: "Jos hallusinaatioita esiintyy, et voi käyttää niitä päätöksentekoon yritysympäristössä." Vaikka Amazon asettaa Q:n miljoonien työkumppaniksi, analyytikot kyseenalaistavat sen valmiuden laajaan yrityskäyttöön.
Testaushaasteet ja sisäisten kokeilujen merkitys
Näiden ongelmien ratkaisemiseksi asiantuntijat korostavat laajan sisäisen testauksen tarvetta generatiivinen tekoäly avustaja on valmis kaupalliseen julkaisuun. Jain korostaa tietojen ja algoritmien arvioinnin merkitystä epätarkkuuksien perimmäisen syyn löytämiseksi.
"Mielestäni heidän on ensin testattava enemmän sisäisten työntekijöiden kanssa", Jain lisäsi. "Heidän täytyy nähdä, onko ongelma tiedoissa vai algoritmissa." Amazon Q hyödyntää 17 vuoden AWS:n data- ja kehitysosaamista korostaen Amazonin panoksia nopeasti kehittyvässä tekoälymaailmassa.
Koulutus ja askeleita kohti parannusta
Vaikka hallusinaatiot ovat haasteita, Sharath Srinivasamurthy, IDC:n varatoimitusjohtaja, korostaa toimia generatiivisen tekoälyn käytön parantamiseksi. Srinivasamurthy ehdottaa koulutusmalleja korkealaatuisempien tietojen, nopean lisäyksen, jatkuvan organisaatiokohtaisen datan hienosäädön ja inhimillisten tarkistusten sisällyttämiseen epäilyttäviä vastauksia varten.
"Mallien kouluttaminen laadukkaampaan dataan, jatkuva organisaatio- tai toimialakohtaisten tietojen ja käytäntöjen mallien hienosäätö sekä inhimillisen tarkastuksen tason lisääminen, jos vastaus on epäilyttävä, ovat joitakin toimenpiteitä, jotka on toteutettava hyödyntämään tätä nousevaa teknologiaa parhaalla mahdollisella tavalla”, Srinivasamurthy sanoo.
Sääntelyyn liittyvät huolenaiheet ja kehotus vastuulliseen tekoälyyn
Raportit Hallusinaatiot herättävät keskustelua säännösten tarpeesta, mutta Sanchit Vir Gogia, Greyhound Researchin pääanalyytikko ja toimitusjohtaja, varoittaa mahdollisesta haitallisuudesta. Gogia ehdottaa, että liian tiukat määräykset voisivat haitata tietojen vaihtoa ja hyödyntämistä, mikä osoittaa OpenAI:n GPT:n menestyksen esimerkkinä vähemmän säännellyn toimialan eduista.
Jain toistaa tämän tunteen ja korostaa itsesääntelyn merkitystä. "Säännöksiä voi olla, mutta painopiste on ensisijaisesti itsesääntelyssä", Jain selittää. "Painopisteen tulisi olla vastuullisessa tekoälyssä, jossa logiikka voidaan selittää asiakkaille "mustan laatikon" järjestelmien luomisen sijaan.
Kun Amazon astuu generatiiviseen tekoälyavaruuteen, kaikki katseet ovat teknologiajättiläisessä, joka vastaa näihin haasteisiin, varsinkin kun otetaan huomioon sen myöhäinen markkinoilletulo verrattuna alan johtaviin toimijoihin, kuten Microsoft ja Google. Jain huomauttaa, että AWS on jälkeenjäänyt, mikä lisää odotuksia ja tarkastelua chatbottien kaltaisten teknologioiden suhteen.
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
- PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
- PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
- PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
- Lähde: https://metanews.com/amazon-q-faces-challenges-hallucinations-and-data-leaks-raise-questions-on-ai-readiness/
