Generatiivne andmeluure

Apple annab välja 8 väikest AI keelemudelit, et konkureerida Microsofti Phi-3-ga – dekrüpteerida

kuupäev:

Nähes tugevust numbrites, on Apple teinud konkurentsivõimelisel tehisintellekti turul strateegilise sammu, tehes kättesaadavaks kaheksa väikest tehisintellekti mudelit. Kompaktsed tööriistad, mida ühiselt nimetatakse OpenELM-iks, on loodud töötama seadmetes ja võrguühenduseta – sobivad ideaalselt nutitelefonide jaoks.

Avaldatud avatud lähtekoodiga AI kogukonnas Kallistav nägu, pakutakse mudeleid 270 miljoni, 450 miljoni, 1.1 miljardi ja 3 miljardi parameetriga versioonis. Kasutajad saavad alla laadida ka Apple'i OpenELM-i kas eelkoolitatud või juhistega häälestatud versioonides.

Eelkoolitatud mudelid pakuvad baasi, mida kasutajad saavad peenhäälestada ja arendada. Juhendiga häälestatud mudelid on juba programmeeritud reageerima juhistele, muutes need sobivamaks vestlusteks ja lõppkasutajatega suhtlemiseks.

Kuigi Apple ei ole nende mudelite jaoks konkreetseid kasutusjuhtumeid välja pakkunud, saab neid kasutada assistentide käitamiseks, kes suudavad e-kirju ja tekste sõeluda või anda andmete põhjal intelligentseid soovitusi. See on ühele sarnane lähenemine võetud Google'i poolt, mis juurutas oma Gemini AI mudeli oma Pixeli nutitelefonide valikusse.

Mudeleid koolitati avalikult kättesaadavate andmekogumite alusel ja Apple jagab nii CoreNeti koodi (OpenELM-i koolitamiseks kasutatav raamatukogu) kui ka oma mudelite retsepte. Teisisõnu saavad kasutajad kontrollida, kuidas Apple need ehitas.

Apple'i väljalase ilmub varsti pärast seda Microsoft teatas Phi-3, väikeste keelemudelite perekond, mis on võimeline töötama kohapeal. Phi-3 Mini, 3.8 miljardi parameetriga mudel, mis on treenitud 3.3 triljoni žetooniga, on endiselt võimeline käsitlema 128 4 kontekstimärki, muutes selle võrreldavaks GPT-3-ga ning edestades Llama-XNUMX ja Mistral Large'i märkide mahu poolest.

Olles avatud lähtekoodiga ja kerge, võib Phi-3 Mini mõne ülesande jaoks asendada traditsioonilised assistendid, nagu Apple'i Siri või Google'i Gemini, ning Microsoft on juba testinud Phi-3 iPhone'is ning teatanud rahuldavatest tulemustest ja kiiretest märgipõlvkondadest.

Kuigi Apple pole veel neid uusi tehisintellekti keelemudeli võimalusi oma tarbijaseadmetesse integreerinud, on iOS 18 eelseisev värskendus kuulujutud lisada uusi tehisintellekti funktsioone, mis kasutavad kasutaja privaatsuse tagamiseks seadmesisest töötlemist. 

Apple'i riistvaral on kohalikus AI-kasutuses eelis, kuna see ühendab seadme RAM-i GPU video-RAM-iga (või VRAM-iga). See tähendab, et 32 ​​GB muutmäluga Mac (tavaline konfiguratsioon arvutis) saab seda RAM-i kasutada samamoodi nagu GPU VRAM-i AI mudelite käitamiseks. Võrdluseks, Windowsi seadmed on kinnas eraldi seadme RAM ja GPU VRAM. Kasutajad peavad sageli ostma võimsa 32 GB GPU, et suurendada RAM-i AI-mudelite käitamiseks.

Apple jääb aga AI arendamise vallas Windowsist/Linuxist maha. Enamik AI-rakendusi keerleb Nvidia loodud ja ehitatud riistvara ümber, mille Apple oma kiipide toetamiseks järk-järgult lõpetas. See tähendab, et Apple'i natiivset AI-arendust on suhteliselt vähe ja sellest tulenevalt nõuab AI kasutamine Apple'i toodetes tõlkekihte või muid keerukaid protseduure.

Olge kursis krüptouudistega, saate oma postkasti igapäevaseid värskendusi.

spot_img

Uusim intelligentsus

spot_img