Když Apple viděl sílu v číslech, učinil strategický krok na konkurenčním trhu umělé inteligence tím, že zpřístupnil osm malých modelů umělé inteligence. Kompaktní nástroje, souhrnně nazývané OpenELM, jsou navrženy tak, aby fungovaly na zařízeních i offline – ideální pro chytré telefony.
Publikováno na open-source AI komunitě Objímání obličeje, modely jsou nabízeny ve verzích s 270 miliony, 450 miliony, 1.1 miliardy a 3 miliardami parametrů. Uživatelé si také mohou stáhnout OpenELM od Applu buď v předem proškolené verzi, nebo ve verzi s instrukcí.
Předtrénované modely poskytují základnu, kterou mohou uživatelé dolaďovat a rozvíjet. Modely vyladěné podle pokynů jsou již naprogramovány tak, aby reagovaly na pokyny, takže jsou vhodnější pro konverzace a interakce s koncovými uživateli.
I když Apple nenavrhl konkrétní případy použití pro tyto modely, mohly by být použity pro spouštění asistentů, kteří mohou analyzovat e-maily a texty nebo poskytovat inteligentní návrhy založené na datech. Jedná se o podobný přístup převzato společností Google, která nasadila svůj model Gemini AI do své řady smartphonů Pixel.
Modely byly trénovány na veřejně dostupných datasetech a Apple sdílí jak kód pro CoreNet (knihovna používaná k trénování OpenELM), tak „recepty“ pro své modely. Jinými slovy, uživatelé si mohou prohlédnout, jak je Apple postavil.
Vydání Apple přichází krátce poté Microsoft oznámil Phi-3, rodina malých jazykových modelů schopných běžet lokálně. Phi-3 Mini, model s 3.8 miliardami parametrů trénovaný na 3.3 bilionu tokenů, je stále schopen zpracovat 128 tisíc tokenů kontextu, takže je srovnatelný s GPT-4 a poráží Llama-3 a Mistral Large z hlediska kapacity tokenů.
Vzhledem k tomu, že je Phi-3 Mini otevřený a lehký, mohl by pro některé úkoly potenciálně nahradit tradiční asistenty, jako je Siri od Apple nebo Gemini od Googlu, a Microsoft již Phi-3 testoval na iPhonu a hlásil uspokojivé výsledky a rychlé generace tokenů.
I když Apple ještě neintegroval tyto nové možnosti jazykového modelu AI do svých spotřebitelských zařízení, nadcházející aktualizace iOS 18 ano rumored zahrnout nové funkce umělé inteligence, které využívají zpracování na zařízení k zajištění soukromí uživatelů.
Hardware Apple má výhodu v místním použití AI, protože kombinuje RAM zařízení s GPU video RAM (nebo VRAM). To znamená, že Mac s 32 GB RAM (běžná konfigurace v PC) může využít tuto RAM stejně jako GPU VRAM ke spuštění modelů AI. Ve srovnání, Zařízení Windows jsou ochromeni pomocí samostatné paměti RAM zařízení a grafické paměti VRAM. Uživatelé často potřebují zakoupit výkonný 32GB GPU, aby mohli rozšířit RAM, aby mohli provozovat modely AI.
Apple však za Windows/Linuxem zaostává v oblasti vývoje AI. Většina aplikací umělé inteligence se točí kolem hardwaru navrženého a postaveného společností Nvidia, kterou Apple postupně vyřazoval z podpory svých vlastních čipů. To znamená, že vývoj umělé inteligence Apple je relativně malý a v důsledku toho použití umělé inteligence na produktech Apple vyžaduje překladové vrstvy nebo jiné složité postupy.
Mějte přehled o krypto novinkách, dostávejte denní aktualizace do vaší schránky.
- SEO Powered Content & PR distribuce. Získejte posílení ještě dnes.
- PlatoData.Network Vertikální generativní Ai. Zmocnit se. Přístup zde.
- PlatoAiStream. Inteligence Web3. Znalosti rozšířené. Přístup zde.
- PlatoESG. Uhlík, CleanTech, Energie, Životní prostředí, Sluneční, Nakládání s odpady. Přístup zde.
- PlatoHealth. Inteligence biotechnologií a klinických studií. Přístup zde.
- Zdroj: https://decrypt.co/228325/apple-small-ai-models-openelm-microsoft-phi-mini
