ਐਪਲ, ਜੋ ਕਿ ਆਮ ਤੌਰ 'ਤੇ ਇਸ ਦੇ ਖੁੱਲ੍ਹੇਪਣ ਲਈ ਨਹੀਂ ਜਾਣਿਆ ਜਾਂਦਾ ਹੈ, ਨੇ ਓਪਨਈਐਲਐਮ ਨਾਮਕ ਇੱਕ ਜਨਰੇਟਿਵ AI ਮਾਡਲ ਜਾਰੀ ਕੀਤਾ ਹੈ ਜੋ ਜ਼ਾਹਰ ਤੌਰ 'ਤੇ ਜਨਤਕ ਡੇਟਾ ਸੈੱਟਾਂ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਹੋਰ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਦੇ ਇੱਕ ਸਮੂਹ ਨੂੰ ਪਛਾੜਦਾ ਹੈ।
ਦੇ ਮੁਕਾਬਲੇ - ਇਹ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਹੀਂ ਹੈ ਓਲਮੋ, ਜਿਸ ਦੀ ਸ਼ੁਰੂਆਤ ਫਰਵਰੀ ਵਿੱਚ ਹੋਈ ਸੀ, OpenELM 2.36x ਘੱਟ ਪ੍ਰੀਟ੍ਰੇਨਿੰਗ ਟੋਕਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ 2 ਪ੍ਰਤੀਸ਼ਤ ਵਧੇਰੇ ਸਹੀ ਹੈ। ਪਰ ਇਹ ਸ਼ਾਇਦ ਲੋਕਾਂ ਨੂੰ ਯਾਦ ਦਿਵਾਉਣ ਲਈ ਕਾਫ਼ੀ ਹੈ ਕਿ ਐਪਲ ਹੁਣ ਇੰਡਸਟਰੀ ਏਆਈ ਰੇਵ ਵਿੱਚ ਵਾਲਫਲਾਵਰ ਬਣਨ ਲਈ ਸੰਤੁਸ਼ਟ ਨਹੀਂ ਹੈ।
ਐਪਲ ਦਾ ਖੁੱਲੇਪਣ ਦਾ ਦਾਅਵਾ ਸਿਰਫ ਮਾਡਲ ਨੂੰ ਹੀ ਨਹੀਂ, ਬਲਕਿ ਇਸਦੀ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਫਰੇਮਵਰਕ ਨੂੰ ਜਾਰੀ ਕਰਨ ਦੇ ਫੈਸਲੇ ਤੋਂ ਆਉਂਦਾ ਹੈ।
“ਪਹਿਲੇ ਅਭਿਆਸਾਂ ਤੋਂ ਵੱਖ ਹੋ ਕੇ ਜੋ ਸਿਰਫ ਮਾਡਲ ਵਜ਼ਨ ਅਤੇ ਅਨੁਮਾਨ ਕੋਡ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ, ਅਤੇ ਪ੍ਰਾਈਵੇਟ ਡੇਟਾਸੈਟਾਂ 'ਤੇ ਪ੍ਰੀ-ਟ੍ਰੇਨ, ਸਾਡੀ ਰੀਲੀਜ਼ ਵਿੱਚ ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਡੇਟਾਸੈਟਾਂ 'ਤੇ ਭਾਸ਼ਾ ਮਾਡਲ ਦੀ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਲਈ ਪੂਰਾ ਢਾਂਚਾ ਸ਼ਾਮਲ ਹੈ, ਜਿਸ ਵਿੱਚ ਸਿਖਲਾਈ ਲੌਗ, ਮਲਟੀਪਲ ਚੈਕਪੁਆਇੰਟ, ਅਤੇ ਪ੍ਰੀ. -ਸਿਖਲਾਈ ਸੰਰਚਨਾ," ਸਬੰਧਿਤ ਵਿੱਚ ਗਿਆਰਾਂ ਐਪਲ ਖੋਜਕਰਤਾਵਾਂ ਦੀ ਵਿਆਖਿਆ ਕਰੋ ਤਕਨੀਕੀ ਪੇਪਰ.
ਅਤੇ ਅਕਾਦਮਿਕ ਅਭਿਆਸ ਤੋਂ ਵੱਖ ਹੋ ਕੇ, ਲੇਖਕਾਂ ਦੇ ਈਮੇਲ ਪਤੇ ਸੂਚੀਬੱਧ ਨਹੀਂ ਹਨ। ਇਸਨੂੰ ਐਪਲ ਦੇ ਖੁੱਲੇਪਣ ਦੀ ਵਿਆਖਿਆ ਤੱਕ ਚਲਾਓ, ਜੋ ਕਿ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਾ-ਖੁੱਲ੍ਹੇ ਓਪਨਏਆਈ ਨਾਲ ਤੁਲਨਾਤਮਕ ਹੈ।
ਨਾਲ ਸਾਫਟਵੇਅਰ ਰੀਲੀਜ਼ ਇੱਕ ਮਾਨਤਾ ਪ੍ਰਾਪਤ ਓਪਨ ਸੋਰਸ ਲਾਇਸੰਸ ਨਹੀਂ ਹੈ। ਇਹ ਬੇਲੋੜੀ ਪਾਬੰਦੀਸ਼ੁਦਾ ਨਹੀਂ ਹੈ, ਪਰ ਇਹ ਸਪੱਸ਼ਟ ਕਰਦਾ ਹੈ ਕਿ ਐਪਲ ਪੇਟੈਂਟ ਦਾਅਵਾ ਦਾਇਰ ਕਰਨ ਦਾ ਅਧਿਕਾਰ ਰੱਖਦਾ ਹੈ ਜੇਕਰ OpenELM 'ਤੇ ਅਧਾਰਤ ਕੋਈ ਵੀ ਡੈਰੀਵੇਟਿਵ ਕੰਮ ਇਸਦੇ ਅਧਿਕਾਰਾਂ ਦੀ ਉਲੰਘਣਾ ਕਰਦਾ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ।
OpenELM ਟ੍ਰਾਂਸਫਾਰਮਰ ਮਾਡਲ ਵਿੱਚ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਵਧੇਰੇ ਕੁਸ਼ਲਤਾ ਨਾਲ ਨਿਰਧਾਰਤ ਕਰਨ ਲਈ ਲੇਅਰ-ਵਾਰ ਸਕੇਲਿੰਗ ਨਾਮਕ ਇੱਕ ਤਕਨੀਕ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਇਸਲਈ ਹਰੇਕ ਲੇਅਰ ਵਿੱਚ ਪੈਰਾਮੀਟਰਾਂ ਦਾ ਇੱਕੋ ਸੈੱਟ ਹੋਣ ਦੀ ਬਜਾਏ, ਓਪਨਈਐਲਐਮ ਦੀਆਂ ਟ੍ਰਾਂਸਫਾਰਮਰ ਲੇਅਰਾਂ ਵਿੱਚ ਵੱਖਰੀਆਂ ਸੰਰਚਨਾਵਾਂ ਅਤੇ ਪੈਰਾਮੀਟਰ ਹੁੰਦੇ ਹਨ। ਨਤੀਜਾ ਬਿਹਤਰ ਹੈ ਸ਼ੁੱਧਤਾ, ਬੈਂਚਮਾਰਕ ਟੈਸਟਾਂ ਵਿੱਚ ਮਾਡਲ ਤੋਂ ਸਹੀ ਪੂਰਵ-ਅਨੁਮਾਨਾਂ ਦੀ ਪ੍ਰਤੀਸ਼ਤ ਵਿੱਚ ਦਿਖਾਇਆ ਗਿਆ ਹੈ।
ਸਾਨੂੰ ਦੱਸਿਆ ਗਿਆ ਹੈ ਕਿ ਓਪਨਈਐਲਐਮ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਪ੍ਰੀ-ਟ੍ਰੇਂਡ ਕੀਤਾ ਗਿਆ ਸੀ ਲਾਲ ਪਜਾਮਾ GitHub ਤੋਂ ਡੇਟਾਸੈਟ, ਕਿਤਾਬਾਂ ਦੀ ਇੱਕ ਟਨ, ਵਿਕੀਪੀਡੀਆ, ਸਟੈਕਐਕਸਚੇਂਜ ਪੋਸਟਾਂ, ArXiv ਪੇਪਰਾਂ, ਅਤੇ ਹੋਰ ਬਹੁਤ ਕੁਝ, ਅਤੇ ਲਈਆ Reddit, Wikibooks, Project Gutenberg, ਅਤੇ ਹੋਰ ਤੋਂ ਸੈੱਟ ਕਰੋ। ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ ਜਿਵੇਂ ਤੁਸੀਂ ਉਮੀਦ ਕਰ ਸਕਦੇ ਹੋ: ਤੁਸੀਂ ਇਸਨੂੰ ਇੱਕ ਪ੍ਰੋਂਪਟ ਦਿੰਦੇ ਹੋ, ਅਤੇ ਇਹ ਇਸਨੂੰ ਜਵਾਬ ਦੇਣ ਜਾਂ ਸਵੈ-ਪੂਰਾ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦਾ ਹੈ।
ਰੀਲੀਜ਼ ਦਾ ਇੱਕ ਧਿਆਨ ਦੇਣ ਯੋਗ ਪਹਿਲੂ ਇਹ ਹੈ ਕਿ ਇਹ "ਐਪਲ ਡਿਵਾਈਸਾਂ 'ਤੇ ਅਨੁਮਾਨ ਅਤੇ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਲਈ ਮਾਡਲਾਂ ਨੂੰ MLX ਲਾਇਬ੍ਰੇਰੀ ਵਿੱਚ ਬਦਲਣ ਲਈ ਕੋਡ" ਦੇ ਨਾਲ ਹੈ।
ਐਮ ਐਲ ਐਕਸ ਐਪਲ ਸਿਲੀਕਾਨ 'ਤੇ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਨੂੰ ਚਲਾਉਣ ਲਈ ਪਿਛਲੇ ਸਾਲ ਜਾਰੀ ਕੀਤਾ ਗਿਆ ਇੱਕ ਢਾਂਚਾ ਹੈ। ਐਪਲ ਡਿਵਾਈਸਾਂ 'ਤੇ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਕੰਮ ਕਰਨ ਦੀ ਸਮਰੱਥਾ, ਨੈੱਟਵਰਕ ਦੀ ਬਜਾਏ, OpenELM ਨੂੰ ਡਿਵੈਲਪਰਾਂ ਲਈ ਵਧੇਰੇ ਦਿਲਚਸਪ ਬਣਾਉਣਾ ਚਾਹੀਦਾ ਹੈ।
ਏਆਈ ਸੇਵਾ ਬਿਜ਼ ਐਕਵਾਂਟ ਦੇ ਸੀਈਓ ਅਤੇ ਸਹਿ-ਸੰਸਥਾਪਕ, ਸ਼ਾਹਰ ਚੇਨ ਨੇ ਦੱਸਿਆ, “ਐਪਲ ਦੀ ਓਪਨਈਐਲਐਮ ਰੀਲੀਜ਼ ਏਆਈ ਭਾਈਚਾਰੇ ਲਈ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਤਰੱਕੀ ਦੀ ਨਿਸ਼ਾਨਦੇਹੀ ਕਰਦੀ ਹੈ, ਜੋ ਕਿ ਮੋਬਾਈਲ ਐਪਸ ਅਤੇ ਸੀਮਤ ਕੰਪਿਊਟਿੰਗ ਪਾਵਰ ਵਾਲੇ ਆਈਓਟੀ ਡਿਵਾਈਸਾਂ ਲਈ ਕੁਸ਼ਲ, ਔਨ-ਡਿਵਾਈਸ ਏਆਈ ਪ੍ਰੋਸੈਸਿੰਗ ਆਦਰਸ਼ ਪੇਸ਼ ਕਰਦੀ ਹੈ। ਰਜਿਸਟਰ. "ਇਹ ਰੋਜ਼ਾਨਾ ਦੀ ਤਕਨਾਲੋਜੀ ਵਿੱਚ AI ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਵਿਸਤਾਰ ਕਰਦੇ ਹੋਏ, ਸਮਾਰਟਫ਼ੋਨਾਂ ਤੋਂ ਲੈ ਕੇ ਸਮਾਰਟ ਹੋਮ ਡਿਵਾਈਸਾਂ ਤੱਕ ਹਰ ਚੀਜ਼ ਲਈ ਤੁਰੰਤ, ਸਥਾਨਕ ਫੈਸਲੇ ਲੈਣ ਨੂੰ ਜ਼ਰੂਰੀ ਬਣਾਉਂਦਾ ਹੈ।"
ਐਪਲ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਲਈ ਆਪਣੇ ਘਰੇਲੂ ਚਿਪ ਆਰਕੀਟੈਕਚਰ ਦੇ ਗੁਣ ਦਿਖਾਉਣ ਲਈ ਉਤਸੁਕ ਹੈ, ਖਾਸ ਤੌਰ 'ਤੇ ਹਾਰਡਵੇਅਰ ਵਿੱਚ ਸਮਰਥਿਤ ਹੈ ਕਿਉਂਕਿ ਕਯੂਪਰਟੀਨੋ ਨੇ ਇਸਦੀ ਸ਼ੁਰੂਆਤ ਕੀਤੀ ਸੀ। ਨਿ Neਰਲ ਇੰਜਣ 2017 ਵਿੱਚ। ਫਿਰ ਵੀ OpenELM, ਹਾਲਾਂਕਿ ਇਹ ਸ਼ੁੱਧਤਾ ਦੇ ਮਾਪਦੰਡਾਂ 'ਤੇ ਉੱਚ ਸਕੋਰ ਕਰ ਸਕਦਾ ਹੈ, ਪ੍ਰਦਰਸ਼ਨ ਦੇ ਮਾਮਲੇ ਵਿੱਚ ਘੱਟ ਆਉਂਦਾ ਹੈ।
“ਇੱਕ ਸਮਾਨ ਪੈਰਾਮੀਟਰ ਗਿਣਤੀ ਲਈ OpenELM ਦੀ ਉੱਚ ਸ਼ੁੱਧਤਾ ਦੇ ਬਾਵਜੂਦ, ਅਸੀਂ ਦੇਖਦੇ ਹਾਂ ਕਿ ਇਹ OLMO ਨਾਲੋਂ ਹੌਲੀ ਹੈ,” ਪੇਪਰ ਦੱਸਦਾ ਹੈ, ਲੀਨਕਸ ਉੱਤੇ Nvidia ਦੇ CUDA ਦੇ ਨਾਲ-ਨਾਲ Apple Silicon ਉੱਤੇ OpenELM ਦੇ MLX ਸੰਸਕਰਣ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਟੈਸਟਾਂ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹੋਏ।
ਐਪਲ ਦੇ ਬੌਫਿਨ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਜਿੱਤ ਤੋਂ ਘੱਟ ਪ੍ਰਦਰਸ਼ਨ ਦਾ ਕਾਰਨ, ਉਹਨਾਂ ਦਾ “ਭੋਲਾ ਅਮਲ” ਹੈ RMSNorm,” ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਵਿੱਚ ਡੇਟਾ ਨੂੰ ਆਮ ਬਣਾਉਣ ਲਈ ਇੱਕ ਤਕਨੀਕ। ਭਵਿੱਖ ਵਿੱਚ, ਉਹ ਹੋਰ ਅਨੁਕੂਲਤਾਵਾਂ ਦੀ ਪੜਚੋਲ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾਉਂਦੇ ਹਨ।
ਓਪਨਈਐਲਐਮ 270 ਮਿਲੀਅਨ, 450 ਮਿਲੀਅਨ, 1.1 ਬਿਲੀਅਨ ਅਤੇ 3 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਦੇ ਨਾਲ ਪਹਿਲਾਂ ਤੋਂ ਸਿਖਲਾਈ ਅਤੇ ਹਦਾਇਤਾਂ ਵਾਲੇ ਮਾਡਲਾਂ ਵਿੱਚ ਉਪਲਬਧ ਹੈ। ਇਸਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲਿਆਂ ਨੂੰ ਸਾਰਥਕ ਕਿਸੇ ਵੀ ਚੀਜ਼ ਲਈ ਮਾਡਲ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਪੂਰੀ ਲਗਨ ਵਰਤਣ ਦੀ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ।
"OpenELM ਮਾਡਲਾਂ ਦੀ ਰਿਲੀਜ਼ ਦਾ ਉਦੇਸ਼ ਆਧੁਨਿਕ ਭਾਸ਼ਾ ਦੇ ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ ਪ੍ਰਦਾਨ ਕਰਕੇ ਓਪਨ ਖੋਜ ਭਾਈਚਾਰੇ ਨੂੰ ਸਮਰੱਥ ਬਣਾਉਣਾ ਅਤੇ ਅਮੀਰ ਬਣਾਉਣਾ ਹੈ," ਪੇਪਰ ਕਹਿੰਦਾ ਹੈ। "ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਡੇਟਾਸੈਟਾਂ 'ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ, ਇਹ ਮਾਡਲ ਬਿਨਾਂ ਕਿਸੇ ਸੁਰੱਖਿਆ ਗਾਰੰਟੀ ਦੇ ਉਪਲਬਧ ਕਰਵਾਏ ਗਏ ਹਨ।" ®
- ਐਸਈਓ ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਸਮੱਗਰੀ ਅਤੇ PR ਵੰਡ. ਅੱਜ ਹੀ ਵਧਾਓ।
- PlatoData.Network ਵਰਟੀਕਲ ਜਨਰੇਟਿਵ ਏ.ਆਈ. ਆਪਣੇ ਆਪ ਨੂੰ ਸਮਰੱਥ ਬਣਾਓ। ਇੱਥੇ ਪਹੁੰਚ ਕਰੋ।
- ਪਲੈਟੋਏਆਈਸਟ੍ਰੀਮ। Web3 ਇੰਟੈਲੀਜੈਂਸ। ਗਿਆਨ ਵਧਾਇਆ। ਇੱਥੇ ਪਹੁੰਚ ਕਰੋ।
- ਪਲੇਟੋਈਐਸਜੀ. ਕਾਰਬਨ, ਕਲੀਨਟੈਕ, ਊਰਜਾ, ਵਾਤਾਵਰਨ, ਸੂਰਜੀ, ਕੂੜਾ ਕਰਕਟ ਪ੍ਰਬੰਧਨ. ਇੱਥੇ ਪਹੁੰਚ ਕਰੋ।
- ਪਲੈਟੋ ਹੈਲਥ। ਬਾਇਓਟੈਕ ਅਤੇ ਕਲੀਨਿਕਲ ਟਰਾਇਲ ਇੰਟੈਲੀਜੈਂਸ। ਇੱਥੇ ਪਹੁੰਚ ਕਰੋ।
- ਸਰੋਤ: https://go.theregister.com/feed/www.theregister.com/2024/04/24/apple_openelm_ai/
