ΤΟΚΙΟ, 24 Απριλίου 2024 – (JCN Newswire) – Η NEC Corporation (NEC; TSE: 6701) έχει επεκτείνει τις υπηρεσίες παραγωγής τεχνητής νοημοσύνης «NEC cotomi» με την ανάπτυξη των «NEC cotomi Pro» και «NEC cotomi Light», δύο νέα μοντέλα υψηλής ταχύτητας παραγωγής AI Large Language Models (LLM) που διαθέτουν ενημερωμένα εκπαιδευτικά δεδομένα και αρχιτεκτονικές.
Με την ταχεία ανάπτυξη της γενετικής τεχνητής νοημοσύνης τα τελευταία χρόνια, ένα ευρύ φάσμα οργανισμών εξετάζει και επαληθεύει τον επιχειρηματικό μετασχηματισμό χρησιμοποιώντας LLM. Καθώς προκύπτουν συγκεκριμένα σενάρια εφαρμογών, υπάρχει ανάγκη παροχής μοντέλων και μορφών που ανταποκρίνονται στις ανάγκες των πελατών όσον αφορά τον χρόνο απόκρισης, τον συντονισμό επιχειρηματικών δεδομένων, την προστασία πληροφοριών και άλλες πτυχές ασφάλειας κατά την υλοποίηση και τη λειτουργία.
Τα πρόσφατα αναπτυγμένα NEC cotomi Pro και NEC cotomi Light της NEC είναι μοντέλα υψηλής ταχύτητας και υψηλής απόδοσης που προσφέρουν την ίδια υψηλή απόδοση με τα παγκόσμια LLM, αλλά με μεγαλύτερη από δεκαπλάσια ταχύτητα.
Γενικά, για να βελτιωθεί η απόδοση ενός LLM, ένα μοντέλο πρέπει να γίνει μεγαλύτερο, αλλά αυτό επιβραδύνει την ταχύτητα λειτουργίας. Ωστόσο, η NEC κατάφερε να βελτιώσει τόσο την ταχύτητα όσο και την απόδοση με την ανάπτυξη μιας προηγμένης νέας μεθόδου εκπαίδευσης και αρχιτεκτονικής.
Το "NEC cotomi Pro" επιτυγχάνει επιδόσεις συγκρίσιμες με παγκόσμια μοντέλα κορυφαίου επιπέδου όπως το "GPT-4" και το "Claude 2", με χρόνο απόκρισης που είναι περίπου 87% ταχύτερος από το GPT-4 χρησιμοποιώντας μια υποδομή δύο μονάδων επεξεργασίας γραφικών ( GPU). Επιπλέον, το ακόμα πιο γρήγορο "NEC cotomi Light" έχει το ίδιο επίπεδο απόδοσης με τα παγκόσμια μοντέλα όπως το "GPT-3.5-Turbo", αλλά μπορεί να επεξεργαστεί μεγάλο αριθμό αιτημάτων με υψηλή ταχύτητα με υποδομή περίπου 1 έως 2 GPU , παρέχοντας επαρκή απόδοση για πολλές εργασίες.
Συγκεκριμένα, σε ένα εσωτερικό σύστημα ανάκτησης εγγράφων που χρησιμοποιεί μια τεχνική που ονομάζεται RAG, το σύστημα πέτυχε σωστό ρυθμό απόκρισης υψηλότερο από το GPT-3.5 χωρίς μικρορύθμιση και σωστό ρυθμό απόκρισης υψηλότερο από το GPT-4 μετά τη λεπτομέρεια, με απόκριση χρόνος που είναι περίπου 93% ταχύτερος.
Χαρακτηριστικά των NEC cotomi Pro και NEC cotomi Light1. Υψηλή απόδοση για διάφορες εργασίες
Τόσο το "NEC cotomi Pro" και το "NEC cotomi Light" έχουν υψηλά επίπεδα επεξεργαστικής ισχύος που βρίσκονται στο κορυφαίο επίπεδο παγκοσμίως όσον αφορά τη γνώση και την ικανότητα χειρισμού διαφόρων εργασιών, όπως η σύνοψη εγγράφων, η λογική συλλογιστική και η απάντηση ερωτήσεων.
Συγκρίσεις συγκριτικής αξιολόγησης «ELYZA Tasks 100» (2 κορυφαία γραφήματα) και «Japanese MT-Bench» (κάτω γράφημα)
Συγκεκριμένα, η NEC επιβεβαίωσε τις επιδόσεις ανώτατου επιπέδου, όχι μόνο στην Ιαπωνία αλλά και παγκοσμίως, σε δύο σημεία αναφοράς που χρησιμοποιούνται συνήθως για τη μέτρηση της συνολικής απόδοσης LLM: «ELYZA Tasks 100» και «Japanese MT-Bench». Το NEC cotomi Pro παρείχε αποτελέσματα περισσότερο από πέντε φορές πιο γρήγορα από το GPT-4 (*) σε έναν τυπικό διακομιστή με δύο GPU. Επιπλέον, ξεπέρασε την ταχύτητα μοντέλων όπως το "Gemini 1.0 Pro" και έδειξε απόδοση που είναι συγκρίσιμη με το Claude 2 και το GPT-4. Ταυτόχρονα, το «NEC cotomi Light» έδωσε αποτελέσματα που είναι πάνω από 15 φορές πιο γρήγορα από το GPT-4, ενώ ξεπέρασε τα μεγάλα μοντέλα όπως το «LLaMA2-70B» και επιδείκνυε απόδοση που είναι συγκρίσιμη με το GPT-3.5-Turbo.
2. Υψηλή ταχύτητα
Εκτός από την υψηλή απόδοση κατά την εξαγωγή συμπερασμάτων, ο χρόνος (ταχύτητα) μεταξύ της αποστολής ενός αιτήματος και της λήψης μιας απάντησης είναι επίσης σημαντικός για την πρακτική εφαρμογή του LLM. Το NEC cotomi Pro και το NEC cotomi Light έχουν επιτύχει επεξεργασία υψηλής ταχύτητας που είναι 87% έως 93% ταχύτερη από το GPT-4 με δύο τυπικές GPU. Αυτό επιτεύχθηκε χάρη στις αρχιτεκτονικές καινοτομίες που έχουν βελτιώσει τόσο την απόδοση όσο και την ταχύτητα, καθώς και ένα μεγάλο ιαπωνικό λεξικό (για tokenization) στο μοντέλο. Αυτές οι καινοτομίες όχι μόνο αυξάνουν την ταχύτητα συμπερασμάτων, αλλά αυξάνουν επίσης τον αριθμό των ταυτόχρονων προσβάσεων και μειώνουν τον χρόνο εκπαίδευσης που απαιτείται για τη λεπτομέρεια. Επιπλέον, μπορούν να γίνουν πρόσθετες βελτιώσεις ταχύτητας αυξάνοντας τον αριθμό των GPU σε 4 ή 8, επιτρέποντας την ευέλικτη κατασκευή για να καλύψει τις ανάγκες κάθε εφαρμογής.
Χρησιμοποιώντας ένα μοντέλο που επιτυγχάνει υψηλή ισχύ επεξεργασίας με υψηλή ταχύτητα και μαζική πρόσβαση, είναι δυνατό να μειωθεί σημαντικά ο χρόνος απόκρισης των επιχειρηματικών εφαρμογών που χρησιμοποιούν γενετική τεχνητή νοημοσύνη και να βελτιωθεί η εμπειρία χρήστη. Επιπλέον, η υψηλή ισχύς επεξεργασίας μπορεί να βελτιώσει σημαντικά την απόδοση μετά τη λεπτομέρεια των μεμονωμένων δεδομένων για κάθε εταιρεία. Στο εξής, η NEC θα συνεχίσει να ενισχύει τη συνεργασία με τους συνεργάτες και να παρέχει ασφαλείς, ασφαλείς και αξιόπιστες υπηρεσίες τεχνητής νοημοσύνης με βάση τη διευρυμένη σειρά NEC cotomi, με ο στόχος να βοηθήσει τους πελάτες να λύσουν ένα ευρύ φάσμα σύνθετων προκλήσεων.
(*)Το πείραμα παρείχε ακρίβεια υπολογισμού 16-bit σε περιβάλλον GPU εξοπλισμένο με δύο L40sShare
Σχετικά με την NEC Corporation
Η NEC Corporation έχει καθιερωθεί ως ηγέτης στην ολοκλήρωση των τεχνολογιών πληροφορικής και δικτύων, προωθώντας ταυτόχρονα τη δήλωση επωνυμίας «Οργάνωση ενός φωτεινότερου κόσμου». Το NEC δίνει τη δυνατότητα στις επιχειρήσεις και τις κοινότητες να προσαρμοστούν στις ταχείες αλλαγές που συμβαίνουν τόσο στην κοινωνία όσο και στην αγορά, καθώς προβλέπει τις κοινωνικές αξίες της ασφάλειας, της ασφάλειας, της δικαιοσύνης και της αποτελεσματικότητας για την προώθηση ενός πιο βιώσιμου κόσμου όπου όλοι έχουν την ευκαιρία να αξιοποιήσουν πλήρως τις δυνατότητές τους. Για περισσότερες πληροφορίες, επισκεφθείτε το NEC στη διεύθυνση https://www.nec.com.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://www.jcnnewswire.com/pressrelease/90452/3/
