Generative Datenintelligenz

Automatisierung der generativen KI-Entwicklung

Datum:

Gesponserte Funktion Künstliche Intelligenz (KI) hat in letzter Zeit die Schlagzeilen in Wirtschaft und Technologie dominiert, insbesondere mit dem Aufkommen generativer KI-Technologien wie ChatGPT. Doch für Unternehmen, die den Einsatz von KI und generativer KI beginnen oder ausweiten, bleiben erhebliche technologische Herausforderungen sowie Schulungs- und Verfahrenshürden zu überwinden.

Sicherlich nimmt die Zahl der Unternehmen, die KI nutzen, weltweit und in nahezu allen Branchen weiter zu. Entsprechend der IBM Global AI Adoption Index 2022 Bericht: Die Akzeptanz der Technologie floriert. Es wird berechnet, dass die weltweite KI-Einführungsrate im Jahr 2022 stetig gestiegen ist und nun bei 35 Prozent liegt, ein Anstieg um vier Prozentpunkte gegenüber dem Vorjahr. Und weitere 42 Prozent der Befragten gaben an, dass sie darüber nachdenken, wie sie mit dem Einsatz von KI beginnen könnten.

„Generell handelt es sich um eine neue Domäne, die sich sehr schnell entwickelt“, sagt Assaf Katan, Chief Business Officer des in Israel ansässigen AT-Entwicklers Deci. „Es gibt eine Kombination aus kurzfristigen und langfristigen Herausforderungen. Kurzfristig geht es wirklich darum, Ihren Weg zu wählen. „Möchte ich interne Funktionen aufbauen, mit Open-Source-Modellen arbeiten und sie selbst optimieren? Oder möchte ich über eine API mit so etwas wie Open AI arbeiten? Dann muss ich nicht besonders kompetent sein, aber auch mein Maß an Kontrolle über die Modellleistung und die Fähigkeit, es anzupassen und gleichzeitig den Datenschutz zu gewährleisten, ist begrenzt.‘“

Das sind die ersten kurzfristigen Entscheidungen. Langfristig gesehen müssen Unternehmen dann die Notwendigkeit einer Skalierung und die damit verbundenen Kosten berücksichtigen. „Langfristig gesehen gehen wir davon aus, dass ein Unternehmen einen generativen KI-Dienst aufbauen möchte. Sie glauben, dass es die Effizienz steigern und Arbeitsabläufe verbessern kann und dass es sich skalieren lässt“, erklärt Katan. „Sie müssen über die Auswirkungen einer Skalierung des Einsatzes des Modells nachdenken, das ihrer Lösung zugrunde liegt. Diese generativen Modelle sind mit Milliarden von Parametern enorm, daher ist die Rechenleistung, die sie für die Inferenz benötigen, enorm. Wie bauen Sie es so auf, dass Sie bei einer Skalierung trotzdem mit den Kosten umgehen können?“

Künstliche Intelligenz vorantreiben

Die Kombination aus generativer KI und leistungsstärkerer Serverhardware, die besser für die Verarbeitung dieser Arbeitslasten geeignet ist, eröffnet Unternehmen neue Möglichkeiten, neue KI-Anwendungen und -Modelle schnell zu entwerfen, zu erstellen und bereitzustellen. Laut derselben IBM-Studie hilft KI Unternehmen auf vielfältige Weise. Dazu gehört die Bewältigung des Arbeitskräfte- und Talentmangels durch die Automatisierung wiederkehrender Aufgaben; Zeitersparnis durch Automatisierung von IT-, Geschäfts- und Netzwerkprozessen; Kosten sparen; Effizienzsteigerung des Betriebs, Verbesserung der IT- und Netzwerkleistung; und letztendlich den Kunden ein besseres Erlebnis zu bieten.

Die meisten greifbaren Geschäftsvorteile basieren auf Effizienz, erklärt Katan. „Ein Unternehmen, mit dem wir sprechen, hat einen großen Kundenstamm, daher gibt es viele Kundenbetreuungs- und Kundensupportanrufe“, sagt er. „Heute verwenden sie Standard-Chatbots ohne KI, die viele grundlegende Probleme haben. Sie planen, die überwiegende Mehrheit dieser Anrufe mithilfe generativer KI abzuwickeln und den Rest menschlichen Agenten zu überlassen.“

Katan erwähnte ein anderes Unternehmen, mit dem Deci zusammenarbeitet und das KI geschickt zur Generierung von Inhalten einsetzt. „Sie haben Tausende verschiedener Produkte und SKUs. Sie nutzen generative KI, um Produktbeschreibungen zu schreiben“, erklärt er. „Jetzt sind diese Produktbeschreibungen nicht nur ein Zweizeiler. Dazu gehören Produktbeschreibungen, technische Spezifikationen und Funktionsinformationen. Sie nutzen generative KI, um 90 Prozent dieser Produktbeschreibungen zu verfassen.“

AutoNAC ermöglicht effizientes Deep Learning

Die Deep-Learning-Plattform Deci basiert auf der AutoNAC-Technologie (Automated Neural Architecture Construction). „Unser Angebot besteht aus zwei Hauptkomponenten“, erklärt Katan. „Eine davon ist das neuronale Netzwerk, bei dem unsere Technologie Ihnen beim Aufbau effizienter neuronaler Netzwerkarchitekturen hilft, die für einen bestimmten Anwendungsfall, die Hardware, auf der sie ausgeführt werden, optimiert und so eingerichtet sind, dass sie bestimmte KPIs erfüllen.“

AutoNAC führt eine Suche mit mehreren Zielen innerhalb eines Suchraums von Dutzenden Milliarden verschiedener potenzieller Architekturen durch, um die optimale Architektur zu identifizieren – eine Architektur, die ein Gleichgewicht zwischen Genauigkeit, geringer Latenz und hohem Durchsatz schafft und auf bestimmte Aufgaben und Daten zugeschnitten ist Eigenschaften, Leistungsziele und spezifische Hardware. AutoNAC von Deci hat einige der weltweit effizientesten Computer Vision- und generativen Modelle generiert, darunter YOLO-NAS, DeciLM 6B und DeciDiffusion.

Die AutoNAC-Engine kann auch die Genauigkeit und das Leistungsniveau der von ihr generierten Architektur vorhersagen, ohne das Modell im Voraus tatsächlich trainieren zu müssen, wie es bei so vielen KI-Modellen der Fall ist. Das Endergebnis ist ein automatisch kompiliertes KI-Modell, das viel schneller und kostengünstiger entwickelt wird als zuvor, fügt Katan hinzu: „Sie sparen Geld und sorgen für einen höheren Durchsatz, was eine bessere Benutzererfahrung bedeutet.“

Die andere Komponente ist Infery, das Deci-Inferenztool. „Infery optimiert die Laufzeitleistung des neuronalen Netzwerks weiter, um sicherzustellen, dass es auf bestimmter Hardware so effizient wie möglich läuft“, fährt er fort. „Wir verfügen über leistungsstarke Inferenztools, die für verschiedene Anwendungsfälle optimiert sind. Für generative KI entwickeln wir ein spezielles Inferenztool, das für diese großen Modelle optimiert ist, da sie sich anders verhalten als kleinere.“ 

Generative KI-Modelle zeichnen sich durch komplexe, iterative Prozesse aus und unterscheiden sich von herkömmlichen statischen Modellen, die bei Aufgaben wie der Objekterkennung eingesetzt werden. Herkömmliche Optimierungstools reichen nicht aus und erfordern spezielle Tools für diese dynamischen Architekturen.

KI-Teams verbringen heute viele Monate und Ressourcen damit, ihre Modelle mit endlosen Versuch-und-Irrtum-Iterationen zu entwickeln und zu optimieren, wenn sie versuchen, Modelle manuell zu entwerfen. Dennoch schaffen es nur 30 % der Modelle in die Produktion. Die Deci-Plattform rationalisiert die Modellentwicklung und -optimierung, beseitigt Unsicherheiten und garantiert den Erfolg in der Produktion. Mit Deci kann das KI-Team die Produktion innerhalb von Tagen statt Monaten erreichen.

KI bei der Arbeit

Die Computer-Vision- und generative KI-Plattform von Deci wird in Kombination mit Lenovo ThinkSystem-Servern erfolgreich in einer Reihe von Branchen eingesetzt, darunter in der Fertigung, im Einzelhandel und sogar in der Landwirtschaft. „Deci ist in zwei Hauptmärkten tätig“, erklärt Katan: „Computer Vision und generative KI.“ 

Die Computer-Vision-Anwendungen werden in Fertigungs- und Automobilfabriken für visuelle Inspektionen eingesetzt, um beispielsweise fehlerhafte Produkte zu identifizieren. In der Landwirtschaft nutzen Deci-Kunden Computer-Vision-Kameras, um die Gesundheit, Größe und das Wachstum von Tieren zu überwachen. Im Einzelhandel wird Computer Vision für den automatischen Checkout eingesetzt. „All das nutzt die gute alte, auf Computer Vision basierende KI, um Analysen durchzuführen und Entscheidungen zu treffen“, fügt er hinzu.

Auf der Seite der generativen KI wird Deci von Kunden in einer Reihe von Märkten eingesetzt und erfüllt Funktionen, die in jeder Branche zu finden sind. „Es gibt eine umfassende Kundenbetreuung“, sagt er. „Dann gibt es im Finanzdienstleistungsbereich spezifischere Anwendungsfälle wie die Durchführung von Kreditanalysen. Vertriebs- und Marketingteams nutzen Kundendaten, um individuelle Verkaufsvorschläge zu erstellen. Sie betreiben auch kundenspezifisches Marketing; und nicht nur der Inhalt. Es gibt sogar eine visuelle Komponente mit Tools wie Text-to-Image und der Kombination von Bildern, um individuelle Marketingpakete zu erstellen.“  

Stärke in Zahlen

Für Unternehmen, die KI-Systeme und -Modelle einführen möchten, kann dies ein entmutigender und komplexer Prozess sein. Gemeinsam hoffen Lenovo und Deci, den Prozess zu vereinfachen, indem sie die Deci-KI-Plattform und -Modelle so konfigurieren, dass sie auf Lenovo-Servern am effizientesten funktionieren. Das macht es zu einem One-Stop-Shopping für Unternehmen, die an der Entwicklung eigener KI-Modelle interessiert sind.

Ein Aspekt dieser Partnerschaft ist Decis Teilnahme an der Lenovo AI Innovators-Programm. Dies hilft sowohl dadurch, dass Decis Deep-Learning-Plattform als auch die Modelle zur Verarbeitung natürlicher Sprache auf Lenovo ThinkSystem-Servern ausgeführt werden. Das Lenovo AI Innovators-Programm ermöglicht Deci Zugriff auf die interne KI-Expertise von Lenovo und stellt den Partnern vorkonfigurierte Hardware zur Verfügung, die für den Betrieb der AutoNAC-Plattform bereit ist.

Das Lenovo AI Innovators-Programm bietet ein umfangreiches Netzwerk von Partnerunternehmen und eine globale Reichweite in 180 Ländern. Lenovo hat außerdem KI-Kompetenzzentren eingerichtet, in denen Partnerunternehmen Fachwissen und Ressourcen austauschen können.

Laut Katan ist es nicht nur der Umfang von Lenovo, der die Partnerschaft bereichert. „Wenn Sie einen Kunden ansprechen, müssen Sie wissen, was der Anwendungsfall ist und wie der Zeitpunkt ist?“ er sagt. „Der Zeitpunkt ist wichtig. Vielleicht haben Sie ein tolles Produkt, aber es ist zu früh oder zu spät verfügbar. Wenn wir mit einem Unternehmen wie Lenovo zusammenarbeiten, kennen sie den beabsichtigten Anwendungsfall und den Zeitpunkt besser, um eine Lösung zu entwickeln.“ 

Als Beispiel erklärt Katan, wie die Kombination aus AutoNAC-Plattform und Lenovo-Servern in einen relativ häufigen Anwendungsfall passen würde. „Angenommen, Sie bauen eine visuelle Inspektionslösung für Ihre Produktionsanlage“, sagt er. „Es braucht den Lenovo-Computer. Es braucht die Kameras. Es benötigt Speicherplatz für die Daten usw. In dieser Situation sind wir die KI-Komponente.“ 

Der große Bruder springt ein

Lenovo bietet globale Reichweite, Zuverlässigkeit sowie Vertriebs- und Supportkapazitäten. Deci bringt seine Kerntechnologie mit. „Für uns sind sie wie der große Bruder“, sagt Katan. „Unsere Stärke liegt in der KI-Technologie. Es ist also eine Kombination ihrer Reichweite und Kunden mit unserer Technologie. Das ist unser Versprechen an Lenovo. Wir werden immer die beste und stärkste KI-Technologie einbringen, und wir werden weiter daran arbeiten und uns darauf konzentrieren, sie so stark wie möglich zu machen.“

Die Lenovo ThinkSystems sind einzigartig gepaart, um anspruchsvolle Rechenfunktionen wie KI-Berechnungen zu unterstützen. „Wenn man an ein Unternehmen denkt, das generative KI nutzen und einen skalierbaren Dienst aufbauen möchte, sind die Kosten enorm“, erklärt Katan. „Und diese Modelle werden immer größer. Je größer das Modell, desto mehr Rechenleistung erfordert und verbraucht es. Das Erstellen von Modellen, die weniger Rechenleistung verbrauchen, bedeutet also weniger Hardwarekosten.“

Die Deci-Partnerschaft mit Lenovo ist relativ neu, sie begann Anfang 2023, und Katan blickt gespannt in die Zukunft. „Von unserer Seite aus werden wir unsere Support-Matrix weiter ausbauen“, fügt Katan hinzu. „Wir werden die Art und Breite der von uns unterstützten Anwendungsfälle erweitern. Die Partnerschaft mit Lenovo hat erst vor kurzem begonnen, daher haben wir eine Technologievalidierung durchgeführt, um den Lenovo-Mitarbeitern zu helfen, unsere Plattform und unser Leistungsversprechen besser zu verstehen.“

Gesponsert von Lenovo.

spot_img

Neueste Intelligenz

spot_img