אינטליגנציה של נתונים גנרטיביים

AI

ברוכים הבאים לעידן חדש של בנייה בענן עם AI Generative ב-AWS | שירותי האינטרנט של אמזון

הועלה מחדש על ידי אפלטון
הועלה מחדש על ידי אפלטון

תאריך:

צפיות: 0

אנו מאמינים שבינה מלאכותית גנרטיבית היא בעלת פוטנציאל לאורך זמן לשנות כמעט כל חווית לקוח שאנו מכירים. מספר החברות המשיקות יישומי AI גנרטיביים ב-AWS הוא משמעותי ונבנה במהירות, כולל adidas, Booking.com, Bridgewater Associates, Clariant, Cox Automotive, GoDaddy ו-LexisNexis Legal & Professional, אם להזכיר רק כמה. סטארט-אפים חדשניים כמו Perplexity AI הולכים על הכל ב-AWS עבור AI גנרטיבי. חברות AI מובילות כמו Anthropic בחרו ב-AWS כספק הענן העיקרי שלהן לעומסי עבודה קריטיים, והמקום להכשיר את המודלים העתידיים שלהן. וספקי שירותים ופתרונות גלובליים כמו Accenture קוטפים את היתרונות של יישומי AI מחוללים מותאמים אישית כשהם מעצימים את המפתחים הפנימיים שלהם עם Amazon Code Whisperer.

לקוחות אלו בוחרים ב-AWS כי אנו מתמקדים בעשיית מה שעשינו תמיד - נטילת טכנולוגיה מורכבת ויקרה שיכולה לשנות את חוויות הלקוחות ואת העסקים ולהפוך אותה לדמוקרטית עבור לקוחות מכל הגדלים והיכולות הטכניות. לשם כך, אנו משקיעים ומתחדשים במהירות כדי לספק את מערך היכולות המקיף ביותר על פני שלוש השכבות של מחסנית הבינה המלאכותית. השכבה התחתונה היא התשתית להכשרת מודלים של שפה גדולה (LLMs) ומודלים בסיסיים אחרים (FMs) ולייצר מסקנות או תחזיות. השכבה האמצעית היא גישה נוחה לכל הדגמים והכלים שהלקוחות צריכים כדי לבנות ולהרחיב יישומי AI מחוללים עם אותן אבטחה, בקרת גישה ותכונות אחרות שהלקוחות מצפים לה משירות AWS. ובשכבה העליונה, השקענו ביישומים שמשנים את המשחק בתחומים מרכזיים כמו קידוד מבוסס בינה מלאכותית. בנוסף להציע להם בחירה וכפי שהם מצפים מאיתנו - רוחב ועומק של יכולות על פני כל השכבות, לקוחות גם אומרים לנו שהם מעריכים את הגישה שלנו ל-data-first, וסומכים על כך שבנו הכל מהיסוד עם הארגון- דרג אבטחה ופרטיות.

השבוע עשינו צעד גדול קדימה, והכרזנו על יכולות חדשות ומשמעותיות רבות בכל שלושת השכבות של הערימה כדי להקל ומעשי על הלקוחות שלנו להשתמש בבינה מלאכותית גנרטיבית באופן נרחב בעסקים שלהם.

השכבה התחתונה של המחסנית: AWS Trainium2 היא התוספת האחרונה לספק את תשתית הענן המתקדמת ביותר עבור AI גנרטיבי

השכבה התחתונה של המחסנית היא התשתית - מחשוב, רשתות, מסגרות, שירותים - הנדרשת כדי להכשיר ולהריץ LLMs ו-FMs אחרים. AWS מתחדשת כדי להציע את התשתית המתקדמת ביותר עבור ML. באמצעות שיתוף הפעולה הממושך שלנו עם NVIDIA, AWS הייתה הראשונה שהביאה מעבדי GPU לענן לפני יותר מ-12 שנים, ולאחרונה היינו ספקית הענן הגדולה הראשונה שהפכה מעבדי NVIDIA H100 לזמינים עם מופעי ה-P5 שלנו. אנו ממשיכים להשקיע בחידושים ייחודיים שהופכים את AWS לענן הטוב ביותר להפעלת מעבדי GPU, כולל יתרונות המחיר-ביצועים של מערכת הווירטואליזציה המתקדמת ביותר (AWS Nitro), רשת עוצמתית בקנה מידה של Petabit עם מתאם בדים אלסטיים (EFA), והיפר- אסכולות בקנה מידה עם Amazon EC2 UltraClusters (אלפי מופעים מואצים ממוקמים יחד באזור זמינות ומקושרים ברשת לא חוסמת שיכולה לספק עד 3,200 Gbps לאימון ML בקנה מידה מאסיבי). אנחנו גם מקלים על כל לקוח לגשת ליכולת חישוב מבוקשת מאוד של GPU עבור AI יצירתי עם Amazon EC2 Capacity Blocks for ML - מודל הצריכה הראשון והיחיד בתעשייה שמאפשר ללקוחות לשמור מעבדי GPU לשימוש עתידי (עד 500 פרוסים ב-EC2 UltraClusters) לעומסי עבודה של ML למשך זמן קצר.

לפני מספר שנים, הבנו שכדי להמשיך לדחוף את המעטפת בביצועי המחיר, נצטרך לחדש עד לסיליקון, והתחלנו להשקיע בצ'יפים שלנו. עבור ML ספציפית, התחלנו עם AWS Inferentia, שבב ההסקה המיועד שלנו. כיום, אנו נמצאים בדור השני שלנו של AWS Inferentia עם מופעי Amazon EC2 Inf2 המותאמים במיוחד עבור יישומי AI מחוללים בקנה מידה גדול עם מודלים המכילים מאות מיליארדי פרמטרים. מופעי Inf2 מציעים את העלות הנמוכה ביותר להסקת מסקנות בענן, תוך שהם מספקים תפוקה גבוהה עד פי ארבע ועד זמן השהייה נמוך פי עשרה בהשוואה למופעי Inf1. מופעלים על ידי עד 12 שבבי Inferentia2, Inf2 הם המופעים היחידים המותאמים להסקת EC2 שיש להם קישוריות במהירות גבוהה בין מאיצים, כך שלקוחות יכולים להפעיל מסקנות מהר יותר ויעילה יותר (בעלות נמוכה יותר) מבלי להקריב ביצועים או חביון על ידי הפצת דגמים גדולים במיוחד על פני מספר מאיצים. לקוחות כמו Adobe, Deutsche Telekom ו- Leonardo.ai ראו תוצאות מוקדמות נהדרות והם נרגשים לפרוס את הדגמים שלהם בקנה מידה ב-Inf2.

בצד ההדרכה, מופעי Trn1 - המופעלים על ידי שבב אימון ML המיועד של AWS, AWS Trainium - מותאמים להפצת אימונים על פני מספר שרתים המחוברים לרשת EFA. לקוחות כמו Ricoh הכשירו LLM יפני עם מיליארדי פרמטרים תוך ימים ספורים. Databricks משיגה עד 40% ביצועי מחיר טובים יותר עם מופעים מבוססי Trainium כדי להכשיר מודלים של למידה עמוקה בקנה מידה גדול. אבל עם דגמים חדשים ומסוגלים יותר שיוצאים כמעט מדי שבוע, אנחנו ממשיכים לדחוף את הגבולות בביצועים ובקנה מידה, ואנחנו נרגשים להכריז AWS Trainium2, שנועד לספק ביצועי מחיר טובים עוד יותר עבור דגמי אימון עם מאות מיליארדים עד טריליוני פרמטרים. Trainium2 אמור לספק עד פי ארבעה ביצועי אימון מהירים יותר מ-Trainium מהדור הראשון, וכאשר נעשה בו שימוש ב-EC2 UltraClusters אמור לספק עד 65 exaflops של חישוב מצטבר. המשמעות היא שלקוחות יוכלו להכשיר LLM של 300 מיליארד פרמטרים בשבועות לעומת חודשים. הביצועים, קנה המידה והיעילות האנרגטית של Trainium2 הם חלק מהסיבות לכך שאנתרופיק בחרה לאמן את הדגמים שלה ב-AWS, ותשתמש ב-Trainium2 עבור הדגמים העתידיים שלה. ואנחנו משתפים פעולה עם Anthropic על המשך חדשנות עם Trainium ו-Inferentia. אנו מצפים שמופעי Trainium2 הראשונים שלנו יהיו זמינים ללקוחות ב-2024.

כמו כן, הכפלנו את שרשרת כלי התוכנה עבור סיליקון ML שלנו, במיוחד בקידום AWS Neuron, ערכת פיתוח התוכנה (SDK) שעוזרת ללקוחות לקבל את הביצועים המקסימליים מ-Trainium ו-Inferentia. מאז שהצגנו את Neuron ב-2019, עשינו השקעות משמעותיות בטכנולוגיות מהדר ומסגרת, וכיום Neuron תומכת ברבים מהדגמים הפופולריים ביותר הזמינים לציבור, כולל Llama 2 מ-Meta, MPT מ-Databricks ו-Stable Diffusion מ-Stability AI, כמו גם 93 מתוך 100 הדגמים המובילים במאגר הדגמים הפופולרי Hugging Face. Neuron מתחבר למסגרות ML פופולריות כמו PyTorch ו-TensorFlow, ותמיכה ב-JAX מגיעה בתחילת השנה הבאה. לקוחות מספרים לנו שניאורון הקלה עליהם להחליף את צינורות ההכשרה וההסקת המודל הקיימים שלהם ל-Trainium ו-Inferentia עם כמה שורות קוד בלבד.

אף אחד אחר לא מציע את אותו שילוב של בחירה של שבבי ה-ML הטובים ביותר, רשת סופר מהירה, וירטואליזציה ואשכולות בקנה מידה גבוה. ולכן, אין זה מפתיע שכמה מהסטארט-אפים היותר ידועים של בינה מלאכותית כמו AI21 Labs, Anthropic, Hugging Face, Perplexity AI, Runway ו- Stability AI פועלים על AWS. אבל, אתה עדיין צריך את הכלים הנכונים כדי למנף ביעילות את המחשוב הזה כדי לבנות, לאמן ולהפעיל LLMs ו-FMs אחרים בצורה יעילה וחסכונית. ועבור רבים מהסטארט-אפים הללו, אמזון SageMaker התשובה. בין אם בונים והכשרת דגם חדש, קנייני מאפס, או מתחילים באחד מהדגמים הפופולריים הרבים הזמינים לציבור, הדרכה היא משימה מורכבת ויקרה. זה גם לא קל להפעיל את הדגמים האלה בצורה חסכונית. על הלקוחות לרכוש כמויות גדולות של נתונים ולהכין אותם. זה כרוך בדרך כלל בהרבה עבודה ידנית בניקוי נתונים, הסרת כפילויות, העשרתם והפיכתם. לאחר מכן הם צריכים ליצור ולתחזק אשכולות גדולים של GPUs/מאיצים, לכתוב קוד כדי להפיץ ביעילות אימון מודל בין אשכולות, לעתים קרובות לבדוק, להשהות, לבדוק ולבצע אופטימיזציה של המודל, ולהתערב ידנית ולתקן בעיות חומרה באשכול. רבים מהאתגרים הללו אינם חדשים, הם חלק מהסיבות לכך שהשקנו את SageMaker לפני שש שנים — כדי לשבור את החסמים הרבים הכרוכים בהכשרת מודלים ופריסה ולתת למפתחים דרך הרבה יותר קלה. עשרות אלפי לקוחות משתמשים באמזון SageMaker, ומספר גדל והולך מהם כמו LG AI Research, Perplexity AI, AI21, Hugging Face ו-Stability AI מאמנים LLMs ו-FMs אחרים ב- SageMaker. רק לאחרונה, המכון לחדשנות טכנולוגית (יוצרי ה-Falcon LLMs הפופולריים) הכשיר את הדגם הגדול ביותר הזמין לציבור - Falcon 180B - ב- SageMaker. ככל שגדלים ומורכבות הדגמים גדלו, כך גדל גם ההיקף של SageMaker.

במהלך השנים, הוספנו יותר מ-380 תכונות ויכולות משנות משחק לאמזון SageMaker כמו כוונון דגמים אוטומטי, הכשרה מבוזרת, אפשרויות פריסת דגמים גמישות, כלים עבור ML OPs, כלים להכנת נתונים, חנויות תכונות, מחברות, אינטגרציה חלקה עם הערכות אנושיות על פני מחזור החיים של ML, ותכונות מובנות עבור AI אחראי. אנו ממשיכים לחדש במהירות כדי לוודא שלקוחות SageMaker מסוגלים להמשיך לבנות, לאמן ולהריץ מסקנות עבור כל הדגמים - כולל LLMs ו-FMs אחרים. ואנחנו הופכים את זה אפילו יותר לקל וחסכוני יותר עבור לקוחות להכשיר ולפרוס דגמים גדולים עם שתי יכולות חדשות. ראשית, כדי לפשט את האימון אנחנו החדרה Amazon SageMaker HyperPod מה שממכן יותר מהתהליכים הנדרשים להדרכה מבוזרת סובלנית לתקלות בקנה מידה גבוה (למשל, קביעת תצורה של ספריות אימון מבוזרות, קנה מידה של עומסי אימון על פני אלפי מאיצים, זיהוי ותיקון מופעים פגומים), האצת האימון ב-40%. כתוצאה מכך, לקוחות כמו Perplexity AI, Hugging Face, Stability, Hippocratic, Alkaid ואחרים משתמשים ב- SageMaker HyperPod כדי לבנות, לאמן או לפתח מודלים. שְׁנִיָה, אנו מציגים יכולות חדשות כדי להפוך מסקנות לחסכוניות יותר תוך הפחתת זמן ההשהיה. SageMaker עוזרת כעת ללקוחות לפרוס דגמים מרובים לאותו מופע כדי שיוכלו לחלוק משאבי מחשוב - מה שמפחית את עלות ההסקה ב-50% (בממוצע). SageMaker גם עוקב באופן פעיל אחר מופעים שמעבדים בקשות הסקת מסקנות ומנתב בצורה חכמה בקשות על סמך אילו מופעים זמינים - משיג זמן השהייה נמוך ב-20% (בממוצע). השערות, Salesforce ו-Slack כבר משתמשות ב- SageMaker לאירוח דגמים בשל אופטימיזציות מסקנות אלו.

השכבה האמצעית של הערימה: אמזון Bedrock מוסיפה דגמים חדשים וגל של יכולות חדשות מקלים עוד יותר על לקוחות לבנות ולהרחיב באופן מאובטח יישומי בינה מלאכותית

בעוד שמספר לקוחות יבנו LLMs משלהם ו-FMs אחרים, או יפתחו כל מספר מהאפשרויות הזמינות לציבור, רבים לא ירצו לבזבז את המשאבים והזמן לעשות זאת. עבורם, השכבה האמצעית של הערימה מציעה את הדגמים הללו כשירות. הפתרון שלנו כאן, סלע אמזון, מאפשר ללקוחות לבחור מתוך דגמים מובילים בתעשייה מאנתרופיק, Stability AI, Meta, Cohere, AI21 ואמזון, להתאים אותם עם הנתונים שלהם ולנצל את כל אותם אבטחה, בקרות גישה ותכונות מובילות שהם רגילים אליהם. ב-AWS - הכל באמצעות שירות מנוהל. הפכנו את Amazon Bedrock לזמינה באופן כללי בסוף ספטמבר, ותגובת הלקוחות הייתה חיובית באופן גורף. לקוחות מרחבי העולם ומכל ענף כמעט מתרגשים להשתמש ב- Amazon Bedrock. adidas מאפשרת למפתחים לקבל תשובות מהירות על כל דבר, החל ממידע על "תחילת העבודה" ועד לשאלות טכניות עמוקות יותר. Booking.com מתכוונת להשתמש בבינה מלאכותית גנרטיבית כדי לכתוב המלצות טיול מותאמות עבור כל לקוח. Bridgewater Associates מפתחת עוזר אנליסט השקעות המופעל על ידי LLM כדי לעזור ביצירת תרשימים, לחשב אינדיקטורים פיננסיים ולסכם תוצאות. Carrier מנגיש ללקוחות ניתוחי אנרגיה מדויקים יותר ותובנות כדי שיפחיתו את צריכת האנרגיה ויפחיתו את פליטת הפחמן. Clariant מעצימה את חברי הצוות שלה עם צ'אט בוט פנימי מחולל בינה מלאכותית כדי להאיץ תהליכי מו"פ, לתמוך בצוותי מכירות בהכנה לפגישות ולהפוך הודעות אימייל מלקוחות לאוטומטיות. GoDaddy עוזר ללקוחות להקים בקלות את העסקים שלהם באינטרנט על ידי שימוש בבינה מלאכותית גנרטיבית לבניית אתרי האינטרנט שלהם, למצוא ספקים, להתחבר ללקוחות ועוד. Lexis Nexis Legal & Professional משנה את העבודה המשפטית עבור עורכי דין ומגדילה את הפרודוקטיביות שלהם עם יכולות חיפוש שיחה, סיכום וניסוח וניתוח מסמכים של Lexis+ AI. נאסד"ק מסייעת לאוטומציה של זרימות עבודה חקירות על עסקאות חשודות ולחזק את יכולות האנטי-פיננסיות והמעקב שלהן. כל אלה - ועוד רבים אחרים - יישומי בינה מלאכותית מגוונים פועלים ב-AWS.

אנחנו נרגשים מהמומנטום של Amazon Bedrock, אבל זה עדיין הימים הראשונים. מה שראינו כשעבדנו עם לקוחות הוא שכולם זזים מהר, אבל האבולוציה של AI גנרטיבי ממשיכה בקצב מהיר עם אפשרויות חדשות וחידושים המתרחשים כמעט מדי יום. לקוחות מגלים שיש מודלים שונים שעובדים טוב יותר עבור מקרי שימוש שונים, או על סטים שונים של נתונים. חלק מהדגמים מעולים לסיכום, אחרים מצוינים להנמקה ואינטגרציה, ולאחרים יש תמיכה בשפה מדהימה באמת. ואז יש יצירת תמונות, מקרי שימוש בחיפוש ועוד - כולם מגיעים הן מדגמים קנייניים והן מדגמים שזמינים לציבור לכל אחד. ובזמנים שבהם יש כל כך הרבה שלא ניתן לדעת, היכולת להסתגל היא ללא ספק הכלי היקר מכולם. לא יהיה מודל אחד שישלוט בכולם. ובוודאי לא רק חברת טכנולוגיה אחת שמספקת את הדגמים שכולם משתמשים בהם. לקוחות צריכים לנסות דגמים שונים. הם צריכים להיות מסוגלים לעבור ביניהם או לשלב אותם באותו מקרה שימוש. משמעות הדבר היא שהם זקוקים לבחירה אמיתית של ספקי דגמים (מה שאירועי 10 הימים האחרונים הבהירו עוד יותר). זו הסיבה שהמצאנו את Amazon Bedrock, מדוע זה מהדהד כל כך בקרב לקוחות, ומדוע אנו ממשיכים לחדש ולחזור במהירות כדי להפוך את הבנייה (והמעבר בין) מגוון דגמים לקלה כמו קריאת API, שים את הטכניקות העדכניות ביותר להתאמה אישית של מודלים בידי כל המפתחים, ושמירה על אבטחת הלקוחות והנתונים שלהם פרטיים. אנו שמחים להציג מספר יכולות חדשות שיקלו עוד יותר על לקוחות לבנות ולהרחיב יישומי בינה מלאכותית:

  • מרחיב את בחירת הדגמים עם Anthropic Claude 2.1, Meta Llama 2 70B, ותוספות למשפחת Amazon Titan. בימים הראשונים הללו, לקוחות עדיין לומדים ומתנסים במודלים שונים כדי לקבוע באילו הם רוצים להשתמש למטרות שונות. הם רוצים להיות מסוגלים לנסות בקלות את הדגמים העדכניים ביותר, וגם לבדוק אילו יכולות ותכונות יתנו להם את התוצאות הטובות ביותר ואת מאפייני העלות עבור מקרי השימוש שלהם. עם Amazon Bedrock, הלקוחות רחוקים רק קריאת API אחת מדגם חדש. כמה מהתוצאות המרשימות ביותר שלקוחות חוו בחודשים האחרונים הן מ-LLM כמו דגם קלוד של אנתרופיק, המצטיינת במגוון רחב של משימות החל מיצירת דיאלוגים ותוכן מתוחכמים וכלה בהיגיון מורכב תוך שמירה על רמה גבוהה של אמינות וחיזוי. לקוחות מדווחים שלקלוד יש סיכוי נמוך בהרבה לייצר תפוקות מזיקות, קל יותר לשוחח איתם וניתן יותר לכיוון בהשוואה למכשירי FM אחרים, כך שמפתחים יכולים לקבל את התפוקה הרצויה להם בפחות מאמץ. המודל המתקדם של אנתרופיק, קלוד 2, מקבל ציונים מעל האחוזון ה-90 בבחינות הקריאה והכתיבה של GRE, ובדומה להנמקה כמותית. ו כעת, הדגם החדש של קלוד 2.1 זמין ב- Amazon Bedrock. קלוד 2.1 מספק יכולות מפתח לארגונים כגון חלון הקשר אסימון מוביל בתעשייה של 200K (פי שניים מההקשר של קלוד 2), שיעורי הזיה מופחתים ושיפורים משמעותיים ברמת הדיוק, אפילו באורך הקשר ארוך מאוד. קלוד 2.0 כולל גם הנחיות מערכת משופרות - שהן הוראות דגם המספקות חוויה טובה יותר למשתמשי הקצה - תוך הפחתת עלות ההנחיות וההשלמות ב-2.1%.

    עבור מספר הולך וגדל של לקוחות שרוצים להשתמש בגרסה מנוהלת של דגם Llama 2 הזמין לציבור של Meta, Amazon Bedrock מציעה את Llama 2 13B, ו אנחנו מוסיפים את Llama 2 70B. Llama 2 70B מתאים למשימות בקנה מידה גדול כגון דוגמנות שפה, הפקת טקסט ומערכות דיאלוג. דגמי ה-Llama הזמינים לציבור הורדו יותר מ-30 מיליון פעמים, ולקוחות אוהבים ש-Amazon Bedrock מציעה אותם כחלק משירות מנוהל שבו הם לא צריכים לדאוג לתשתית או להיות בעלי מומחיות ML עמוקה בצוותים שלהם. בנוסף, ליצירת תמונה, Stability AI מציעה חבילה של דגמי טקסט לתמונה פופולריים. Stable Diffusion XL 1.0 (SDXL 1.0) הוא המתקדם שבהם, והוא זמין כעת באופן כללי באמזון.. המהדורה האחרונה של דגם תמונה פופולרי זה הגדילה את הדיוק, פוטוריאליזם טוב יותר ורזולוציה גבוהה יותר.

    לקוחות גם משתמשים אמזון טיטאן מודלים, שנוצרו ואומנו מראש על ידי AWS כדי להציע יכולות עוצמתיות עם כלכלה מצוינת עבור מגוון מקרי שימוש. לאמזון יש רקורד של 25 שנים ב-ML ובינה מלאכותית - טכנולוגיה בה אנו משתמשים בכל העסקים שלנו - ולמדנו הרבה על בנייה ופריסה של מודלים. בחרנו בקפידה כיצד אנו מאמנים את המודלים שלנו ואת הנתונים שבהם אנו משתמשים לשם כך. אנו מגנים את הלקוחות מפני טענות שהדגמים שלנו או התפוקות שלהם מפרים זכויות יוצרים של מישהו. הצגנו את דגמי הטיטאן הראשונים שלנו באפריל השנה. Titan Text Lite- זמין כעת באופן כללי-הוא מודל תמציתי וחסכוני למקרי שימוש כמו צ'אט בוטים, סיכום טקסט או קופירייטינג, והוא גם משכנע לכוונון. Titan Text Express - גם זמין כעת באופן כללי- הוא רחב יותר וניתן להשתמש בו למגוון רחב יותר של משימות מבוססות טקסט, כגון יצירת טקסט פתוח וצ'אט שיחה. אנו מציעים אפשרויות מודל טקסט אלה כדי לתת ללקוחות את היכולת לבצע אופטימיזציה עבור דיוק, ביצועים ועלות בהתאם למקרה השימוש שלהם ולדרישות העסקיות שלהם. לקוחות כמו Nexxiot, PGA Tour ו-Ryanair משתמשים בשני דגמי ה-Titan Text שלנו. יש לנו גם דגם הטמעות, Titan Text Embeddings, עבור מקרי שימוש בחיפוש והתאמה אישית. לקוחות כמו Nasdaq רואים תוצאות מצוינות באמצעות הטמעת טקסט Titan כדי לשפר את היכולות של Nasdaq IR Insight להפיק תובנות מ-9,000+ מסמכים של חברות גלובליות עבור צוותי קיימות, משפטים וחשבונאות. ונמשיך להוסיף דגמים נוספים למשפחת הטיטאן עם הזמן. אנו מציגים דגם הטמעות חדש, Titan Multimodal Embeddings, כדי להפעיל חוויות חיפוש והמלצה מולטי-מודאליות עבור משתמשים המשתמשים בתמונות וטקסט (או שילוב של שניהם) כקלט. ואנחנו מציגה דגם חדש של טקסט לתמונה, Amazon Titan Image Generator. עם Titan Image Generator, לקוחות ברחבי תעשיות כמו פרסום, מסחר אלקטרוני ומדיה ובידור יכולים להשתמש בקלט טקסט כדי ליצור תמונות ריאליסטיות באיכות סטודיו בהיקפים גדולים ובעלות נמוכה. אנחנו נרגשים מהאופן שבו הלקוחות מגיבים ל-Titan Models, ואתם יכולים לצפות שנמשיך לחדש כאן.

  • יכולות חדשות להתאים אישית את אפליקציית הבינה המלאכותית הגנרטיבית שלך בצורה מאובטחת עם הנתונים הקנייניים שלך: אחת היכולות החשובות ביותר של Amazon Bedrock היא כמה קל להתאים אישית דגם. זה הופך להיות מרגש באמת עבור לקוחות כי זה המקום שבו בינה מלאכותית גנרטיבית פוגשת את המבדיל העיקרי שלהם - הנתונים שלהם. עם זאת, חשוב מאוד שהנתונים שלהם יישארו מאובטחים, שתהיה להם שליטה עליהם לאורך הדרך, וששיפורי המודל יהיו פרטיים עבורם. ישנן כמה דרכים לעשות זאת, ואמזון Bedrock מציעה את המבחר הרחב ביותר של אפשרויות התאמה אישית על פני מספר דגמים). הראשון הוא כוונון עדין. כוונון עדין של דגם ב- Amazon Bedrock הוא קל. אתה פשוט בוחר את הדגם ואמזון Bedrock עושה עותק שלו. אחר כך אתה מצביע על כמה דוגמאות מסומנות (למשל, סדרה של צמדי שאלות ותשובות טובות) שאתה מאחסן בשירות האחסון הפשוט של אמזון (Amazon S3), ואמזון Bedrock "מאמנת בהדרגה" (מגדיל את המודל שהועתק עם המידע החדש) על הדוגמאות האלה, והתוצאה היא מודל פרטי ומדויק יותר, שמספק תגובות רלוונטיות ומותאמות יותר. אנו נרגשים להכריז כי כוונון עדין זמין בדרך כלל עבור Cohere Command, Meta Llama 2, Amazon Titan Text (Lite ו-Express), Embeddings Multimodal של Amazon Titan, ובתצוגה מקדימה עבור Amazon Titan Image Generator. ובאמצעות שיתוף הפעולה שלנו עם Anthropic, בקרוב נספק ללקוחות AWS גישה מוקדמת לתכונות ייחודיות להתאמה אישית של דגם וכיוונון עדין של הדגם החדיש שלה, קלוד.

    טכניקה שנייה להתאמה אישית של LLMs ו-FMs אחרים עבור העסק שלך היא Retrieval Augmented Generation (RAG), המאפשרת לך להתאים אישית את תגובות המודל על ידי הגדלת ההנחיות שלך עם נתונים ממקורות מרובים, כולל מאגרי מסמכים, מסדי נתונים וממשקי API. בספטמבר, הצגנו יכולת RAG, Knowledge Bases for Amazon Bedrock, שמחברת בצורה מאובטחת מודלים למקורות הנתונים הקנייניים שלך כדי להשלים את ההנחיות שלך עם מידע נוסף כדי שהיישומים שלך יספקו תגובות רלוונטיות, הקשריות ומדויקות יותר. מאגרי ידע זמין כעת באופן כללי עם API שמבצע את כל זרימת העבודה של RAG החל מאחזור טקסט הדרוש להגדלת הנחיה, דרך שליחת ההנחיה לדגם ועד להחזרת התגובה. Knowledge Bases תומכים בבסיסי נתונים עם יכולות וקטוריות המאחסנות ייצוגים מספריים של הנתונים שלך (הטמעות) שמודלים משתמשים בהם כדי לגשת לנתונים אלה עבור RAG, כולל Amazon OpenSearch Service, ומסדי נתונים פופולריים אחרים כמו Pinecone ו-Redis Enterprise Cloud (תמיכה וקטורית של Amazon Aurora ו-MongoDB מגיעה בקרוב).

    הדרך השלישית שבה תוכל להתאים אישית דגמים באמזון Bedrock היא באמצעות המשך אימון מקדים. בשיטה זו, המודל מתבסס על ההכשרה המקורית שלו להבנת שפה כללית ללימוד שפה ומינוח ספציפי לתחום. גישה זו מיועדת ללקוחות שיש להם המון מידע לא מסומן, ספציפי לתחום, ורוצים לאפשר ל-LLM שלהם להבין את השפה, הביטויים, הקיצורים, המושגים, ההגדרות והז'רגון הייחודיים לעולמם (ולעסק). שלא כמו בכוונון עדין, שלוקח כמות די קטנה של נתונים, המשך אימון מקדים מתבצע על מערכי נתונים גדולים (למשל, אלפי מסמכי טקסט). כעת, יכולות אימון מקדים זמינות באמזון Bedrock עבור Titan Text Lite ו-Titan Text Express.

  • זמינות כללית של סוכנים עבור Amazon Bedrock כדי לסייע בביצוע משימות רב-שלביות תוך שימוש במערכות, מקורות נתונים וידע של החברה. LLMs מעולים בניהול שיחות ויצירת תוכן, אבל הלקוחות רוצים שהאפליקציות שלהם יוכלו לעשות זאת do אפילו יותר - כמו נקיטת פעולות, פתרון בעיות ואינטראקציה עם מגוון מערכות כדי להשלים משימות מרובות שלבים כמו הזמנת נסיעות, הגשת תביעות ביטוח או הזמנת חלקי חילוף. ואמזון Bedrock יכולה לעזור באתגר הזה. עם סוכנים, מפתחים בוחרים דגם, כותבים כמה הוראות בסיסיות כמו "אתה סוכן שירות לקוחות עליז" ו"בדוק את זמינות המוצר במערכת המלאי", מכוון את המודל הנבחר למקורות הנתונים הנכונים ולמערכות הארגוניות (למשל, CRM או יישומי ERP), וכתוב כמה פונקציות AWS Lambda כדי להפעיל את ממשקי ה-API (למשל, בדוק זמינות של פריט במלאי ה-ERP). Amazon Bedrock מנתחת אוטומטית את הבקשה ומפרקת אותה לרצף הגיוני תוך שימוש ביכולות החשיבה של המודל הנבחר כדי לקבוע איזה מידע דרוש, לאילו ממשקי API להתקשר ומתי לקרוא להם כדי להשלים שלב או לפתור משימה. כעת, זמין באופן כללי, סוכנים יכולים לתכנן ולבצע את רוב המשימות העסקיות - החל ממתן מענה לשאלות לקוחות לגבי זמינות המוצר שלך ועד קבלת ההזמנות שלהם - והמפתחים אינם צריכים להכיר למידת מכונה, הנחיות מהנדסים, להכשיר מודלים או לחבר מערכות באופן ידני. Bedrock עושה את כל זה בצורה מאובטחת ופרטית, ולקוחות כמו Druva ואתנה כבר משתמשים בהם כדי לשפר את הדיוק ומהירות הפיתוח של יישומי הבינה המלאכותית שלהם.
  • היכרות מעקות בטיחות עבור Amazon Bedrock כך שתוכל להחיל אמצעי הגנה על סמך דרישות מקרה השימוש שלך ומדיניות AI אחראית. לקוחות רוצים להיות בטוחים שהאינטראקציות עם יישומי הבינה המלאכותית שלהם בטוחות, להימנע משפה רעילה או פוגענית, להישאר רלוונטית לעסק שלהם ולהתאים למדיניות הבינה המלאכותית האחראית שלהם. עם מעקות בטיחות, לקוחות יכולים לציין נושאים שיש להימנע מהם, ואמזון Bedrock תספק למשתמשים רק תשובות מאושרות לשאלות שנכללות בקטגוריות מוגבלות אלה. לדוגמה, ניתן להגדיר אפליקציית בנקאות מקוונת כדי להימנע ממתן ייעוץ השקעות, ולהסיר תוכן בלתי הולם (כגון דברי שטנה ואלימות). בתחילת 2024, לקוחות יוכלו גם לתקן מידע אישי מזהה (PII) בתגובות המודל. לדוגמה, לאחר אינטראקציה של לקוח עם סוכן מוקד טלפוני, שיחת שירות הלקוחות מתמצתת לעתים קרובות לצורך שמירת תיעוד, ומעקות בטיחות יכולים להסיר PII מהסיכומים הללו. ניתן להשתמש במעקות בטיחות על פני דגמים ב-Amazon Bedrock (כולל דגמים מכוונים), ועם Agents for Amazon Bedrock, כך שלקוחות יכולים להביא רמת הגנה עקבית לכל יישומי הבינה המלאכותית שלהם.

השכבה העליונה של המחסנית: חדשנות מתמשכת הופכת את הבינה המלאכותית הגנרטיבית לנגישה ליותר משתמשים

בשכבה העליונה של המחסנית יש אפליקציות הממנפות LLMs ו-FMs אחרים כך שתוכלו לנצל את ה-AI הגנרטיבי בעבודה. תחום אחד שבו AI גנרטיבי כבר משנה את המשחק הוא בקידוד. בשנה שעברה, הצגנו את Amazon CodeWhisperer, שעוזר לך לבנות יישומים מהר יותר ובטוח יותר על ידי הפקת הצעות קוד והמלצות כמעט בזמן אמת. לקוחות כמו Accenture, Boeing, Bundesliga, The Cigna Group, Kone ו-Warner Music Group משתמשים ב-CodeWhisperer כדי להגביר את פרודוקטיביות המפתחים - ו-Accenture מאפשרת לעד 50,000 מפתחי תוכנה ואנשי IT שלהם עם Amazon CodeWhisperer. אנו רוצים שכמה שיותר מפתחים יוכלו לקבל את יתרונות הפרודוקטיביות של AI גנרטיבי, וזו הסיבה ש- CodeWhisperer מציע המלצות בחינם לכל הפרטים.

עם זאת, בעוד שכלי קידוד AI עושים הרבה כדי להקל על חייהם של מפתחים, יתרונות הפרודוקטיביות שלהם מוגבלים על ידי חוסר הידע שלהם על בסיסי קוד פנימיים, ממשקי API פנימיים, ספריות, חבילות ומחלקות. אחת הדרכים לחשוב על זה היא שאם אתה שוכר מפתח חדש, גם אם הוא ברמה עולמית, הוא לא יהיה כל כך פרודוקטיבי בחברה שלך עד שהם יבינו את השיטות המומלצות והקוד שלך. כלי הקידוד המופעלים על ידי בינה מלאכותית של היום הם כמו אותו מפתח חדש שנשכר. כדי לעזור עם זה, לאחרונה הצגנו תצוגה מקדימה של חדש יכולת התאמה אישית ב- Amazon CodeWhisperer הממנפת בצורה מאובטחת את בסיס הקוד הפנימי של הלקוח כדי לספק המלצות קוד רלוונטיות ושימושיות יותר. עם יכולת זו, CodeWhisperer הוא מומחה בנושא שֶׁלְךָ קוד ומספק המלצות רלוונטיות יותר כדי לחסוך עוד יותר זמן. במחקר שערכנו עם Persistent, חברת הנדסה דיגיטלית ומודרניזציה ארגונית גלובלית, מצאנו שהתאמות אישיות עוזרות למפתחים לבצע משימות במהירות של עד 28% מהר יותר מאשר עם היכולות הכלליות של CodeWhisperer. כעת מפתח בחברת טכנולוגיות בריאות יכול לבקש מ-CodeWhisperer "לייבא תמונות MRI המשויכות למזהה הלקוח ולהפעיל אותן דרך מיון התמונות" כדי לזהות חריגות. מכיוון של-CodeWhisperer יש גישה לבסיס הקוד, הוא יכול לספק הצעות הרבה יותר רלוונטיות הכוללות את מיקומי הייבוא ​​של תמונות ה-MRI ומזהי הלקוח. CodeWhisperer שומר על התאמות אישיות פרטיות לחלוטין, וה-FM הבסיסי אינו משתמש בהן להדרכה, ומגן על הקניין הרוחני היקר של הלקוחות. AWS היא ספקית הענן הגדולה היחידה שמציעה יכולת כזו לכולם.

היכרות אמזון Q, העוזר הגנרטיבי המופעל על ידי AI המותאם לעבודה

מפתחים בוודאי לא היחידים שמתעסקים ב-AI גנרטיבי - מיליוני אנשים משתמשים ביישומי צ'אט גנרטיביים בינה מלאכותית. מה שספקים מוקדמים עשו בתחום הזה הוא מרגש וסופר שימושי עבור צרכנים, אבל במובנים רבים הם לא ממש "עובדים" בעבודה. הידע והיכולות הכלליים שלהם נהדרים, אבל הם לא מכירים את החברה שלך, הנתונים שלך, הלקוחות שלך, הפעילות שלך או העסק שלך. זה מגביל כמה הם יכולים לעזור לך. הם גם לא יודעים הרבה על התפקיד שלך - איזו עבודה אתה עושה, עם מי אתה עובד, באיזה מידע אתה משתמש ולמה יש לך גישה. מגבלות אלו מובנות מכיוון שלעוזרים הללו אין גישה למידע הפרטי של החברה שלך, והם לא נועדו לעמוד בדרישות פרטיות הנתונים והאבטחה שחברות צריכות לתת להם גישה זו. קשה להקפיד על אבטחה לאחר מעשה ולצפות שהיא תעבוד היטב. אנו חושבים שיש לנו דרך טובה יותר, שתאפשר לכל אדם בכל ארגון להשתמש ב-AI גנרטיבי בבטחה בעבודה היומיומית שלו.

We מתרגשים להציג אמזון Q, סוג חדש של עוזר מופעל בינה מלאכותית שמיועד במיוחד לעבודה וניתן להתאים אותו לעסק שלך. Q יכול לעזור לך לקבל תשובות מהירות ורלוונטיות לשאלות דוחקות, לפתור בעיות, ליצור תוכן ולנקוט פעולות תוך שימוש בנתונים ובמומחיות שנמצאים במאגרי המידע, בקוד ובמערכות הארגוניות של החברה שלך. כשאתה צ'אט עם Amazon Q, הוא מספק מידע ועצות מיידיים ורלוונטיים כדי לעזור לייעל משימות, להאיץ את קבלת ההחלטות ולעזור לעורר יצירתיות וחדשנות בעבודה. בנינו את Amazon Q להיות מאובטח ופרטי, והיא יכולה להבין ולכבד את הזהויות, התפקידים וההרשאות הקיימים שלך ולהשתמש במידע הזה כדי להתאים אישית את האינטראקציות שלו. אם למשתמש אין הרשאה לגשת לנתונים מסוימים ללא Q, הוא גם לא יכול לגשת אליהם באמצעות Q. תכננו את Amazon Q כדי לעמוד בדרישות המחמירות של לקוחות ארגוניים מהיום הראשון - אף אחד מהתוכן שלהם לא משמש לשיפור המודלים הבסיסיים.

אמזון Q היא העוזרת המומחית שלך לבנייה על AWS: אימנו את אמזון Q על ידע וניסיון של 17 שנים של AWS כדי שתוכל לשנות את הדרך שבה אתה בונה, פורס ומתפעל יישומים ועומסי עבודה ב-AWS. לאמזון Q יש ממשק צ'אט בקונסולת הניהול של AWS ובתיעוד, ב-IDE שלך (דרך CodeWhisperer), וחדרי הצ'אט של הצוות שלך ב-Slack או באפליקציות צ'אט אחרות. אמזון Q יכולה לעזור לך לחקור יכולות חדשות של AWS, להתחיל מהר יותר, ללמוד טכנולוגיות לא מוכרות, פתרונות ארכיטקט, לפתור בעיות, לשדרג ועוד הרבה יותר — היא מומחית בתבניות ארכיטקטוניות של AWS, שיטות עבודה מומלצות, תיעוד והטמעות פתרונות. הנה כמה דוגמאות למה שאתה יכול לעשות עם עוזר המומחה החדש שלך ב-AWS:

  • קבל תשובות ברורות והדרכה לגבי יכולות, שירותים ופתרונות AWS: בקש מאמזון Q "ספר לי על סוכנים עבור Amazon Bedrock", ו-Q ייתן לך תיאור של התכונה בתוספת קישורים לחומרים רלוונטיים. אתה יכול גם לשאול את Amazon Q כמעט כל שאלה לגבי אופן הפעולה של שירות AWS (למשל, "מהן מגבלות קנה המידה בטבלת DynamoDB?" "מהו Redshift Managed Storage?"), או כיצד לבנות בצורה הטובה ביותר כל מספר פתרונות ( "מהן השיטות המומלצות לבניית ארכיטקטורות מונעות אירועים?"). ואמזון Q תרכז תשובות תמציתיות ותמיד תצטט (ותקשר ל) המקורות שלה.
  • בחר את שירות ה-AWS הטוב ביותר עבור מקרה השימוש שלך, והתחיל במהירות: שאל את אמזון ש "מהן הדרכים לבנות אפליקציית אינטרנט ב-AWS? " והוא יספק רשימה של שירותים פוטנציאליים כמו AWS להגביר, AWS למבדה, ו אמזון עם היתרונות של כל אחד. משם אתה יכול לצמצם את האפשרויות על ידי סיוע ל-Q להבין את הדרישות, ההעדפות והאילוצים שלך (למשל, "איזה מהן תהיה הטובה ביותר אם אני רוצה להשתמש בקונטיינרים?" או "האם עלי להשתמש במסד נתונים יחסי או לא יחסי? ”). סיים עם "איך אני מתחיל?" ו-Amazon Q יתארו כמה שלבים בסיסיים ויפנו אותך למשאבים נוספים.
  • בצע אופטימיזציה של משאבי המחשוב שלך: Amazon Q יכול לעזור לך לבחור מופעים של Amazon EC2. אם תבקשו ממנו "עזרו לי למצוא את המופע הנכון של EC2 כדי לפרוס עומס עבודה של קידוד וידאו עבור אפליקציית המשחקים שלי עם הביצועים הגבוהים ביותר", Q יקבל לכם רשימה של משפחות מופעים עם סיבות לכל הצעה. בנוסף, אתה יכול לשאול כל מספר שאלות המשך כדי לעזור למצוא את הבחירה הטובה ביותר עבור עומס העבודה שלך.
  • קבל סיוע בניפוי באגים, בדיקה ואופטימיזציה של הקוד שלך: אם אתה נתקל בשגיאה בזמן קידוד ב-IDE שלך, אתה יכול לבקש מ-Amazon Q לעזור על ידי אמירת "הקוד שלי יש שגיאת IO, אתה יכול לספק תיקון?" ו-Q יפיק עבורך את הקוד. אם אתה אוהב את ההצעה, אתה יכול לבקש מאמזון Q להוסיף את התיקון לאפליקציה שלך. מכיוון שאמזון Q נמצא ב-IDE שלך, הוא מבין את הקוד עליו אתה עובד ויודע היכן להכניס את התיקון. Amazon Q יכולה גם ליצור בדיקות יחידה ("כתוב בדיקות יחידה עבור הפונקציה שנבחרה") שהיא יכולה להכניס לקוד שלך ותוכל להפעיל. לבסוף, אמזון Q יכולה לספר לך דרכים לייעל את הקוד שלך לביצועים גבוהים יותר. בקש מ-Q "בצע אופטימיזציה של שאילתת DynamoDB שבחרתי", והוא ישתמש בהבנת הקוד שלך כדי לספק הצעה בשפה טבעית לגבי מה לתקן יחד עם הקוד הנלווה שתוכל ליישם בלחיצה אחת.
  • אבחון ופתור בעיות: אם אתה נתקל בבעיות ב-AWS Management Console, כמו שגיאות הרשאות EC2 או שגיאות תצורה של Amazon S3, אתה יכול פשוט ללחוץ על כפתור "פתור בעיות עם Amazon Q", והוא ישתמש בהבנת סוג השגיאה והשירות שבו נמצאת השגיאה לתת לך הצעות לתיקון. אתה יכול אפילו לבקש מאמזון Q לפתור בעיות ברשת שלך (למשל, "למה אני לא יכול להתחבר למופע ה-EC2 שלי באמצעות SSH?") ו-Q ינתח את התצורה שלך מקצה לקצה ויספק אבחנה (למשל, "מופע זה נראה שנמצא בתת-רשת פרטית, ולכן ייתכן שיהיה צורך ליצור נגישות ציבורית").
  • הגבר על בסיס קוד חדש תוך זמן קצר: כשאתה משוחח עם Amazon Q ב-IDE שלך, הוא משלב את המומחיות שלו בבניית תוכנה עם הבנה של הקוד שלך - זיווג רב עוצמה! בעבר, אם השתלטת על פרויקט ממישהו אחר, או שהיית חדש בצוות, ייתכן שתצטרך להשקיע שעות בבדיקה ידנית של הקוד והתיעוד כדי להבין איך הוא עובד ומה הוא עושה. כעת, מכיוון שאמזון Q מבינה את הקוד ב-IDE שלך, אתה יכול פשוט לבקש מאמזון Q להסביר את הקוד ("תן לי תיאור של מה האפליקציה הזו עושה ואיך היא עובדת") ו-Q ייתן לך פרטים כמו אילו שירותים שימושי קוד ומה עושות פונקציות שונות (למשל, Q עשוי לענות במשהו כמו, "יישום זה בונה מערכת כרטיס תמיכה בסיסית באמצעות Python Flask ו-AWS Lambda" ולהמשיך לתאר כל אחת מיכולות הליבה שלה, כיצד הן מיושמות, ועוד הרבה).
  • נקה את צבר התכונות שלך מהר יותר: אתה יכול אפילו לבקש מ-Amazon Q להדריך אותך ולהפוך חלק גדול מתהליך מקצה לקצה של הוספת תכונה ליישום שלך ב- Amazon CodeCatalyst, שירות פיתוח התוכנה המאוחד שלנו לצוותים. כדי לעשות זאת, אתה פשוט מקצה ל-Q משימת צבר מרשימת הבעיות שלך - בדיוק כמו שהיית עושה לחבר לצוות - ו-Q מייצר תוכנית שלב אחר שלב כיצד הוא יבנה ויישם את התכונה. לאחר שתאשר את התוכנית, Q יכתוב את הקוד ויציג בפניך את השינויים המוצעים כסקירת קוד. ניתן לבקש עיבוד מחדש (במידת הצורך), לאשר ו/או לפרוס!
  • שדרג את הקוד שלך בשבריר מהזמן: רוב המפתחים למעשה מבלים רק חלק מזמנם בכתיבת קוד חדש ובניית יישומים חדשים. הם מבלים הרבה יותר מהמחזורים שלהם על אזורים כואבים וסלוגים כמו תחזוקה ושדרוגים. קח שדרוגי גרסת שפה. מספר רב של לקוחות ממשיכים להשתמש בגרסאות ישנות יותר של Java מכיוון שיידרשו חודשים - אפילו שנים - ואלפי שעות של זמן מפתחים לשדרוג. לדחות זאת יש עלויות וסיכונים אמיתיים - אתה מפסיד שיפורי ביצועים ופגיע לבעיות אבטחה. אנחנו חושבים שאמזון Q יכולה להיות מחליף משחק כאן, ומתרגשים מכך טרנספורמציה של קוד Q של אמזון, תכונה שיכולה להסיר הרבה מהמעמסה הכבדה הזו ולהפחית את הזמן שלוקח לשדרג אפליקציות מימים לדקות. אתה פשוט פותח את הקוד שברצונך לעדכן ב-IDE שלך, ומבקש מאמזון Q "/לשנות" את הקוד שלך. Amazon Q תנתח את כל קוד המקור של האפליקציה, תפיק את הקוד בשפת היעד ובגרסת היעד, ותבצע בדיקות, שיסייעו לך לממש את שיפורי האבטחה והביצועים של גרסאות השפה האחרונות. לאחרונה, צוות קטן מאוד של מפתחי אמזון השתמש ב-Amazon Q Code Transformation כדי לשדרג 1,000 יישומי ייצור מ-Java 8 ל-Java 17 תוך יומיים בלבד. הזמן הממוצע ליישום היה פחות מ-10 דקות. כיום Amazon Q Code Transformation מבצעת שדרוגי שפת Java מ-Java 8 או Java 11 ל-Java 17. בשלב הבא (ובקרוב) תהיה היכולת להפוך את .NET Framework ל-.NET חוצה פלטפורמות (עם עוד יותר טרנספורמציות בעתיד). .

אמזון Q הוא המומחה העסקי שלך: אתה יכול לחבר את Amazon Q לנתונים, מידע ומערכות של העסק שלך כך שהיא תוכל לסנתז הכל ולספק סיוע מותאם כדי לעזור לאנשים לפתור בעיות, לייצר תוכן ולנקוט פעולות שרלוונטיות לעסק שלך. קל להביא את Amazon Q לעסק שלך. יש לו יותר מ-40 מחברים מובנים למערכות ארגוניות פופולריות כמו Amazon S3, Microsoft 365, Salesforce, ServiceNow, Slack, Atlassian, Gmail, Google Drive ו-Zendesk. זה גם יכול להתחבר לאינטראנט הפנימי שלך, ל-wikis ולהפעיל ספרים, ועם Amazon Q SDK, אתה יכול לבנות חיבור לאיזה אפליקציה פנימית שתרצה. כוון את אמזון Q למאגרים אלה, וזה "יגדיל" את העסק שלך, ילכד ויבין את המידע הסמנטי שהופך את החברה שלך לייחודית. לאחר מכן, אתה מקבל יישום אינטרנט ידידותי ופשוט משלך של Amazon Q, כך שעובדים ברחבי החברה שלך יוכלו ליצור אינטראקציה עם ממשק השיחה. Amazon Q גם מתחברת לספק הזהות שלך כדי להבין את המשתמש, את תפקידו ולאילו מערכות הם רשאים לגשת, כך שמשתמשים יוכלו לשאול שאלות מפורטות ובעלי ניואנסים ולקבל תוצאות מותאמות שכוללות רק מידע שהם מורשים לראות. Amazon Q מייצרת תשובות ותובנות מדויקות ונאמנות לחומר ולידע שאתה מספק אותו, ואתה יכול להגביל נושאים רגישים, לחסום מילות מפתח או לסנן שאלות ותשובות לא הולמות. הנה כמה דוגמאות למה שאתה יכול לעשות עם העוזר המומחה החדש של העסק שלך:

  • קבל תשובות חדות וסופר-רלוונטיות על סמך הנתונים והמידע העסקי שלך: עובדים יכולים לשאול את אמזון Q על כל מה שהם היו צריכים לחפש בעבר בכל מיני מקורות. שאל "מהן ההנחיות העדכניות ביותר לשימוש בלוגו?", או "כיצד אני מגיש בקשה לכרטיס אשראי של החברה?", ואמזון Q תסנתז את כל התוכן הרלוונטי שהיא מוצאת ותחזור עם תשובות מהירות בתוספת קישורים לרלוונטיים מקורות (למשל, פורטלי מותגים ומאגרי לוגו, מדיניות T&E של החברה ויישומי כרטיסים).
  • ייעול התקשורת היומיומית: פשוט שאל, ואמזון Q יכולה ליצור תוכן ("צור פוסט בבלוג ושלוש כותרות במדיה החברתית המכריזה על המוצר המתואר בתיעוד זה"), ליצור סיכומי מנהלים ("כתוב סיכום של תמליל הפגישה שלנו עם רשימה עם תבליטים של פריטי פעולה" ), לספק עדכוני אימייל ("נסח הודעת דוא"ל המדגישה את תוכניות ההדרכה שלנו ברבעון השלישי עבור לקוחות בהודו"), ועזור בבניית פגישות ("צור סדר יום לפגישה כדי לדבר על דוח שביעות רצון הלקוחות האחרון").
  • השלם משימות: אמזון Q יכולה לעזור להשלים משימות מסוימות, ולהפחית את כמות הזמן שהעובדים מבלים על עבודה חוזרת כמו הגשת כרטיסים. בקש מאמזון Q "לסכם משוב מלקוחות על הצעת התמחור החדשה ב-Slack", ולאחר מכן בקש מ-Q לקחת את המידע הזה ולפתוח כרטיס בג'ירה כדי לעדכן את צוות השיווק. אתה יכול לבקש מ-Q "לסכם את תמלול השיחה הזה", ולאחר מכן "פתח תיק חדש עבור לקוח A ב-Salesforce." Amazon Q תומך בכלי אוטומציה פופולריים אחרים של עבודה כמו Zendesk ו-Service Now.

Amazon Q נמצא ב- Amazon QuickSight: עם אמזון Q ב-QuickSight, שירות המודיעין העסקי של AWS, משתמשים יכולים לשאול את לוח המחוונים שלהם שאלות כמו "מדוע גדל מספר ההזמנות בחודש שעבר?" ולקבל הדמיות והסברים על הגורמים שהשפיעו על העלייה. כמו כן, אנליסטים יכולים להשתמש באמזון Q כדי לצמצם את הזמן שלוקח להם לבנות לוחות מחוונים מימים לדקות עם הנחיה פשוטה כמו "הראה לי מכירות לפי אזור לפי חודש כתרשים עמודות מוערם". Q חוזר מיד עם התרשים הזה, ואתה יכול בקלות להוסיף אותו ללוח מחוונים או לשוחח עם Q כדי לחדד את ההדמיה (למשל, "שנה את תרשים העמודות לדיאגרמת Sankey", או "הצג מדינות במקום אזורים"). Amazon Q ב-QuickSight גם מקל על השימוש במרכזי המחוונים הקיימים כדי ליידע את בעלי העניין העסקיים, לזקק תובנות מרכזיות ולפשט את קבלת ההחלטות באמצעות סיפורי נתונים. לדוגמה, משתמשים עשויים להנחות את אמזון Q "לבנות סיפור על איך העסק השתנה במהלך החודש האחרון לסקירה עסקית עם מנהיגות בכירה", ובתוך שניות, אמזון Q מספקת סיפור מונחה נתונים מושך מבחינה ויזואלית והוא ניתן להתאמה אישית לחלוטין. ניתן לשתף סיפורים אלה בצורה מאובטחת בכל הארגון כדי לעזור ליישר בין מחזיקי עניין ולהניע החלטות טובות יותר.

Amazon Q נמצא ב-Amazon Connect: ב-Amazon Connect, שירות מרכז הקשר שלנו, Amazon Q עוזרת לסוכני שירות הלקוחות שלך לספק שירות לקוחות טוב יותר. Amazon Q ממנפת את מאגרי הידע שהסוכנים שלך משתמשים בהם בדרך כלל כדי לקבל מידע ללקוחות, ואז סוכנים יכולים לשוחח בצ'אט עם Amazon Q ישירות ב-Connect כדי לקבל תשובות שיעזרו להם להגיב מהר יותר לבקשות לקוחות מבלי צורך לחפש בעצמם בתיעוד. ולמרות שצ'אט עם אמזון Q לתשובות סופר מהירות זה נהדר, בשירות לקוחות אין דבר כזה מהיר מדי. בגלל זה Amazon Q In Connect הופך שיחת לקוח חיה עם סוכן להנחיה, ומספק אוטומטית לסוכן תגובות אפשריות, הצעות לפעולות וקישורים למשאבים. לדוגמה, אמזון Q יכולה לזהות שלקוח יוצר קשר עם חברת השכרת רכב כדי לשנות את ההזמנה שלו, ליצור תגובה לסוכן כדי לתקשר במהירות כיצד חלה מדיניות עמלת השינוי של החברה, ולהדריך את הסוכן בשלבים הדרושים לו כדי לעדכן את הזמנה.

Amazon Q נמצאת בשרשרת האספקה ​​של AWS (בקרוב): ב-AWS Supply Chain, שירות תובנות שרשרת האספקה ​​שלנו, אמזון Q עוזרת למתכנני היצע וביקוש, מנהלי מלאי ושותפי מסחר לייעל את שרשרת האספקה ​​שלהם על ידי סיכום והדגשת סיכונים פוטנציאליים למלאי או עודף מלאי, ולהמחיש תרחישים לפתרון הבעיה. משתמשים יכולים לשאול את אמזון Q שאלות "מה", "למה" ו"מה אם" לגבי נתוני שרשרת האספקה ​​שלהם ולשוחח באמצעות תרחישים מורכבים וההתלבטויות בין החלטות שונות בשרשרת האספקה. לדוגמה, לקוח עשוי לשאול, "מה גורם לעיכוב במשלוחים שלי וכיצד אני יכול להאיץ את העניינים?" אמזון Q עשויה להשיב לו, "90% מההזמנות שלך הן בחוף המזרחי, וסערה גדולה בדרום מזרח גורמת לעיכוב של 24 שעות. אם תשלח לנמל ניו יורק במקום למיאמי, תזרז את המשלוחים ותפחית את העלויות ב-50%".

הלקוחות שלנו מאמצים AI גנרטיבי במהירות - הם מאמנים מודלים פורצי דרך ב-AWS, הם מפתחים יישומי AI גנרטיביים במהירות שיא באמצעות Amazon Bedrock, והם פורסים יישומים משנים משחקים בארגונים שלהם כמו Amazon Q. עם ההכרזות האחרונות שלנו, AWS מביאה ללקוחות אפילו יותר ביצועים, בחירה וחדשנות לכל שכבה של הערימה. ההשפעה המשולבת של כל היכולות שאנו מספקים ב-re:Invent מסמנת אבן דרך חשובה לקראת עמידה ביעד מרגש ומשמעותי: אנו הופכים AI גנרטיבי לנגיש ללקוחות בכל הגדלים והיכולות הטכניות, כדי שיוכלו להגיע להמצאה מחדש ולשינוי של מה זה אפשרי.

משאבים

על המחבר

סוואמי סיוואסוברמני הוא סגן נשיא למידת נתונים ולמידת מכונה ב-AWS. בתפקיד זה, Swami מפקח על כל שירותי מסד הנתונים, האנליטיקה של AWS ושירותי AI ו- Machine Learning. המשימה של הצוות שלו היא לעזור לארגונים להפעיל את הנתונים שלהם עם פתרון נתונים מלא, מקצה לקצה, לאחסון, גישה, ניתוח, הדמיה וחיזוי.

ספוט_ימג

המודיעין האחרון

ספוט_ימג

זכויות יוצרים @ 2024 Plato Technologies Inc.