เราเปิดตัว Amazon Bedrock สู่โลกเมื่อประมาณหนึ่งปีที่แล้ว โดยนำเสนอวิธีการใหม่ทั้งหมดในการสร้างแอปพลิเคชันปัญญาประดิษฐ์เชิงสร้างสรรค์ (AI) ด้วยตัวเลือกโมเดลพื้นฐาน (FM) ของบุคคลที่หนึ่งและบุคคลที่สามที่หลากหลายที่สุด รวมถึงความสามารถที่เป็นมิตรต่อผู้ใช้ Amazon Bedrock จึงเป็นวิธีที่เร็วและง่ายที่สุดในการสร้างและปรับขนาดแอปพลิเคชัน generative AI ที่ปลอดภัย ขณะนี้ลูกค้าหลายหมื่นรายใช้ Amazon Bedrock เพื่อสร้างและปรับขนาดแอปพลิเคชันที่น่าประทับใจ พวกเขากำลังสร้างสรรค์นวัตกรรมอย่างรวดเร็ว ง่ายดาย และปลอดภัยเพื่อพัฒนากลยุทธ์ AI ของตน และเรากำลังสนับสนุนความพยายามของพวกเขาโดยการปรับปรุง Amazon Bedrock ด้วยความสามารถใหม่ที่น่าตื่นเต้น รวมถึงตัวเลือกรุ่นและคุณสมบัติที่เพิ่มมากขึ้น ซึ่งช่วยให้เลือกรุ่นที่เหมาะสมได้ง่ายขึ้น ปรับแต่งโมเดลสำหรับกรณีการใช้งานเฉพาะ และปกป้องและปรับขนาดแอปพลิเคชัน AI ที่สร้าง
ลูกค้าในอุตสาหกรรมที่หลากหลาย ตั้งแต่การเงิน การท่องเที่ยว การบริการ การดูแลสุขภาพ ไปจนถึงเทคโนโลยีสำหรับผู้บริโภค กำลังก้าวหน้าอย่างน่าทึ่ง พวกเขาตระหนักถึงคุณค่าทางธุรกิจที่แท้จริงด้วยการย้ายแอปพลิเคชัน AI ทั่วไปไปสู่การใช้งานจริงอย่างรวดเร็ว เพื่อปรับปรุงประสบการณ์ของลูกค้าและเพิ่มประสิทธิภาพการดำเนินงาน ลองพิจารณาตลาดหลักทรัพย์นิวยอร์ก (NYSE) ซึ่งเป็นตลาดทุนที่ใหญ่ที่สุดในโลกที่ประมวลผลธุรกรรมนับพันล้านรายการในแต่ละวัน NYSE ใช้ประโยชน์จากตัวเลือก FM ของ Amazon Bedrock และความสามารถในการสร้าง AI ที่ล้ำสมัยในกรณีการใช้งานต่างๆ รวมถึงการประมวลผลกฎระเบียบหลายพันหน้าเพื่อให้คำตอบในภาษาที่เข้าใจง่าย
สายการบินระดับโลก United Airlines ได้ปรับปรุงระบบการให้บริการผู้โดยสารให้ทันสมัยเพื่อแปลรหัสการจองผู้โดยสารแบบเดิมเป็นภาษาอังกฤษธรรมดา เพื่อให้ตัวแทนสามารถให้การสนับสนุนลูกค้าได้อย่างรวดเร็วและมีประสิทธิภาพ LexisNexis Legal & Professional ผู้ให้บริการข้อมูลและการวิเคราะห์ชั้นนำระดับโลก ได้พัฒนาผู้ช่วย AI ที่สร้างกฎหมายส่วนบุคคลบน Lexis+ AI ลูกค้า LexisNexis ได้รับผลลัพธ์ที่เชื่อถือได้เร็วกว่าผลิตภัณฑ์คู่แข่งที่ใกล้ที่สุดถึงสองเท่า และสามารถประหยัดเวลาได้มากถึงห้าชั่วโมงต่อสัปดาห์สำหรับการวิจัยทางกฎหมายและการสรุปผล และ HappyFox ซึ่งเป็นซอฟต์แวร์แหล่งความช่วยเหลือออนไลน์ได้เลือก Amazon Bedrock ในเรื่องความปลอดภัยและประสิทธิภาพ โดยเพิ่มประสิทธิภาพของระบบตั๋วอัตโนมัติที่ขับเคลื่อนด้วย AI ในโซลูชันการสนับสนุนลูกค้า 40% และประสิทธิภาพการทำงานของเจ้าหน้าที่ 30%
และทั่วทั้ง Amazon เรากำลังสร้างสรรค์นวัตกรรมอย่างต่อเนื่องด้วย generative AI เพื่อมอบประสบการณ์ที่ดื่มด่ำและน่าดึงดูดยิ่งขึ้นให้กับลูกค้าของเรา เมื่อสัปดาห์ที่แล้ว Amazon Music ได้ประกาศ Maestro Maestro คือโปรแกรมสร้างเพลย์ลิสต์แบบ AI ที่ขับเคลื่อนโดย Amazon Bedrock ซึ่งช่วยให้สมาชิก Amazon Music มีวิธีที่ง่ายและสนุกยิ่งขึ้นในการสร้างเพลย์ลิสต์ตามคำแนะนำ ขณะนี้ Maestro กำลังเปิดตัวรุ่นเบต้าให้กับลูกค้ากลุ่มเล็กๆ ในสหรัฐฯ ที่ใช้ Amazon Music ทุกระดับ
ด้วย Amazon Bedrock เรามุ่งเน้นไปที่ประเด็นหลักที่ลูกค้าต้องการเพื่อสร้างแอปพลิเคชัน AI เจนเนอเรชั่นระดับองค์กรที่พร้อมใช้งานจริงในราคาและความเร็วที่เหมาะสม วันนี้ฉันรู้สึกตื่นเต้นที่จะแบ่งปันคุณสมบัติใหม่ที่เราประกาศในด้านต่างๆ ของตัวเลือกโมเดล เครื่องมือสำหรับการสร้างแอปพลิเคชัน AI ทั่วไป และความเป็นส่วนตัวและความปลอดภัย
1. Amazon Bedrock ขยายตัวเลือกรุ่นด้วยรุ่น Llama 3 และช่วยคุณค้นหารุ่นที่ดีที่สุดสำหรับความต้องการของคุณ
ในช่วงแรกๆ นี้ ลูกค้ายังคงเรียนรู้และทดลองใช้โมเดลต่างๆ เพื่อพิจารณาว่าจะใช้โมเดลใดเพื่อวัตถุประสงค์ต่างๆ กัน พวกเขาต้องการที่จะลองใช้รุ่นล่าสุดได้อย่างง่ายดาย และทดสอบความสามารถและคุณสมบัติที่จะให้ผลลัพธ์ที่ดีที่สุดและลักษณะต้นทุนสำหรับกรณีการใช้งานของพวกเขา ลูกค้า Amazon Bedrock ส่วนใหญ่ใช้มากกว่าหนึ่งรุ่น และ Amazon Bedrock ก็มีโมเดลภาษาขนาดใหญ่ (LLM) ของบุคคลที่หนึ่งและบุคคลที่สามและ FM อื่นๆ ให้เลือกมากมาย รวมถึงโมเดลจาก ห้องปฏิบัติการ AI21, มานุษยวิทยา, รวมกัน, Meta, มิสทรัล AIและ ความเสถียร AIรวมถึงของเราเองด้วย โมเดลอเมซอนไททัน- ในความเป็นจริง Joel Hron หัวหน้าฝ่าย AI และ Thomson Reuters Labs ที่ Thomson Reuters เมื่อเร็ว ๆ นี้กล่าวว่า เกี่ยวกับการนำ Amazon Bedrock มาใช้ "การมีความสามารถในการใช้โมเดลที่หลากหลายเมื่อออกมาเป็นตัวขับเคลื่อนสำคัญสำหรับเรา โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงความรวดเร็วของพื้นที่นี้" โมเดลที่ล้ำสมัยของตระกูลโมเดล Mistral AI ได้แก่ มิสทรัล 7B, มิกซ์ทรัล 8x7Bและ มิสทรัล ใหญ่ ทำให้ลูกค้ารู้สึกตื่นเต้นกับประสิทธิภาพสูงในการสร้างข้อความ การสรุป การถามตอบ และการสร้างโค้ด นับตั้งแต่เราเปิดตัวตระกูลโมเดล Anthropic Claude 3 ลูกค้าหลายพันรายได้สัมผัสประสบการณ์ว่า Claude 3 Haiku, Sonnet และ Opus ได้สร้างเกณฑ์มาตรฐานใหม่ในงานการรับรู้ด้วยความฉลาด ความเร็ว และความคุ้มทุนที่ไม่มีใครเทียบได้ หลังจากการประเมินเบื้องต้นโดยใช้ Claude 3 Haiku และ Opus ใน Amazon Bedrock นั้น BlueOcean.ai ซึ่งเป็นแพลตฟอร์มข่าวกรองของแบรนด์ พบว่าต้นทุนลดลงกว่า 50% เมื่อพวกเขาสามารถรวมการเรียก API ที่แยกกันสี่ครั้งเข้าไว้ในการโทรครั้งเดียวที่มีประสิทธิภาพมากขึ้น
Masahiro Oba ผู้จัดการทั่วไป Group Federated Governance of DX Platform ของบริษัท Sony Group เปิดเผยว่า
“แม้ว่าจะมีความท้าทายมากมายในการใช้ Generative AI กับธุรกิจ แต่ความสามารถที่หลากหลายของ Amazon Bedrock ช่วยให้เราปรับแต่งแอปพลิเคชัน Generative AI ให้เข้ากับธุรกิจของ Sony ได้ เราไม่เพียงแต่สามารถใช้ประโยชน์จากความสามารถ LLM อันทรงพลังของ Claude 3 เท่านั้น แต่ยังรวมถึงความสามารถที่ช่วยให้เราปกป้องแอปพลิเคชันในระดับองค์กรอีกด้วย ฉันภูมิใจมากที่ได้ร่วมงานกับทีม Bedrock เพื่อสร้างประชาธิปไตยให้กับ AI ภายในกลุ่ม Sony”
เมื่อเร็วๆ นี้ฉันได้พูดคุยกับ Aaron Linsky ซึ่งเป็น CTO ของ Artificial Investment Associate Labs ที่ Bridgewater Associates ซึ่งเป็นบริษัทจัดการสินทรัพย์ชั้นนำ โดยที่พวกเขากำลังใช้ generative AI เพื่อปรับปรุง "Artificial Investment Associate" ซึ่งเป็นการก้าวกระโดดครั้งใหญ่สำหรับลูกค้าของพวกเขา สร้างจากประสบการณ์ในการให้คำแนะนำจากผู้เชี่ยวชาญตามกฎเกณฑ์เพื่อการตัดสินใจลงทุน ด้วย Amazon Bedrock พวกเขาสามารถใช้ FM ที่ดีที่สุดที่มีอยู่ เช่น Claude 3 สำหรับงานที่แตกต่างกัน โดยผสมผสานความเข้าใจตลาดขั้นพื้นฐานเข้ากับความสามารถในการให้เหตุผลที่ยืดหยุ่นของ AI Amazon Bedrock ช่วยให้สามารถทำการทดลองโมเดลได้อย่างราบรื่น ช่วยให้ Bridgewater สร้างระบบการลงทุนที่ทรงพลังและปรับปรุงตนเองได้ ซึ่งผสมผสานคำแนะนำที่เป็นระบบเข้ากับความสามารถที่ล้ำสมัย ซึ่งสร้างกระบวนการที่พัฒนาและเน้นที่ AI เป็นหลัก
เพื่อนำเสนอตัวเลือกรุ่นต่างๆ ให้กับลูกค้ามากขึ้น วันนี้ เรากำลังสร้าง รุ่น Meta Llama 3 มีวางจำหน่ายใน Amazon Bedrock- โมเดล Llama 3 3B และ Llama 8 3B ของ Llama 70 ได้รับการออกแบบมาเพื่อการสร้าง การทดลอง และการปรับขนาดแอปพลิเคชัน AI กำเนิดอย่างมีความรับผิดชอบ โมเดลเหล่านี้ได้รับการปรับปรุงอย่างมีนัยสำคัญจากสถาปัตยกรรมโมเดลก่อนหน้า รวมถึงการปรับขนาดการฝึกล่วงหน้า ตลอดจนแนวทางการปรับแต่งคำสั่งอย่างละเอียด Llama 3 8B เป็นเลิศในการสรุปข้อความ การจัดหมวดหมู่ การวิเคราะห์ความรู้สึก และการแปล เหมาะสำหรับทรัพยากรและอุปกรณ์ Edge ที่จำกัด Llama 3 70B โดดเด่นในด้านการสร้างเนื้อหา, AI การสนทนา, การทำความเข้าใจภาษา, การวิจัยและพัฒนา, องค์กร, การสรุปที่แม่นยำ, การวิเคราะห์การจำแนกประเภท/ความรู้สึกที่เหมาะสม, การสร้างแบบจำลองภาษา, ระบบการสนทนา, การสร้างโค้ด และการปฏิบัติตามคำสั่ง อ่านเพิ่มเติมเกี่ยวกับ Meta Llama 3 วางจำหน่ายแล้วใน Amazon Bedrock
นอกจากนี้เรายังประกาศการสนับสนุนในเร็วๆ นี้สำหรับ FM ระดับองค์กร Command R และ Command R+ ของ Cohere- โมเดลเหล่านี้สามารถปรับขนาดได้สูงและปรับให้เหมาะสมสำหรับงานที่มีบริบทยาว เช่น การเรียกข้อมูลเสริม (RAG) พร้อมการอ้างอิงเพื่อบรรเทาอาการประสาทหลอน การใช้เครื่องมือหลายขั้นตอนเพื่อทำให้งานทางธุรกิจที่ซับซ้อนเป็นอัตโนมัติ และรองรับ 10 ภาษาสำหรับการดำเนินงานทั่วโลก Command R+ เป็นโมเดลที่ทรงพลังที่สุดของ Cohere ซึ่งได้รับการปรับให้เหมาะสมสำหรับงานที่มีบริบทยาว ในขณะที่ Command R ได้รับการปรับให้เหมาะสมสำหรับปริมาณงานการผลิตขนาดใหญ่ ด้วยโมเดล Cohere ที่จะมาใน Amazon Bedrock เร็วๆ นี้ ธุรกิจต่างๆ สามารถสร้างแอปพลิเคชัน AI ที่สร้างระดับองค์กรที่สร้างสมดุลระหว่างความแม่นยำและประสิทธิภาพที่แข็งแกร่งสำหรับการดำเนินงาน AI ในแต่ละวัน นอกเหนือจากการพิสูจน์แนวคิด
Amazon Titan Image Generator พร้อมใช้งานโดยทั่วไปแล้ว และ Amazon Titan Text Embeddings V2 จะพร้อมใช้งานเร็วๆ นี้
นอกเหนือจากการเพิ่มโมเดล 3P ที่มีความสามารถมากที่สุดแล้ว Amazon Titan Image Generator ยังมีให้บริการในปัจจุบันอีกด้วย ด้วย Amazon Titan Image Generator ลูกค้าในอุตสาหกรรมต่างๆ เช่น การโฆษณา อีคอมเมิร์ซ สื่อ และความบันเทิง สามารถสร้างภาพที่สมจริงและมีคุณภาพระดับสตูดิโอในปริมาณมากด้วยต้นทุนที่ต่ำ โดยใช้การแจ้งด้วยภาษาที่เป็นธรรมชาติ พวกเขาสามารถแก้ไขรูปภาพที่สร้างขึ้นหรือที่มีอยู่โดยใช้ข้อความแจ้ง กำหนดค่าขนาดรูปภาพ หรือระบุจำนวนรูปแบบรูปภาพเพื่อเป็นแนวทางให้กับโมเดล ตามค่าเริ่มต้น ทุกภาพที่ผลิตโดย Amazon Titan Image Generator จะมีลายน้ำที่มองไม่เห็น ซึ่งสอดคล้องกับความมุ่งมั่นของ AWS ในการส่งเสริม AI ที่มีความรับผิดชอบและมีจริยธรรมโดยการลดการแพร่กระจายของข้อมูลที่ไม่ถูกต้อง คุณสมบัติการตรวจจับลายน้ำจะระบุรูปภาพที่สร้างโดย Image Generator และได้รับการออกแบบมาให้ป้องกันการงัดแงะ ซึ่งช่วยเพิ่มความโปร่งใสเกี่ยวกับเนื้อหาที่สร้างโดย AI Watermark Detection ช่วยลดความเสี่ยงด้านทรัพย์สินทางปัญญาและช่วยให้ผู้สร้างเนื้อหา องค์กรข่าว นักวิเคราะห์ความเสี่ยง ทีมตรวจจับการฉ้อโกง และอื่นๆ สามารถระบุและลดการเผยแพร่เนื้อหาที่สร้างโดย AI ที่ทำให้เข้าใจผิดได้ดียิ่งขึ้น อ่านเพิ่มเติมเกี่ยวกับ การตรวจจับลายน้ำสำหรับ Titan Image Generator.
ในเร็วๆ นี้ Amazon Titan Text Embeddings V2 มอบการตอบสนองที่เกี่ยวข้องมากขึ้นอย่างมีประสิทธิภาพสำหรับกรณีการใช้งานที่สำคัญระดับองค์กร เช่น การค้นหา โมเดลการฝังที่มีประสิทธิภาพมีความสำคัญต่อประสิทธิภาพเมื่อใช้ประโยชน์จาก RAG เพื่อเพิ่มการตอบสนองด้วยข้อมูลเพิ่มเติม Embeddings V2 ได้รับการปรับให้เหมาะสมสำหรับเวิร์กโฟลว์ RAG และให้การผสานรวมที่ราบรื่น ฐานความรู้สำหรับ Amazon Bedrock เพื่อส่งมอบคำตอบที่มีข้อมูลและเกี่ยวข้องมากขึ้นอย่างมีประสิทธิภาพ Embeddings V2 ช่วยให้เข้าใจความสัมพันธ์ของข้อมูลได้ลึกซึ้งยิ่งขึ้นสำหรับงานที่ซับซ้อน เช่น การเรียกค้น การจัดหมวดหมู่ การค้นหาความคล้ายคลึงทางความหมาย และการปรับปรุงความเกี่ยวข้องในการค้นหา นำเสนอขนาดการฝังที่ยืดหยุ่นขนาด 256, 512 และ 1024 Embeddings V2 จัดลำดับความสำคัญในการลดต้นทุน ในขณะที่ยังคงความแม่นยำ 97% สำหรับกรณีการใช้งาน RAG ซึ่งมีประสิทธิภาพเหนือกว่ารุ่นชั้นนำอื่นๆ นอกจากนี้ ขนาดการฝังที่ยืดหยุ่นยังตอบสนองความต้องการของแอปพลิเคชันที่หลากหลาย ตั้งแต่การใช้งานอุปกรณ์เคลื่อนที่ที่มีความหน่วงต่ำไปจนถึงเวิร์กโฟลว์แบบอะซิงโครนัสที่มีความแม่นยำสูง
การประเมินโมเดลใหม่ทำให้กระบวนการเข้าถึง เปรียบเทียบ และเลือก LLM และ FM ง่ายขึ้น
การเลือกโมเดลที่เหมาะสมถือเป็นก้าวแรกที่สำคัญในการสร้างแอปพลิเคชัน AI เชิงสร้างสรรค์ LLM อาจแตกต่างกันอย่างมากในประสิทธิภาพโดยขึ้นอยู่กับงาน โดเมน รูปแบบข้อมูล และปัจจัยอื่นๆ ตัวอย่างเช่น แบบจำลองทางชีวการแพทย์มีแนวโน้มที่จะมีประสิทธิภาพเหนือกว่าแบบจำลองการดูแลสุขภาพทั่วไปในบริบททางการแพทย์เฉพาะ ในขณะที่แบบจำลองการเข้ารหัสอาจเผชิญกับความท้าทายกับงานการประมวลผลภาษาธรรมชาติ การใช้โมเดลที่มีประสิทธิภาพมากเกินไปอาจนำไปสู่การใช้ทรัพยากรที่ไม่มีประสิทธิภาพ ในขณะที่โมเดลที่ได้รับพลังงานน้อยเกินไปอาจไม่เป็นไปตามมาตรฐานประสิทธิภาพขั้นต่ำ ซึ่งอาจให้ผลลัพธ์ที่ไม่ถูกต้อง และการเลือก FM ที่ไม่เหมาะสมเมื่อเริ่มต้นโครงการอาจบ่อนทำลายความเชื่อมั่นและความไว้วางใจของผู้มีส่วนได้ส่วนเสีย
เนื่องจากมีรุ่นให้เลือกมากมาย เราต้องการให้ลูกค้าเลือกรุ่นที่เหมาะกับการใช้งานได้ง่ายขึ้น
เครื่องมือประเมินแบบจำลองของ Amazon Bedrock มีวางจำหน่ายทั่วไปแล้วช่วยลดความซับซ้อนของกระบวนการคัดเลือกโดยเปิดใช้งานการเปรียบเทียบและการเปรียบเทียบกับชุดข้อมูลเฉพาะและตัวชี้วัดการประเมิน เพื่อให้มั่นใจว่านักพัฒนาจะเลือกแบบจำลองที่สอดคล้องกับเป้าหมายของโครงการมากที่สุด ประสบการณ์ที่ได้รับคำแนะนำนี้ช่วยให้นักพัฒนาสามารถประเมินโมเดลตามเกณฑ์ที่ปรับให้เหมาะกับกรณีการใช้งานแต่ละกรณี ด้วยการประเมินโมเดล นักพัฒนาจะเลือกโมเดลที่ต้องการประเมิน เช่น ตัวเลือกสาธารณะ โมเดลที่กำหนดเองที่นำเข้า หรือเวอร์ชันที่ได้รับการปรับแต่ง โดยจะกำหนดงานทดสอบ ชุดข้อมูล และตัวชี้วัดการประเมินที่เกี่ยวข้อง เช่น ความแม่นยำ เวลาแฝง การคาดการณ์ต้นทุน และปัจจัยเชิงคุณภาพ อ่านเพิ่มเติมเกี่ยวกับ การประเมินโมเดลใน Amazon Bedrock.
ความสามารถในการเลือกจาก FM ที่มีประสิทธิภาพสูงสุดใน Amazon Bedrock มีประโยชน์อย่างยิ่งต่อ Elastic Security James Spiteri ผู้อำนวยการฝ่ายการจัดการผลิตภัณฑ์ของ Elastic กล่าวว่า
“ด้วยการคลิกเพียงไม่กี่ครั้ง เราก็สามารถประเมินข้อความแจ้งเดียวสำหรับหลายรุ่นได้พร้อมๆ กัน ฟังก์ชันการประเมินแบบจำลองนี้ช่วยให้เราสามารถเปรียบเทียบผลลัพธ์ ตัวชี้วัด และต้นทุนที่เกี่ยวข้องระหว่างโมเดลต่างๆ ได้ ช่วยให้เราสามารถตัดสินใจได้อย่างมีข้อมูลประกอบว่าโมเดลใดจะเหมาะสมที่สุดสำหรับสิ่งที่เราพยายามทำให้สำเร็จ สิ่งนี้ทำให้กระบวนการของเรามีความคล่องตัวมากขึ้นอย่างมาก ซึ่งช่วยประหยัดเวลาได้มากในการปรับใช้แอปพลิเคชันของเราสู่การผลิต”
2. Amazon Bedrock นำเสนอความสามารถในการปรับแต่ง AI เชิงสร้างสรรค์ให้เหมาะกับความต้องการทางธุรกิจของคุณ
แม้ว่าแบบจำลองจะมีความสำคัญอย่างยิ่ง แต่ก็ต้องใช้มากกว่าแบบจำลองในการสร้างแอปพลิเคชันที่เป็นประโยชน์สำหรับองค์กร นั่นคือเหตุผลที่ Amazon Bedrock มีความสามารถในการช่วยให้คุณปรับแต่งโซลูชัน AI เชิงสร้างสรรค์ให้เหมาะกับกรณีการใช้งานเฉพาะได้อย่างง่ายดาย ลูกค้าสามารถใช้ข้อมูลของตนเองเพื่อปรับแต่งแอปพลิเคชันแบบส่วนตัวผ่านการปรับแต่งอย่างละเอียดหรือโดยใช้ฐานความรู้สำหรับประสบการณ์ RAG ที่มีการจัดการเต็มรูปแบบเพื่อมอบการตอบสนองที่เกี่ยวข้อง แม่นยำ และปรับแต่งได้มากขึ้น Agent สำหรับ Amazon Bedrock ช่วยให้นักพัฒนาสามารถกำหนดงาน เวิร์กโฟลว์ หรือกระบวนการตัดสินใจที่เฉพาะเจาะจง เพิ่มประสิทธิภาพการควบคุมและระบบอัตโนมัติ ในขณะเดียวกันก็รับประกันความสอดคล้องที่สอดคล้องกับกรณีการใช้งานที่ต้องการ เริ่มตั้งแต่วันนี้เป็นต้นไป ตอนนี้คุณสามารถใช้ตัวแทนกับโมเดล Anthropic Claude 3 Haiku และ Sonnet ได้แล้ว- นอกจากนี้เรายังแนะนำประสบการณ์คอนโซล AWS ที่ได้รับการอัปเดต ซึ่งรองรับสคีมาที่เรียบง่ายและการคืนการควบคุมเพื่อให้นักพัฒนาเริ่มต้นได้อย่างง่ายดาย อ่านเพิ่มเติมเกี่ยวกับ ตัวแทนสำหรับ Amazon Bedrock ใช้งานได้เร็วและง่ายขึ้นแล้ว.
ด้วยการนำเข้าโมเดลแบบกำหนดเองใหม่ ลูกค้าสามารถใช้ประโยชน์จากความสามารถเต็มรูปแบบของ Amazon Bedrock ด้วยโมเดลของตนเองได้
คุณสมบัติทั้งหมดเหล่านี้มีความสำคัญต่อการสร้างแอปพลิเคชัน AI เชิงสร้างสรรค์ ซึ่งเป็นเหตุผลที่เราต้องการทำให้แอปพลิเคชันเหล่านี้พร้อมใช้งานแก่ลูกค้าจำนวนมากขึ้น รวมถึงผู้ที่ลงทุนทรัพยากรจำนวนมากในการปรับแต่ง LLM อย่างละเอียดด้วยข้อมูลของตนเองในบริการต่างๆ หรือในการฝึกอบรมโมเดลที่กำหนดเองจาก เกา. ลูกค้าจำนวนมากมีโมเดลที่ปรับแต่งเองได้บน Amazon SageMaker ซึ่งมีอาร์เรย์ FM ที่ผ่านการฝึกอบรมล่วงหน้าที่กว้างขวางที่สุดมากกว่า 250 รายการ FM เหล่านี้ประกอบด้วยรุ่นล้ำสมัย เช่น Mistral, Llama2, CodeLlama, Jurassic-2, Jamba, pplx-7B, 70B และ Falcon 180B ที่น่าประทับใจ Amazon SageMaker ช่วยจัดระเบียบและปรับแต่งข้อมูล สร้างโครงสร้างพื้นฐานการฝึกอบรมที่ปรับขนาดได้และมีประสิทธิภาพ จากนั้นปรับใช้โมเดลจำนวนมากในเวลาแฝงต่ำและคุ้มค่า ถือเป็นตัวเปลี่ยนเกมสำหรับนักพัฒนาในการเตรียมข้อมูลสำหรับ AI จัดการการทดลอง ฝึกฝนโมเดลให้เร็วขึ้น (เช่น Perplexity AI ฝึกโมเดลเร็วขึ้น 40% ใน Amazon SageMaker) ลดเวลาแฝงในการอนุมาน (เช่น Workday ลดเวลาแฝงในการอนุมานลง 80% ด้วย Amazon SageMaker) และปรับปรุงประสิทธิภาพการทำงานของนักพัฒนา (เช่น NatWest ลดเวลาต่อมูลค่าสำหรับ AI จาก 12-18 เดือนเหลือน้อยกว่าเจ็ดเดือนโดยใช้ Amazon SageMaker) อย่างไรก็ตาม การดำเนินการโมเดลที่ปรับแต่งเองเหล่านี้อย่างปลอดภัยและบูรณาการเข้ากับแอปพลิเคชันสำหรับกรณีการใช้งานทางธุรกิจเฉพาะยังคงมีความท้าทาย
ด้วยเหตุนี้วันนี้เราจึงมาแนะนำ การนำเข้าโมเดลแบบกำหนดเองของ Amazon Bedrockซึ่งช่วยให้องค์กรสามารถใช้ประโยชน์จากการลงทุน AI ที่มีอยู่ควบคู่ไปกับความสามารถของ Amazon Bedrock ด้วยการนำเข้าโมเดลแบบกำหนดเอง ลูกค้าสามารถนำเข้าและเข้าถึงโมเดลแบบกำหนดเองของตนเองที่สร้างขึ้นบนสถาปัตยกรรมโมเดลแบบเปิดยอดนิยม รวมถึง Flan-T5, Llama และ Mistral ในฐานะ Application Programming Interface (API) ที่มีการจัดการเต็มรูปแบบใน Amazon Bedrock ลูกค้าสามารถนำโมเดลที่พวกเขาปรับแต่งบน Amazon SageMaker หรือเครื่องมืออื่นๆ และเพิ่มลงใน Amazon Bedrock ได้อย่างง่ายดาย หลังจากการตรวจสอบอัตโนมัติ พวกเขาสามารถเข้าถึงโมเดลที่กำหนดเองได้อย่างราบรื่น เช่นเดียวกับรุ่นอื่นๆ ใน Amazon Bedrock พวกเขาได้รับประโยชน์แบบเดียวกันทั้งหมด รวมถึงความสามารถในการปรับขนาดได้อย่างราบรื่นและความสามารถอันทรงพลังในการปกป้องแอปพลิเคชัน การยึดมั่นในหลักการ AI ที่มีความรับผิดชอบ เช่นเดียวกับความสามารถในการขยายฐานความรู้ของโมเดลด้วย RAG สร้างตัวแทนได้อย่างง่ายดายเพื่อทำงานหลายขั้นตอนให้เสร็จสิ้น และดำเนินการ ออกมาปรับแต่งเพื่อการสอนและปรับแต่งโมเดลต่อไป ทั้งหมดนี้ไม่จำเป็นต้องจัดการโครงสร้างพื้นฐานพื้นฐาน
ด้วยความสามารถใหม่นี้ เรากำลังทำให้องค์กรสามารถเลือกการผสมผสานระหว่างโมเดล Amazon Bedrock และโมเดลที่กำหนดเองของตนเองได้อย่างง่ายดาย ในขณะที่ยังคงรักษาประสบการณ์การพัฒนาที่มีประสิทธิภาพเหมือนเดิม ปัจจุบัน การนำเข้าโมเดลแบบกำหนดเองของ Amazon Bedrock พร้อมใช้งานในรูปแบบแสดงตัวอย่าง และรองรับสถาปัตยกรรมโมเดลแบบเปิดที่ได้รับความนิยมสูงสุดสามแบบ และมีแผนสำหรับข้อมูลเพิ่มเติมในอนาคต อ่านเพิ่มเติมเกี่ยวกับ การนำเข้าโมเดลแบบกำหนดเองสำหรับ Amazon Bedrock.
ASAPP คือบริษัท AI เชิงสร้างสรรค์ที่มีประวัติยาวนาน 10 ปีในการสร้างโมเดล ML
“ตัวแทนเสียงและการแชท AI ที่สร้างการสนทนาของเราใช้ประโยชน์จากโมเดลเหล่านี้เพื่อกำหนดนิยามใหม่ของประสบการณ์การบริการลูกค้า เพื่อให้ลูกค้าของเรามีระบบอัตโนมัติตั้งแต่ต้นจนจบ เราต้องการตัวแทน LLM ฐานความรู้ และความยืดหยุ่นในการเลือกแบบจำลอง ด้วยการนำเข้าโมเดลแบบกำหนดเอง เราจะสามารถใช้โมเดลแบบกำหนดเองที่มีอยู่ใน Amazon Bedrock ได้ Bedrock จะช่วยให้เราสามารถต้อนรับลูกค้าได้เร็วขึ้น เพิ่มความเร็วของนวัตกรรม และเร่งเวลาออกสู่ตลาดสำหรับความสามารถใหม่ของผลิตภัณฑ์”
– ปรียา วิชัยราเชนทรัน ประธานฝ่ายเทคโนโลยี
3. Amazon Bedrock มอบรากฐานที่ปลอดภัยและมีความรับผิดชอบเพื่อปรับใช้การป้องกันได้อย่างง่ายดาย
ในขณะที่ความสามารถด้าน Generative AI ก้าวหน้าและขยายตัว การสร้างความไว้วางใจและการจัดการกับข้อกังวลด้านจริยธรรมจึงมีความสำคัญมากยิ่งขึ้น Amazon Bedrock จัดการกับข้อกังวลเหล่านี้โดยใช้ประโยชน์จากโครงสร้างพื้นฐานที่ปลอดภัยและเชื่อถือได้ของ AWS พร้อมด้วยมาตรการรักษาความปลอดภัยชั้นนำของอุตสาหกรรม การเข้ารหัสข้อมูลที่แข็งแกร่ง และการควบคุมการเข้าถึงที่เข้มงวด
Guardrails สำหรับ Amazon Bedrock ซึ่งขณะนี้ใช้งานได้ทั่วไปแล้ว จะช่วยลูกค้าป้องกันเนื้อหาที่เป็นอันตรายและจัดการข้อมูลที่ละเอียดอ่อนภายในแอปพลิเคชัน
เรายังมี Guardrails สำหรับ Amazon Bedrock ซึ่งขณะนี้มีจำหน่ายทั่วไปแล้ว Guardrails นำเสนอการป้องกันความปลอดภัยชั้นนำของอุตสาหกรรม ทำให้ลูกค้าสามารถกำหนดนโยบายเนื้อหา กำหนดขอบเขตพฤติกรรมของแอปพลิเคชัน และใช้การป้องกันต่อความเสี่ยงที่อาจเกิดขึ้น Guardrails สำหรับ Amazon Bedrock เป็นโซลูชันเดียวที่นำเสนอโดยผู้ให้บริการระบบคลาวด์รายใหญ่ที่ช่วยให้ลูกค้าสามารถสร้างและปรับแต่งการป้องกันความปลอดภัยและความเป็นส่วนตัวสำหรับแอปพลิเคชัน AI ที่สร้างได้ในโซลูชันเดียว ช่วยให้ลูกค้าบล็อกเนื้อหาที่เป็นอันตรายได้มากถึง 85% มากกว่าการป้องกันที่ FM มอบให้ใน Amazon Bedrock Guardrails ให้การสนับสนุนที่ครอบคลุมสำหรับการกรองเนื้อหาที่เป็นอันตรายและความสามารถในการตรวจจับข้อมูลส่วนบุคคล (PII) ที่มีประสิทธิภาพ Guardrails ทำงานร่วมกับ LLM ทั้งหมดใน Amazon Bedrock รวมถึงโมเดลที่ได้รับการปรับแต่ง ขับเคลื่อนความสม่ำเสมอในวิธีที่โมเดลตอบสนองต่อเนื้อหาที่ไม่พึงประสงค์และเป็นอันตราย คุณสามารถกำหนดค่าเกณฑ์เพื่อกรองเนื้อหาได้หกหมวดหมู่ ได้แก่ ความเกลียดชัง การดูหมิ่น เรื่องเพศ ความรุนแรง การประพฤติมิชอบ (รวมถึงกิจกรรมทางอาญา) และการโจมตีทันที (การแหกคุกและการแทรกแซงทันที) คุณยังสามารถกำหนดชุดหัวข้อหรือคำที่ต้องบล็อกในแอปพลิเคชัน AI ทั่วไปของคุณ รวมถึงคำที่เป็นอันตราย คำหยาบคาย ชื่อคู่แข่ง และผลิตภัณฑ์ ตัวอย่างเช่น แอปพลิเคชันธนาคารสามารถกำหนดค่ารั้วเพื่อตรวจจับและบล็อกหัวข้อที่เกี่ยวข้องกับคำแนะนำในการลงทุน แอปพลิเคชันศูนย์ติดต่อที่สรุปสำเนาของศูนย์บริการข้อมูลสามารถใช้การตรวจสอบ PII เพื่อลบ PII ในสรุปการโทร หรือแชทบอทสนทนาสามารถใช้ตัวกรองเนื้อหาเพื่อบล็อกเนื้อหาที่เป็นอันตราย อ่านเพิ่มเติมเกี่ยวกับ ราวกันตกสำหรับ Amazon Bedrock.
บริษัทต่างๆ เช่น Aha! ซึ่งเป็นบริษัทซอฟต์แวร์ที่ช่วยให้ผู้คนมากกว่า 1 ล้านคนนำกลยุทธ์ผลิตภัณฑ์ของตนไปใช้จริง ใช้ Amazon Bedrock เพื่อขับเคลื่อนความสามารถด้าน AI เชิงสร้างสรรค์มากมาย
“เราควบคุมข้อมูลของเราได้อย่างเต็มที่ผ่านนโยบายการปกป้องข้อมูลและความเป็นส่วนตัวของ Amazon Bedrock และสามารถบล็อกเนื้อหาที่เป็นอันตรายผ่าน Guardrails สำหรับ Amazon Bedrock เราเพิ่งสร้างมันขึ้นมาเพื่อช่วยให้ผู้จัดการผลิตภัณฑ์ค้นพบข้อมูลเชิงลึกโดยการวิเคราะห์คำติชมที่ลูกค้าส่งมา นี่เป็นเพียงการเริ่มต้น. เราจะยังคงสร้างเทคโนโลยี AWS ขั้นสูงต่อไปเพื่อช่วยให้ทีมพัฒนาผลิตภัณฑ์ทุกที่จัดลำดับความสำคัญของสิ่งที่จะสร้างต่อไปด้วยความมั่นใจ”
ด้วยตัวเลือก FM ชั้นนำและคุณสมบัติที่มากขึ้นที่ช่วยให้คุณประเมินโมเดลและปกป้องแอปพลิเคชัน ตลอดจนใช้ประโยชน์จากการลงทุนก่อนหน้าของคุณใน AI พร้อมกับความสามารถของ Amazon Bedrock การเปิดตัวในวันนี้ทำให้ลูกค้าสามารถสร้างและปรับขนาด AI เชิงสร้างสรรค์ได้ง่ายและรวดเร็วยิ่งขึ้น การใช้งาน โพสต์ในบล็อกนี้เน้นเฉพาะส่วนย่อยของคุณสมบัติใหม่ คุณสามารถเรียนรู้เพิ่มเติมเกี่ยวกับทุกสิ่งที่เราเปิดตัวในแหล่งข้อมูลของโพสต์นี้ รวมถึงการถามคำถามและสรุปข้อมูลจากเอกสารฉบับเดียวโดยไม่ต้องตั้งค่าฐานข้อมูลเวกเตอร์ในฐานความรู้และ ความพร้อมใช้งานทั่วไปของการสนับสนุนแหล่งข้อมูลหลายแหล่งด้วยฐานความรู้.
ผู้ใช้งานในช่วงแรกๆ ที่ใช้ประโยชน์จากความสามารถของ Amazon Bedrock กำลังได้รับจุดเริ่มต้นที่สำคัญ โดยขับเคลื่อนการเพิ่มผลิตภาพ กระตุ้นการค้นพบที่ก้าวล้ำทั่วทั้งโดเมน และมอบประสบการณ์ลูกค้าที่ได้รับการปรับปรุงซึ่งส่งเสริมความภักดีและการมีส่วนร่วม ฉันตื่นเต้นที่จะได้เห็นสิ่งที่ลูกค้าของเราจะทำอย่างไรต่อไปด้วยความสามารถใหม่เหล่านี้
ดังที่ที่ปรึกษาของฉัน Werner Vogels พูดเสมอว่า “ไปสร้างเลย” และฉันจะเพิ่มเติมว่า “...กับ Amazon Bedrock!”
แหล่งข้อมูล
โปรดดูแหล่งข้อมูลต่อไปนี้เพื่อเรียนรู้เพิ่มเติมเกี่ยวกับประกาศนี้:
เกี่ยวกับผู้เขียน
สวามี ศิวะสุบรามาเนียน เป็นรองประธานฝ่ายข้อมูลและการเรียนรู้ของเครื่องที่ AWS ในบทบาทนี้ Swami จะดูแลบริการ AWS Database, Analytics และ AI & Machine Learning ทั้งหมด ภารกิจของทีมของเขาคือการช่วยให้องค์กรต่างๆ นำข้อมูลของตนไปใช้งานด้วยโซลูชันข้อมูลแบบครบวงจรที่สมบูรณ์เพื่อจัดเก็บ เข้าถึง วิเคราะห์ แสดงภาพ และคาดการณ์
- เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
- PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
- เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
- เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
- เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
- ที่มา: https://aws.amazon.com/blogs/machine-learning/new-capabilities-make-it-easier-to-use-amazon-bedrock-to-build-and-scale-generative-ai-applications-and-deliver-impact/
