Трохи більше року тому ми представили світові Amazon Bedrock, забезпечивши абсолютно новий спосіб створення програм генеративного штучного інтелекту (AI). Завдяки найширшому вибору базових моделей перших і сторонніх виробників (FM), а також зручним для користувача можливостям, Amazon Bedrock є найшвидшим і найпростішим способом створення та масштабування безпечних генеративних програм ШІ. Зараз десятки тисяч клієнтів використовують Amazon Bedrock для створення та масштабування вражаючих програм. Вони впроваджують інновації швидко, легко та безпечно, щоб просувати свої стратегії ШІ. І ми підтримуємо їхні зусилля, розширюючи Amazon Bedrock захоплюючими новими можливостями, зокрема ще більшим вибором моделей і функціями, які спрощують вибір потрібної моделі, налаштовують модель для конкретного випадку використання, а також захищають і масштабують генеративні програми ШІ.
Клієнти в різних галузях від фінансів до подорожей і гостинності до охорони здоров’я та споживчих технологій досягають значного прогресу. Вони усвідомлюють реальну цінність для бізнесу, швидко переміщуючи генеративні додатки штучного інтелекту у виробництво, щоб покращити взаємодію з клієнтами та підвищити ефективність роботи. Розглянемо Нью-Йоркську фондову біржу (NYSE), найбільший у світі ринок капіталу, який щодня обробляє мільярди операцій. NYSE використовує вибір Amazon Bedrock щодо FM і передових можливостей генерації штучного інтелекту в кількох випадках використання, включаючи обробку тисяч сторінок нормативних документів, щоб надавати відповіді простою для розуміння мовою.
Глобальна авіакомпанія United Airlines модернізувала свою систему обслуговування пасажирів, щоб перекласти застарілі коди бронювання пасажирів простою англійською мовою, щоб агенти могли надавати швидку та ефективну підтримку клієнтів. LexisNexis Legal & Professional, провідний світовий постачальник інформації та аналітики, розробив персоналізованого юридичного генеративного помічника AI на Lexis+ AI. Клієнти LexisNexis отримують перевірені результати вдвічі швидше, ніж найближчий конкуруючий продукт, і можуть заощаджувати до п’яти годин на тиждень для юридичних досліджень і узагальнення. І HappyFox, програмне забезпечення для служби онлайн-довідки, вибрало Amazon Bedrock за його безпеку та продуктивність, підвищивши ефективність автоматизованої системи квитків на основі штучного інтелекту в своєму рішенні підтримки клієнтів на 40%, а продуктивність агентів – на 30%.
А в Amazon ми продовжуємо впроваджувати інновації за допомогою генеративного штучного інтелекту, щоб надавати нашим клієнтам більше ефекту занурення та залучення. Тільки минулого тижня Amazon Music анонсувала Maestro. Maestro — це генератор списків відтворення зі штучним інтелектом на основі технології Amazon Bedrock, який дає передплатникам Amazon Music простіший і цікавіший спосіб створювати списки відтворення на основі підказок. Зараз Maestro розгортається в бета-версії для невеликої кількості клієнтів у США на всіх рівнях Amazon Music.
З Amazon Bedrock ми зосереджені на ключових сферах, які потрібні клієнтам для створення готових до виробництва генеративних додатків ШІ корпоративного рівня за належною ціною та швидкістю. Сьогодні я радий поділитися новими функціями, які ми оголошуємо, у сферах вибору моделі, інструментів для створення генеративних програм ШІ, а також конфіденційності та безпеки.
1. Amazon Bedrock розширює вибір моделей за допомогою моделей Llama 3 і допомагає вам знайти найкращу модель для ваших потреб
У ці перші дні клієнти все ще вивчають і експериментують з різними моделями, щоб визначити, які з них використовувати для різних цілей. Вони хочуть мати можливість легко випробувати найновіші моделі та перевірити, які можливості та функції дадуть їм найкращі результати та характеристики вартості для їхніх випадків використання. Більшість клієнтів Amazon Bedrock використовують більше ніж одну модель, і Amazon Bedrock пропонує найширший вибір основних і сторонніх великих мовних моделей (LLM) та інших FM. Сюди входять моделі від AI21 лабораторії, Антропний, Cohere, Meta, Містраль А.І та Стабільність ШІ, а також наші власні Моделі Amazon Titan. Насправді Джоел Хрон, керівник лабораторій ШІ та Thomson Reuters у Thomson Reuters недавно сказав, Ось про те, що вони прийняли Amazon Bedrock, «Можливість використовувати різноманітні моделі, щойно вони вийшли, була для нас ключовим фактором, особливо враховуючи, як швидко розвивається цей простір». Ультрасучасні моделі сімейства Mistral AI, включаючи Містраль 7Б, Мікстраль 8x7B та Містраль Великий захоплюють клієнтів високою ефективністю генерації тексту, узагальнення, запитань і відповідей і генерації коду. З тих пір, як ми представили сімейство моделей Anthropic Claude 3, тисячі клієнтів відчули, як Claude 3 Haiku, Sonnet і Opus встановили нові стандарти для когнітивних завдань із неперевершеним інтелектом, швидкістю та економічною ефективністю. Після початкової оцінки з використанням Claude 3 Haiku та Opus в Amazon Bedrock BlueOcean.ai, платформа аналізу брендів, помітила зниження витрат більш ніж на 50%, коли їм вдалося об’єднати чотири окремі виклики API в один більш ефективний виклик.
Масахіро Оба, генеральний директор Групового федеративного управління платформою DX у корпорації Sony Group, поділився,
«Хоч із застосуванням генеративного штучного інтелекту в бізнесі виникає багато проблем, різноманітні можливості Amazon Bedrock допомагають нам адаптувати генеративні програми штучного інтелекту для бізнесу Sony. Ми можемо скористатися не лише потужними можливостями LLM Claude 3, але й можливостями, які допомагають нам захистити програми на рівні підприємства. Я дуже пишаюся тим, що працюю з командою Bedrock над подальшою демократизацією генеративного ШІ в Sony Group».
Нещодавно я спілкувався з Аароном Лінскі, технічним директором Artificial Investment Associate Labs у Bridgewater Associates, провідній фірмі з управління активами, де вони використовують генеративний штучний інтелект для вдосконалення свого «Artificial Investment Associate», що є великим кроком вперед для їхніх клієнтів. Він спирається на їхній досвід надання експертних порад на основі правил для прийняття інвестиційних рішень. Завдяки Amazon Bedrock вони можуть використовувати найкращі доступні FM, такі як Claude 3, для різних завдань, поєднуючи фундаментальне розуміння ринку з гнучкими можливостями AI. Amazon Bedrock дозволяє безперебійно експериментувати з моделлю, дозволяючи Bridgewater створювати потужну інвестиційну систему, що самовдосконалюється, яка поєднує систематичні поради з передовими можливостями, створюючи процес, що розвивається, перш за все ШІ.
Сьогодні ми робимо ще більший вибір моделей для клієнтів Моделі Meta Llama 3 доступні в Amazon Bedrock. Моделі Llama 3 3B і Llama 8 3B розроблені для створення, експериментування та відповідального масштабування генеративних програм ШІ. Ці моделі були суттєво покращені порівняно з попередньою архітектурою моделей, включаючи масштабування попереднього навчання, а також підходи до тонкого налаштування інструкцій. Llama 70 3B чудово підходить для підсумовування тексту, класифікації, аналізу настроїв і перекладу, ідеально підходить для обмежених ресурсів і периферійних пристроїв. Llama 8 3B блищить у створенні контенту, розмовному штучному інтелекті, розумінні мови, дослідженнях і розробках, підприємствах, точному підсумкуванні, детальній класифікації/аналізі настроїв, моделюванні мови, системах діалогу, генерації коду та виконанні інструкцій. Докладніше про Meta Llama 3 тепер доступна в Amazon Bedrock.
Ми також оголошуємо про підтримку незабаром для корпоративних FM Command R і Command R+ Cohere. Ці моделі мають високу масштабованість і оптимізовані для довгоконтекстних завдань, як-от пошуково-доповнена генерація (RAG) із цитуваннями для пом’якшення галюцинацій, використання багатоетапного інструменту для автоматизації складних бізнес-завдань і підтримка 10 мов для глобальних операцій. Command R+ — це найпотужніша модель Cohere, оптимізована для довгоконтекстних завдань, тоді як Command R оптимізовано для великих виробничих навантажень. Завдяки моделям Cohere, які незабаром з’являться в Amazon Bedrock, компанії зможуть створювати генеративні програми штучного інтелекту корпоративного рівня, які збалансують високу точність і ефективність для повсякденних операцій штучного інтелекту поза межами перевірки концепції.
Amazon Titan Image Generator тепер загальнодоступний, а Amazon Titan Text Embeddings V2 незабаром з’явиться
На додаток до додавання найпотужніших моделей 3P, Amazon Titan Image Generator сьогодні є загальнодоступним. За допомогою Amazon Titan Image Generator клієнти в таких галузях, як реклама, електронна комерція, медіа та розваги, можуть ефективно генерувати реалістичні зображення студійної якості у великих обсягах і за низьку вартість, використовуючи підказки природною мовою. Вони можуть редагувати створені або наявні зображення за допомогою текстових підказок, налаштовувати розміри зображення або вказувати кількість варіацій зображення для керування моделлю. За замовчуванням кожне зображення, створене Amazon Titan Image Generator, містить невидимий водяний знак, що відповідає зобов’язанню AWS сприяти відповідальному та етичному ШІ шляхом зменшення поширення дезінформації. Функція виявлення водяних знаків ідентифікує зображення, створені Image Generator, і розроблена таким чином, щоб бути стійкою до підробки, допомагаючи підвищити прозорість контенту, створеного штучним інтелектом. Виявлення водяних знаків допомагає зменшити ризики інтелектуальної власності та дає змогу розробникам контенту, новинним організаціям, аналітикам ризиків, групам виявлення шахрайства та іншим краще ідентифікувати та зменшувати поширення оманливого контенту, створеного ШІ. Докладніше про Виявлення водяних знаків для Titan Image Generator.
Незабаром Amazon Titan Text Embeddings V2 ефективно надає релевантніші відповіді для критичних корпоративних випадків використання, як-от пошук. Ефективні моделі вбудовування мають вирішальне значення для продуктивності під час використання RAG для збагачення відповідей додатковою інформацією. Embeddings V2 оптимізовано для робочих процесів RAG і забезпечує повну інтеграцію з Бази знань для Amazon Bedrock щоб ефективно надавати більш інформативні та відповідні відповіді. Вбудовування V2 дає змогу глибше зрозуміти взаємозв’язки даних для таких складних завдань, як пошук, класифікація, пошук семантичної подібності та підвищення релевантності пошуку. Пропонуючи гнучкі розміри вбудовування 256, 512 і 1024 розмірів, Embeddings V2 надає перевагу зниженню витрат, зберігаючи при цьому 97% точності для випадків використання RAG, перевершуючи інші провідні моделі. Крім того, гнучкі розміри вбудовування задовольняють різноманітні потреби додатків, від мобільних розгортань із низькою затримкою до високоточних асинхронних робочих процесів.
Нова модель оцінювання спрощує процес доступу, порівняння та вибору LLM та FM
Вибір відповідної моделі є важливим першим кроком до створення будь-якої генеративної програми ШІ. LLM можуть сильно відрізнятися за продуктивністю залежно від завдання, домену, модальностей даних та інших факторів. Наприклад, біомедична модель, швидше за все, перевершить загальні моделі охорони здоров’я в конкретних медичних контекстах, тоді як модель кодування може зіткнутися з проблемами, пов’язаними із завданнями обробки природної мови. Використання занадто потужної моделі може призвести до неефективного використання ресурсів, тоді як модель із недостатньою потужністю може не відповідати мінімальним стандартам продуктивності, потенційно даючи неправильні результати. А вибір невідповідного FM на початку проекту може підірвати впевненість і довіру зацікавлених сторін.
Маючи на вибір таку кількість моделей, ми хочемо полегшити клієнтам вибір правильної моделі для свого випадку використання.
Інструмент оцінки моделі Amazon Bedrock тепер загальнодоступний, спрощує процес відбору, забезпечуючи порівняльний аналіз і порівняння з конкретними наборами даних і показниками оцінки, гарантуючи, що розробники виберуть модель, яка найкраще відповідає цілям їх проекту. Цей керований досвід дозволяє розробникам оцінювати моделі за критеріями, адаптованими до кожного випадку використання. За допомогою оцінки моделі розробники вибирають моделі-кандидати для оцінки – загальнодоступні варіанти, імпортовані користувацькі моделі або налаштовані версії. Вони визначають відповідні тестові завдання, набори даних і показники оцінювання, такі як точність, затримка, прогнози вартості та якісні фактори. Докладніше про Оцінка моделі в Amazon Bedrock.
Можливість вибирати з найефективніших FM в Amazon Bedrock була надзвичайно корисною для Elastic Security. Джеймс Спітері, директор з управління продуктами компанії Elastic, поділився,
«Всього кількома клацаннями ми можемо оцінити одну підказку в кількох моделях одночасно. Ця функція оцінки моделі дає нам змогу порівнювати результати, показники та пов’язані з ними витрати в різних моделях, дозволяючи нам прийняти обґрунтоване рішення про те, яка модель найбільше підходить для того, чого ми намагаємося досягти. Це значно оптимізувало наш процес, заощадивши значну кількість часу на розгортання наших додатків у виробництві».
2. Amazon Bedrock пропонує можливості адаптувати генеративний ШІ до потреб вашого бізнесу
Хоча моделі неймовірно важливі, для створення програми, корисної для організації, потрібно більше, ніж сама модель. Ось чому Amazon Bedrock має можливості, які допоможуть вам легко адаптувати генеративні рішення ШІ до конкретних випадків використання. Клієнти можуть використовувати власні дані для конфіденційного налаштування додатків за допомогою тонкого налаштування або за допомогою баз знань для повністю керованого досвіду RAG для надання більш релевантних, точних і індивідуальних відповідей. Агенти для Amazon Bedrock дозволяють розробникам визначати конкретні завдання, робочі процеси або процеси прийняття рішень, покращуючи контроль і автоматизацію, одночасно забезпечуючи послідовне узгодження з запланованим варіантом використання. Від сьогодні, тепер ви можете використовувати агентів із моделями Anthropic Claude 3 Haiku та Sonnet. Ми також представляємо оновлену консоль AWS, яка підтримує спрощену схему та повернення контролю, щоб розробникам було легко розпочати роботу. Докладніше про Агенти для Amazon Bedrock тепер швидші та простіші у використанні.
Завдяки новому імпорту індивідуальних моделей клієнти можуть використовувати всі можливості Amazon Bedrock зі своїми моделями
Усі ці функції є важливими для створення генеративних програм штучного інтелекту, тому ми хотіли зробити їх доступними для ще більшої кількості клієнтів, у тому числі для тих, хто вже вклав значні ресурси в тонке налаштування LLM за допомогою власних даних у різних службах або в навчання користувальницьких моделей від подряпина. Багато клієнтів мають індивідуальні моделі, доступні на Amazon SageMaker, який надає найширший спектр із понад 250 попередньо підготовлених FM. Ці FM включають найсучасніші моделі, такі як Mistral, Llama2, CodeLlama, Jurassic-2, Jamba, pplx-7B, 70B і вражаючий Falcon 180B. Amazon SageMaker допомагає упорядковувати й налаштовувати дані, створювати масштабовану та ефективну навчальну інфраструктуру, а потім розгортати моделі в масштабі з низькою затримкою й економічно вигідним способом. Це змінило гру для розробників у підготовці їхніх даних для штучного інтелекту, управлінні експериментами, швидшому навчанні моделей (наприклад, Perplexity AI навчає моделі на 40% швидше в Amazon SageMaker), зменшенні затримки висновків (наприклад, Workday зменшив затримку висновків на 80% за допомогою Amazon SageMaker) і підвищення продуктивності розробників (наприклад, NatWest скоротила час для створення цінності для штучного інтелекту з 12-18 місяців до менше семи місяців за допомогою Amazon SageMaker). Однак безпечне впровадження цих індивідуальних моделей та їх інтеграція в програми для конкретних бізнес-випадків все ще має проблеми.
Ось чому сьогодні ми представляємо Імпорт спеціальної моделі Amazon Bedrock, що дозволяє організаціям використовувати наявні інвестиції в ШІ разом із можливостями Amazon Bedrock. Завдяки імпорту користувацьких моделей клієнти тепер можуть імпортувати та отримувати доступ до власних користувацьких моделей, побудованих на популярних архітектурах відкритих моделей, зокрема Flan-T5, Llama та Mistral, як повністю керованого інтерфейсу прикладного програмування (API) в Amazon Bedrock. Клієнти можуть взяти моделі, налаштовані в Amazon SageMaker або інших інструментах, і легко додати їх до Amazon Bedrock. Після автоматизованої перевірки вони можуть безперешкодно отримати доступ до своєї спеціальної моделі, як і до будь-якої іншої моделі в Amazon Bedrock. Вони отримують усі ті ж переваги, включаючи зручну масштабованість і потужні можливості для захисту своїх програм, дотримання відповідальних принципів штучного інтелекту, а також можливість розширювати базу знань моделі за допомогою RAG, легко створювати агентів для виконання багатоетапних завдань і виконувати з тонкого налаштування, щоб продовжувати навчати та вдосконалювати моделі. І все це без необхідності керувати основною інфраструктурою.
Завдяки цій новій можливості ми полегшуємо організаціям вибір комбінації моделей Amazon Bedrock і власних власних моделей, зберігаючи той самий спрощений досвід розробки. Сьогодні Amazon Bedrock Custom Model Import доступний у попередній версії та підтримує три найпопулярніші архітектури відкритих моделей, а в майбутньому планується ще більше. Докладніше про Імпорт спеціальної моделі для Amazon Bedrock.
ASAPP — це генеративна компанія ШІ з 10-річною історією створення моделей машинного навчання.
«Наш генеративний розмовний AI голос і агент чату використовує ці моделі, щоб переосмислити досвід обслуговування клієнтів. Щоб надати нашим клієнтам повну автоматизацію, нам потрібні агенти LLM, база знань і гнучкість вибору моделі. Завдяки імпорту користувацьких моделей ми зможемо використовувати наявні власні моделі в Amazon Bedrock. Bedrock дозволить нам швидше залучати наших клієнтів, збільшити темп інновацій і прискорити вихід на ринок нових можливостей продукту».
– Прія Віджаяраджандран, президент відділу технологій.
3. Amazon Bedrock забезпечує безпечну та відповідальну основу для легкого впровадження заходів захисту
У міру того як генеративні можливості ШІ прогресують і розширюються, зміцнення довіри та вирішення етичних проблем стає ще важливішим. Amazon Bedrock вирішує ці проблеми, використовуючи безпечну та надійну інфраструктуру AWS із найкращими в галузі заходами безпеки, надійним шифруванням даних і суворим контролем доступу.
Guardrails для Amazon Bedrock, тепер загальнодоступний, допомагає клієнтам запобігати шкідливому вмісту та керувати конфіденційною інформацією в програмі.
Ми також пропонуємо Огородження для Amazon Bedrock, які тепер є загальнодоступними. Guardrails пропонує найкращий у галузі захист безпеки, надаючи клієнтам можливість визначати політику вмісту, установлювати межі поведінки додатків і впроваджувати засоби захисту від потенційних ризиків. Guardrails для Amazon Bedrock — це єдине рішення, запропоноване великим постачальником хмарних технологій, яке дозволяє клієнтам створювати та налаштовувати захист безпеки та конфіденційності для своїх генеративних програм ШІ в одному рішенні. Це допомагає клієнтам блокувати на 85% більше шкідливого вмісту, ніж захист, наданий FMs на Amazon Bedrock. Guardrails забезпечує комплексну підтримку фільтрації шкідливого вмісту та надійних можливостей виявлення персональної інформації (PII). Guardrails працює з усіма LLM в Amazon Bedrock, а також з точно налаштованими моделями, забезпечуючи послідовність у тому, як моделі реагують на небажаний і шкідливий вміст. Ви можете налаштувати порогові значення для фільтрації вмісту за шістьма категоріями: ненависть, образи, сексуальне ставлення, насильство, неналежна поведінка (включаючи кримінальну діяльність) і миттєва атака (втеча з в’язниці та миттєва ін’єкція). Ви також можете визначити набір тем або слів, які потрібно заблокувати у вашому генеруючому додатку ШІ, включаючи шкідливі слова, ненормативну лексику, назви конкурентів і продукти. Наприклад, банківська програма може налаштувати огорожу для виявлення та блокування тем, пов’язаних з інвестиційними порадами. Програма контакт-центру, яка підсумовує стенограми кол-центру, може використовувати редагування ідентифікаційної інформації, щоб видалити ідентифікаційну інформацію в підсумках дзвінків, або розмовний чат-бот може використовувати фільтри вмісту, щоб блокувати шкідливий вміст. Докладніше про Огородження для Amazon Bedrock.
Такі компанії, як Aha!, розробник програмного забезпечення, який допомагає понад 1 мільйону людей втілити в життя стратегію продукту, використовують Amazon Bedrock для забезпечення багатьох своїх генеративних можливостей ШІ.
«Ми маємо повний контроль над нашою інформацією через політику захисту даних і конфіденційності Amazon Bedrock і можемо блокувати шкідливий вміст через Guardrails для Amazon Bedrock. Ми щойно створили його, щоб допомогти менеджерам із продуктів отримувати інформацію, аналізуючи відгуки, надіслані їхніми клієнтами. Це лише початок. Ми продовжуватимемо розвивати передову технологію AWS, щоб допомогти командам розробників продуктів у всьому світі з упевненістю визначити пріоритети, що будувати далі».
Завдяки ще більшому вибору провідних FM і функцій, які допомагають вам оцінювати моделі та додатки для захисту, а також використовувати ваші попередні інвестиції в штучний інтелект разом із можливостями Amazon Bedrock, сьогоднішні запуски спрощують і пришвидшують для клієнтів створення та масштабування генеративного штучного інтелекту. програми. У цій публікації блогу висвітлюється лише частина нових функцій. Ви можете дізнатися більше про все, що ми запустили, у ресурсах цієї публікації, зокрема ставити запитання та узагальнювати дані з одного документа без налаштування векторної бази даних у базах знань і загальна доступність підтримки кількох джерел даних за допомогою баз знань.
Перші користувачі, які використовують можливості Amazon Bedrock, отримують важливу перевагу, сприяючи підвищенню продуктивності, сприяючи новаторським відкриттям у різних доменах і забезпечуючи покращений досвід клієнтів, який сприяє лояльності та залученню. Я з нетерпінням чекаю, що далі робитимуть наші клієнти з цими новими можливостями.
Як завжди каже мій наставник Вернер Фогельс, «Тепер іди на будівництво», а я додам «…з Amazon Bedrock!»
ресурси
Перегляньте такі ресурси, щоб дізнатися більше про це оголошення:
Про автора
Свамі Сівасубраманян є віце-президентом з даних і машинного навчання в AWS. На цій посаді Свамі керує всіма службами бази даних AWS, аналітики та AI та машинного навчання. Місія його команди полягає в тому, щоб допомогти організаціям використовувати свої дані для роботи за допомогою повного наскрізного рішення для зберігання, доступу, аналізу, візуалізації та прогнозування.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://aws.amazon.com/blogs/machine-learning/new-capabilities-make-it-easier-to-use-amazon-bedrock-to-build-and-scale-generative-ai-applications-and-deliver-impact/
