Этим летом подразделение искусственного интеллекта компании Meta Марка Цукерберга представило свою Чат-бот Лама 2. Microsoft была назначена представителем Meta предпочтительный партнер на Llama 2, который будет доступен через операционную систему Windows.

Подход Meta к Llama 2 контрастирует с подходом компании OpenAI, создавшей чат-бот с искусственным интеллектом ChatGPT. Это потому, что Meta сделала свой продукт открытым, а это означает, что исходный код находится в свободном доступе, что позволяет его исследовать и модифицировать.

Эта стратегия вызвала широкую волну дискуссий. Будет ли это способствовать усилению общественного контроля и регулирования большие языковые модели (LLM) — технология, лежащая в основе чат-ботов с искусственным интеллектом, таких как Llama 2 и ChatGPT? Может ли это непреднамеренно дать преступникам возможность использовать эту технологию, чтобы помочь им? осуществлять фишинговые атаки или разрабатывать вредоносное ПО? И может ли этот шаг помочь Meta получить преимущество над OpenAI и Google в этой быстро развивающейся области?

Что бы ни случилось, этот стратегический шаг, похоже, изменит нынешний ландшафт генеративного ИИ. В феврале 2023 года Meta выпустила свой первая версия LLM под названием Llama, но сделал его доступным только для академического использования. Его обновленная версия Llama 2 отличается улучшенной производительностью и больше подходит для использования в бизнесе.

Как и других чат-ботов с искусственным интеллектом, Llama 2 пришлось обучать с использованием онлайн-данных. Доступ к этому обширному ресурсу информации помогает ему улучшить свою работу, предоставляя пользователям полезные ответы на их вопросы.

Первоначальная версия Llama 2 была создана посредством «контролируемая доводка», метод, который использует высококачественные данные вопросов и ответов для их калибровки для использования общественностью. В дальнейшем оно было усовершенствовано с обучение с подкреплением обратной связи от человека который, как следует из названия, включает в себя оценки людьми производительности ИИ, чтобы привести ее в соответствие с человеческими предпочтениями.

Гарантированные преимущества

Принятие Meta принципа открытого исходного кода в Llama 2 позволяет ей извлечь выгоду из подхода, который, по-видимому, работал для компании в прошлом. Инженеры Meta известны своими разработками продуктов, помогающих разработчикам, таким как реагировать и PyTorch. Оба имеют открытый исходный код и стали отраслевым стандартом. Благодаря им Meta создала прецедент инноваций посредством сотрудничества.

Выпуск Llama 2 обещает создать более безопасный генеративный ИИ. Благодаря общей мудрости и коллективным исследованиям пользователи могут выявлять ошибочную информацию и любые уязвимости, которыми могут воспользоваться преступники. Уже появились неожиданные приложения, например версия Llama 2, которая можно установить на айфоны и был создан пользователями, что подчеркивает потенциал для творчества внутри этого сообщества.

Но есть пределы тому, насколько Meta позволит пользователям Llama 2 коммерциализировать свою систему искусственного интеллекта. Если какая-либо партия достигает большего, чем 700 миллионов активных пользователей в предыдущем календарном месяце для продукта на базе Llama 2 необходимо будет запросить лицензию у Meta. Для Meta это открывает возможность участия в прибылях от успешных продуктов на базе Llama 2.

Стратегия Meta резко контрастирует с более осторожным подходом ее основного конкурента OpenAI. Несмотря на то, что некоторые сомневаются в способности Меты конкурировать в этой области и коммерциализировать продукты, как это сделал OpenAI с ChatGPT, решение Meta пригласить к участию разработчиков со всего мира предполагает более широкое видение. Это шаг, который позиционирует компанию Цукерберга не просто как игрока, но и как посредника, привлекающего таланты со всего мира для внесения вклада в растущую экосистему Llama 2.

Эта стратегия также может быть умелой защитой от потенциальная конкуренция от коллег-технических гигантов, таких как Google. Учитывая большое количество пользователей, изучающих потенциал Llama 2, любое успешное достижение может быть быстро интегрировано в другие продукты Meta. Только время покажет все последствия этого решения, но непосредственные последствия для отрасли уже вызывают широкий резонанс.

Преимущества и подводные камни для пользователей

Аспект публичного экспериментирования технологии с открытым исходным кодом обеспечивает более тщательное изучение, предоставляя возможность сообществу пользователей оценить сильные и слабые стороны Llama 2, включая его уязвимость к атакам. Бдительный взгляд общественности может обнаружить недостатки в программах LLM, что приведет к разработке средств защиты от них.

С другой стороны, возникли опасения, что это похоже на «передачу ножа преступникам», поскольку это также может позволить злоумышленникам использовать эту технологию. Например, его возможности могут помочь мошенникам создать диалоговую систему, которая генерирует правдоподобные автоматические разговоры для телефонного мошенничества. Эта возможность неправильного использования побудила некоторых призвать к регулирование технологии.

Но какие именно правила придуманы, кто получает полномочия контролировать этот процессИ именно то, что требует более или менее пристального внимания, требует тщательного планирования, чтобы гарантировать, что регулирование не просто поддерживает монополии крупных технологических компаний.

В развивающейся саге о развитии ИИ дебаты по поводу открытого исходного кода служат напоминанием о том, что технологические достижения редко бывают простыми или одномерными. Последствия решения Меты, вероятно, будут ощущаться в мире технологий еще долгие годы. Хотя Ламы 2, возможно, еще нет соперничать с возможностями ChatGPT, это открывает двери для разработки множества инновационных продуктов.

Google также будет находиться под пристальным вниманием, поскольку растут слухи о как оно может отреагировать. В эпоху процветания культуры открытого исходного кода неудивительно, что Google последует этому примеру и выпустит свои собственные релизы.

Термин «Технологии во благо» стало общепринятой мантрой для описания технологических компаний, использующих часть своих ресурсов, чтобы оказать положительное влияние на нашу жизнь. Однако в конечном итоге эта цель остается общей ответственностью, а не просто чем-то, чем должна заниматься горстка компаний.

Это также цель, которая требует сотрудничества и согласованных усилий в научных кругах, промышленности и за их пределами. Поскольку технологии LLM продолжают развиваться, ставки высоки, а путь вперед полон как возможностей, так и проблем.

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.

Изображение Фото: Шон Саттл / Pixabay

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Автомобили / электромобили, Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• ЧартПрайм. Улучшите свою торговую игру с ChartPrime. Доступ здесь.
• Смещения блоков. Модернизация права собственности на экологические компенсации. Доступ здесь.
• Источник: https://singularityhub.com/2023/09/06/why-meta-is-allowing-users-to-see-the-inner-workings-of-its-ai-chatbot/