CCC підтримав три наукові сесії на щорічній конференції AAAS цього року, і якщо ви не змогли бути присутніми особисто, ми підведемо підсумок кожної сесії. Сьогодні ми підсумуємо основні моменти сесії, присвяченої питанням і відповідям, "Великі мовні моделі: корисні помічники, романтичні партнери чи шахраї?” Ця панель, модерована Доктор Марія Гіні, член ради CCC і професор комп’ютерних наук та інженерії в Університеті Міннесоти Доктор Ече Камар, керуючий директор AI Frontiers у Microsoft Research, Доктор Хал Дауме III, професор інформатики в Університеті Меріленда, і Доктор Джонатан Мей, професор інформатики Інституту інформаційних наук Університету Південної Каліфорнії.

Нижче наведено захоплюючий короткий виклад частини запитань і відповідей "Великі мовні моделі: корисні помічники, романтичні партнери чи шахраї?"панель. Чи здатний ШІ любити? Який вплив ці моделі можуть мати на дітей? Якими є можливості ШІ Сполучених Штатів? Дізнайтеся нижче:

Запитання: які практики ми маємо застосовувати під час розгортання мовних моделей штучного інтелекту в багатомовному та мультикультурному контексті?

Доктор Мей: Розвиваючи технології та знижуючи стіни, людям слід полегшити робити те, що вони хочуть. Що хочуть робити всі, а не тільки я. Дякую ШІ, чудово зосередитися на мені, але нам слід звернути увагу на решту світу загалом.

З: Деякі з цих загальних питань – це не перший раз, коли вони піднімаються. Схоже, громада сама до цього не прийде. Мені цікаво, чи всі ви маєте ідеї щодо того, як перевести ці розмови в дію?

Доктор Камар: Є ролі для багатьох різних сторін. Оцінка має велике значення для представлення різних культур і груп населення. Коли набори даних не мають різноманітності у представленні світу, отримані системи не є репрезентативними. Багато роботи потрібно зробити для формування найкращих практик оцінки, правил і заходів дотримання. Білий дім взяв на себе зобов’язання, і план Білля про права ШІ починається. У всій галузі були впроваджені процеси, у яких багато великих умів працювали разом (не ідеально, але узагальнення в галузі є потенціал). Відбуваються зустрічі, щоб досягти конвергенції щодо стандартів, які зараз починаються; можливо, у майбутньому регулюванні. Як ми проводимо оцінювання, аналіз безпеки тощо? Жодна з цих розмов не має такої різноманітності, яка повинна бути в кімнаті. Подумайте, хто має бути в кімнаті, коли приймаються рішення.

Доктор Дауме: Я думаю, що коли люди говорять про регулювання, особливо у сфері штучного інтелекту, усі думають про каральні правила. Але це також може бути стимулюючим регулюванням. Фінансування політиків і NSF може сприяти розробці інструментів, які допоможуть нам як нації та світу.

З: Фінансування штучного інтелекту значно відстає в США порівняно з іншими країнами світу. Нові інвестиції NSF становлять 20 мільйонів з чимось, що мізерно порівняно з інвестиціями в галузь. Федеральний уряд опублікував звіти про дослідження протягом багатьох років, і висновок полягає в тому, що США повинні рухатися. Мені подобається аналогія зміни фази Ece. Термодинамічна межа з числами зростає. Ми хочемо відкритого штучного інтелекту, хто за це заплатить? Грошей не вистачає. Які ваші пропозиції? Відкрити ШІ? Але у нас навіть немає публікацій у відкритому доступі. Ви б порадили президенту не приймати закони?

Доктор Мей: Я думаю, що гроші є; хтось зауважив мені, що вам вдалося переконати уряд обертати частинки навколо, але ви не змогли перенаправити це нам.

Доктор Камар: Причина, чому компанії, які розробляють ці моделі, отримують такі результати, полягає в централізації ресурсів. Від масштабу можна багато чого отримати. Треба подумати про те, як централізувати інвестиції в науку, щоб отримати спільний ресурс замість того, щоб мати безліч різних моделей. Ми бачимо, що справа не лише в масштабах. Не те, що ми маємо робити зараз, але нинішня архітектура не чудова. Наявність хороших можливостей штучного інтелекту має стосуватися не лише збільшення грошей і влади.

З: Перевищення упередженості у відповідях. Чи знаємо ми, звідки воно береться? Я математик, і мої думки йдуть до того, що помилки округлення додають упередження? Якщо рівне представництво, я думаю, що воно буде виводити однакове представництво, чи воно все ще буде там?

Доктор Мей: Багато що зводиться до функцій підвищення. М'який максимум - важлива частина тренувань. Найвищий хоче бути №1. Це не те, що є якийсь ідеальний мовний вихід, але ми хочемо мати деяку упередженість». Ми просто хочемо мінімізувати шкоду для людей, але часто не визнаємо цього. Розгортання без розуміння - проблема. 

Доктор Дауме: Одна з проблем цих моделей полягає в тому, що більше немає вузьких моделей ШІ. Кажуть, все можуть, тому важко все перевірити.

З: Ви згадали, що штучний інтелект є інструментом чи заміною, як ви бачите, як це розвиватиметься?

Доктор Дауме: На заміну йде більше грошей.

З: У назві згадується романтичний ШІ. Я хочу знати більше про це.

Доктор Мей: У моделях недостатньо наміру, щоб вони стали життєздатною романтичною заміною, але вони так само добре, як люди, розпізнають шаблони, навіть якщо їх не існує.

Доктор Камар: Я раджу вам не думати про штучний інтелект таким, яким він є зараз. Спробуйте заглянути в майбутнє – уявіть, що через кілька років ці системи будуть персоналізовані для вас. Які стосунки ви будете мати з цією системою?

Доктор Мей: Але чи полюбить воно вас?

Доктор Камар: Воно скаже вам, що любить вас.

Доктор Мей: Але чи достатньо цього?

Q: Я хочу почути пораду для людей, які не в галузі ШІ. Як ми можемо використовувати ці інструменти? Що ми повинні знати?

Доктор Дауме: В Університеті Меріленда ми часто ведемо ці розмови. Мені легко сказати, що через 5 років журналістика буде іншою, та й інші галузі теж. Неприємно говорити, що роль професора через 5 років буде іншою, але вона буде. У мене є колеги, які використовують різні плагіни LLM для пропозицій і документів; це вже відбувається. Я регулярно пишу екзаменаційні запитання за допомогою інструментів, але я маю перевіряти точність. Написання екзаменаційних питань не приносить мені радості, тому штучний інтелект може зняти це з моєї тарілки. У вищій освіті ми повинні думати про це більше. Як це змінює наші робочі місця? В університетах ведеться багато дискусій, але немає тонни об’єднання ресурсів.

З: Наскільки вітається оцінка ШІ в майбутньому при розгляді військових застосувань? Під час цієї сесії не було жодної згадки про військові застосування – я знаю, що якщо я наполовину правильно читаю людей, думки щодо цієї теми розходяться.

Доктор Мей: Армія широка, багато моєї роботи спонсорується міністерством оборони. Важко відповісти конкретно, загалом міністерство оборони (не говорячи за них), схоже, надає пріоритет безпеці та безпеці США, і продовжуватиме це робити та використовуватиме LLM та ШІ, щоб допомогти США бути безпечними.

Доктор Камар: Ми також повинні говорити про подвійне використання. Якщо ви візьмете військову роботу, яка триває в біології чи кібербезпеці, ми можемо взяти дуже перспективні інструменти, які маємо зараз, і використовувати їх, тому що нам потрібні безпечні системи та нові ліки. Але з кожним хорошим використанням ви матимете погане використання. У яких випадках використання штучного інтелекту ми не хочемо використовувати? У програмах з відкритим кодом люди можуть відтворювати ці моделі. Як утримати людей від заподіяння шкоди в таких випадках?

З: Взаємодіючи з мовними моделями, дорослі розуміють, що вона не жива/самосвідома, але як щодо кількох поколінь пізніше; діти, у яких це було з тих пір, як вони пам’ятають спілкування? У них є репетитор або вчитель, який повністю використовує ШІ; система вбудовується з інструктором. Вони можуть створити зв’язок із інструкцією, подумати, що у них чудові стосунки, а потім програму буде видалено. Якою є дитяча психологія соціальних емоційних зв’язків з неособистісними істотами?

Доктор Камар: Нам потрібні дослідження, міждисциплінарні дослідження, і вони потрібні швидко. Через 5 років ми можемо отримати ці відповіді, але за цей час ШІ може стати значною частиною життя моєї 10-річної дитини. Ваше запитання надзвичайно важливе. Є дослідження, які показують, що навіть невинні системи можуть мати бекдори. Нам потрібні експерти з безпеки та спеціалісти з розвитку дітей, які ведуть ці розмови сьогодні.

Доктор Дауме: Я не знаю, чи хтось пам’ятає стеження за Барбі – тут є велика проблема конфіденційності. Це більш цікава соціальна тема. Відповіді були налаштовані на надто позитивні. Діти казали б щось на кшталт «Я злий, тому що Саллі не гралася зі мною», і це не дає соціально прийнятних пропозицій. Мене хвилюють дуже позитивні агенти, тому що позитивність не завжди є правильною відповіддю.

Щиро дякуємо, що прочитали, і чекайте на нас, щоб отримати підсумок нашої третьої та останньої панелі на AAAS 2024.

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
• PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
• ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
• PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
• джерело: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/