Лидеры технологий, в том числе Сэм Альтман из OpenAI, объединили усилия в открытом письме Рона Конвея, чтобы выступить за ответственную разработку ИИ, стремясь сбалансировать выгоды и социальные риски.
В последней попытке технологической индустрии выступить за ответственное развитие искусственный интеллект, OpenAI, Salesforce Inc. и другие технологические компании подписали открытое письмо, в котором подчеркивается «коллективная ответственность» за «максимизацию преимуществ ИИ и снижение рисков» для общества.
OpenAI подписывает открытое письмо о строительстве #AI #ответственно
всего через несколько дней после #ElonMusk подал в суд на компанию за то, что она ставит прибыль превыше людей https://t.co/PdNqGFJlB2 #fintech #Искусственный интеллект #Машинное обучение #ГенеративныйИИ #ГенАИ @jackiedavalos1 @бизнес @FortuneMagazine
- Спирос Маргарис (@SpirosMargaris) 5 марта 2024
Риски, создаваемые ИИ
С момента выхода ChatGPT В прошлом году и популяризации сектора искусственного интеллекта многие представители отрасли одновременно отстаивали преимущества этой технологии и выражали обеспокоенность по поводу ее значительных рисков.
Читайте также: Американский судья заявил, что X Илона Маска может проиграть дело о разжигании ненависти
Лидеры ИИ, в том числе Альтман, подписали в мае письмо, предупреждающее, что искусственный интеллект может привести к вымиранию человечества. Группа руководителей бизнеса заявила, что разрабатываемая ими технология искусственного интеллекта однажды может стать такой же опасной для человечества, как ядерное оружие и пандемии.
Согласно заявление Центром безопасности ИИ: «Снижение риска исчезновения ИИ должно быть глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война». Письмо подписали более 350 руководителей, исследователей и инженеров, работающих над искусственным интеллектом. Петицию подписали топ-менеджеры трех ведущих компаний, занимающихся искусственным интеллектом: Дарио Амодей, генеральный директор Anthropic; Демис Хассабис, генеральный директор Google DeepMind; и Сэм Альтман, генеральный директор OpenAI.
Под заявлением подписались известные исследователи в этой области, в том числе Йошуа Бенджио и Джеффри Хинтон, двое из трех исследователей, получивших премию Тьюринга за свою работу в области нейронных сетей и которых часто называют «крестными отцами» современного ИИ. движение.
Заявление было сделано в тот момент, когда усиливались опасения по поводу возможных недостатков искусственного интеллекта. Существуют опасения, что искусственный интеллект (ИИ) вскоре может использоваться в больших масштабах для распространения ложной информации и пропаганды или что он может заменить миллионы рабочих мест белых воротничков из-за недавних разработок в так называемых больших языковых моделях, своего рода ИИ. система, используемая ChatGPT и другими чат-ботами.
Письмо СВ Ангела
OpenAI Генеральный директор Сэм Альтман выразил свое восхищение духом письма в сообщении на платформе социальных сетей X. Письмо было инициировано венчурным капиталистом Роном Конвеем и его компанией SV Angel.
По словам Альтмана, «одним из важнейших факторов улучшения качества жизни людей» станут достижения в области искусственного интеллекта. В письме также были указаны Hugging Face, Scale AI и множество других стартапов и технологических компаний.
воодушевлен духом этого письма и лидерством Рона в сплочении отрасли!
прогресс в области искусственного интеллекта станет одним из важнейших факторов улучшения качества жизни людей; нам нужно создать его и сделать широко доступным. https://t.co/6GB13ddAT7
- Сэм Альтман (@sama) 4 марта 2024
В письме SV Angel влияние ИИ контрастирует с влиянием других технологических достижений, таких как печатный станок, двигатель внутреннего сгорания, электричество и Интернет. Как говорится в письме, «человеческие действия и продуманность будут формировать баланс хороших и плохих воздействий на людей». «Мы все должны работать вместе, чтобы принимать решения, которые оптимизируют преимущества ИИ и уменьшат его риски как для нынешнего, так и для будущих поколений». Однако в письме не уточняется, как это сделать.
Дни после Илон Маск подал в суд на OpenAI. лидеру рынка в области искусственного интеллекта, утверждающему, что стартап нарушил свою основополагающую миссию, поставив прибыль выше блага человечества, было отправлено письмо. OpenAI выразила свою «категорически несогласную» позицию с иском Маска во внутренней служебной записке.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://metanews.com/major-tech-companies-sign-open-letter-vowing-to-mitigate-ai-risks/
