Kecerdasan Data Generatif

AIBlockchain

Perusahaan Teknologi Menandatangani Surat Terbuka Bersumpah untuk Mengurangi Risiko AI

Diterbitkan ulang oleh Plato
Diterbitkan ulang oleh Plato

Tanggal:

views: 0

Para pemimpin teknologi, termasuk Sam Altman dari OpenAI, bergabung dalam surat terbuka yang ditulis oleh Ron Conway untuk mengadvokasi pengembangan AI yang bertanggung jawab, yang bertujuan untuk menyeimbangkan manfaat dan risiko sosial.

Dalam upaya terbaru industri teknologi untuk mengadvokasi pengembangan yang bertanggung jawab kecerdasan buatan, OpenAI, Salesforce Inc., dan perusahaan teknologi lainnya menandatangani surat terbuka yang menekankan “tanggung jawab bersama” untuk “memaksimalkan manfaat AI dan memitigasi risiko” terhadap masyarakat.

Risiko yang ditimbulkan oleh AI

Sejak rilis ChatGPT tahun lalu dan mempopulerkan sektor AI, banyak orang di industri ini secara bersamaan memperjuangkan manfaat teknologi ini dan menyuarakan kekhawatiran mengenai risiko signifikan yang ditimbulkannya.

Baca juga: Hakim AS Sebut X Elon Musk Mungkin Kalah dalam Kasus Ujaran Kebencian

Para pemimpin AI, termasuk Altman, menandatangani surat pada bulan Mei yang memperingatkan bahwa kecerdasan buatan dapat menyebabkan kepunahan umat manusia. Kelompok eksekutif bisnis tersebut menyatakan bahwa teknologi kecerdasan buatan yang mereka kembangkan suatu hari nanti bisa sama berbahayanya bagi umat manusia seperti senjata nuklir dan pandemi.

Menurut pernyataan oleh Center for AI Safety, “Memitigasi risiko kepunahan akibat AI harus menjadi prioritas global bersama dengan risiko skala sosial lainnya, seperti pandemi dan perang nuklir.”. Lebih dari 350 eksekutif, peneliti, dan insinyur yang bekerja di bidang AI menandatangani surat tersebut. Para eksekutif puncak dari tiga perusahaan kecerdasan buatan terkemuka menandatangani petisi: Dario Amodei, CEO Anthropic; Demis Hassabis, CEO Google DeepMind; dan Sam Altman, CEO OpenAI.

Penandatangan pernyataan tersebut termasuk para peneliti terkenal di bidangnya, termasuk Yoshua Bengio dan Geoffrey Hinton, dua dari tiga peneliti yang memenangkan Turing Award atas karya mereka pada jaringan saraf dan sering disebut sebagai “bapak baptis” AI modern. pergerakan.

Pengumuman ini dibuat pada saat kekhawatiran tentang kemungkinan kelemahan kecerdasan buatan semakin meningkat. Terdapat kekhawatiran bahwa kecerdasan buatan (AI) akan segera digunakan dalam skala besar untuk menyebarkan informasi dan propaganda palsu atau dapat menggantikan jutaan pekerjaan kerah putih karena perkembangan terkini dalam model bahasa besar, sejenis AI. sistem yang digunakan oleh ChatGPT dan chatbot lainnya.

Surat Malaikat SV

OpenAI CEO Sam Altman mengungkapkan kegembiraannya atas semangat surat tersebut dalam sebuah postingan di platform media sosial X. Surat tersebut diprakarsai oleh pemodal ventura Ron Conway dan perusahaannya, SV Angel.

Menurut Altman, “salah satu faktor terbesar dalam meningkatkan kualitas hidup masyarakat” adalah kemajuan dalam AI. Surat tersebut juga mencantumkan Hugging Face, Scale AI, dan sejumlah startup dan perusahaan teknologi lainnya sebagai penandatangan.

Dampak AI dibandingkan dengan kemajuan teknologi lainnya seperti mesin cetak, mesin pembakaran, listrik, dan internet dalam surat SV Angel. Sebagaimana tertuang dalam surat tersebut, “Tindakan dan kehati-hatian manusia akan membentuk keseimbangan antara dampak baik dan buruknya terhadap manusia.” “Kita semua harus bekerja sama untuk mengambil keputusan yang akan mengoptimalkan manfaat AI dan mengurangi risikonya, baik untuk generasi sekarang dan masa depan.” Namun surat tersebut tidak menjelaskan secara rinci bagaimana melakukan hal tersebut.

Beberapa hari kemudian Elon Musk menggugat OpenAI, seorang pemimpin pasar dalam kecerdasan buatan, mengklaim bahwa startup tersebut telah melanggar misi pendiriannya dengan memprioritaskan keuntungan daripada kebaikan umat manusia, sebuah surat telah dikirim. OpenAI menyatakan sikap “sangat tidak setuju” dengan gugatan Musk dalam sebuah memo internal.

tempat_img

Intelijen Terbaru

tempat_img

Hak Cipta @ 2024 Plato Technologies Inc.