KOMENTAR
Kemajuan dalam teknologi kecerdasan buatan (AI) dan pembelajaran mesin (ML) terus mendapat liputan berita yang signifikan mengenai potensi manfaat dan bahaya yang dapat ditimbulkannya. Prakiraan seperti Nielsen Norman Group memperkirakan bahwa alat AI dapat meningkatkan produktivitas karyawan sebesar 66% membuat banyak perusahaan di mana pun ingin segera memanfaatkan alat ini. Pakar lain memperingatkan hal itu Penggunaan AI dapat menimbulkan beberapa konsekuensi negatif, termasuk memberikan hasil yang tidak akurat, kebocoran data, dan pencurian. Jadi, bagaimana perusahaan dapat menggunakan alat AI/ML yang canggih ini tanpa mengorbankan keamanan mereka? Di bawah ini, kami akan membahas risiko yang dapat ditimbulkan oleh alat AI dan menawarkan delapan tips yang akan membantu perusahaan Anda memanfaatkan alat ini seaman mungkin.
Risiko Alat AI
Secara umum, AI/ML hanyalah statistik dalam skala besar. Semua model AI mengandalkan data untuk menghasilkan hasil secara statistik untuk area fokusnya. Oleh karena itu, sebagian besar risiko berkisar pada data tersebut, terutama data rahasia atau sensitif. Perusahaan yang menggunakan alat AI/ML eksternal berisiko bahwa vendor produk mungkin menggunakan data Anda untuk melatih algoritme mereka dan secara tidak sengaja membocorkan atau mencuri kekayaan intelektual Anda. Selain itu, alat AI yang menggunakan data buruk akan memberikan hasil yang tidak akurat. Untungnya, banyak alat AI yang cukup kuat dan dapat digunakan dengan aman, dengan beberapa tindakan pencegahan.
Tip 1: Ingat, jika gratis, kamu adalah produk.
Jika Anda menggunakan alat atau layanan AI gratis, Anda harus curiga bahwa alat atau layanan tersebut dapat memanfaatkan data yang Anda berikan. Banyak layanan dan alat AI awal, termasuk ChatGPT, menggunakan model penggunaan yang mirip dengan layanan media sosial seperti Facebook dan TikTok. Meskipun Anda tidak membayar uang untuk menggunakan situs-situs tersebut, Anda membagikan data pribadi Anda, yang digunakan perusahaan-perusahaan tersebut untuk menargetkan iklan dan menghasilkan uang. Demikian pula, layanan AI gratis dapat mengumpulkan data dari perangkat Anda dan menyimpan perintah Anda, yang digunakan untuk melatih modelnya. Meskipun tampaknya tidak berbahaya, Anda tidak pernah tahu bagaimana layanan AI akan memonetisasi data Anda. Jika perusahaan tersebut dibobol, pelaku ancaman dapat memperoleh akses ke data Anda.
Tip 2: Miliki perjanjian peninjauan hukum.
Untuk mempelajari bagaimana alat atau layanan AI akan menangani data Anda, baca perjanjian lisensi pengguna akhir vendor, perjanjian layanan utama, syarat dan ketentuan, dan kebijakan privasi. Dokumen yang panjang dan rumit ini sering kali menggunakan bahasa yang rumit untuk mengaburkan cara vendor menggunakan data Anda, sehingga pengacara perusahaan harus meninjaunya. Departemen hukum Anda mengetahui persyaratan peraturan untuk melindungi data sensitif Anda, termasuk informasi identitas pribadi. Mereka dapat menafsirkan dokumen-dokumen ini dengan baik dan memperingatkan Anda jika ada istilah yang membahayakan data Anda. Petugas privasi data yang berspesialisasi dalam Peraturan Perlindungan Data Umum (GDPR), Undang-Undang Privasi Konsumen California (CCPA), atau kepatuhan privasi lainnya juga dapat membantu meninjau perjanjian ini.
Tip 3: Jagalah data internal.
Risiko sederhana dari penggunaan alat AI eksternal adalah bahwa seorang karyawan – baik disengaja atau tidak – dapat berbagi data sensitif atau rahasia dengan alat tersebut, sehingga data tersebut dapat disalahgunakan. Untuk memitigasi ancaman ini, perusahaan harus memastikan bahwa mereka menerapkan prinsip hak istimewa paling rendah terhadap siapa yang dapat mengakses data rahasia atau sensitif. Sayangnya, beberapa organisasi tidak cukup memblokir karyawan untuk mengakses data perusahaan yang tidak diperlukan oleh peran mereka. Jika Anda membatasi karyawan untuk hanya mengakses data akurat yang mereka perlukan, Anda meminimalkan jumlah data yang mungkin mereka berikan ke alat AI eksternal.
Tip 4: Tinjau pengaturan dan pertimbangkan untuk membayar privasi.
Baik alat atau layanan AI gratis atau berbayar, sering kali keduanya memiliki pengaturan untuk privasi tambahan. Beberapa alat dapat diatur untuk tidak menyimpan data prompt Anda. Tinjau pengaturan privasi alat AI Anda dan konfigurasikan sesuai preferensi Anda. Selain itu, meskipun alat gratis mungkin berhak menggunakan data Anda, Anda dapat membayar biaya lisensi untuk mendapatkan alat AI versi perusahaan yang menawarkan perlindungan lebih. Alat-alat ini sering kali menyertakan fitur untuk tidak menggunakan data Anda dan menjaganya tetap tersegmentasi.
Tip 5: Validasi keamanan vendor alat AI.
Validasi keamanan vendor dan rantai pasokan harus menjadi praktik default untuk setiap alat eksternal atau mitra layanan baru yang Anda adopsi. Pelanggaran rantai pasokan digital membuktikan bahwa vendor dapat menjadi mata rantai terlemah dalam menjaga keamanan. Oleh karena itu, produk dan proses manajemen risiko pihak ketiga (TPRM) sangat penting untuk keamanan informasi. Proses TPRM formal sangat penting saat menggunakan alat AI dan mitra layanan.
Tip 6: Manfaatkan kerangka kerja dan alat AI sumber terbuka lokal.
Aksesibilitas alat AI eksternal online yang gratis dan mudah digunakan membawa risiko. Untuk menjamin privasi data, pertimbangkan untuk menghindari alat eksternal. Alternatifnya, ada kerangka kerja dan alat AI gratis yang dapat Anda terapkan dan buat sendiri. Kerangka kerja ini memerlukan lebih banyak pekerjaan serta keahlian AI dan ilmu data, sehingga memerlukan biaya tersendiri dalam penggunaannya.
Tip 7: Lacak penggunaan AI perusahaan Anda.
Sulit untuk melacak setiap aset, alat perangkat lunak sebagai layanan (SaaS), atau penyimpanan data yang digunakan karyawan Anda, karena layanan cloud dan Web telah memberdayakan semua orang untuk menggunakan alat berbasis Web. Hal yang sama berlaku untuk penawaran SaaS berbasis AI. Untuk memantau alat AI eksternal mana yang digunakan karyawan Anda, bagaimana, dan dengan data apa, audit dan dokumentasikan penggunaan AI sebagai bagian dari proses pembelian. Dalam mengidentifikasi seluruh alat AI internal dan eksternal yang digunakan, Anda lebih memahami risiko yang Anda hadapi.
Tip 8: Buat kebijakan AI dan tingkatkan kesadaran risiko.
Dalam keamanan, semuanya dimulai dengan kebijakan. Risiko yang dihadapi perusahaan Anda bergantung pada misi dan kebutuhan spesifik organisasi Anda, serta data yang Anda gunakan. Perusahaan yang memperdagangkan data publik mungkin menghadapi risiko berbagi data yang rendah dan memperbolehkan kebijakan AI yang permisif, sedangkan perusahaan yang menangani masalah rahasia akan memiliki aturan ketat seputar penggunaan data pada alat AI eksternal. Pada akhirnya, Anda harus menyusun kebijakan AI yang disesuaikan dengan kebutuhan perusahaan Anda. Setelah Anda memiliki kebijakan tersebut, komunikasikan kebijakan tersebut dan risiko yang terkait dengan alat AI dengan karyawan Anda secara teratur.
Alat AI dapat memberikan hasil yang cepat dan mudah serta menawarkan manfaat bisnis yang besar sekaligus membawa risiko tersembunyi. Untungnya, Anda dapat memanfaatkan alat AI secara aman dengan menerapkan beberapa tindakan pencegahan dan mulai menyadari manfaat yang dijanjikan alat ini.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://www.darkreading.com/vulnerabilities-threats/8-tips-on-leveraging-ai-tools-without-compromising-security
