Media Asuransi, JAKARTA – Penggunaan teknologi kecerdasan buatan (Artificial Intelligence/AI) yang mengalami kemajuan luar biasa dalam beberapa tahun terakhir, mengandung risiko yang mesti dimitigasi. Dalam penggunaannya, AI sangat bergantung pada Big Data dan data pribadi yang berpotensi bocor atau disalahgunakan.
Co-Founder dan CTO Populix, Jonathan Benhi, mengatakan bahwa AI membawa sekumpulan manfaat sekaligus risiko dalam penerapannya. Salah satu risiko yang muncul adalah kebocoran data pribadi yang berpotensi disalahgunakan. Oleh sebab itu, diperlukan penerapan AI yang bertanggung jawab dengan mengedepankan prinsip-prinsip etika dan transparansi di sepanjang siklus hidup AI.
“Tujuannya adalah untuk memastikan sistem AI tidak hanya unggul secara teknis, tetapi juga sejalan dengan nilai-nilai sosial dan standar etika yang berlaku di Indonesia,” kata Jonathan dalam keterangan resmi yang dikutip Sabtu, 2 Desember 2023.
Beberapa waktu lalu, Populix untuk meluncurkan whitepaper berjudul “Indonesia 2023 A.I. Living Landscape” dengan tujuan untuk memberikan panduan tentang cara menavigasi perkembangan teknologi AI terkini dari sudut pandang masyarakat dan industri.
|Baca juga: Benarkah AI Jadi Penyebab Utama Hilangnya Pekerjaan?
AI merupakan pedang bermata dua. Selain menawarkan potensi yang sangat besar, pemanfaatan teknologi ini juga memiliki segudang risiko. Tak hanya ancaman terhadap berkurangnya lapangan pekerjaan di Indonesia, AI juga menimbulkan kekhawatiran dari sisi privasi, keamanan, hingga bias.
Teknologi AI yang berasal dari mesin pembelajaran membawa risiko bias dan diskriminasi ketika dimanfaatkan untuk pengambilan keputusan dalam konteks perekrutan tenaga kerja, persetujuan pinjaman, dan peradilan pidana. Sementara itu, pengumpulan dan pemanfaatan data pribadi secara ekstensif untuk pengaplikasian teknologi AI menimbulkan pertanyaan tentang privasi data.
Hal ini berpotensi pada pelanggaran data hingga penyalahgunaan informasi pribadi. Lebih dari itu, semakin canggihnya serangan siber yang didukung AI pun turut membawa ancaman serius terhadap keamanan online. “Dengan minimnya keterampilan literasi internet yang diajarkan dalam sistem pendidikan di Indonesia, risiko penipuan yang didukung AI menjadi semakin meresahkan,” tutur Jonathan.
Untuk itu dia menyarankan perusahaan-perusahaan di Indonesia mengambil serangkaian upaya untuk memastikan penggunaan AI yang bertanggung jawab. Misalnya, untuk mengurangi risiko bias dalam penggunaan AI, perusahaan dapat melakukan audit pada data yang digunakan untuk melatih model AI. Selain itu, penting untuk memastikan bahwa pengumpulan data dan pelabelan data bersifat netral serta mencakup representatif demografi yang merata.
Pada tahap desain dan pengembangan model AI, perusahaan juga perlu menetapkan pedoman etika yang jelas dan sejalan dengan nilai-nilai masyarakat dan standar hukum yang berlaku, serta melakukan uji coba dan pengecekan secara berkala untuk mendeteksi masalah-masalah keamanan dan privasi yang berpotensi timbul di kemudian hari. Hal terakhir yang perlu diperhatikan oleh perusahaan adalah memastikan transparansi dengan memberikan penjelasan terperinci mengenai cara sistem AI beroperasi dan mengambil keputusan.
“Dengan menerapkan serangkaian upaya-upaya ini, perusahaan-perusahaan di Indonesia diharapkan dapat semakin berkembang dengan dukungan dan penerapan AI yang bertanggung jawab,” tegas Jonathan.
Editor: S. Edi Santosa
| Cek Berita dan Artikel yang lain di Google News
