Medanbisnisdaily.com-Jakarta. Artificial Intelligence (AI) jauh memudahkan segala urusan manusia. Semuanya jadi lebih simpel dan praktis memanfaatkan kecerdasan buatan. Karena itu, tidak sedikit perusahaan yang akhirnya menginvestasikan dana mereka untuk pemakaian AI.

Tapi, meski AI punya manfaat segudang, ada sisi lainnya yang juga harus diperhatikan. Salah satunya adalah potensi pelanggaran hak asasi manusia (HAM). Hal ini juga diperkuat oleh omongan dari Hilman F. Pardede Peneliti Ahli Utama dari Pusat Riset Kecerdasan Artifisial dan Keamanan Siber, Badan Riset dan Inovasi Nasional (BRIN).

"Sering menjadi perdebatan karena AI kan dikembangkan berdasarkan data. Namun banyak data ini kan sifatnya privasi ya. Misalnya kalau kita mengembangkan sistem untuk terkait di bidang kesehatan, kemungkinan termasuk data yang dipakai itu adalah data rekam medis yang sifatnya private," ujarnya di acara 'Eureka! Edisi 16: Bersekutu dengan AI', Senin (29/5/2023).

Contoh lain adalah penggunaan sistem keamanan dalam pengenalan wajah guna menangkap teroris, dibutuhkan juga data masyarakat umum guna melatih AI dalam mengenali wajah pelaku terorisme itu.

Selain pengumpulan data pribadi, AI juga rentan mengalami bias karena data yang dikumpulkan dari berbagai masyarakat. Dia mengambil contoh dari identifikasi ras yang dilakukan oleh sebuah AI.

"Ini terkait kebiasaan, contoh kasus misalnya di Amerika. Itu kan isu yang sensitif ya terutama terkait kulit hitam dan kulit putih. Nah ada sistem yang dilatih itu menggunakan terkait identifikasi ras. Ada image dan caption. Ketika dikasih gambar yang kulit hitam dia itu agak rasis komentarnya karena data yang dipakai untuk melatih sistem itu juga bias," kata Hilman.

"Ketika dia dilatih dengan data bias, model datanya juga bisa jadi bias. Kalau dilatih dengan data rasis ya jadi rasis. Jadi, ada pola dari data. Dia cuman tahu menghubungkan itu aja," tutupnya.(dtn)