OPINI: Inovasi AI Harus Melibatkan Prinsip Etika, Transparansi, hingga Tata Kelola yang Baik – Page 3

Membangun sistem AI yang dipercayai manusia mengharuskan perusahaan untuk memiliki sumber informasi yang tepercaya. Dengan data yang akurat, konsisten, jelas, bebas dari bias dan andal sebagai fondasi, sistem enterprise AI yang didesain secara etis bisa diandalkan untuk memberikan hasil yang adil dan tidak bias secara konsisten.

Perusahaan bisa dengan mudah mengidentifikasi masalah, menutup setiap kesenjangan dalam logika, menyempurnakan output dan menilai apakah inovasi mereka sudah tunduk pada regulasi yang ada.

Berikut beberapa tips untuk perusahaan yang ingin mengembangkan sistem AI yang etis dengan lebih baik:

Fokus pada Tujuannya

Sistem AI yang dilatih dengan data tidak memiliki konteks di luar data tersebut. Tidak ada kompas moral, tidak ada kerangka acuan mengenai apa yang adil, kecuali kita mendefinisikan hal tersebut.

Dengan demikian, desainer harus secara eksplisit dan hati-hati membangun representasi dari tujuan yang memotivasi desain sistem tersebut. Ini melibatkan identifikasi, penghitungan, dan mengukur pertimbangan etis sekaligus menyeimbangkan semuanya dengan objektif performa.

Pertimbangkan Desain Model

Sistem AI yang didesain dengan baik bisa diciptakan tanpa bias, kausalitas dan ketidakpastian. Perusahaan harus mengingat bahwa selain data, desain model juga bisa menjadi sumber bias.

Perusahaan secara berkala harus memeriksa penyimpangan model – ketika satu model mulai menjadi tidak akurat seiring waktu karena data yang sudah tidak berlaku lagi. Perusahaan juga harus secara ekstensif memodelkan sebab dan akibat dari sistem untuk memahami apakah perubahan akan menghasilkan konsekuensi negatif di kemudian hari.

Memastikan Pengawasan dari Manusia

Sistem AI bisa diandalkan dalam mengambil keputusan ketika dilatih dengan data berkualitas tinggi. Namun, sistem ini tidak memiliki kecerdasan emosional dan tidak bisa mengatasi situasi luar biasa. Sistem yang paling efektif adalah yang secara cerdas menggabungkan penilaian dari manusia dan AI.

Perusahaan harus selalu memastikan pengawasan manusia, terutama dalam situasi di mana model AI menghasilkan output dengan tingkat kepercayaan yang rendah.

Menegakkan Keamanan dan Kepatuhan

Mengembangkan sistem AI yang etis yang dipusatkan pada keamanan dan kepatuhan, akan memperkuat kepercayaan terhadap sistem tersebut dan membantu penerapannya di seluruh perusahaan, sekaligus memastikan kepatuhan pada peraturan lokal dan regional.

Memanfaatkan Platform Data Modern

Memanfaatkan tool mutakhir seperti platform data yang mendukung arsitektur data modern, bisa meningkatkan kemampuan perusahaan untuk mengelola dan menganalisis data di seluruh lifecycle data dan model AI.

Idealnya, platform tersebut harus memiliki keamanan bawaan dan pengendalian tata kelola yang memampukan perusahaan menjaga transparansi dan mengendalikan keputusan yang dibuat dengan AI – bahkan ketika mereka menjalankan analitik data dan AI pada skala besar.