Canggih! AI Google Bongkar 20 Bug Keamanan di Ekosistem Open Source – Page 3

Meskipun keberadaan AI seperti Big Sleep membawa harapan baru dalam deteksi celah keamanan, tidak sedikit pengembang perangkat lunak yang justru mengeluhkan efek sampingnya.

Salah satu isu yang mencuat adalah fenomena “halusinasi AI”, yaitu ketika sistem kecerdasan buatan melaporkan adanya bug yang sebenarnya tidak ada.

Laporan-laporan semacam ini membebani para pengembang karena harus menyelidiki masalah yang ternyata tidak valid.

“Masalahnya, kami menerima banyak laporan yang terlihat seperti emas, padahal kenyataannya hanya sampah,” ujar Vlad Ionescu, CTO dari RunSybil, yang juga mengembangkan alat AI serupa.

Meski begitu, Ionescu tetap menilai Big Sleep sebagai proyek yang dirancang dengan baik.

Ia menyoroti kolaborasi antara DeepMind, yang kuat dalam teknologi AI, dan tim Project Zero yang berpengalaman dalam menemukan kerentanan sebagai faktor yang menjadikan Big Sleep layak mendapat perhatian lebih.

Apabila dikembangkan dengan hati-hati dan disertai pengawasan manusia yang tepat, teknologi ini berpotensi menjadi salah satu alat terdepan dalam menjaga ekosistem digital dari ancaman keamanan yang semakin kompleks.