Tantangan Keamanan Siber di Era AI

NusamandiriNews, Depok – Perkembangan AI juga membawa perubahan besar pada lanskap keamanan siber. Ketika sistem mampu memproses data dalam jumlah masif dan mengambil keputusan semakin cepat, muncul kebutuhan baru untuk memastikan bahwa kecanggihan tersebut tetap berjalan dalam koridor keamanan dan kepercayaan.

Hal tersebut menjadi perhatian Prof. Yasuyuki Nogami dari Okayama University, Jepang, dalam gelaran International Conference on Information Technology Research and Innovation (ICITRI) 2026 yang berlangsung secara hybrid di Universitas Nusa Mandiri (UNM) kampus Margonda, Jl Margonda Raya, No 545, Pondok Cina, Beji, Depok, dan melalui zoom, Kamis (10/9).

Tantangan Keamanan Siber

Dalam paparannya, Prof. Nogami membahas dua sisi pemanfaatan AI dalam keamanan siber. Pertama, AI for Security, yakni pemanfaatan AI untuk memperkuat pertahanan siber melalui deteksi anomali, pemrosesan data lalu lintas jaringan dalam skala besar, hingga membantu menyortir berbagai peringatan ancaman.

Sementara sisi kedua adalah Security for AI yaitu bagaimana sistem AI itu sendiri harus dilindungi dari berbagai ancaman, mulai dari manipulasi data pelatihan atau data poisoning, eksploitasi model melalui prompt injection, hingga persoalan perlindungan privasi data.

Menurut Prof. Nogami, perkembangan AI telah membawa sedikitnya empat perubahan besar dalam keamanan siber, yakni skala, kecepatan, kompleksitas, dan otonomi. Sistem digital saat ini menghasilkan data serta peringatan dalam jumlah sangat besar, sementara serangan siber bergerak semakin cepat dan ekosistem teknologi semakin kompleks karena terhubung dengan komputasi awan, perangkat pintar, serta berbagai pihak ketiga.

Pada saat yang sama, AI mulai memiliki kemampuan untuk menganalisis sekaligus mengambil keputusan dan tindakan secara lebih mandiri. Kondisi tersebut membuat persoalan keamanan tidak lagi cukup diselesaikan hanya dengan menambah kemampuan teknologi.

“AI mengubah keamanan siber dalam empat hal utama, skala, kecepatan, kompleksitas, dan otonomi. Kita sedang bergerak dari analisis yang hanya mengandalkan manusia, menuju manusia yang bekerja berdampingan dengan AI. AI membawa skalabilitas, namun manusia tetap memegang kendali atas makna dan tanggung jawab,” ujar Prof. Nogami dalam keterangan rilis yang diterima pada Kamis (10/9).

Ia juga mengingatkan adanya risiko excessive agency, ketika AI diberikan kewenangan terlalu besar dalam mengambil keputusan. Salah satu ancaman yang perlu diperhatikan adalah overtrust, yakni kondisi ketika manusia terlalu percaya pada hasil AI hingga mengabaikan proses pengecekan dan validasi.

Risiko tersebut menjadi semakin serius ketika AI mulai terhubung dengan dunia fisik. Sistem berbasis AI kini dapat digunakan dalam sektor medis, manufaktur, energi, transportasi, dan berbagai infrastruktur penting. Kesalahan atau kegagalan sistem dalam konteks tersebut berpotensi menimbulkan konsekuensi yang jauh lebih besar daripada sekadar kehilangan data.

“Di era di mana AI mulai menyentuh dunia fisik, seperti sistem medis, manufaktur, dan energi cerdas, risiko keamanan siber bukan lagi sekadar pencurian informasi, melainkan menyangkut keselamatan manusia,” katanya.

Karena itu, Prof. Nogami menekankan pentingnya membangun kepercayaan terhadap AI sejak tahap perancangan sistem atau trust by design. Keamanan perlu dibangun melalui pembatasan hak akses seminimal mungkin, autentikasi yang kuat, pencatatan aktivitas, serta keterlibatan manusia dalam memberikan persetujuan untuk tindakan-tindakan kritis.

“Kepercayaan terhadap AI bukanlah sebuah perasaan, melainkan hasil dari sebuah rancangan sistem. Kita tidak bisa menyerahkan pertahanan sepenuhnya pada AI. Keamanan siber yang tangguh tetap membutuhkan pengalaman, penilaian, dan validasi dari manusia,” tegasnya.

Gagasan tersebut memperluas pembahasan ICITRI 2026 yang diselenggarakan oleh UNM sebagai Kampus Digital Bisnis mengenai masa depan AI yang tidak hanya dituntut semakin cerdas, tetapi juga bertanggung jawab. Jika Prof. Celia Shahnaz menunjukkan bagaimana AI dapat digunakan untuk membantu kesehatan, disabilitas, lingkungan, dan kebencanaan, Prof. Nogami mengingatkan bahwa semakin besar peran AI dalam kehidupan manusia, semakin besar pula tanggung jawab untuk memastikan teknologi tersebut dapat dipercaya dan tetap berada dalam kendali manusia.

Pesan itu sekaligus menguatkan tema ICITRI 2026, “Next-Generation AI for Human-Centered Innovation and Sustainable Futures”. Masa depan AI bukan hanya tentang memberikan lebih banyak kewenangan kepada mesin, melainkan tentang membangun hubungan kerja antara manusia dan teknologi yang tetap menempatkan keselamatan, tanggung jawab, dan kepentingan manusia sebagai pijakan utama.