Spilltekno – Penggunaan kecerdasan buatan (AI) berbasis agen otonom semakin meluas di berbagai sistem perusahaan. Pergeseran ini memicu perubahan mendasar pada lanskap risiko keamanan siber global. Kini, ancaman kebocoran data menjadi lebih kompleks dan sulit dikelola.
Laporan State of the Internet (SOTI) terbaru dari Akamai menyoroti fenomena ini. Laporan berjudul The Agentic Frontier: Speed, Scale, and Nonhuman Identity itu mengungkap tantangan baru bagi Chief Information Security Officer (CISO). Mereka kini harus mengelola identitas dan perilaku entitas non-manusia, bukan hanya manusia.
Fokus utama keamanan siber dulu adalah manajemen identitas pengguna manusia. Namun, dengan hadirnya AI agen otonom, kendali berpindah ke entitas yang beroperasi secara mandiri. Ini menciptakan celah baru yang belum sepenuhnya dipahami atau diatasi.
Agentic AI adalah sistem AI yang mampu mengambil keputusan dan bertindak secara otonom tanpa intervensi manusia langsung. Contohnya termasuk chatbot canggih yang memproses informasi sensitif atau agen AI yang mengelola transaksi keuangan. Kemampuan otonom ini menjadi pedang bermata dua bagi keamanan data.
Risiko kebocoran data meningkat signifikan karena AI agen ini sering berinteraksi dengan berbagai sistem dan data rahasia. Sebuah chatbot yang memproses permintaan pelanggan bisa saja tanpa sengaja mengekspos informasi pribadi. Potensi paparan data sensitif menjadi sangat besar dan sulit dipantau.
Skala dan kecepatan operasi AI otonom juga menambah kompleksitas risiko. Mereka dapat mengakses dan memproses data dalam volume besar dengan sangat cepat. Jika ada kerentanaan, kebocoran bisa terjadi secara masif sebelum disadari.
Para CISO dihadapkan pada tugas berat untuk menetapkan tata kelola perilaku entitas non-manusia ini. Mereka harus memahami bagaimana agen AI berinteraksi dan memastikan kepatuhan terhadap kebijakan keamanan. Ini memerlukan kerangka kerja keamanan yang sepenuhnya baru dan adaptif.
Pengawasan terhadap identitas non-manusia memerlukan alat dan strategi yang berbeda dari pengawasan manusia. Perusahaan perlu berinvestasi pada teknologi keamanan yang bisa melacak dan mengamankan aktivitas AI agen. Kesadaran akan ancaman ini adalah langkah pertama untuk mitigasi yang efektif.
Memahami risiko baru dari Agentic AI adalah krusial bagi setiap organisasi yang mengadopsinya. Keamanan siber bukan lagi hanya tentang melindungi manusia, tetapi juga entitas cerdas yang kita ciptakan. Mari bersama-sama menghadapi tantangan keamanan siber di era AI otonom ini.
Ikuti terus berita teknologi lainnya hanya di Spilltekno
