Selama “Ledakan AI” yang sedang kita alami ini, tidak ada kekurangan artikel berita, postingan blog, atau postingan media sosial yang menanamkan rasa takut bahwa “AI mengambil alih” dan bahwa, secara umum, AI adalah sesuatu yang harus ditakuti. Banyak hal yang dibahas dalam tugas sebelumnya kemungkinan besar memperkuat rasa takut itu, tetapi sekarang mari kita keluar dari hutan yang gelap dan menakutkan menuju ladang hijau yang cerah dan membahas bagaimana AI sebenarnya akan membantu kita. Benar sekali. AI bukanlah sesuatu yang harus ditakuti sama sekali. Ini adalah sesuatu yang harus dipahami, dimanfaatkan, dan dirangkul. Ada banyak cara di mana kita dapat memanfaatkan teknologi ini dalam keamanan siber untuk mempermudah hidup kita dan, yang terpenting, membantu kita melawan ancaman keamanan AI.
Sumber daya yang sangat berguna yang membantu menunjukkan kepada kita betapa benarnya hal ini adalah laporan Biaya Pelanggaran Data IBM, yang mereka terbitkan setiap tahun. Temuan dari laporan terbaru menunjukkan kepada kita bahwa perusahaan yang mengadopsi dan merangkul AI menghemat rata-rata $2,2 juta dalam pengeluaran akibat pelanggaran data. Angka ini bahkan lebih mengesankan jika Anda mengetahui biaya rata-rata pelanggaran data dalam angka terbaru ini adalah $4,88 Juta; itu penghematan yang sangat besar. Statistik lain dari laporan ini juga memberi tahu kita bahwa penggunaan AI mengurangi waktu yang dibutuhkan untuk mengidentifikasi dan mengatasi pelanggaran hingga 108 hari. Semua temuan ini mengarah pada satu hal: hal terbaik yang dapat kita lakukan untuk keamanan adalah merangkul dan mengadopsi AI. Mari kita pertimbangkan beberapa cara AI dapat membantu kita di industri ini dan apa yang dapat kita manfaatkan untuk melihat hasil yang baru saja dibahas. AI dapat meningkatkan:
Our ability to analyse
Jika Anda memikirkan tugas-tugas yang kita lakukan di bidang keamanan siber setiap hari, banyak di antaranya melibatkan beberapa jenis analisis. Kita menerima titik data dan mencari pola, dan di dalam pola tersebut, anomali. Pertimbangkan, misalnya, deteksi intrusi, di mana kita menganalisis pola lalu lintas jaringan untuk mengidentifikasi aktivitas yang tidak biasa yang mungkin mengindikasikan serangan siber. Sekarang, ingat kembali saat kita membahas ML; ini persis jenis tugas yang sangat cocok untuk ditangani oleh ML. ML dilatih pada data untuk mengenali korelasi antar titik data dan membuat prediksi berdasarkan korelasi tersebut, yang berarti teknologi ini dapat dimanfaatkan untuk membantu kita dalam kasus-kasus seperti deteksi intrusi yang disebutkan dan banyak lagi. ML dapat menganalisis data masukan, seperti lalu lintas jaringan, dan menemukan anomali untuk kita, sehingga kita tidak perlu melakukannya, dan dapat melakukannya dengan kecepatan yang sangat tinggi. Sekarang, angka-angka dari laporan IBM yang menunjukkan seberapa cepat pelanggaran diidentifikasi mulai masuk akal. Ada produk di pasaran yang sudah memanfaatkan kekuatan AI/ML untuk meningkatkan kemampuan analitis mereka, seperti Microsoft Defender for Endpoint dan Splunk.
Our ability to predict
Otomatisasi telah disebut sebagai metode kunci untuk meningkatkan postur keamanan kita secara keseluruhan. Ini adalah inti dari metodologi seperti DevSecOps. Seperti yang telah dibahas sebelumnya, model AI dapat dilatih pada data untuk membuat prediksi akurat pada data pelatihan tersebut dan kemudian pada data mentah yang belum pernah dilihat sebelumnya. Sekarang, jika Anda memikirkan otomatisasi sebagai rangkaian tindakan “jika-maka”, misalnya, “jika kode didorong ke main, maka picu pipeline ini”, kita dapat mulai melihat bagaimana AI dapat dimanfaatkan untuk membantu kita mengotomatisasi alur kerja keamanan kita. Pertimbangkan contoh yang dibahas dalam tugas kita sebelumnya: serangan phishing. Kita telah membahas bagaimana, sekarang, dengan AI, penyerang dapat meningkatkan serangan ini, sehingga lebih sulit bagi kita untuk mengidentifikasi email phishing dari email yang sah. Nah, sama seperti penyerang dapat memanfaatkan kekuatan AI untuk meningkatkan email phishing mereka, demikian pula kita dapat memanfaatkan kekuatan AI dalam mengidentifikasi email phishing, karena model AI akan dilatih pada banyak contoh email phishing dan karenanya dapat mengenali pola yang mungkin kita lewatkan. Setelah berhasil memprediksi bahwa itu adalah email phishing, sistem kemudian dapat memprediksi bahwa email tersebut seharusnya tidak sampai ke pengguna dan mengotomatiskan pemblokiran email tersebut sebelum sampai kepada mereka.
Our ability to summarise/digest(?)
Di industri kami, terdapat banyak peristiwa, insiden, pelanggaran, dan lain-lain, dan semua ini menghasilkan artefak. Artefak yang harus kita baca, pahami, dan cerna untuk mengukur implikasi dari apa yang telah terjadi. Artefak ini bisa berupa dokumen atau laporan insiden, dan membacanya dapat memakan banyak waktu kita. Sekarang, dengan kekuatan AI, kita dapat menggunakan alat-alat ini untuk meringkas isi dokumen sehingga kita mendapatkan ringkasan singkatnya, dan dapat melanjutkan pekerjaan dalam hitungan menit, atau meminta alat tersebut meringkas insiden yang telah terjadi, bahkan menarik korelasi antara insiden lain yang mungkin belum kita sadari. Sekali lagi, ini merupakan penghematan waktu yang sangat besar dan memberi kita keuntungan yang sangat besar dalam konteks pertahanan.
Our ability to investigate
Bagian penting lain dari keamanan adalah pemecahan masalah dan investigasi, mencari akar penyebab masalah keamanan atau mengidentifikasi jenis serangan yang kita alami. Kemampuan untuk mengajukan pertanyaan kepada chatbot dalam bahasa alami dan membuatnya merespons dengan cara yang mirip manusia membuka berbagai macam bantuan dalam hal ini. Tiba-tiba kita dapat memasukkan log ke LLM dan memintanya untuk mengidentifikasi apa yang terjadi, dan LLM dapat memberikan kueri yang akan dijalankan yang memberikan output yang bermanfaat dalam diagnosis masalah, membantu dalam triase insiden. Chatbot ini (yang, seperti yang disebutkan, dibangun di atas LLM dan dimungkinkan melalui kemajuan dalam DL) juga bermanfaat dalam tugas apa pun yang melibatkan imajinasi manusia; bagaimanapun, imajinasi manusia memang memiliki keterbatasan. Ambil contoh, perburuan ancaman. Kita harus membayangkan skenario yang mungkin terjadi di mana penyerang dapat membobol sistem kita. AI dapat memikirkan jalur potensial yang akan diambil penyerang yang tidak akan kita pikirkan.
Secure AI
Manfaat AI di bidang keamanan siber tidak dapat disangkal, dan seperti banyak diskusi tentang AI, apa yang telah dibahas di atas hanyalah beberapa contoh bagaimana AI dapat digunakan untuk membantu kita mengamankan sistem kita; kemungkinannya benar-benar tak terbatas. Namun, meskipun mengadopsi teknologi seperti AI Generatif adalah hal yang bagus dan harus didorong, hal itu perlu dilakukan dengan aman. Seperti yang dibahas dalam tugas sebelumnya, model AI sendiri memiliki kerentanan, jadi meskipun adopsi teknologi AI generatif ADALAH solusi untuk ancaman penyerang yang dilengkapi dengan kekuatan AI, hal itu juga memperkenalkan sejumlah kerentanan baru; kerentanan ini perlu dipertimbangkan sejak teknologi ini diperkenalkan ke dalam suatu sistem. Saat ini hal itu tidak terjadi pada laporan biaya pelanggaran data IBM, yang menemukan bahwa hanya 24% dari inisiatif AI generatif yang diamankan. Jika kita tidak mengamankan AI yang kita adopsi, maka manfaat yang akan kita peroleh darinya dapat dibayangi oleh penyerang yang memanfaatkan kerentanan AI ini. Berikut beberapa hal yang dapat dilakukan untuk mengamankan AI:
Securing AI Models: Banyak kerentanan yang disebutkan dalam tugas sebelumnya melibatkan penyerang yang mendapatkan akses ke data sensitif yang dapat diakses oleh model. Kunci untuk mencegah serangan semacam ini adalah dengan mengamankan model itu sendiri. Salah satu metode untuk mencegah akses tidak sah ke model AI adalah dengan memberlakukan kontrol ketat atas siapa yang dapat berinteraksi dengannya. Ini akan melibatkan penerapan langkah-langkah otentikasi yang kuat dan mendefinisikan izin akses dengan cermat. Penggunaan RBAC (Role-Based Access Control) dan MFA (Multi-Factor Authentication) dapat membantu membatasi akses dan menambahkan lapisan keamanan ekstra pada sistem AI.
Privacy Protection: Seperti yang telah dibahas, data pelatihan yang digunakan untuk melatih model terkadang dapat berisi informasi rahasia atau sensitif, seperti catatan pasien. Karena alasan ini, data pelatihan harus diperlakukan seperti data sensitif lainnya dan dienkripsi.
Implementation of AI Security Standards: Untuk memastikan keamanan sistem AI, Anda harus mengimplementasikan standar dan kerangka kerja yang mapan. Menggabungkan standar keamanan yang diakui ini di seluruh tahap pengembangan, penerapan, dan pemeliharaan berarti organisasi dapat secara proaktif mengatasi potensi risiko. Misalnya, standar seperti ISO/IEC 27090 memberikan panduan tentang identifikasi dan mitigasi ancaman keamanan khusus untuk sistem AI. Mengikuti praktik terbaik ini memastikan Anda mengadopsi AI dengan cara yang aman, meminimalkan paparan terhadap ancaman siber.
Model Monitoring: Selain mendeteksi ketika kinerja model menurun dan menandai kapan model perlu dilatih ulang, pemantauan juga harus mendeteksi perilaku, bias, atau anomali yang tidak terduga yang mungkin mengindikasikan serangan keamanan. Hal ini dapat dilakukan menggunakan “alat penjelasan” yang contohnya termasuk SHAP dan LIME.
Tugas ini bertujuan untuk menunjukkan bahwa AI bukanlah sesuatu yang harus ditakuti tetapi dirangkul dan dengan cepat karena semakin cepat kita memanfaatkan banyak manfaat yang ditawarkannya di bidang keamanan siber defensif, semakin siap kita untuk melawan penyerang yang dipersenjatai dengan teknologi yang sama. Namun, perlu juga ditekankan bahwa sangat penting untuk menerapkan teknologi ini dengan aman sejak awal, atau Anda berisiko menimbulkan kerentanan bersamaan dengan AI. Kami telah membahas beberapa cara untuk melakukan hal ini, tetapi ini hanyalah permulaan; kami akan segera menyajikan konten yang membahas lebih dalam tentang AI dan cara bertahan melawannya!
Ref: [1]