Sebagai AI generatif mendorong kecepatan pengembangan perangkat lunak, hal ini juga meningkatkan kemampuan penyerang digital untuk melakukan peretasan yang bermotif finansial atau didukung negara. Ini berarti bahwa tim keamanan di perusahaan teknologi memiliki lebih banyak kode untuk ditinjau sambil menghadapi lebih banyak tekanan dari pelaku kejahatan. Pada hari Senin, Amazon untuk pertama kalinya akan mempublikasikan rincian sistem internal yang dikenal sebagai Autonomous Threat Analysis (ATA), yang telah digunakan perusahaan untuk membantu tim keamanannya secara proaktif mengidentifikasi kelemahan pada platformnya, melakukan analisis varian untuk dengan cepat mencari kelemahan lain yang serupa, dan kemudian mengembangkan kemampuan remediasi dan deteksi untuk menutup lubang sebelum penyerang menemukannya.
ATA lahir dari hackathon internal Amazon pada Agustus 2024, dan anggota tim keamanan mengatakan bahwa ATA telah berkembang menjadi alat yang penting sejak saat itu. Konsep utama yang mendasari ATA adalah bahwa ia bukanlah agen AI tunggal yang dikembangkan untuk melakukan pengujian keamanan dan analisis ancaman secara komprehensif. Sebaliknya, Amazon mengembangkan beberapa agen AI khusus yang bersaing satu sama lain dalam dua tim untuk menyelidiki dengan cepat teknik serangan nyata dan berbagai cara penggunaannya terhadap sistem Amazon—dan kemudian mengusulkan kontrol keamanan untuk ditinjau oleh manusia.
“Konsep awal ditujukan untuk mengatasi keterbatasan kritis dalam pengujian keamanan—cakupan terbatas dan tantangan untuk menjaga kemampuan deteksi tetap terkini dalam lanskap ancaman yang berkembang pesat,” Steve Schmidt, kepala petugas keamanan Amazon, mengatakan kepada WIRED. “Cakupan yang terbatas berarti Kamu tidak dapat mengakses semua perangkat lunak atau Kamu tidak dapat mengakses semua aplikasi karena Kamu tidak memiliki cukup sumber daya manusia. Dan sangat bagus untuk melakukan analisis terhadap serangkaian perangkat lunak, namun jika Kamu tidak selalu memperbarui sistem pendeteksian terhadap perubahan dalam lanskap ancaman, Kamu kehilangan separuh gambarannya.”
Sebagai bagian dari peningkatan penggunaan ATA, Amazon mengembangkan lingkungan pengujian “ketelitian tinggi” khusus yang mencerminkan sistem produksi Amazon secara sangat realistis, sehingga ATA dapat menyerap dan menghasilkan telemetri nyata untuk dianalisis.
Tim keamanan perusahaan juga merancang ATA sehingga setiap teknik yang digunakan, dan kemampuan deteksi yang dihasilkannya, divalidasi dengan pengujian nyata dan otomatis serta data sistem. Agen tim merah yang berupaya menemukan serangan yang dapat digunakan terhadap sistem Amazon menjalankan perintah aktual di lingkungan pengujian khusus ATA yang menghasilkan log yang dapat diverifikasi. Tim biru, atau agen yang berfokus pada pertahanan, menggunakan telemetri nyata untuk memastikan apakah perlindungan yang mereka usulkan efektif. Dan setiap kali agen mengembangkan teknik baru, agen tersebut juga akan mengambil catatan waktu untuk membuktikan bahwa klaimnya akurat.
Keterverifikasian ini mengurangi kesalahan positif, kata Schmidt, dan bertindak sebagai “manajemen halusinasi.” Karena sistem ini dibangun untuk menuntut standar tertentu dari bukti yang dapat diamati, Schmidt mengklaim bahwa “halusinasi secara arsitektural tidak mungkin terjadi.”
