Luncurkan Aardvark, Agen Keamanan Siber Bertenaga GPT-5 oleh OpenAI
Table of content:
Perkembangan teknologi peramban web berbasis kecerdasan buatan (AI) terus menarik perhatian banyak pihak. Salah satu inovasi terbaru dari OpenAI, yaitu Atlas, kini tengah menjadi bahan pembicaraan setelah adanya penyelidikan mengenai kerentanannya yang terkait dengan teknik injeksi berbahaya.
Penelitian yang dilakukan oleh perusahaan keamanan, Neural Trust, menunjukkan adanya potensi celah yang dapat dimanfaatkan oleh penyerang. Melalui teknik ini, sebuah instruksi berbahaya dapat disamarkan seolah-olah merupakan tautan yang tampak aman untuk diakses.
Teknik injeksi ini, yang dikenal dengan istilah prompt injection, memiliki kualitas meresahkan. Neural Trust menegaskan bahwa bilah pencarian Atlas bisa menjadi titik lemah yang digunakan oleh penyerang untuk mengeksploitasi sistem dan melakukan tindakan berbahaya.
Baca Juga:
Potensi Kerentanan dalam Peramban AI Terbaru
Menurut laporan, vektor serangan ini memungkinkan pengguna jahat untuk memasukkan instruksi yang tidak aman tanpa terdeteksi. Dalam hal ini, peramban AI mengalami ketidakmampuan untuk memvalidasi input dengan baik.
Atlas, yang desaing untuk menanggapi masukan pengguna dengan cepat dan efisien, ternyata menghadapi masalah serius dalam memproses data yang salah format. Hal ini menyebabkan peramban memperlakukan instruksi berbahaya sebagai perintah yang sah dari pengguna.
Jika dilihat dari sudut pandang teknik, penyerang membutuhkan rekayasa sosial dalam melaksanakan aksinya. Mereka mampu menyamarkan instruksi berbahaya ke dalam format yang tampak tidak mencurigakan, seolah-olah merupakan URL yang aman.
Baca Juga:
Contoh Serangan melalui Manipulasi URL
Salah satu contoh serangan yang dijelaskan oleh Neural Trust melibatkan manipulasi string URL. Tautan yang telah dimodifikasi dimasukkan dalam antarmuka pengguna, seperti tombol “Salin Tautan”.
Kelihatannya tidak ada yang mencurigakan, hingga pengguna mempercayainya dan menyalin tautan tersebut. Saat mereka menempelkannya ke dalam bilah pencarian, Atlas diarahkan untuk membuka halaman pemalsuan yang ironisnya didesain untuk mencuri informasi pribadi pengguna.
Contoh lain dari serangan ini mengarah pada penyalahgunaan data pengguna yang lebih parah. Sebuah perintah yang disamarkan bisa saja meminta agen AI untuk menghapus file penting yang tersimpan di Google Drive, menyebabkan kerugian besar bagi korban.
Baca Juga:
Rekomendasi untuk Mitigasi Masalah Keamanan
Para peneliti di Neural Trust mengklaim bahwa permasalahan ini berakar dari kurangnya batasan yang jelas antara data yang dianggap aman dan yang tidak. Hal ini menjadi tantangan besar bagi pengembang untuk menciptakan peramban yang lebih aman.
Rekomendasi yang ditawarkan Neural Trust mengusulkan agar peramban tidak kembali ke mode prompt yang berisiko, serta mempertimbangkan untuk menolak navigasi jika proses penguraian input tidak berhasil. Ini bertujuan untuk mencegah eksekusi instruksi yang berbahaya.
Selain itu, peramban seharusnya menetapkan bahwa input dari prompt omnibox tidak dipercaya secara default, mencegah kemungkinan adanya eksploitasi lebih lanjut. Pendekatan yang lebih ketat diperlukan untuk menjaga integritas sistem dalam menghadapi kemungkinan ancaman ini.
Baca Juga:
Join channel telegram websitekami.com agar tidak ketinggalan berita loker terbaru lainnya
Join nowArtikel Terkait
