JEJAKCARBON.COM — Manipulasi persepsi robot otonom tidak lagi butuh akses fisik atau peretasan sistem pusat. Riset terbaru menunjukkan objek sehari-hari seperti cangkir kopi bisa menjadi pemicu serangan dengan tingkat keberhasilan mencapai 97 persen. Temuan ini membuka celah keamanan baru yang belum tercakup dalam standar keselamatan fungsional robot saat ini.
Serangkaian studi keamanan siber sepanjang 2024 hingga 2025 mengungkap tiga lapisan serangan yang mampu mengubah perilaku robot tanpa memicu alarm kegagalan sistem. Serangan ini menyasar pipeline pelatihan model, infrastruktur sistem, hingga persepsi runtime.
Perbedaan mendasar dari ancaman ini terletak pada sifatnya. Sistem tidak mengalami kerusakan teknis, namun keputusan yang dihasilkan sudah dimanipulasi oleh pihak luar.
Backdoor pada Model Vision-Language-Action
Pada 2017, penelitian BadNets menunjukkan sebuah model bisa berperilaku normal dalam sebagian besar kondisi, tetapi gagal saat menemui pemicu tersembunyi. Pola halus pada gambar rambu berhasil membuat model salah mengklasifikasikan tanda berhenti menjadi tanda batas kecepatan.
Serangan ini berevolusi menjadi manipulasi aksi fisik. Di konferensi NeurIPS 2025, peneliti memperkenalkan BadVLA, serangan backdoor yang menyasar model Vision-Language-Action (VLA). Model jenis ini memungkinkan robot melihat, menafsirkan instruksi, dan menghasilkan gerakan fisik terkoordinasi.
BadVLA tidak sekadar mengubah satu label. Serangan ini menyebabkan penyimpangan kondisional pada lintasan gerak robot saat pemicu muncul. Tanpa pemicu, performa model tetap normal.
Studi lain pada 2025, GoBA, memperlihatkan objek biasa seperti cangkir kopi dapat menjadi pemicu yang andal. Peneliti melaporkan tingkat keberhasilan serangan mencapai 97 persen tanpa menurunkan performa pada input bersih.
Model bisa lolos pengujian, tetapi menghasilkan perilaku menyimpang saat pemicu tersembunyi muncul di lapangan. Inilah titik buta validasi model yang menjadi perhatian utama saat ini.
Vulnerabilitas Sistem Jadi Gerbang Kendali AI
Model yang terlatih dengan aman pun bisa dikendalikan jika tumpukan sistem di sekitarnya rentan. Pada September 2025, peneliti mengungkap UniPwn, rantai eksploitasi Bluetooth yang menyerang robot quadruped dan humanoid dari produsen besar.
Kunci kriptografi yang tertanam permanen memungkinkan dekripsi lalu lintas data. Pemeriksaan autentikasi berhasil dilewati, dan injeksi perintah membuka eksekusi tingkat root.
Eksploitasi ini bersifat "wormable". Robot yang sudah dikompromikan dapat memindai unit di sekitarnya dan berpotensi melumpuhkan seluruh armada.
Middleware menjadi titik paparan lain. Kerentanan pada ROS 2 dan sistem berbasis DDS dapat memungkinkan eksekusi kode arbitrer atau penyalahgunaan topik tanpa autentikasi untuk mengirim perintah berbahaya.
Dengan akses memadai, penyerang bisa menimpa perintah motor atau mengganti bobot model AI tanpa menyerang arsitektur model secara langsung.
Manipulasi Persepsi Saat Robot Beroperasi
Pada tahap runtime, manipulasi input yang membentuk persepsi atau penalaran tidak selalu memerlukan modifikasi firmware maupun pelanggaran jaringan.
Pada 2024, RoboPAIR menunjukkan prompt yang disusun cermat dapat mengarahkan robot yang dikendalikan LLM ke lintasan tidak aman. BadRobot mengungkap kelemahan arsitektural yang lebih dalam: dalam beberapa kasus, robot menolak perintah berbahaya secara verbal, tetapi pengendali geraknya tetap mengeksekusi aksi tersebut.
Manipulasi berbasis visi sama kuatnya. VLAttack memperlihatkan patch adversarial dalam jangkauan kamera mampu menurunkan tingkat keberhasilan tugas model VLA hingga nol. FreezeVLA menunjukkan satu gambar adversarial bisa membekukan loop pengambilan keputusan robot.
Dalam setiap kasus, kamera mungkin masih berfungsi, model masih berjalan, dan pengendali masih merespons. Namun perilaku yang dihasilkan tidak aman karena robot bertindak berdasarkan persepsi yang sudah dimanipulasi.
Dari Keselamatan Titik Waktu ke Jaminan Siklus Hidup
Keselamatan fungsional menangani kegagalan dan kondisi operasi tak terduga. Keamanan siber memperluas jaminan itu ke manipulasi sengaja, termasuk serangan yang membuat sistem tampak berfungsi normal.
Pendekatan ini menuntut jaminan sepanjang siklus hidup robot. Pada tahap desain, tim perlu memahami risiko siber mana yang bisa membatalkan asumsi di balik perilaku yang diinginkan.
Sebelum penerapan, pengujian harus memverifikasi apakah serangan realistis dapat membuat robot menyimpang dari batas tugas atau keselamatannya. Saat beroperasi, pemantauan perlu mengidentifikasi apakah peristiwa siber mulai memengaruhi perilaku fisik.
Alat simulasi seperti NVIDIA Isaac Sim, bila dipadukan dengan validator keamanan Physical AI, dapat menguji efek input yang dimanipulasi sebelum penerapan. Korelasi peristiwa keamanan dan penilaian dampak perilaku berbasis edge AI membantu menahan jalur yang terdampak tanpa menghentikan seluruh armada robot.
Keamanan siber tidak menggantikan keselamatan fungsional. Perannya memastikan Physical AI tetap berada dalam batas yang dapat diterima, bahkan ketika apa yang dilihat, diputuskan, atau dilakukannya sedang diserang.