Saat ini
apa yang kita lihat dalam film science fiction tentang pasukan Robot Perang yang
mampu secara mandiri atau bersama-sama bertempur di udara, darat, dan laut
sudah dikembangkan dengan nama teknologi Sistem Senjata Otonom (Autonomous
Weapons Systems / AWS). Sistem Senjata Otonom adalah sistem senjata yang dapat
memilih dan menembak pada target sendiri tanpa campur tangan manusia. Senjata
sepenuhnya otonom untuk menilai konteks situasional di medan perang dan
memutuskan metode menyerang terbaik sesuai dengan informasi yang diproses.
Sistem Senjata Otonom akan bertindak mengikuti
suatu "kecerdasan buatan" yang pada dasarnya diciptakan lewat
perhitungan aritmetika dan pemrograman robot. Namun sampai saat ini belum
memiliki semua fitur kecerdasan serta “perasaan” atau penilaian manusia, agar
bisa bertanggung jawab dan tunduk mematuhi aturan-aturan dan norma-norma.
Penggunaan kecerdasan buatan dalam konflik bersenjata yang akan menjadi
tantangan mendasar bagi perlindungan warga sipil sesuai dengan hak asasi
manusia internasional dan hukum humaniter.
Sistem Senjata Otonom berbeda dari sistem
senjata remote control seperti Drone atau wahana nirawak yang masih dikemudikan
oleh manusia dan komputer dari jarak jauh, karena tidak memerlukan panduan atau
pengendalian manusia setelah diprogram dan diaktifkan. Meskipun Sistem Senjata
Otonomi dengan kemampuan mematikan belum digunakan saat ini, namun kemampuan
beroperasi dengan berbagai tingkat otonomi atau kebebasan bertindak dan
menyerang sudah mulai digunakan. Sistem robot dengan berbagai tingkat otonomi
dan mematikan telah digunakan secara aktif oleh Amerika Serikat, Inggris,
Israel, dan Korea Selatan.
Penggunaan intensif pesawat tanpa awak MQ-1
Predator adalah saat CIA mulai melihat betapa praktisnya jika menggunakan robot
udara untuk mengumpulkan intelijen dan menyerang sasaran dengan resiko dan biaya
lebih kecil. Para pakar percaya bahwa perang modern masa
depan akan menggunakan sistem senjata otonom. Militer AS berinvestasi
besar-besaran dalam penelitian dan pengembangan sistem senjata otonom seperti
wahana udara tak berawak IAI Pioneer & MQ-1 Predator yang dapat
dipersenjatai dengan rudal dan dioperasikan dari pusat komando jarak jauh untuk
pengintaian dan penyekatan sasaran.
DARPA telah menyelenggarakan kompetisi di tahun
2004 & 2005 yang melibatkan perusahaan swasta dan universitas untuk mengembangkan
kendaraan darat tak berawak untuk bernavigasi melalui medan kasar di Gurun
Mojave dengan beberapa simulasi tugas untuk hadiah 2 juta dolar. Bidang artileri juga telah melihat beberapa
penelitian yang menjanjikan dengan sistem senjata eksperimental bernama Dragon
Fire II yang secara otomatis mampu mengisi peluru (loading) dan menghitung
balistik untuk menembak secara akurat. Pengembangan jet tempur dan pengebom otonom
untuk menghancurkan target sangat menjanjikan karena tidak memerlukan pelatihan
untuk pilot robot dan pesawat otonom mampu melakukan manuver yang tidak dapat
dilakukan pilot manusia, desain pesawat tidak memerlukan sistem pendukung
kehidupan, dan hilangnya pesawat tidak berarti hilangnya pilot manusia.
Bahkan system robotika modern mampu membuat
wahana tanpa awak dalam ukuran dan kemampuan sehinga mampu meniru burung kecil,
serangga, ikan atau binatang kecil yang dapat masuk celah-celah atau lubang dan
masuk diantara kabel listrik untuk fungsi pengintaian hingga penyerangan, dengan
senjata peledak atau senjata kimia dan biologi. Namun, semua senjata otonom peperangan masih
memiliki keterbatasan karena masih memerlukan intervensi manusia untuk
memastikan masih sesuai Konvensi Jenewa untuk hukum perang. Pertanyaan yang
timbul adalah, dapatkah keputusan atas kematian dan kehidupan diserahkan kepada
mesin? Dapatkah Sistem Senjata Otonom berfungsi dalam cara yang benar dan
“etis”? Apakah mesin mampu bertindak sesuai dengan hukum kemanusiaan atau hak
asasi manusia internasional?
Mengingat sebagian besar konflik bersenjata saat
ini adalah konflik tanpa batas yang jelas antara berbagai kelompok bersenjata
dan warga sipil, patut dipertanyakan bagaimana robot dapat secara efektif
diprogram untuk menghindari korban sipil ketika manusia sendiri masih
menghadapi kesulitan untuk mengatasi dilema ini. Serangan militer tidak bisa dilakukan bila
berisiko menyebabkan kerusakan sipil dengan proporsional tinggi. Jelas
diragukan bahwa teknologi berpikir sistem robot perang saat ini mampu membuat
keputusan tersebut.
Kelemahan terbesar sistem robotika perang adalah
ketidakmampuan wahana robotika untuk mengakomodasi kondisi non-standar yang
memerlukan intuisi dan perasaan manusia tentang yang baik dan jelek, yang salah
dan benar, yang tepat dan tidak tepat.