AI Salah Baca Situasi, AS dan China Nyaris Terlibat Perang Besar

Sistem AI bekerja berdasarkan data dan pola yang tersedia. Karena itu, hasil analisis tetap dapat dipengaruhi oleh kualitas data, konteks yang tidak lengkap, maupun kesalahan dalam menafsirkan informasi.

Dalam situasi keamanan, persoalan tersebut menjadi lebih sensitif. Kesalahan membaca suatu tindakan dapat membuat aktivitas yang sebenarnya bersifat defensif dipersepsikan sebagai ancaman.

Kekhawatiran terhadap Penggunaan AI

Perkembangan AI dalam beberapa tahun terakhir membuat teknologi tersebut semakin banyak digunakan dalam berbagai sektor. Di bidang pertahanan dan keamanan, kemampuan AI dalam mengolah informasi secara cepat juga menjadi perhatian.

Namun, penggunaan teknologi tersebut menghadirkan pertanyaan mengenai siapa yang bertanggung jawab ketika sistem menghasilkan analisis yang keliru.

Kekhawatiran terbesar muncul ketika keputusan penting dibuat dengan mengandalkan keluaran sistem secara berlebihan tanpa verifikasi manusia. Dalam kondisi seperti itu, kesalahan teknologi berpotensi berkembang menjadi kesalahan pengambilan keputusan.