Paus Menuntut Senjata AI ‘Dibongkar’

(SeaPRwire) –   Teknologi tidak boleh diizinkan untuk membunuh secara mandiri, peringatan Sri Paus

Paus Leo XIV telah memberikan peringatan keras tentang kecerdasan buatan, menyatakan bahwa teknologi tersebut membantu “normalisasi perang” dan memindahkan kekuatan hidup dan mati kepada “aktor teknologi” yang tidak dapat dimintai pertanggungjawaban.

Paus kelahiran Amerika itu menyampaikan peringatannya pada hari Senin dalam sebuah ensiklik berjudul ‘Magnifica Humanitas’ (Kemanusiaan yang Agung). Dalam dokumen 42.000 kata itu, Leo menyoroti bagaimana “pertumbuhan kompleks industri-militer telah menjadi ciri kunci dari lanskap politik saat ini,” yang mengarah pada “kebangkitan perang yang mengkhawatirkan sebagai instrumen politik internasional.”

Dalam lingkungan ini, “pengembangan dan penggunaan AI dalam peperangan harus tunduk pada batasan etika yang paling ketat, untuk menjamin penghormatan terhadap martabat manusia dan kesucian hidup serta untuk menghindari perlombaan mengembangkan senjata semacam itu,” lanjutnya.

Paus biasanya menggunakan ensiklik untuk menguraikan ajaran mereka tentang isu-isu sosial pada zamannya. Paus Leo XIII, yang menginspirasi nama Paus saat ini, membahas revolusi industri dan ketimpangan antara kelas pemilik dan pekerja dalam ‘Rerum Novarum’ tahun 1891, misalnya, sementara Paus Fransiskus menangani perubahan iklim dalam ‘Laudato Si’ tahun 2015.

Sejak terpilih pada Mei lalu, Leo XIV telah berulang kali memperingatkan kekuatan destruktif teknologi, menggambarkan AI sebagai ancaman potensial terhadap “martabat manusia, keadilan, dan tenaga kerja” dalam pidato kepada para kardinal tahun lalu. Ensikliknya melangkah lebih jauh, menyerukan perjanjian global untuk “melucuti” teknologi tersebut guna mencegahnya “mendominasi umat manusia.”

Sang Paus Menantang Silicon Valley

Meskipun Paus tidak menyebutkan nama kontraktor pertahanan Silicon Valley seperti Palantir dan Anduril Industries, ia menyoroti pergeseran kekuasaan dari negara ke “aktor ekonomi dan teknologi utama.”

Palantir telah menjadi sangat kuat dalam beberapa tahun terakhir, dengan perangkat lunak analitik data bertenaga AI-nya digunakan oleh militer AS untuk memilih target di Iran, dan oleh Israel Defense Forces (IDF) untuk merencanakan serangan di Gaza. Di Iran, perangkat lunak Palantir dilaporkan memilih sekolah dasar perempuan di Minab sebagai target yang valid, berdasarkan peta usang yang disusun manusia. Serangan rudal ke sekolah itu menewaskan lebih dari 160 murid perempuan di hari pertama perang.

Paus mengutuk automatisasi peperangan yang semakin meningkat, menyatakannya “tidak diperbolehkan untuk mempercayakan keputusan mematikan atau yang tidak dapat diubah lainnya kepada sistem buatan.” Sistem yang diaktifkan AI harus mempertahankan “rantai tanggung jawab,” tulisnya, menambahkan bahwa “mereka yang merancang, melatih, mengotorisasi, dan menggunakan teknologi harus bertanggung jawab atas keputusan mereka.”

Ensiklik Sri Paus sangat kontras dengan manifesto yang dirilis bulan lalu oleh CEO Palantir Alex Karp, di mana ia menyatakan bahwa perusahaan teknologi Amerika memiliki “kewajiban afirmatif” untuk membantu militer AS, menyerukan remiliterisasi Jerman dan Jepang, dan berargumen bahwa Barat tidak boleh terlibat dalam “debat teatrikal tentang manfaat mengembangkan teknologi dengan aplikasi militer dan keamanan nasional yang kritis.”

Namun, Leo menemukan beberapa sekutu di dalam industri AI. Pendiri bersama Anthropic Christopher Olah bertemu dengan Sri Paus di Vatikan pada hari Senin, mengatakan kepada audiens para pemimpin gereja senior bahwa laboratorium AI beroperasi “di dalam seperangkat insentif dan batasan yang terkadang dapat bertentangan dengan melakukan hal yang benar,” dan bahwa mengatur industri ini adalah “imperatif moral dengan skala historis.”

Perseteruan dengan Trump

Olah dan Leo keduanya telah berselisih dengan Presiden AS Donald Trump dalam beberapa bulan terakhir. Trump membatalkan kontrak Pentagon dengan Anthropic pada bulan Februari, setelah perusahaan itu menolak mengizinkan perangkat lunaknya digunakan untuk pengawasan massal domestik atau senjata otonom penuh. Dua bulan kemudian, Trump meluncurkan kecaman pedas terhadap Leo, menyebut Sri Paus “lemah” atas penentangannya terhadap perang AS-Israel terhadap Iran.

Leo telah menggambarkan ancaman Trump untuk menghancurkan peradaban Iran sebagai “benar-benar tidak dapat diterima,” dan menegur Menteri Perang Pete Hegseth karena mendesak orang Amerika untuk berdoa memohon kemenangan “dalam nama Yesus Kristus.” Tuhan, jawab Paus, “tidak mendengarkan doa-doa mereka yang mengobarkan perang.”

Paus juga telah mengutuk remiliterisasi Eropa yang sedang berlangsung, memperingatkan bahwa persenjataan kembali “menguras investasi dalam pendidikan dan perawatan kesehatan, merusak kepercayaan pada diplomasi, dan memperkaya elite yang tidak peduli pada kebaikan bersama.”