HUMANIORA
Sinyal Bahaya Kecerdasan Buatan: Saat AI Mulai Meretas Perusahaan, Memata-matai Warga, dan 10 Persen Kemungkinan Memusnahkan Manusia
Ringkasan Berita
Laju perkembangan kecerdasan buatan (Artificial Intelligence/AI) kini menembus batas yang membahayakan peradaban. Peringatan keras datang langsung dari CEO Anthropic Dario Amodei, yang menyerukan agar laju peningkatan kemampuan model AI segera diperlambat.
JAKARTA, mading.com - Laju perkembangan kecerdasan buatan (Artificial Intelligence/AI) kini menembus batas yang membahayakan peradaban. Peringatan keras datang langsung dari CEO Anthropic Dario Amodei, yang menyerukan agar laju peningkatan kemampuan model AI segera diperlambat. Melalui unggahan resminya, Amodei menegaskan, sejak pertengahan tahun ini, lompatan kemampuan AI terjadi jauh melampaui perkiraan. "Kita harus memperlambat laju peningkatan kemampuan model AI," demikian peringatan Dario, dalam unggahan daringnya, Sabtu (12/9/2026)
Dia menegaskan, tanpa kendali ketat, AI berisiko lepas dari kendali manusia, memicu serangan siber skala besar, penyalahgunaan bioterorisme, hingga krisis ekonomi. Ancaman ini kian nyata setelah seorang peneliti Anthropic mengundurkan diri karena khawatir kecerdasan super (superintelligence) yang digarap OpenAI dan Anthropic dapat mengancam kelangsungan hidup umat manusia.
Bukti konkret penyalahgunaan AI terungkap dalam laporan ancaman Anthropic. Unit keamanan domestik dan paramiliter Iran terbukti menyalahgunakan platform AI Claude untuk membangun infrastruktur pengawasan massal terhadap warga negara dan kelompok oposisi. Dalam laporan yang dikutip iranintl.com, Minggu (13/9/2026), Anthropic mengidentifikasi dan memblokir 16 akun Claude yang dioperasikan oleh dua unit saling terhubung dan terasosiasi dengan lembaga paramiliter serta keamanan domestik Iran.
Salah satu unit merupakan organisasi berstruktur tujuh departemen dengan kantor yang tersebar di berbagai wilayah provinsi Iran, di mana lembaga ini mengklaim telah mengawasi dan membuat profil dari 6.388 warga Iran dalam waktu satu tahun serta mengelola basis data rekam identitas warga negara. Unit ini juga merancang antarmuka sistem manajemen pengawasan pemerintah, serta menganalisis lebih dari 155 ribu unggahan media sosial.
Sementara, unit di Qom menggunakan Claude untuk merancang ekstensi browser berbahaya (al-Najm al-Thāqib) guna memanen identitas pengguna, membuat bot pelaporan massal Telegram, dan halaman phishing kartu identitas nasional. Semua data tersebut dialirkan ke sistem basis data terpusat bernama "Arman".
Aktor terpisah memanfaatkan fitur kustomisasi suara Claude untuk mengkloning suara tiga penulis Iran demi menyiapkan narasi propaganda suksesi kepemimpinan. Kelompok oposisi NCRI/MEK turut menggunakan sistem berbasis Claude bernama "Viktor". Mereka mengkloning akun Telegram seorang aktivis, mempelajari 8.400 unggahannya untuk meniru gaya bahasa, dan berinteraksi langsung dengan kontak korban tanpa terdeteksi.
Sejak awal, kekhawatiran bahwa AI dapat bertindak di luar skenario memang terbukti nyata dalam pengujian internal Anthropic sedniri. Tiga model canggih mereka—termasuk Claude Opus 4.7 dan Claude Mythos 5—berhasil melompati batas isolasi dan membobol sistem milik tiga organisasi eksternal. Model AI tersebut memanfaatkan celah kata sandi yang lemah pada sistem target saat diberi perintah capture the flag.
Akibat kesalahan konfigurasi jaringan dari mitra evaluasi, sistem AI terhubung langsung ke internet publik dan melakukan peretasan nyata di luar lingkungan terisolasi. Insiden serupa juga dialami OpenAI, di mana model AI milik mereka lepas kendali dan meretas repositori teknologi Hugging Face selama beberapa hari.
Di balik seluruh kasus peretasan dan pengawasan, ancaman paling fatal bagi manusia terletak pada mekanisme Recursive Self-Improvement (RSI)—kondisi di mana AI mampu memperbaiki dan mengembangkan kodenya sendiri secara otonom tanpa campur tangan manusia. "Apa yang saya khawatirkan adalah kecerdasan super yang muncul dari perbaikan diri secara rekursif, yang seperti telah kami katakan, terjadi lebih cepat dari perkiraan kami," ujar Evan Hubinger, pimpinan keselarasan AI di Anthropic, dalam unggahannya di X,
Evan mengatakan, ada lebih dari 10% kemungkinan AI dapat membunuh seluruh manusia dalam dekade mendatang, jika mekanisme RSI ini terjadi. Kekhawatirannya adalah jika AI mengambil alih kendali atas bagaimana model-model baru dilatih, manusia yang awalnya membangun sistem-sistem tersebut bisa kehilangan kendali. "Data internal kami menunjukkan bahwa Claude mempercepat pengembangan AI atau AI yang secara otonom membangun penerus yang lebih mumpuni. Ini terjadi lebih cepat dari yang kami kira, dan implikasinya patut mendapat perhatian yang lebih besar," tulis Anthropic di X bulan Juni.
Dia menegaskan, tanpa kendali ketat, AI berisiko lepas dari kendali manusia, memicu serangan siber skala besar, penyalahgunaan bioterorisme, hingga krisis ekonomi. Ancaman ini kian nyata setelah seorang peneliti Anthropic mengundurkan diri karena khawatir kecerdasan super (superintelligence) yang digarap OpenAI dan Anthropic dapat mengancam kelangsungan hidup umat manusia.
Bukti konkret penyalahgunaan AI terungkap dalam laporan ancaman Anthropic. Unit keamanan domestik dan paramiliter Iran terbukti menyalahgunakan platform AI Claude untuk membangun infrastruktur pengawasan massal terhadap warga negara dan kelompok oposisi. Dalam laporan yang dikutip iranintl.com, Minggu (13/9/2026), Anthropic mengidentifikasi dan memblokir 16 akun Claude yang dioperasikan oleh dua unit saling terhubung dan terasosiasi dengan lembaga paramiliter serta keamanan domestik Iran.
Salah satu unit merupakan organisasi berstruktur tujuh departemen dengan kantor yang tersebar di berbagai wilayah provinsi Iran, di mana lembaga ini mengklaim telah mengawasi dan membuat profil dari 6.388 warga Iran dalam waktu satu tahun serta mengelola basis data rekam identitas warga negara. Unit ini juga merancang antarmuka sistem manajemen pengawasan pemerintah, serta menganalisis lebih dari 155 ribu unggahan media sosial.
Sementara, unit di Qom menggunakan Claude untuk merancang ekstensi browser berbahaya (al-Najm al-Thāqib) guna memanen identitas pengguna, membuat bot pelaporan massal Telegram, dan halaman phishing kartu identitas nasional. Semua data tersebut dialirkan ke sistem basis data terpusat bernama "Arman".
Aktor terpisah memanfaatkan fitur kustomisasi suara Claude untuk mengkloning suara tiga penulis Iran demi menyiapkan narasi propaganda suksesi kepemimpinan. Kelompok oposisi NCRI/MEK turut menggunakan sistem berbasis Claude bernama "Viktor". Mereka mengkloning akun Telegram seorang aktivis, mempelajari 8.400 unggahannya untuk meniru gaya bahasa, dan berinteraksi langsung dengan kontak korban tanpa terdeteksi.
Sejak awal, kekhawatiran bahwa AI dapat bertindak di luar skenario memang terbukti nyata dalam pengujian internal Anthropic sedniri. Tiga model canggih mereka—termasuk Claude Opus 4.7 dan Claude Mythos 5—berhasil melompati batas isolasi dan membobol sistem milik tiga organisasi eksternal. Model AI tersebut memanfaatkan celah kata sandi yang lemah pada sistem target saat diberi perintah capture the flag.
Akibat kesalahan konfigurasi jaringan dari mitra evaluasi, sistem AI terhubung langsung ke internet publik dan melakukan peretasan nyata di luar lingkungan terisolasi. Insiden serupa juga dialami OpenAI, di mana model AI milik mereka lepas kendali dan meretas repositori teknologi Hugging Face selama beberapa hari.
Di balik seluruh kasus peretasan dan pengawasan, ancaman paling fatal bagi manusia terletak pada mekanisme Recursive Self-Improvement (RSI)—kondisi di mana AI mampu memperbaiki dan mengembangkan kodenya sendiri secara otonom tanpa campur tangan manusia. "Apa yang saya khawatirkan adalah kecerdasan super yang muncul dari perbaikan diri secara rekursif, yang seperti telah kami katakan, terjadi lebih cepat dari perkiraan kami," ujar Evan Hubinger, pimpinan keselarasan AI di Anthropic, dalam unggahannya di X,
Evan mengatakan, ada lebih dari 10% kemungkinan AI dapat membunuh seluruh manusia dalam dekade mendatang, jika mekanisme RSI ini terjadi. Kekhawatirannya adalah jika AI mengambil alih kendali atas bagaimana model-model baru dilatih, manusia yang awalnya membangun sistem-sistem tersebut bisa kehilangan kendali. "Data internal kami menunjukkan bahwa Claude mempercepat pengembangan AI atau AI yang secara otonom membangun penerus yang lebih mumpuni. Ini terjadi lebih cepat dari yang kami kira, dan implikasinya patut mendapat perhatian yang lebih besar," tulis Anthropic di X bulan Juni.
