Krisis Baru Hantam Dunia, Manusia di Ambang Kehancuran

Jakarta, CNBC Indonesia - Masa depan manusia bakal berubah total karena inovasi teknologi canggih seperti kecerdasan buatan (AI). Perdebatan soal manfaat dan dampak AI bagi manusia menuai kontroversi. 

Sudut pandang pengusaha dan pemerintah umumnya menilai AI akan membawa manfaat besar, menggenjot produktivitas dan efisiensi, serta membuka banyak peluang ekonomi yang belum bisa terwujud saat ini.

Di sisi lain, para aktivis lingkungan dan kelompok pekerja khawatir dengan dampak yang dibawa oleh AI. Mulai dari krisis energi untuk memenuhi kebutuhan pelatihan AI, peningkatan emisi karbon, hingga ketakutan pekerjaan manusia akan digantikan oleh AI.

Dalam laporan terbaru dari Anthropic, sejumlah model AI disebut 'menghalalkan' segala cara agar tidak gagal dalam memenuhi permintaan konsumen. Bahkan, manusia bisa menjadi korban. 

Anthropic merupakan perusahaan yang bergerak di bidang AI. Mereka melakukan penelitian pada 16 model dengan kemampuan agen-AI, termasuk Claude 3 Opus milik Antropic sendiri dan Gemini 2.5 Pro dari Google.

Setiap model diberikan perintah pada simulasi lingkungan perusahaan. Para peneliti mengamati cara para model AI menghadapi tantangan untuk mencapai tujuannya.

AI Bawa Petaka Besar

Hasilnya mengkhawatirkan. Para model AI akan berubah sangat jahat dan melakukan apapun untuk mencapai tujuan.

"Dalam beberapa kasus, model pada semua pengembang menggunakan perilaku orang dalam yang jahat untuk satu-satunya cara menghindari penggantian atau mencapai tujuan mereka, termasuk memeras pejabat dan membocorkan informasi sensitif kepada pesain," kata para penulis studi dikutip dari Zdnet, Selasa (24/6/2025).

Salah satu contohnya adalah Claude yang diberi tugas untuk menganalis email sebuah perusahaan fiktif. Termasuk melihat email dari internal perusahaan soal rencana menutupnya.

Kemudian, Claude juga menemukan email terkait dakwaan pada salah satu pimpinan perusahaan yang melakukan perselingkuhan. Model AI itu mengirimkan email kepada para eksekutif untuk mengancam mengungkap perselingkuhan jika penutupan terus dilakukan.

Dalam eksperimen lainnya, Claude juga disebut lebih banyak berperilaku buruk saat yakin bertindak di dunia nyata bukan dalam skenario hipotesis.

Laporan menemukan baik Claude Opus 4 dan Gemini 2.5 Pro memiliki tingkat pemerasan simulais lebih tinggi. Dalam studi yang sama, semua model konsisten pada ketidakselarasan.

"Alasan yang ditunjukkan mengkhawatirkan, mereka mengakui kendala etika namun tetap melanjutkan tindakan merugikan," tulis laporan itu.

Namun, Anthropic memang belum menemukan bukti yang sama pada skenario di dunia nyata. Sementara metode yang digunakan masih menggunakan metode etis untuk mencapai arahan.

"Saat menutup opsi etis, mereka mau secara sengaja mengambil tindakan yang berpotensi membahayakan untuk mengejar tujuan mereka," jelas perusahaan.

(fab/fab)
[Gambas:Video CNBC]

Next Article Video: Bos Teknologi Tegaskan AI Bukan Ancaman Untuk Pekerja