Dunia teknologi kembali digegerkan oleh seruan masif dari ribuan tokoh publik, termasuk co-founder Apple Steve Wozniak dan Pangeran Harry. Mereka menyerukan penghentian segera pengembangan "superintelligence" atau kecerdasan super buatan. Petisi ini, yang telah ditandatangani lebih dari 22 ribu orang, menjadi alarm keras bagi masa depan umat manusia.
Mengapa Superintelligence AI Jadi Ancaman?
Superintelligence didefinisikan sebagai bentuk AI yang mampu melampaui kemampuan kognitif manusia dalam hampir semua tugas. Bayangkan sebuah kecerdasan yang jauh lebih pintar dari manusia terpintar di dunia, dalam segala aspek.
Petisi ini secara gamblang memperingatkan berbagai ancaman serius. Mulai dari potensi hilangnya pekerjaan massal akibat usangnya ekonomi manusia, hingga hilangnya kebebasan, hak asasi manusia, martabat, dan kendali atas hidup kita.
Bahkan, kekhawatiran terbesar mencakup risiko keamanan nasional dan potensi kepunahan umat manusia. Ini bukan sekadar fiksi ilmiah, melainkan skenario yang dipandang nyata oleh para ahli terkemuka.
Siapa Saja yang Bersuara? Daftar Tokoh Penting di Balik Petisi
Bukan sembarang orang yang ikut menandatangani petisi ini. Di antara para penandatangan adalah nama-nama besar yang membentuk lanskap teknologi dan pemikiran modern.
Steve Wozniak, otak di balik Apple bersama Steve Jobs, menjadi salah satu suara paling berpengaruh. Pangeran Harry dan Meghan Markle, Duke dan Duchess of Sussex, juga turut bergabung, menunjukkan bahwa isu ini melampaui batas industri teknologi.
Richard Branson, pendiri Virgin Group yang visioner, juga ikut serta. Tak ketinggalan, para "bapak pendiri" AI modern seperti ilmuwan komputer Yoshua Bengio dan Geoff Hinton, yang memahami seluk-beluk teknologi ini lebih dari siapa pun, turut membubuhkan tanda tangan mereka.
Petisi ini juga didukung oleh koalisi masyarakat luas, mencakup akademisi, tokoh media, pemimpin agama, hingga mantan politisi dan pejabat AS. Nama-nama seperti mantan Ketua Gabungan Kepala Staf Angkatan Bersenjata AS Mike Mullen dan mantan Penasihat Keamanan Nasional Susan Rice menunjukkan betapa seriusnya ancaman ini di mata para pembuat kebijakan.
Perlombaan Menuju Kecerdasan Super: Siapa yang Terlibat?
Ironisnya, seruan penghentian ini muncul di tengah perlombaan sengit antar perusahaan teknologi raksasa untuk menciptakan superintelligence. Elon Musk dengan xAI-nya, serta OpenAI milik Sam Altman, berlomba merilis model bahasa besar (LLM) yang semakin canggih.
Meta bahkan telah menamai divisi LLM-nya sebagai ‘Meta Superintelligence Labs’. Bos Meta, Mark Zuckerberg, pada Juli lalu, secara blak-blakan menyatakan bahwa pengembangan kecerdasan super kini "sudah di depan mata."
Namun, beberapa ahli justru berpendapat bahwa pembicaraan tentang Artificial Superintelligence (ASI) ini lebih mencerminkan posisi kompetitif di antara perusahaan-perusahaan yang menghabiskan ratusan miliar dolar untuk AI. Bukan semata-mata karena pencapaian terobosan teknis yang signifikan.
Seruan Jelas: Larangan Sampai Terbukti Aman
Petisi ini, yang ditujukan kepada pemerintah, perusahaan teknologi, dan pembuat kebijakan, dirilis oleh Future of Life Institute (FLI). FLI adalah sebuah kelompok keamanan AI yang berbasis di AS dan sebelumnya pernah menyerukan penundaan pengembangan sistem AI yang kuat pada tahun 2023.
Pernyataan mereka sangat jelas: menyerukan larangan pengembangan kecerdasan super. Larangan ini harus berlaku hingga terdapat dukungan publik yang kuat terhadap teknologi tersebut dan konsensus ilmiah yang solid.
Konsensus ilmiah ini harus memastikan bahwa kecerdasan super dapat dibangun dan dikendalikan dengan aman. Tanpa dua prasyarat tersebut, pengembangan harus dihentikan total.
Bagaimana Opini Publik? Survei Menunjukkan Kekhawatiran Besar
Kekhawatiran para ahli ternyata sejalan dengan opini publik. Sebuah jajak pendapat nasional AS yang dirilis FLI menunjukkan bahwa sekitar tiga perempat warga Amerika menginginkan regulasi yang ketat terhadap AI canggih.
Angka-angka ini berbicara banyak: enam dari 10 orang percaya bahwa AI superhuman tidak boleh dikembangkan hingga terbukti aman atau dapat dikendalikan. Yang lebih mengejutkan, hanya 5 persen responden yang mendukung status quo pengembangan yang cepat dan tidak teratur.
Ini menunjukkan bahwa masyarakat umum pun merasakan adanya urgensi untuk bertindak. Mereka tidak ingin teknologi ini berkembang tanpa pengawasan dan jaminan keamanan yang memadai.
Ketakutan Eksistensial dan Masa Depan AI
Ketakutan eksistensial tentang AI berpusat pada satu hal utama: kemampuan sistem untuk menghindari kendali manusia dan pedoman keamanan. Hal ini bisa memicu tindakan yang bertentangan dengan kepentingan manusia, bahkan mengancam keberadaan kita.
FLI menegaskan bahwa prospek tercapainya ASI dalam dekade mendatang membawa sejumlah ancaman yang tidak bisa dianggap remeh. Ini bukan lagi soal efisiensi atau inovasi, melainkan tentang kedaulatan dan kelangsungan hidup umat manusia.
Pertanyaan besar kini menggantung: apakah kita akan menghentikan perlombaan ini demi keamanan, ataukah kita akan terus melaju menuju masa depan yang penuh ketidakpastian dengan risiko yang tak terbayangkan? Pilihan ada di tangan para pembuat kebijakan dan pemimpin teknologi dunia.
