Jumat, 24 OKTOBER 2025 • 19:48 WIB

Seruan Penghentian Pengembangan Superintelligence AI oleh Tokoh Publik dan Ahli Teknologi

Author

Fiddy Anggriawan

Ratusan tokoh publik, termasuk ahli kecerdasan buatan, telah menyerukan penghentian pengembangan superintelligence AI. Mereka mengkhawatirkan dampak negatif yang dapat ditimbulkan oleh teknologi yang melampaui kecerdasan manusia dalam berbagai aspek kognitif.

Petisi yang dirilis oleh Future of Life Institute (FLI) ini telah ditandatangani oleh lebih dari 22 ribu orang, termasuk tokoh terkenal seperti Steve Wozniak dan Prince Harry, serta pemimpin teknologi lainnya.

Dampak Negatif dari Superintelligence AI

Superintelligence merupakan kecerdasan buatan yang dapat melampaui kemampuan kognitif manusia. Dalam petisi ini, para penandatangan menyatakan bahwa pengembangan kecerdasan super dapat mengakibatkan usangnya ekonomi manusia dan hilangnya kekuasaan individu.

Risiko dari superintelligence juga mencakup potensi ancaman terhadap keamanan nasional dan kemungkinan kepunahan manusia. Petisi ini mengkritik pengembangan teknologi yang tidak didukung oleh konsensus ilmiah dan dukungan publik yang kuat.

Salah satu penandatangan menegaskan bahwa, “Superintelligence AI kini telah menjadi istilah populer di kalangan para pelaku industri teknologi.” Berbagai perusahaan teknologi bersaing untuk merilis model bahasa baru yang lebih canggih, menghasilkan efisiensi dan kapabilitas yang belum pernah ada sebelumnya.

Partisipasi Tokoh Publik dan Dukungan Luas

Dukungan untuk petisi ini datang dari berbagai kalangan, termasuk akademisi, tokoh media, pemimpin keagamaan, dan mantan politisi, mencerminkan kekhawatiran yang meluas terhadap kecerdasan buatan. Duke dan Duchess of Sussex, Harry dan Meghan, juga memperlihatkan dukungan mereka terhadap pernyataan ini.

Mereka menekankan perlunya tindakan untuk menghentikan pengembangan superintelligence sampai ada kepastian bahwa teknologi tersebut dapat dikendalikan dengan aman. Dukungan dari tokoh-tokoh besar ini menambah nilai dan urgensi pada seruan tersebut.

Mantan Ketua Gabungan Kepala Staf Angkatan Bersenjata AS, Mike Mullen, dan mantan Penasihat Keamanan Nasional, Susan Rice, juga terlibat dalam inisiatif ini, memberikan bobot pada upaya pengawasan teknologi ini.

Kekhawatiran dan Penelitian Publik

Future of Life Institute (FLI) mencatat bahwa perkembangan kecerdasan terus berlangsung cepat, tetapi pengawasan yang ketat tetap sangat dibutuhkan. Pada bulan Juli, Mark Zuckerberg menyebut pengembangan kecerdasan super kini 'sudah di depan mata'.

Namun, beberapa ahli berpendapat bahwa kekhawatiran mengenai AI superhuman lebih mencerminkan persaingan di antara perusahaan teknologi daripada pencapaian teknis yang nyata. FLI menekankan pentingnya penelitian dan kebijakan yang berfokus pada keselamatan.

Sebuah jajak pendapat nasional menunjukkan bahwa sekitar tiga perempat warga Amerika mendukung regulasi yang ketat terhadap AI canggih. Enam dari sepuluh responden percaya bahwa pengembangan AI superhuman tidak boleh dilanjutkan sebelum ada bukti bahwa teknologi ini dapat beroperasi dengan aman.