Alamanahjurnalis.com - Di tengah perkembangan kecerdasan buatan (AI) yang makin canggih, CEO Meta Mark Zuckerberg menegaskan bahwa teknologi ini harus tetap berada di bawah kuasa tangan manusia dan didistribusikan seluas mungkin.
AI tidak seharusnya dipusatkan di tangan segelintir perusahaan, pemerintah, atau bahkan AI itu sendiri. Pandangan tersebut disampaikan Zuckerberg lewat esai panjang berjudul "The Future is for Everyone", yang dipublikasi lewat laman Meta Newsroom pada 10 Agustus 2026.
Dalam tulisan itu, Zuckerberg membahas visinya mengenai masa depan "superintelligence", yakni AI dengan kemampuan yang melampaui manusia.
Zuckerberg mengakui bahwa teknologi baru selalu membawa peluang sekaligus tantangan.
Risiko yang muncul bisa mulai dari manusia kehilangan pekerjaan akibat otomatisasi, penyalahgunaan AI untuk serangan siber dan ancaman biologis, pengawasan oleh pemerintah, hingga skenario ekstrem ketika AI menjadi begitu kuat sehingga manusia kehilangan kendali.
Meski begitu, Zuckerberg tidak sepakat dengan pandangan bahwa karena AI semakin canggih dan berisiko, teknologi ini harus dibatasi dan hanya dikuasai oleh sejumlah kecil pihak.
Menurut pendiri Facebook pada 2004 ini, pemusatan kekuatan justru bisa menciptakan risiko yang lebih besar.
Jadi, skenario yang paling ideal menurut Zuckerberg adalah untuk memastikan banyak pihak memiliki kekuatan dan kendali terhadap AI canggih.
AI jangan cuma dikuasai segelintir pihak
Menurut Zuckerberg, salah satu pertanyaan terbesar di era AI adalah siapa yang nantinya memiliki akses terhadap superintelligence.
Ia melihat ada dua kemungkinan. AI supercanggih bisa dipusatkan dan hanya tersedia bagi sejumlah institusi, atau teknologi tersebut didistribusikan secara luas sehingga dapat digunakan banyak orang.
Zuckerberg memilih skenario kedua.
"Daripada memusatkan superintelligence, kita harus mendistribusikannya secara luas dan memberikan setiap orang kemampuan untuk mengarahkannya," kata Zuckerberg.
Menurut bos Meta tersebut, kunci keamanan AI justru terletak pada keseimbangan kekuatan atau balance of power.
Sebab, manusia memiliki tujuan, kepentingan, dan nilai yang berbeda-beda. Karena itu, Zuckerberg tidak percaya satu AI supercerdas dapat dibuat untuk menentukan apa yang terbaik bagi seluruh manusia.
Ia membayangkan banyak orang nantinya memiliki agen AI supercerdas yang bekerja sesuai tujuan masing-masing. Dengan begitu, kekuatan satu pihak dapat diawasi dan diimbangi oleh pihak lainnya.
Prinsip tersebut, menurut Zuckerberg, mirip dengan mekanisme checks and balances yang berlaku dalam pemerintahan demokratis.
Dalam konteks negara, lembaga-lembaga negara bisa saling mengawasi dan mengimbangi. Tujuannya agar tidak ada satu pun lembaga atau orang yang memiliki kekuasaan mutlak atau semena-mena.
Zuckerberg juga menyinggung dilema ketika kemampuan AI yang semakin canggih digunakan untuk tujuan berbahaya.
Salah satu contohnya adalah keamanan siber. Jika hanya satu orang memiliki AI supercanggih untuk keamanan siber, orang tersebut secara teori bisa memiliki kemampuan untuk membobol hampir semua sistem.
Namun, jika kemampuan serupa tersedia secara luas, AI juga dapat digunakan untuk menemukan celah, memperbaikinya, dan memperkuat berbagai sistem.
Begitu pula dalam dunia bisnis. Jika hanya satu perusahaan memiliki superintelligence, perusahaan tersebut berpotensi memiliki keunggulan sangat besar dibandingkan seluruh pesaingnya.
Sebaliknya, jika semua orang memiliki akses, teknologi tersebut dapat digunakan lebih banyak orang untuk menciptakan produk dan bisnis baru.
Zuckerberg mengakui, dalam masyarakat bebas, teknologi dapat digunakan untuk tujuan baik maupun buruk.
Namun, menurut dia, jawabannya bukan dengan membatasi kemampuan yang dapat diakses individu. Sebaliknya, pihak yang bertugas melawan pelaku kejahatan harus memiliki kekuatan dan sumber daya yang lebih besar.
Bagaimana kalau AI lepas kendali?
Zuckerberg juga membahas salah satu kekhawatiran terbesar mengenai perkembangan AI, yakni kemungkinan teknologi tersebut menjadi begitu canggih sehingga tidak lagi bekerja sesuai kepentingan manusia.
Dalam skenario terburuk, AI bahkan bisa membahayakan umat manusia.
Misalnya, seperti yang terjadi di film The Terminator karya James Cameron. Di film, sistem pertahanan AI bernama Skynet digambarkan menjadi "sadar diri", menganggap manusia sebagai ancaman, dan memicu perang nuklir untuk memusnahkan umat manusia.
Menurut Zuck, panggilan akrab bos Meta ini, skenario paling berbahaya justru terjadi apabila hanya ada satu superintelligence yang sangat kuat dan terpusat.
Karena itu, ia membayangkan masa depan dengan banyak agen superintelligence yang digunakan individu dan bisnis, serta beberapa laboratorium AI yang mengembangkan model dengan nilai berbeda.
Sistem-sistem tersebut nantinya dapat saling mengawasi dan mengimbangi.
Meski demikian, Zuckerberg menegaskan bahwa manusia tetap harus memegang kendali. Perusahaan pengembang AI juga harus mengawasi dengan ketat sistem AI yang nantinya mampu meningkatkan kemampuannya sendiri.
Apabila ditemukan indikasi perilaku berbahaya, Zuckerberg mengatakan perusahaan-perusahaan AI harus berkoordinasi dan mengambil langkah yang diperlukan.
Menurut dia, selama keseimbangan kekuatan secara keseluruhan tetap berpihak kepada manusia, keberadaan banyak sistem AI dengan tujuan berbeda tidak dengan sendirinya menjadi ancaman.
Zuckerberg juga menegaskan AI tetap harus diberikan pagar aturan, batasan hukum dan keamanan.
Meta sendiri berencana menerapkan struktur tata kelola yang memberikan dewan direksi independen kewenangan menyetujui kriteria keamanan untuk perilisan model AI.
Zuckerberg bahkan mengatakan tidak baik apabila keputusan mengenai bagaimana superintelligence digunakan berada di tangan satu orang saja, termasuk dirinya sendiri, sebagaimana dihimpun KompasTekno dari Gizmodo.
"Saya tidak berpikir bahwa demi kepentingan saya, Meta, ataupun dunia, saya atau siapa pun menjadi satu-satunya pengambil keputusan mengenai bagaimana superintelligence digunakan," tulis Zuckerberg.
Sumber: kompas.com
