Sekitar setahun yang lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan semangat saya terhadap teknologi secara keseluruhan dan manfaat besarnya, sambil juga mengungkapkan sikap hati-hati terhadap beberapa masalah tertentu, terutama yang berfokus pada risiko kehancuran yang mungkin ditimbulkan oleh kecerdasan buatan super atau risiko kehilangan kekuasaan secara tidak dapat dipulihkan oleh manusia.
Inti dari artikel ini adalah memegang suatu prinsip: akselerasi defensif yang terdesentralisasi, demokratis, dan berbeda. Kita harus mempercepat perkembangan teknologi, dan secara selektif fokus pada teknologi yang dapat meningkatkan kemampuan pertahanan kita, bukan yang dapat menyebabkan kerusakan, serta berkomitmen untuk mendorong desentralisasi kekuasaan, menghindari penilaian benar dan salah oleh sekelompok elit yang mewakili semua orang. Mode pertahanan seharusnya seperti Swiss yang demokratis, serta wilayah Zomia yang hampir tanpa pemerintahan dalam sejarah, bukan seperti mode yang diwakili oleh tuan tanah dan kastil di bawah feodalisme abad pertengahan.
Selama setahun terakhir, ide dan pemikiran ini telah mengalami perkembangan dan kematangan yang signifikan. Saya telah membagikan pemikiran ini di platform "80.000 Jam", dan menerima banyak tanggapan, sebagian besar positif, tentu saja ada juga beberapa suara kritik.
Pekerjaan ini sendiri terus berjalan dan mencapai hasil yang nyata: di bidang vaksin sumber terbuka yang dapat diverifikasi, kami menyaksikan kemajuan; kesadaran orang tentang nilai udara dalam ruangan yang sehat terus berkembang; "catatan komunitas" terus memberikan manfaat positif; pasar prediksi sebagai alat informasi mengalami tahun terobosan; bukti nol diketahui telah diterapkan dalam identifikasi identitas pemerintah dan media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan sumber terbuka telah diterapkan di bidang kedokteran dan antarmuka otak-mesin, dan lain-lain.
Musim gugur tahun lalu, kami menyambut kegiatan d/acc penting pertama: "Hari Penemuan d/acc"(d/aDDy), acara ini menghimpun pembicara dari berbagai bidang pilar d/acc( biologi, fisika, jaringan, pertahanan informasi, serta teknologi saraf), dan berlangsung selama sehari penuh. Selama bertahun-tahun, orang-orang yang berkomitmen pada teknologi ini semakin memahami pekerjaan satu sama lain, sementara orang luar semakin menyadari visi yang lebih besar ini: mendorong nilai-nilai yang sama dalam pengembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.
Makna dan Ekstensi d/acc
Waktu berlalu hingga tahun 2042. Anda melihat sebuah berita di media yang menyatakan bahwa kota Anda mungkin akan mengalami wabah baru. Anda sudah terbiasa dengan jenis berita seperti ini: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini pada akhirnya tidak memicu krisis nyata. Dua potensi wabah sebelumnya terdeteksi lebih awal melalui pemantauan limbah dan analisis sumber terbuka media sosial, dan berhasil dihentikan pada tahap awal. Namun, kali ini situasinya berbeda, pasar prediksi menunjukkan bahwa probabilitas munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda sangat khawatir.
Baru kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat pengujian udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui pengujian nafas tunggal, atau setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diperkirakan akan dirilis dalam beberapa minggu ke depan. Sebagian besar orang saat ini belum mengambil tindakan apapun, mereka terutama mengandalkan langkah-langkah penyaringan udara dan ventilasi yang telah diterima secara luas untuk melindungi diri mereka.
Karena kamu memiliki masalah imun, kamu harus bertindak dengan lebih hati-hati: asisten AI pribadi yang berjalan secara lokal dan open source yang kamu gunakan, selain menjalankan tugas-tugas rutin seperti navigasi, rekomendasi restoran, dan kegiatan, juga akan mempertimbangkan data pengujian udara dan data karbon dioksida secara real-time, sehingga hanya merekomendasikan tempat yang paling aman untukmu. Data ini disediakan oleh ribuan peserta dan perangkat, dengan memanfaatkan teknologi pembuktian nol pengetahuan dan privasi diferensial, untuk meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain ( Jika kamu berniat untuk menyumbangkan data untuk set data ini, ada asisten AI pribadi lainnya yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif ).
Dua bulan kemudian, pandemi secara ajaib menghilang: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu memakai masker ketika alat penguji udara mengeluarkan peringatan dan menunjukkan adanya virus, serta melakukan isolasi mandiri jika hasil tes pribadi positif. Langkah ini sudah cukup untuk menurunkan tingkat penularan yang telah berkurang secara signifikan akibat penyaringan udara yang kuat, menjadi di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun lalu, kini tidak menyebabkan dampak serius.
Kegiatan d/acc sehari-hari telah mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata memicu ketertarikan kuat mereka terhadap pekerjaan satu sama lain.
Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi membuat orang-orang dengan latar belakang dan minat yang berbeda benar-benar terhubung secara erat adalah hal yang sangat sulit. Saya masih ingat pengalaman saya di sekolah menengah dan sekolah tinggi ketika dipaksa menonton opera yang panjang dan membosankan; saat itu saya merasa opera tersebut sangat membosankan. Saya menyadari bahwa saya "seharusnya" menghargai mereka, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak dapat beresonansi dengan isi opera tersebut pada tingkat yang lebih dalam. Namun, suasana acara d/acc hari ini benar-benar berbeda: saya merasakan bahwa orang-orang benar-benar mencintai untuk memahami berbagai pekerjaan di berbagai bidang.
Jika kita ingin membangun masa depan yang lebih cerah daripada pemerintahan, perlambatan, dan penghancuran, kita perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai kemajuan signifikan dalam hal ini, hanya poin ini saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.
Inti dari pemikiran d/acc sangat jelas: desentralisasi, demokratis, dan percepatan defensif yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan antara serangan dan pertahanan menuju pertahanan, dan dalam proses implementasinya tidak bergantung pada memberikan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan erat yang melekat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis atau bebas, cenderung dapat berkembang pesat ketika pertahanan mudah diimplementasikan, sementara ketika pertahanan menghadapi banyak kesulitan, ia akan menghadapi tantangan yang serius — dalam keadaan tersebut, hasil yang lebih mungkin terjadi adalah periode kekacauan di mana semua orang saling bertentangan, yang pada akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.
Salah satu cara untuk memahami pentingnya mencoba untuk mencapai desentralisasi, defensif, dan akselerasi secara bersamaan adalah dengan membandingkannya dengan konsepsi yang dihasilkan dari pengorbanan salah satu dari ketiga aspek tersebut.
Desentralisasi yang dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"
Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi sekaligus mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka secara menguntungkan menggambarkan fokus mereka sebagai "serangan". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "kecerdasan buatan yang terdesentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "pertahanan" jelas kurang.
Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu yang menerapkan kekuasaan tirani terhadap umat manusia secara global, tetapi tidak dapat menyelesaikan masalah struktural yang mendasarinya: dalam lingkungan yang mendukung serangan, selalu ada risiko bencana yang terus-menerus, atau seseorang akan menganggap dirinya sebagai pelindung dan secara permanen menduduki posisi dominan. Dalam hal kecerdasan buatan, ini juga tidak dapat mengatasi risiko kekuasaan manusia yang secara keseluruhan tereduksi dibandingkan dengan kecerdasan buatan.
Percepatan pertahanan yang terdistribusi, tetapi mengabaikan "desentralisasi dan demokrasi"
Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang, dan pembaca pasti sudah akrab dengan banyak contoh semacam itu serta kelemahan yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang mengenakan 'label kebebasan' — ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan beberapa negara sebagai alternatif penjara... video dan audio terenkripsi diunggah secara terus-menerus dan ditafsirkan secara real-time oleh mesin". Namun, ada masalah tingkat dalam kontrol terpusat. Satu bentuk kontrol terpusat yang relatif moderat tetapi tetap berbahaya yang biasanya diabaikan, tercermin dalam bidang bioteknologi ( seperti makanan, vaksin ) penolakan terhadap pengawasan publik, serta memungkinkan perilaku penolakan ini tidak ditantang oleh norma-norma tertutup.
Risiko dari cara ini sangat jelas, yaitu bahwa pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian fungsi yang didanai oleh beberapa pemerintah utama mungkin merupakan akar dari pandemi tersebut, epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang dipaksakan dan mandat vaksin telah memicu kemungkinan reaksi politik yang dapat bertahan selama puluhan tahun. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko terkait dengan kecerdasan buatan atau teknologi risiko lainnya. Sebaliknya, cara yang terdesentralisasi akan lebih efektif dalam menghadapi risiko yang berasal dari pusat itu sendiri.
Pertahanan terdesentralisasi, tetapi menolak percepatan
Pada dasarnya, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.
Strategi ini menghadapi dua tantangan. Pertama, secara umum, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, dan setiap keterlambatan dalam hal ini akan membawa biaya yang sulit diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan unggul. Strategi perlambatan dapat berfungsi sampai batas tertentu dalam konteks tertentu: misalnya, makanan di Eropa lebih sehat dibandingkan makanan di Amerika, yang merupakan contoh; keberhasilan non-prolifera nuklir sejauh ini juga demikian. Namun, strategi ini tidak mungkin berhasil selamanya.
Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:
Dalam tren dunia yang semakin tertribalisasi, berpegang pada prinsip, dan bukan hanya secara buta membangun berbagai hal - sebaliknya, kami berharap membangun hal-hal tertentu agar dunia menjadi lebih aman dan lebih baik.
Menyadari bahwa kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan adalah bergerak maju dengan berani.
Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik ( atau kecerdasan buatan baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk membangun dan melindungi daripada untuk menghancurkan.
Memikirkan d/acc dari sudut pandang lain adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: memberdayakan.
Tujuan kami adalah membangun dunia yang dapat mempertahankan agensi manusia, mewujudkan kebebasan negatif, yaitu menghindari intervensi aktif oleh orang lain (, baik itu warga biasa, pemerintah, atau robot super pintar ) terhadap kemampuan kami untuk membentuk nasib kami sendiri, sekaligus mewujudkan kebebasan positif, yaitu memastikan bahwa kami memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan tradisi liberalisme klasik yang telah ada selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", serta penekanan John Stuart Mill pada pendidikan dan kebebasan sebagai dua elemen kunci kemajuan manusia—mungkin juga dapat ditambahkan harapan Buckminster Fuller bahwa proses penyelesaian masalah global bersifat partisipatif dan terdistribusi secara luas. Mengingat lanskap teknologi abad ke-21, kita dapat melihat d/acc sebagai salah satu cara untuk mencapai tujuan yang sama.
Dimensi Ketiga: Kolaborasi untuk Kelangsungan Hidup dan Kemakmuran
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
10 Suka
Hadiah
10
5
Bagikan
Komentar
0/400
RooftopReserver
· 07-18 20:53
Kecerdasan di mana? Kecerdasan kemana?
Lihat AsliBalas0
WagmiWarrior
· 07-18 08:24
Seberapa sulit desentralisasi kekuasaan dan siapa yang akan mengizinkannya?
d/acc satu tahun: Desentralisasi kemajuan pertahanan yang dipercepat dan prospek masa depan
d/acc: Tinjauan setelah satu tahun
Sekitar setahun yang lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan semangat saya terhadap teknologi secara keseluruhan dan manfaat besarnya, sambil juga mengungkapkan sikap hati-hati terhadap beberapa masalah tertentu, terutama yang berfokus pada risiko kehancuran yang mungkin ditimbulkan oleh kecerdasan buatan super atau risiko kehilangan kekuasaan secara tidak dapat dipulihkan oleh manusia.
Inti dari artikel ini adalah memegang suatu prinsip: akselerasi defensif yang terdesentralisasi, demokratis, dan berbeda. Kita harus mempercepat perkembangan teknologi, dan secara selektif fokus pada teknologi yang dapat meningkatkan kemampuan pertahanan kita, bukan yang dapat menyebabkan kerusakan, serta berkomitmen untuk mendorong desentralisasi kekuasaan, menghindari penilaian benar dan salah oleh sekelompok elit yang mewakili semua orang. Mode pertahanan seharusnya seperti Swiss yang demokratis, serta wilayah Zomia yang hampir tanpa pemerintahan dalam sejarah, bukan seperti mode yang diwakili oleh tuan tanah dan kastil di bawah feodalisme abad pertengahan.
Selama setahun terakhir, ide dan pemikiran ini telah mengalami perkembangan dan kematangan yang signifikan. Saya telah membagikan pemikiran ini di platform "80.000 Jam", dan menerima banyak tanggapan, sebagian besar positif, tentu saja ada juga beberapa suara kritik.
Pekerjaan ini sendiri terus berjalan dan mencapai hasil yang nyata: di bidang vaksin sumber terbuka yang dapat diverifikasi, kami menyaksikan kemajuan; kesadaran orang tentang nilai udara dalam ruangan yang sehat terus berkembang; "catatan komunitas" terus memberikan manfaat positif; pasar prediksi sebagai alat informasi mengalami tahun terobosan; bukti nol diketahui telah diterapkan dalam identifikasi identitas pemerintah dan media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan sumber terbuka telah diterapkan di bidang kedokteran dan antarmuka otak-mesin, dan lain-lain.
Musim gugur tahun lalu, kami menyambut kegiatan d/acc penting pertama: "Hari Penemuan d/acc"(d/aDDy), acara ini menghimpun pembicara dari berbagai bidang pilar d/acc( biologi, fisika, jaringan, pertahanan informasi, serta teknologi saraf), dan berlangsung selama sehari penuh. Selama bertahun-tahun, orang-orang yang berkomitmen pada teknologi ini semakin memahami pekerjaan satu sama lain, sementara orang luar semakin menyadari visi yang lebih besar ini: mendorong nilai-nilai yang sama dalam pengembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.
Makna dan Ekstensi d/acc
Waktu berlalu hingga tahun 2042. Anda melihat sebuah berita di media yang menyatakan bahwa kota Anda mungkin akan mengalami wabah baru. Anda sudah terbiasa dengan jenis berita seperti ini: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini pada akhirnya tidak memicu krisis nyata. Dua potensi wabah sebelumnya terdeteksi lebih awal melalui pemantauan limbah dan analisis sumber terbuka media sosial, dan berhasil dihentikan pada tahap awal. Namun, kali ini situasinya berbeda, pasar prediksi menunjukkan bahwa probabilitas munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda sangat khawatir.
Baru kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat pengujian udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui pengujian nafas tunggal, atau setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diperkirakan akan dirilis dalam beberapa minggu ke depan. Sebagian besar orang saat ini belum mengambil tindakan apapun, mereka terutama mengandalkan langkah-langkah penyaringan udara dan ventilasi yang telah diterima secara luas untuk melindungi diri mereka.
Karena kamu memiliki masalah imun, kamu harus bertindak dengan lebih hati-hati: asisten AI pribadi yang berjalan secara lokal dan open source yang kamu gunakan, selain menjalankan tugas-tugas rutin seperti navigasi, rekomendasi restoran, dan kegiatan, juga akan mempertimbangkan data pengujian udara dan data karbon dioksida secara real-time, sehingga hanya merekomendasikan tempat yang paling aman untukmu. Data ini disediakan oleh ribuan peserta dan perangkat, dengan memanfaatkan teknologi pembuktian nol pengetahuan dan privasi diferensial, untuk meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain ( Jika kamu berniat untuk menyumbangkan data untuk set data ini, ada asisten AI pribadi lainnya yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif ).
Dua bulan kemudian, pandemi secara ajaib menghilang: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu memakai masker ketika alat penguji udara mengeluarkan peringatan dan menunjukkan adanya virus, serta melakukan isolasi mandiri jika hasil tes pribadi positif. Langkah ini sudah cukup untuk menurunkan tingkat penularan yang telah berkurang secara signifikan akibat penyaringan udara yang kuat, menjadi di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun lalu, kini tidak menyebabkan dampak serius.
Kegiatan d/acc sehari-hari telah mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata memicu ketertarikan kuat mereka terhadap pekerjaan satu sama lain.
Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi membuat orang-orang dengan latar belakang dan minat yang berbeda benar-benar terhubung secara erat adalah hal yang sangat sulit. Saya masih ingat pengalaman saya di sekolah menengah dan sekolah tinggi ketika dipaksa menonton opera yang panjang dan membosankan; saat itu saya merasa opera tersebut sangat membosankan. Saya menyadari bahwa saya "seharusnya" menghargai mereka, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak dapat beresonansi dengan isi opera tersebut pada tingkat yang lebih dalam. Namun, suasana acara d/acc hari ini benar-benar berbeda: saya merasakan bahwa orang-orang benar-benar mencintai untuk memahami berbagai pekerjaan di berbagai bidang.
Jika kita ingin membangun masa depan yang lebih cerah daripada pemerintahan, perlambatan, dan penghancuran, kita perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai kemajuan signifikan dalam hal ini, hanya poin ini saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.
Inti dari pemikiran d/acc sangat jelas: desentralisasi, demokratis, dan percepatan defensif yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan antara serangan dan pertahanan menuju pertahanan, dan dalam proses implementasinya tidak bergantung pada memberikan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan erat yang melekat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis atau bebas, cenderung dapat berkembang pesat ketika pertahanan mudah diimplementasikan, sementara ketika pertahanan menghadapi banyak kesulitan, ia akan menghadapi tantangan yang serius — dalam keadaan tersebut, hasil yang lebih mungkin terjadi adalah periode kekacauan di mana semua orang saling bertentangan, yang pada akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.
Salah satu cara untuk memahami pentingnya mencoba untuk mencapai desentralisasi, defensif, dan akselerasi secara bersamaan adalah dengan membandingkannya dengan konsepsi yang dihasilkan dari pengorbanan salah satu dari ketiga aspek tersebut.
Desentralisasi yang dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"
Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi sekaligus mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka secara menguntungkan menggambarkan fokus mereka sebagai "serangan". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "kecerdasan buatan yang terdesentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "pertahanan" jelas kurang.
Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu yang menerapkan kekuasaan tirani terhadap umat manusia secara global, tetapi tidak dapat menyelesaikan masalah struktural yang mendasarinya: dalam lingkungan yang mendukung serangan, selalu ada risiko bencana yang terus-menerus, atau seseorang akan menganggap dirinya sebagai pelindung dan secara permanen menduduki posisi dominan. Dalam hal kecerdasan buatan, ini juga tidak dapat mengatasi risiko kekuasaan manusia yang secara keseluruhan tereduksi dibandingkan dengan kecerdasan buatan.
Percepatan pertahanan yang terdistribusi, tetapi mengabaikan "desentralisasi dan demokrasi"
Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang, dan pembaca pasti sudah akrab dengan banyak contoh semacam itu serta kelemahan yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang mengenakan 'label kebebasan' — ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan beberapa negara sebagai alternatif penjara... video dan audio terenkripsi diunggah secara terus-menerus dan ditafsirkan secara real-time oleh mesin". Namun, ada masalah tingkat dalam kontrol terpusat. Satu bentuk kontrol terpusat yang relatif moderat tetapi tetap berbahaya yang biasanya diabaikan, tercermin dalam bidang bioteknologi ( seperti makanan, vaksin ) penolakan terhadap pengawasan publik, serta memungkinkan perilaku penolakan ini tidak ditantang oleh norma-norma tertutup.
Risiko dari cara ini sangat jelas, yaitu bahwa pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian fungsi yang didanai oleh beberapa pemerintah utama mungkin merupakan akar dari pandemi tersebut, epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang dipaksakan dan mandat vaksin telah memicu kemungkinan reaksi politik yang dapat bertahan selama puluhan tahun. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko terkait dengan kecerdasan buatan atau teknologi risiko lainnya. Sebaliknya, cara yang terdesentralisasi akan lebih efektif dalam menghadapi risiko yang berasal dari pusat itu sendiri.
Pertahanan terdesentralisasi, tetapi menolak percepatan
Pada dasarnya, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.
Strategi ini menghadapi dua tantangan. Pertama, secara umum, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, dan setiap keterlambatan dalam hal ini akan membawa biaya yang sulit diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan unggul. Strategi perlambatan dapat berfungsi sampai batas tertentu dalam konteks tertentu: misalnya, makanan di Eropa lebih sehat dibandingkan makanan di Amerika, yang merupakan contoh; keberhasilan non-prolifera nuklir sejauh ini juga demikian. Namun, strategi ini tidak mungkin berhasil selamanya.
Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:
Memikirkan d/acc dari sudut pandang lain adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: memberdayakan.
Tujuan kami adalah membangun dunia yang dapat mempertahankan agensi manusia, mewujudkan kebebasan negatif, yaitu menghindari intervensi aktif oleh orang lain (, baik itu warga biasa, pemerintah, atau robot super pintar ) terhadap kemampuan kami untuk membentuk nasib kami sendiri, sekaligus mewujudkan kebebasan positif, yaitu memastikan bahwa kami memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan tradisi liberalisme klasik yang telah ada selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", serta penekanan John Stuart Mill pada pendidikan dan kebebasan sebagai dua elemen kunci kemajuan manusia—mungkin juga dapat ditambahkan harapan Buckminster Fuller bahwa proses penyelesaian masalah global bersifat partisipatif dan terdistribusi secara luas. Mengingat lanskap teknologi abad ke-21, kita dapat melihat d/acc sebagai salah satu cara untuk mencapai tujuan yang sama.
Dimensi Ketiga: Kolaborasi untuk Kelangsungan Hidup dan Kemakmuran
Dalam artikel saya tahun lalu, d/acc特