d/acc:Огляд через рік

Приблизно рік тому я написав статтю про технічний оптимізм, у якій виклав своє загальне захоплення технологіями та їх величезними перевагами, водночас висловлюючи обережність щодо деяких конкретних питань, зокрема ризиків, які можуть виникнути через надзвичайно розумний штучний інтелект, що може призвести до руйнівних наслідків або до незворотного позбавлення людства влади.

Основна ідея статті полягає в дотриманні принципу: децентралізованої, демократичної та диференційованої оборонної прискорення. Слід прискорити технологічний розвиток, а також диференційовано зосередитися на тих технологіях, які можуть підвищити нашу обороноздатність, а не завдати шкоди, і прагнути до розподілу влади, уникати ситуації, коли невелика кількість еліт представляє всіх у визначенні добра і зла. Модель оборони повинна бути схожа на демократичну Швейцарію, а також на історичний анархістський регіон Зомія, а не на модель, що представляє лордів і замки середньовічного феодалізму.

Протягом минулого року ці ідеї та концепції пережили значний розвиток і зрілість. Я поділився цими думками на платформі "80,000 годин", отримавши багато відгуків, більшість з яких були позитивними, хоча, звісно, також були й критичні голоси.

Ця робота сама по собі продовжує просуватися і досягати реальних результатів: у сфері перевірених відкритих вакцин ми стали свідками прогресу; усвідомлення цінності здорового внутрішнього повітря постійно поглиблюється; "громадські нотатки" продовжують відігравати позитивну роль; ринок прогнозів як інформаційний інструмент переживає проривний рік; нульові знання застосовуються в сфері ідентифікації особи урядом і соціальних медіа ( і забезпечують безпеку гаманців Ethereum за допомогою абстракції облікового запису ); відкриті інструменти зображення знаходять застосування в медицині та сфері мозкових інтерфейсів, і так далі.

Минулої осені ми відзначили перший важливий захід d/acc: "d/acc день відкриттів" ( d/aDDy ), захід об'єднав спікерів з різних ключових галузей d/acc ( біології, фізики, мереж, інформаційної оборони, а також нейротехнологій ). Захід тривав цілий день. Протягом багатьох років люди, які присвятили себе цим технологіям, все більше розуміють роботу один одного, а зовнішні особи також все більше усвідомлюють це більш грандіозне бачення: цінності, які сприяють розвитку Ethereum та криптовалют, можуть бути розширені на більш широкий світ.

Значення та обсяг d/acc

Час минає до 2042 року. Ви бачите у медіа повідомлення, що у вашому місті може спалахнути нова епідемія. На такі новини ви вже звикли: люди зазвичай надмірно реагують на будь-які мутації хвороб тварин, і в більшості випадків ці мутації в кінцевому підсумку не призводять до реальної кризи. Два попередні потенційні спалахи були виявлені на ранній стадії завдяки моніторингу стічних вод і аналізу відкритих джерел у соціальних мережах, і їх вдалося успішно стримати на зародковому етапі. Однак ця ситуація є іншою, ринкові прогнози показують ймовірність щонайменше 10 000 випадків на рівні 60%, що викликає у вас занепокоєння.

Щойно вчора було визначено геномний послідовність вірусу. Оновлення програмного забезпечення для твого портативного тестера повітря було випущено, завдяки якому тестер зможе виявляти новий вірус (, як через одноразове дихальне тестування, так і після 15 хвилинного перебування в приміщенні з кімнатним повітрям для виявлення ). Тим часом, очікується, що відкриті інструкції та код для створення вакцини, які можуть бути отримані за допомогою обладнання, доступного в будь-якій сучасній медичній установі в світі, будуть опубліковані протягом кількох тижнів. Більшість людей наразі не вжили жодних дій, в основному покладаючись на широко використовувані заходи фільтрації повітря та вентиляції для забезпечення своєї безпеки.

Оскільки у вас є проблеми з імунітетом, ви дієте більш обережно: ваш відкритий локальний персональний асистент штучного інтелекту, окрім звичайних завдань, таких як навігація, рекомендації ресторанів та заходів, також буде враховувати дані про якість повітря в реальному часі та дані про вміст вуглекислого газу, щоб рекомендувати вам лише найбезпечніші місця. Ці дані надаються тисячами учасників та пристроїв, і за допомогою технологій нульових знань та диференційованої конфіденційності ризик витоку даних або їх неналежного використання зведено до мінімуму ( Якщо ви бажаєте внести дані до цих наборів даних, інші персональні асистенти штучного інтелекту також перевірять, чи справді ці криптографічні інструменти є ефективними ).

Два місяці потому епідемія дивовижним чином зникла: здавалося, що 60% людей дотримуються основних протиепідемічних заходів, а саме, носять маски, коли датчик якості повітря подає сигнал тривоги і показує наявність вірусу, а також самоізолюються, якщо особистий тест показує позитивний результат. Саме цей захід достатній, щоб подальше знизити рівень передачі, який вже значно зменшився завдяки пасивній потужній фільтрації повітря, до 1 і нижче. Модель, що показує результати, вказує на хворобу, яка може бути в п’ять разів серйознішою за COVID-19 двадцятирічної давнини, але тепер вона не завдала серйозної шкоди.

д/acc щоденна активність досягла надзвичайно позитивного результату, а саме – концепція d/acc успішно об'єднала людей з різних галузей та дійсно викликала в них сильний інтерес до роботи один одного.

Провести захід з "різноманітністю" не так вже й складно, але справжнє налагодження тісних зв'язків між людьми з різним фоном та інтересами є вкрай важким завданням. Я досі пам'ятаю свої мученицькі дні в середній та старшій школі, коли мене змушували дивитися затяжні опери, які я вважав нудними. Я добре усвідомлював, що "повинен" їх цінувати, адже інакше мене б вважали безкультурним комп'ютерним гиком, але мені не вдалося на більш глибокому рівні знайти відгук у змісті опери. Проте атмосфера заходу d/acc була зовсім іншою: здавалося, що людям справді цікаво дізнаватися про різні роботи в різних сферах.

Якщо ми прагнемо побудувати світле майбутнє, яке буде кращим за панування, сповільнення та знищення, нам обов'язково потрібно розпочати таку широку побудову альянсів. d/acc у цьому відношенні, здається, досяг значних успіхів, і лише це вже достатньо, щоб підкреслити цінність цієї ідеї.

Основна ідея d/acc проста і зрозуміла: децентралізований, демократичний та диференційований захисний прискорювач. Створення технологій, які здатні сприяти балансуванню атак і захисту на користь оборони, при цьому не покладаючись на передачу більшої влади центральним авторитетам. Між цими двома аспектами існує внутрішня тісна взаємозв'язок: будь-яка децентралізована, демократична чи вільна політична структура зазвичай процвітає, коли захист легко реалізувати, а стикається з серйозними викликами, коли захист стикається з великою кількістю труднощів — у таких випадках більш імовірним результатом є період безладу, в якому всі протистоять один одному, врешті-решт досягаючи стану балансу, в якому домінують найсильніші.

Розуміння спроби одночасно реалізувати децентралізацію, захисні та прискорювальні аспекти має важливе значення, і один із способів це зробити – порівняти його з концепцією, що виникає при відмові від одного з цих трьох аспектів.

Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"

По суті, це схоже на те, щоб стати ефективним акселераціоністом (e/acc), але при цьому переслідувати децентралізацію. Є багато людей, які обирають цей шлях, деякі з них самі себе називають d/acc, але вони корисно описують свій акцент як "атакуючий". Крім того, є багато інших, хто виявляє більш помірний ентузіазм до теми "децентралізованого штучного інтелекту" та подібних тем, але, на мою думку, їхня увага до "оборонних" аспектів явно недостатня.

На мою думку, цей підхід, можливо, зможе уникнути ризику диктатури певних груп над світовим людством, але він не вирішує потенційні структурні проблеми: у середовищі, що сприяє атакам, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуюче становище. Щодо штучного інтелекту, він також не може належним чином вирішити ризик послаблення влади людства в порівнянні зі штучним інтелектом.

Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"

Для досягнення цілей безпеки прийняття централізованого контролю завжди має певну привабливість для частини людей, читач безсумнівно вже знайомий з багатьма подібними прикладами та їхніми недоліками. Нещодавно деякі люди висловлювали занепокоєння, що екстремальний централізований контроль може бути єдиним способом протистояти майбутнім екстремальним технологіям: наприклад, уявіть таку гіпотетичну ситуацію: "кожен носить 'вільну мітку' — це наступний продукт більш обмежених носимих пристроїв моніторингу, подібний до браслетів, які використовуються в кількох країнах як альтернатива ув'язненню... зашифроване відео та аудіо постійно завантажуються і в реальному часі інтерпретуються машиною". Однак централізований контроль має певну проблему. Зазвичай ігнорована, але все ще шкідлива форма відносно поміркованого централізованого контролю проявляється у сфері біотехнологій (, наприклад, опір громадському контролю за їжею, вакцинами ) та дозволення цій опозиції залишатися без виклику закритими нормами.

Цей спосіб має очевидні ризики, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли фінансовані кількома основними урядами функціональні дослідження могли стати причиною пандемії, а централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я роками відмовлялася визнавати, що коронавірус передається повітрям, тоді як примусова соціальна дистанція та обов'язкові вакцини викликали політичні наслідки, які можуть тривати десятиліттями. Подібні ситуації, ймовірно, знову виникнуть у будь-яких ризикових ситуаціях, пов'язаних з штучним інтелектом або іншими ризиковими технологіями. На відміну від цього, децентралізований підхід буде ефективніше справлятися з ризиками, що походять від самого центру.

Децентралізований захист, але відмовляє прискоренню

По суті, це намагається сповільнити технологічний прогрес або сприяти економічному спаду.

Ця стратегія стикається з подвійними викликами. По-перше, в цілому технологічний та економічний зріст є надзвичайно вигідним для людства, будь-яка затримка призведе до непередбачуваних витрат. По-друге, у світі, що не є авторитарним, застій є нестабільним: ті, хто "обманює" найбільше, можуть знайти здавалося б розумні способи продовжувати розвиток, отримають перевагу. Стратегія уповільнення може в певних специфічних обставинах спрацьовувати в певній мірі: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні до цього часу також підтверджують це. Однак ці стратегії не можуть діяти вічно.

Через d/acc ми прагнемо досягти таких цілей:

• Дотримуватися принципів у світі, що все більше стає племінним, а не просто сліпо будувати різні речі — навпаки, ми сподіваємося створити конкретні речі, щоб зробити світ більш безпечним і кращим.
• Визнаючи, що експоненціальний технологічний прогрес означає, що світ стане надзвичайно дивним, і що загальний "відбиток" людства у всесвіті безумовно буде постійно зростати. Наша здатність захищати вразливих тварин, рослин та людей від шкоди повинна безперервно покращуватися, а єдиний шлях вперед - це йти вперед.
• Будувати технології, які дійсно захищають нас, а не базуватися на припущенні, що "добрі люди ( або хороший штучний інтелект ) контролюють усе". Ми досягаємо цієї мети, створюючи інструменти, які природно є більш ефективними для створення та захисту, ніж для руйнування.

Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії в Європі на початку 2000-х років: наділення повноваженнями.

Наша мета – створити світ, який зможе зберегти людську активність, досягнути негативної свободи, тобто уникнути активного втручання з боку інших, ( будь то звичайні громадяни, уряд чи суперінтелектуальні роботи ) у нашу здатність формувати власну долю, одночасно досягнувши позитивної свободи, тобто забезпечити, щоб у нас були знання та ресурси для реалізації цієї здатності. Це відгукується на традицію класичного лібералізму, яка триває вже кілька століть, яка охоплює увагу Стюарта Бренда до "отримання інструментів", а також підкреслення Джона Стюарта Мілля щодо освіти та свободи як ключових елементів прогресу людства – можливо, також можна додати бачення Бакмінстера Фуллера про те, що процес глобального вирішення проблем є участю та широко розподіленим. Враховуючи технологічну картину 21 століття, ми можемо розглядати d/acc як спосіб досягнення цих самих цілей.

Третій вимір: співіснування та процвітання

У моїй статті минулого року, d/acc特