Отже, є ця дика історія про те, як один із найбільших військових резервів політики штучного інтелекту у світі почався з собачої монети і шафи в Канаді. Віталік Бутерін просто розповів, як усе сталося, і чесно кажучи, це стало набагато складніше, ніж будь-хто очікував.

У 2021 році творці Shiba Inu зробили хід, який був чистим маркетинговим генієм — вони без запиту вкинули величезну кількість токенів SHIB у гаманець Віталіка. План був очевидним: написати на маркетингових матеріалах «Віталік володіє половиною нашого запасу» і скористатися ажіотажем. Але токени фактично зросли у ціні до понад $1 мільярдів. Віталік хотів вийти перед тим, як бульбашка лусне, що призвело до цього абсурдного моменту, коли йому довелося зателефонувати своєй мачусі в Канаді і попросити її зайти у його шафу, прочитати з аркуша паперу 78-значне число і додати його до іншого 78-значного числа з його рюкзака. Ось так ви ліквідуєте статки у собачій монеті, коли фізично не присутні.

Він зміг продати частину за ETH і пожертвувати $50 мільйонів у GiveWell. Але він все ще залишався з горами SHIB, тому розділив решту. Половина пішла на CryptoRelief для медичної інфраструктури в Індії та його власних досліджень. Інша половина — приблизно $500 мільйонів після ліквідації — пішла до Інституту майбутнього життя, організації, яка зосереджена на екзистенційних ризиках від AI, біотехнологій і ядерної зброї.

Ось де стає цікаво. Спочатку FLI представив Бутеріну дорожню карту, що охоплює основні категорії ризиків і «ініціативи за мир і за епістемологію». Він думав, що вони зможуть вивести приблизно $10 до $25 мільйонів, враховуючи, наскільки тонка ліквідність SHIB. Замість цього вони зробили вихід на $500 мільйонів. Мемкоін, якого ніхто серйозно не сприймав, створив момент благодійності на мільярд доларів.

Але потім FLI різко змінив курс. За словами Бутеріна, вони перейшли до «культурних і політичних дій як основного методу» — досить суттєвий відхід від початкового підходу. Його занепокоєння справедливе: масштабна координована політична дія з величезними грошовими потоками зазвичай дає збої. Це може призвести до непередбачуваних наслідків, викликати зворотню реакцію і вирішувати проблеми способами, які є авторитарними і крихкими.

Він навів у приклад стратегію біобезпеки FLI. Їхній головний підхід — вбудовувати обмежувальні рамки у моделі AI, щоб вони відмовлялися створювати небезпечні виходи. Але Бутерін вважає це крихким, оскільки джейлбрейки і тонке налаштування роблять ці обмеження легкими для обходу. Якщо прослідкувати цю логіку до кінця, отримуєш «заборонити відкритий код AI» або «підтримувати одну хорошу AI-компанію і не дозволяти іншим конкурувати». Такі підходи провалюються катастрофічно — вони роблять решту світу вашими ворогами.

Також існує структурна проблема з регуляторною стратегією. Коли уряди обмежують небезпечні технології, організації національної безпеки звільняються від обмежень, і ці ж організації часто є самі ризиком. Це внутрішній конфлікт.

Проте Бутерін визнав, що деякі останні роботи FLI були хорошими. Його тішить їхня заява про «пром-human AI», яка, здається, об’єднує консерваторів, прогресивних, лібертаріанців і країни з Америки, Європи та Китаю. Вони також досліджують способи запобігання концентрації влади AI, що важливо.

Але основна проблема залишається: пожертва, яку Бутерін ніколи не планував робити, з токенів, які він ніколи не хотів тримати, закінчилася фінансуванням організації, яка рухалася в напрямку, з яким він не погоджувався. Вони тепер витрачають сотні мільйонів доларів у способи, що викликають у нього дискомфорт. Він кілька разів приватно піднімав ці питання з FLI, перш ніж зробити їх публічно. Виграш SHIB перетворився на щось набагато складніше, ніж будь-хто очікував.