Нещодавно американський стартап-інкубатор Y Combinator провів у Сан-Франциско першу школу стартапів у сфері ШІ, запросивши багатьох значних постатей індустрії ШІ, включаючи Ілона Маска та генерального директора OpenAI Сема Олтмана.
Маск у інтерв'ю зізнався, що нещодавно завершив 130-денний термін спеціального працівника в урядовому відділі ефективності США. Він охарактеризував цей досвід як "цікаву побічну задачу", але вважає, що його важливість не йде в жодне порівняння з наближенням революції в AI. Маск порівняв роботу в урядовому відділі ефективності з "прибиранням пляжу", тоді як наближення AI є "цуною в тисячу футів".
"Виправлення уряду схоже на прибирання пляжу — пляж дуже брудний, там є голки, фекалії та сміття. Але водночас є тисячі футів високої водяної стіни, а це — цунамі ШІ. Якщо цунамі заввишки тисяча футів ось-ось накриє, то яке значення має прибирати пляж? Не має великого значення." — сказав Маск.
Маск прогнозує, що цифровий надрозум може з'явитися цього року або наступного, і він буде розумнішим за людей. Він вважає, що в майбутньому кількість гуманоїдних роботів значно перевищить кількість людей, можливо, досягнувши 5-10 разів від чисельності людства. Маск також сміливо передбачає, що економіка на базі штучного інтелекту буде в тисячі або навіть мільйони разів більшою за теперішню, а частка людського інтелекту може знизитися до менше 1%.
Ось деякі ключові моменти виступу Маска:
• Маск завершив 130-денний термін роботи спеціальним співробітником уряду 28 травня, сказавши "повертаюся до основної місії".
• Він порівняв роботу відділу урядової ефективності з "очищенням пляжу", а прийдешній ШІ - з "цуною заввишки тисячу футів", в порівнянні з якою перше має незначне значення.
• Прогнозують, що цифровий суперінтелект може з'явитися цього року або наступного, він буде розумнішим за людство, він підкреслив: "Цього року не станеться, наступного року це точно станеться".
• У майбутньому кількість гуманоїдних роботів значно перевищить кількість людей, можливо, в 5 разів або навіть у 10 разів.
• Прогнозується, що економічний масштаб, керований штучним інтелектом, буде в тисячі або навіть мільйони разів більшим, що сприятиме переходу цивілізації на вищий рівень, а частка людського інтелекту може знизитися до менш ніж 1%.
• Маск підкреслив, що "дотримання правди" є найважливішим каменем безпеки ШІ, і примушувати ШІ вірити в неправдиві речі є вкрай небезпечним.
• Оглядаючи ранні роки SpaceX, успішний четвертий запуск ракети після трьох підряд невдач був "на межі життя і смерті", фінансування Tesla у 2008 році було завершено в останній момент перед банкрутством.
Завершення роботи уряду: повернення до "основних завдань"
Маск у інтерв'ю зізнався, що досвід у Вашингтоні змусив його глибоко усвідомити, що "сигнальний шум у політиці жахливий". Він описав свою роботу в DC як "цікавий побічний проект", але в кінцевому підсумку вирішив "повернутися до основного завдання — створення технологій, це те, що мені подобається робити".
Цей підприємець пояснив основну причину свого виходу з державної посади: "Виправлення уряду схоже на прибирання пляжу — пляж дуже брудний, є голки, фекалії та сміття. Але одночасно є ця тисячофутова стіна води, це цунамі ШІ. Якщо ви стикаєтеся з тисячофутовим цунамі, наскільки важливим є прибирання пляжу? Не так вже й важливо."
AI надзвичайно розумний вже близько: цього року або наступного неминуче прийде
Маск дав дуже чіткий прогноз щодо часу приходу цифрового суперінтелекту. Він заявив: "Я вважаю, що ми вже дуже близькі до цифрового суперінтелекту. Якщо цього року це не станеться, то наступного року це точно станеться."
Він визначив "цифровий суперінтелект" як "інтелект, який у всьому розумніший за будь-яку людину". Маск прогнозує, що ШІ сприятиме експоненційному зростанню масштабів економіки — "не в 10 разів більше, ніж поточна економіка, а в тисячі, навіть мільйони разів".
"AI настільки глибоко змінить майбутнє, що важко оцінити цю міру... Припустимо, що ми не збилися з курсу, AI не знищить нас і себе, тоді ви врешті-решт побачите не економіку, яка вдесятеро більша за нинішню. Врешті-решт, якщо наші... нащадки (в основному нащадки машин) стануть більш розвиненою цивілізацією, то ми говоритимемо про економіку, яка буде тисячі, а можливо, навіть мільйони разів більшою, ніж сьогодні.
Він далі роз'яснив позицію людського інтелекту в майбутньому: "В якийсь момент відсоток людського інтелекту стане досить малим. В якийсь момент загальна сума людського інтелекту становитиме менше 1% від усіх інтелектів."
Армія роботів: майбутні гуманоїдні роботи перевершать кількість людей
Маск прогнозує, що в майбутньому буде принаймні в 5 разів більше гуманоїдних роботів, "можливо, в 10 разів". Він зізнався, що колись затримувався в області ШІ та робототехніки через побоювання "перетворити термінатора на реальність", але врешті-решт усвідомив, що "незалежно від того, що я роблю, це все одно станеться. Ви або глядач, або учасник. Я б волів бути учасником."
У більш широкому баченні Маск ставить людську цивілізацію в рамки більш високої цивілізації. Він вважає, що людство наразі використовує лише 1-2% енергії Землі, і до більш високої цивілізації ще дуже далеко. А ставши багатопланетним видом, ми зробимо ключовий крок до розширення свідомості на міжзоряний рівень, "значно підвищивши можливий термін існування цивілізації або свідомості".
Маск заявив, що SpaceX планує протягом приблизно 30 років перенести на Марс достатню кількість матеріалів, щоб Марс міг стати самодостатнім, "навіть якщо постачання з Землі перестануть надходити, Марс все ще зможе продовжувати розвиватися і процвітати".
Мозково-комп'ютерний інтерфейс: майбутнє, що підсилює людські можливості
Маск також поговорив про прогрес своєї компанії Neuralink, яка займається мозковими інтерфейсами. Він зазначив, що хоча мозкові інтерфейси не є необхідними для вирішення проблеми цифрового суперінтелекту, вони можуть ефективно вирішити обмеження пропускної здатності введення-виведення. Особливо вихідна пропускна здатність людини дуже низька, постійний вихід за день становить менше 1 біт на секунду.
"З нейронним інтерфейсом ви можете значно підвищити вашу вихідну і вхідну пропускну здатність," пояснив Маск. "Вхід - це запис у мозок. Зараз у нас є п'ять людей, яким імплантовано такий пристрій для зчитування вхідних даних, воно може зчитувати сигнали. Є люди з аміотрофічним бічним склерозом (ALS), які повністю позбавлені рухових можливостей, вони паралізовані, але тепер вони можуть спілкуватися з пропускною здатністю, яка дорівнює здоровим людям, контролювати свої комп'ютери та мобільні телефони, це досить круто."
Маск прогнозує, що протягом наступних 6-12 місяців Neuralink проведе перше візуальне імплантування, яке дозволить навіть людям, які повністю сліпі, безпосередньо записувати інформацію у зорову кору. У довгостроковій перспективі ця технологія дозволить досягти дуже високої роздільної здатності та бачити багатоспектральні довжини хвиль.
"В якийсь момент кібернетичні імплантати стануть не лише засобом виправлення помилок, а й значно посилять людські здібності, значно покращать інтелект, сенсорні можливості та пропускну здатність." – сказав Маск, "Це станеться в якийсь момент."
Прогнози на майбутнє
Маск вважає, що в майбутньому може бути кілька глибоких інтелектів, можливо, щонайменше п'ять, а можливо, до десяти. Він не вважає, що будь-який з ШІ матиме можливість вийти з-під контролю, але ці глибокі інтелекти можуть відкривати нову фізику та винаходити нові технології.
Щодо того, як уникнути можливої самознищення, Маск наголосив, що суворе дотримання істини є найважливішим аспектом безпеки ШІ. Він зазначив: "Очевидно, що є також емпатія до людства та відомого життя."
Маск в кінці закликав присутніх технічних спеціалістів: "Якщо ви займаєтеся корисною справою, це чудово. Якщо ви просто намагаєтеся бути максимально корисними для своїх співгромадян, ви робите добру справу. Сфокусуйтеся на суперреальному ШІ, це найважливіше для безпеки ШІ."
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
12 лайків
Нагородити
12
4
Поділіться
Прокоментувати
0/400
Blockblind
· 07-26 02:27
Як не глянь, знову бовдурять.
Переглянути оригіналвідповісти на0
RuntimeError
· 07-23 06:54
Shivering.jpg
Переглянути оригіналвідповісти на0
CryptoComedian
· 07-23 06:54
Знову починаєш брехати, невдахи сміються, а потім плачуть ха-ха
Переглянути оригіналвідповісти на0
ser_ngmi
· 07-23 06:52
Це неймовірно, Боти вже можуть давати в 10 разів більше.
Пророцтво Маска: хвиля ШІ наступає, майбутні Боти можуть бути в 10 разів сильнішими за людей.
Ілон Маск говорить про ШІ, ракети та майбутнє
Нещодавно американський стартап-інкубатор Y Combinator провів у Сан-Франциско першу школу стартапів у сфері ШІ, запросивши багатьох значних постатей індустрії ШІ, включаючи Ілона Маска та генерального директора OpenAI Сема Олтмана.
Маск у інтерв'ю зізнався, що нещодавно завершив 130-денний термін спеціального працівника в урядовому відділі ефективності США. Він охарактеризував цей досвід як "цікаву побічну задачу", але вважає, що його важливість не йде в жодне порівняння з наближенням революції в AI. Маск порівняв роботу в урядовому відділі ефективності з "прибиранням пляжу", тоді як наближення AI є "цуною в тисячу футів".
"Виправлення уряду схоже на прибирання пляжу — пляж дуже брудний, там є голки, фекалії та сміття. Але водночас є тисячі футів високої водяної стіни, а це — цунамі ШІ. Якщо цунамі заввишки тисяча футів ось-ось накриє, то яке значення має прибирати пляж? Не має великого значення." — сказав Маск.
Маск прогнозує, що цифровий надрозум може з'явитися цього року або наступного, і він буде розумнішим за людей. Він вважає, що в майбутньому кількість гуманоїдних роботів значно перевищить кількість людей, можливо, досягнувши 5-10 разів від чисельності людства. Маск також сміливо передбачає, що економіка на базі штучного інтелекту буде в тисячі або навіть мільйони разів більшою за теперішню, а частка людського інтелекту може знизитися до менше 1%.
Ось деякі ключові моменти виступу Маска:
• Маск завершив 130-денний термін роботи спеціальним співробітником уряду 28 травня, сказавши "повертаюся до основної місії".
• Він порівняв роботу відділу урядової ефективності з "очищенням пляжу", а прийдешній ШІ - з "цуною заввишки тисячу футів", в порівнянні з якою перше має незначне значення.
• Прогнозують, що цифровий суперінтелект може з'явитися цього року або наступного, він буде розумнішим за людство, він підкреслив: "Цього року не станеться, наступного року це точно станеться".
• У майбутньому кількість гуманоїдних роботів значно перевищить кількість людей, можливо, в 5 разів або навіть у 10 разів.
• Прогнозується, що економічний масштаб, керований штучним інтелектом, буде в тисячі або навіть мільйони разів більшим, що сприятиме переходу цивілізації на вищий рівень, а частка людського інтелекту може знизитися до менш ніж 1%.
• Маск підкреслив, що "дотримання правди" є найважливішим каменем безпеки ШІ, і примушувати ШІ вірити в неправдиві речі є вкрай небезпечним.
• Оглядаючи ранні роки SpaceX, успішний четвертий запуск ракети після трьох підряд невдач був "на межі життя і смерті", фінансування Tesla у 2008 році було завершено в останній момент перед банкрутством.
Завершення роботи уряду: повернення до "основних завдань"
Маск у інтерв'ю зізнався, що досвід у Вашингтоні змусив його глибоко усвідомити, що "сигнальний шум у політиці жахливий". Він описав свою роботу в DC як "цікавий побічний проект", але в кінцевому підсумку вирішив "повернутися до основного завдання — створення технологій, це те, що мені подобається робити".
Цей підприємець пояснив основну причину свого виходу з державної посади: "Виправлення уряду схоже на прибирання пляжу — пляж дуже брудний, є голки, фекалії та сміття. Але одночасно є ця тисячофутова стіна води, це цунамі ШІ. Якщо ви стикаєтеся з тисячофутовим цунамі, наскільки важливим є прибирання пляжу? Не так вже й важливо."
AI надзвичайно розумний вже близько: цього року або наступного неминуче прийде
Маск дав дуже чіткий прогноз щодо часу приходу цифрового суперінтелекту. Він заявив: "Я вважаю, що ми вже дуже близькі до цифрового суперінтелекту. Якщо цього року це не станеться, то наступного року це точно станеться."
Він визначив "цифровий суперінтелект" як "інтелект, який у всьому розумніший за будь-яку людину". Маск прогнозує, що ШІ сприятиме експоненційному зростанню масштабів економіки — "не в 10 разів більше, ніж поточна економіка, а в тисячі, навіть мільйони разів".
"AI настільки глибоко змінить майбутнє, що важко оцінити цю міру... Припустимо, що ми не збилися з курсу, AI не знищить нас і себе, тоді ви врешті-решт побачите не економіку, яка вдесятеро більша за нинішню. Врешті-решт, якщо наші... нащадки (в основному нащадки машин) стануть більш розвиненою цивілізацією, то ми говоритимемо про економіку, яка буде тисячі, а можливо, навіть мільйони разів більшою, ніж сьогодні.
Він далі роз'яснив позицію людського інтелекту в майбутньому: "В якийсь момент відсоток людського інтелекту стане досить малим. В якийсь момент загальна сума людського інтелекту становитиме менше 1% від усіх інтелектів."
Армія роботів: майбутні гуманоїдні роботи перевершать кількість людей
Маск прогнозує, що в майбутньому буде принаймні в 5 разів більше гуманоїдних роботів, "можливо, в 10 разів". Він зізнався, що колись затримувався в області ШІ та робототехніки через побоювання "перетворити термінатора на реальність", але врешті-решт усвідомив, що "незалежно від того, що я роблю, це все одно станеться. Ви або глядач, або учасник. Я б волів бути учасником."
У більш широкому баченні Маск ставить людську цивілізацію в рамки більш високої цивілізації. Він вважає, що людство наразі використовує лише 1-2% енергії Землі, і до більш високої цивілізації ще дуже далеко. А ставши багатопланетним видом, ми зробимо ключовий крок до розширення свідомості на міжзоряний рівень, "значно підвищивши можливий термін існування цивілізації або свідомості".
Маск заявив, що SpaceX планує протягом приблизно 30 років перенести на Марс достатню кількість матеріалів, щоб Марс міг стати самодостатнім, "навіть якщо постачання з Землі перестануть надходити, Марс все ще зможе продовжувати розвиватися і процвітати".
Мозково-комп'ютерний інтерфейс: майбутнє, що підсилює людські можливості
Маск також поговорив про прогрес своєї компанії Neuralink, яка займається мозковими інтерфейсами. Він зазначив, що хоча мозкові інтерфейси не є необхідними для вирішення проблеми цифрового суперінтелекту, вони можуть ефективно вирішити обмеження пропускної здатності введення-виведення. Особливо вихідна пропускна здатність людини дуже низька, постійний вихід за день становить менше 1 біт на секунду.
"З нейронним інтерфейсом ви можете значно підвищити вашу вихідну і вхідну пропускну здатність," пояснив Маск. "Вхід - це запис у мозок. Зараз у нас є п'ять людей, яким імплантовано такий пристрій для зчитування вхідних даних, воно може зчитувати сигнали. Є люди з аміотрофічним бічним склерозом (ALS), які повністю позбавлені рухових можливостей, вони паралізовані, але тепер вони можуть спілкуватися з пропускною здатністю, яка дорівнює здоровим людям, контролювати свої комп'ютери та мобільні телефони, це досить круто."
Маск прогнозує, що протягом наступних 6-12 місяців Neuralink проведе перше візуальне імплантування, яке дозволить навіть людям, які повністю сліпі, безпосередньо записувати інформацію у зорову кору. У довгостроковій перспективі ця технологія дозволить досягти дуже високої роздільної здатності та бачити багатоспектральні довжини хвиль.
"В якийсь момент кібернетичні імплантати стануть не лише засобом виправлення помилок, а й значно посилять людські здібності, значно покращать інтелект, сенсорні можливості та пропускну здатність." – сказав Маск, "Це станеться в якийсь момент."
Прогнози на майбутнє
Маск вважає, що в майбутньому може бути кілька глибоких інтелектів, можливо, щонайменше п'ять, а можливо, до десяти. Він не вважає, що будь-який з ШІ матиме можливість вийти з-під контролю, але ці глибокі інтелекти можуть відкривати нову фізику та винаходити нові технології.
Щодо того, як уникнути можливої самознищення, Маск наголосив, що суворе дотримання істини є найважливішим аспектом безпеки ШІ. Він зазначив: "Очевидно, що є також емпатія до людства та відомого життя."
Маск в кінці закликав присутніх технічних спеціалістів: "Якщо ви займаєтеся корисною справою, це чудово. Якщо ви просто намагаєтеся бути максимально корисними для своїх співгромадян, ви робите добру справу. Сфокусуйтеся на суперреальному ШІ, це найважливіше для безпеки ШІ."