Мир-2030: чим загрожує нова технологічна революція

Мир-2030: чим загрожує нова технологічна революція

Сем Альтман, глава знаменитого інкубатора Y Combinator, написав колонку про те, чим загрожує усім нам технологічна революція.


У людській історії були три великі технологічні революції(і безліч дрібніших). Три головних —  сільськогосподарська, промислова і та, яка йде прямо зараз, — софтверна революція.

Великі технологічні революції вплинули на те, чим більшість людей займаються щодня і як влаштовано суспільство. Попередня(промислова) революція створила безліч робочих місць, тому що нова технологія вимагала величезної кількості людей. Але це була аномалія, а не нормальний хід розвитку технологій. І тому люди думають — можливо, підсвідомо — що технологічна революція завжди добре впливає на особистий економічний стан більшості людей.

Але схоже, що софтверна революція зробить те ж, що роблять зазвичай технології — створить нове багатство, але знищить робочі місця. Звичайно, ми, напевно, знайдемо щось нове, щоб задовольняти безмежні людські запити. Але досить прикидатися, що софтверна революція сама по собі добре позначиться на зарплатах.

Технологія дає додаткову підпору талантам і удачі, що в результаті призводить до концентрації багатства і посилення нерівності. Думаю, що різка майнова нерівність стане, ймовірно, одній з головних соціальних проблем наступних 20 років. Ми можемо перерозподіляти багатство(і зробимо це), але це все-таки не вирішує іншу проблему — людям треба робити щось, задоволення, що приносить їм.

Триматися за безглузді робочі місця — ідея жахлива, але популярна. Намагатися знайти нову роботу для мільярдів людей — ідея хороша, але очевидно, дуже важка в реалізації, тому що якими б не були ці робочі місця, вони, ймовірно, фундаментально відрізнятимуться від усього того, що існує сьогодні. Так що яке-небудь осмислене планування практично неможливе. Проте нинішня стратегія — "давайте прикинемося, що Трэвис Каланик просто жартує, коли говорить про самоврядні автомобілі, і що Uber вічно створюватиме мільйони робочих місць" — явно неадекватна відповідь.

Другий серйозний виклик софтверної революції — це концентрація влади в малих групах. Так трапляється під час більшості технологічних ривків, але остання дійсно жахлива технологія(ядерна зброя) виклала нам невірні уроки(так само як промислова революція — по частині створення робочих місць).

Атомну бомбу важко створити не тому, що циркуляція знання обмежена(хоча тому теж — якби я теоретично знав, як її виготовити, було б абсолютно незаконно про це розповідати), але тому, що збагачення урану вимагає величезної кількості енергії. По суті, для цього потрібні ресурси національного масштабу.

Знову-таки, це не нормальний хід речей для технологій — це просто особливість самої ядерної зброї. Софтверна революція, швидше за все, приведе до того ж, до чого приводить зазвичай технологія — більше влади буде зосереджено в руках невеликих груп людей.

Два найбільші ризики, які виникають з революції софтвера — штучний інтелект(ШІ) і синтетична біологія — можуть дати невеликим групам або навіть окремо взятим людям колосальні можливості завдавати іншим шкоди. Ймовірно, і зараз вже можливо розробити і зробити в маленькій лабораторії страшну хворобу. Розвиток ШІ, здатного покласти край людству, може зажадати зусиль всього декількох сотень людей, що знаходяться де завгодно і що не мають іншого устаткування, окрім ноутбуків.

Нові екзистенціальні загрози не зажадають ресурсів національного масштабу. Сьогодні те, що вимагало таких ресурсів — наприклад, створення ракет, — реалізується окремими компаніями, у тому числі завдяки софтверу.

Що ми можемо зробити? Ми не можемо зробити знання про усе це незаконним і сподіватися, що все буде добре. Ми не можемо зупинити технологічний прогрес.

Думаю, краща стратегія — це ввести на рівні закону розумні обмеження, але докласти усі зусилля, щоб перевага, що отримується завдяки технологіям, сильніше на стороні добра, чим на стороні зла. Якщо ми можемо синтезувати нові хвороби, то напевно, ми зможемо синтезувати і вакцини. Якщо ми можемо створити шкідливий ШІ, то напевно, ми зможемо створити і хороший ШІ, який його зупинить.

Сьогоднішня стратегія глибоко помилкова. Цього разу все буде не як з атомною бомбою, і чим раніше ми перестанемо прикидатися, тим краще. Той факт, що у нас ще не зроблено серйозних зусиль, щоб зупинити загрози, витікаючі від нових технологій ШІ і синтетичній біології, просто вражає.

Хочу підкреслити, що я прихильник софтверної революції, і мені повезло, що я народився в ці часи. Але боюся, ми вивчили невірні уроки минулого разу, і дві ці проблеми — масштабне знищення робочих місць і концентрація величезної влади — випущені з уваги.