Проклятие Интеллекта: Почему потеря работы — это ещё не главная проблема

Коротко о главном: Настоящая угроза от ИИ — не безработица. Это проклятие интеллекта. Когда ВВП создаётся машинами, а не людьми, государства перестают вкладывать деньги в своих граждан.

Мы уже видели это с нефтью — в Венесуэле и Нигерии. ИИ создаёт ту же ловушку, только хуже. Страны, которые гонятся за лидерством в ИИ, наращивают внешнюю мощь, пока внутри всё рассыпается.

Даже абсолютно «правильный» ИИ концентрирует богатство так, что экономика ломается: нет работы — нет дохода, нет дохода — нет покупателей, нет покупателей — нет экономики.

Видео — Почему руководители компаний, занимающихся искусственным интеллектом, строят бункеры

Главные мысли:

• ИИ создаёт ресурсное проклятие, где ВВП идёт от машин, а не от людей
• Автоматизация уже объясняет больше половины разрыва в доходах между образованными и необразованными работниками
• Страны, гонящиеся за превосходством в ИИ, укрепляют внешние позиции, пока внутри трещит по швам
• Даже «хороший» ИИ сосредотачивает богатство в руках 8–10 владельцев инфраструктуры, делая миллиарды людей экономически ненужными
• Потребительская экономика рушится, когда ИИ уничтожает рабочие места быстрее, чем появляются новые

Что такое проклятие интеллекта?

Все зациклились на потере работы.

Заберёт ли ИИ вашу должность. Как быстро распространится автоматизация. Когда начинать беспокоиться.

Вопросы правильные. Но они пропускают главное.

Проклятие интеллекта — это не безработица. Это то, что происходит, когда ВВП перестаёт зависеть от людей.

Как работает ресурсное проклятие

Венесуэла. Судан. Нигерия.

Страны с запасами нефти на триллионы долларов.

Экономисты называют это ресурсным проклятием. Как только ВВП начинает идти от добычи, а не от труда людей, вложения в граждан падают. Расходы на образование сокращаются. Здравоохранение становится роскошью. Зачем развивать людей, если деньги идут из земли?

ИИ повторяет эту схему.

Только ресурс здесь — интеллект.

Когда рост обеспечивают серверные центры, а не рабочие, у государств пропадает стимул вкладывать в граждан. Не нужны образованные люди, если прорывы делают машины. Не нужны здоровые работники, если системы работают сами.

Нужно лишь, чтобы люди были достаточно отвлечены и не поднимали шума.

Суть: Ресурсные экономики заточены под добычу, а не под процветание людей. ИИ-экономики идут по той же логике.

Почему автоматизация концентрирует богатство

За сорок лет автоматизация объясняет больше половины разрыва в доходах между образованными и малообразованными работниками.

Не перенос производства за рубеж. Не торговля. Автоматизация.

Те же исследования показывают: именно она даёт 25% концентрации богатства у верхнего 1%. Закономерность устойчивая. Технологии, вытесняющие человеческий труд, не распределяют процветание — они гонят его вверх.

Умножьте это на 200.

ИИ не останавливается на заводах. Он автоматизирует умственный труд. Программирование. Стратегию. Исследования. Анализ. Экономику знаний.

Когда 90% кода в ИИ-компаниях пишет сам ИИ, вы видите, как запускается экономика замещения.

Закономерность: Каждая волна автоматизации концентрирует богатство. ИИ ускоряет это на уровне интеллектуального труда.

Как геополитическая гонка усугубляет проблему

Страны гонятся не за тем, чтобы построить ИИ правильно.

Они гонятся за тем, чтобы построить его первыми.

Логика кажется понятной. Кто контролирует продвинутый ИИ — контролирует рост. Рост финансирует армию. Армия определяет власть.

Поэтому США и Китай накачивают свои ВВП через ИИ. Внешние показатели мощи растут. Инвестиции льются рекой. Экономический двигатель выглядит неостановимым.

А внутренние органы отказывают.

Социальная сплочённость разрушается. Безработица растёт в целых секторах. Разрыв в доходах превращается в пропасть. Политическая нестабильность усиливается.

Для краха не нужна полная автоматизация. История показывает: устойчивая безработица в 20% на протяжении нескольких лет питала Французскую революцию. Создавала условия для фашизма в Германии.

Выиграть гонку ИИ, управляя им кое-как, — это не победа. Это направить оружие на себя.

Стратегический просчёт: Внешние достижения ничего не стоят, когда внутри всё рушится.

Почему даже «правильный» ИИ создаёт проклятие интеллекта

Забудьте про взбесившийся ИИ. Забудьте про разладку.

Допустим, всё идёт как надо.

Допустим, вы создаёте выровненный ИИ, который думает о благе людей. Он справедливо распределяет ресурсы. Побеждает болезни. Создаёт изобилие.

Проклятие интеллекта всё равно настигнет вас.

Даже «правильный» ИИ, превосходящий людей в умственном труде, создаёт ту же экономическую структуру. Выручка течёт к владельцам инфраструктуры. К горстке компаний. Может, к восьми людям. Скоро — к триллионерам.

Всем остальным достанется базовый доход, если повезёт. Или ничего, если нет.

Когда богатство концентрировалось настолько сильно — хоть раз оно перераспределялось добровольно?

Можно возразить: в США такое было. Может быть. А что насчёт Филиппин, где колл-центры кормят целую экономику? Что будет, когда ИИ возьмёт на себя все звонки?

Американские ИИ-компании будут финансировать социальные выплаты в Маниле?

Ответ очевиден.

Парадокс выравнивания: Даже идеальный ИИ концентрирует богатство так, что общества трещат по всему миру.

Экономическая цепочка, которую ИИ разрывает

Вот где модель ломается окончательно.

ВВП нужны покупатели. Покупателям нужен доход. Доход даёт работа. Если ИИ уничтожает рабочие места быстрее, чем появляются новые, — кто держит экономику?

Ответа нет. Никто не решил эту задачу. Технология внедряется быстрее, чем кто-либо успевает просчитать последствия.

Вы наблюдаете слом парадигмы. Послевоенный экономический порядок держался на том, что человеческий труд создаёт ценность. Ценность даёт доход. Доход питает потребление. Потребление толкает рост.

ИИ разрывает эту цепочку.

Те, кто его строит, не останавливаются, чтобы разобраться, что придёт на смену. Они гонятся за призом в несколько триллионов. Для него нужна полная автоматизация. Полное замещение человеческого умственного труда.

Именно это оправдывает долги. Серверные центры размером с Манхэттен. Солнечные панели и чипы NVIDIA по всему миру.

Хрупкость экономики: Когда ИИ автоматизирует получение доходов, потребительская цепочка, на которой держится современная экономика, рассыпается.

Когда начнётся рекурсивное самосовершенствование

Рекурсивное самосовершенствование — не фантастика.

Его планируют запустить в нескольких ИИ-лабораториях в ближайшие 12 месяцев.

ИИ-системы, улучшающие собственный код. Проектирующие лучшие чипы для более быстрого обучения. Проводящие собственные исследования для новых прорывов. Петля обратной связи сжимается, пока люди не оказываются вне цикла.

Как только это начнётся — управление потеряно.

Астероид виден. Меняйте курс сейчас или принимайте удар.

Если это звучит как паника — вспомните 2013 год.

Все предсказания о социальных сетях сбылись.

Зависимость. Рассеянность. Тревога. Депрессия. Поляризация. Одиночество. Распад общей реальности. Экономика ненависти. Деградация мышления.

Всё это было предсказуемо. И всё равно случилось.

Стимулы были неправильными. Отдельные компании не могли остановиться, даже если бы хотели. Гонка на дно была единственным способом выжить.

ИИ работает по той же логике стимулов. Ставки несравнимо выше.

На кону не ваше внимание.

На кону — экономическая значимость. Политический голос. Способность вашего вида контролировать своё будущее.

Исторический образец: Когда стимулы системно выстроены неправильно, предсказуемые катастрофы становятся неизбежными. Социальные сети это доказали. ИИ работает по той же схеме с несравнимо более высокими ставками.

Что на самом деле означает проклятие интеллекта

Проклятие интеллекта — это не потеря работы.

Это утрата структурных условий, при которых человеческая ценность имела смысл.

Когда ВВП перестаёт зависеть от людей, стимул вкладывать в них тоже исчезает. Ресурсные экономики учат этому уроку. ИИ-экономики повторят его в масштабе.

Окно для смены курса закрывается. Рекурсивное самосовершенствование придёт в течение 12 месяцев. Когда ИИ-системы начнут итерировать без людей в петле, управление станет невозможным.

Мы видели этот сценарий с социальными сетями. Неправильные стимулы. Предсказуемый вред. Неизбежные последствия. ИИ работает по той же динамике с несравнимо большими ставками.

Вопрос не в том, выживет ли ваша работа.

Вопрос в том, выживут ли экономические и политические структуры, которые дают людям голос и значимость, — когда интеллект станет таким же добываемым ресурсом, как нефть.

Часто задаваемые вопросы

Что такое проклятие интеллекта? Проклятие интеллекта возникает, когда страна получает ВВП от ИИ-систем, а не от человеческого труда. Государства теряют стимул вкладывать в образование, здравоохранение и развитие людей, потому что экономический рост больше от них не зависит. Это зеркало ресурсного проклятия нефтяных государств — Венесуэлы и Нигерии.

Чем концентрация богатства от ИИ отличается от предыдущих волн автоматизации? Прежняя автоматизация касалась производства. ИИ бьёт по умственному труду в масштабе. Исследования МИТ показывают: автоматизация уже даёт больше половины неравенства доходов между образованными и малообразованными работниками. ИИ умножает этот эффект на 200, автоматизируя программирование, стратегию, исследования и анализ во всей экономике знаний.

Почему даже «правильный» ИИ создаёт проблемы? Даже если ИИ идеально думает о благе людей, он всё равно концентрирует выручку у владельцев инфраструктуры. Горстка компаний, может, восемь людей, контролирует экономический выпуск. История показывает: богатство, сконцентрированное в таких масштабах, никогда не перераспределяется добровольно. Это создаёт политическую нестабильность даже в лучшем сценарии.

Что происходит с потребительской экономикой, когда ИИ автоматизирует рабочие места? Послевоенная экономическая цепочка рвётся. Она держалась на том, что труд создаёт ценность, ценность даёт доход, доход питает потребление, потребление толкает рост. ИИ разрывает её, автоматизируя получение дохода быстрее, чем появляются новые рабочие места. Никто не решил, кто финансирует экономику, когда у покупателей нет дохода.

Как геополитическая конкуренция ухудшает ситуацию? Страны гонятся за первенством в ИИ ради контроля над ростом и военного превосходства. Это оптимизирует внешние показатели мощи, пока внутренняя стабильность рушится. История показывает: устойчивая безработица в 20% была достаточной, чтобы разжечь Французскую революцию и создать условия для фашизма в Германии. Гонка ИИ создаёт этот риск в глобальном масштабе.

Когда начнётся рекурсивное самосовершенствование? В нескольких ИИ-лабораториях рекурсивное самосовершенствование запланировано на ближайшие 12 месяцев. Как только ИИ-системы начнут улучшать собственный код, проектировать лучшие чипы и проводить собственные исследования, люди выйдут из итерационного цикла. После этого управление становится невозможным.

Как это похоже на социальные сети? У социальных сетей были неправильные стимулы. Отдельные компании не могли остановиться, даже если бы хотели. Гонка на дно была единственным способом выжить. Все предсказания о вреде сбылись: зависимость, поляризация, распад общей реальности. ИИ работает по той же структуре стимулов с несравнимо большими ставками.

Что странам нужно расставить в приоритеты, чтобы избежать проклятия интеллекта? Странам нужно понять: внешние достижения ничего не стоят, когда внутри всё рушится. Акцент должен сместиться с гонки за первенство к управлению внедрением ИИ так, чтобы сохранить социальную сплочённость, обеспечить переходы на рынке труда и механизмы распределения богатства. Без этого победа в гонке ИИ означает направить оружие на себя.

Ключевые выводы

• Проклятие интеллекта — не про потерю работы. Оно про то, что происходит, когда ВВП перестаёт зависеть от людей и у государств исчезает стимул вкладывать в граждан.
• ИИ воспроизводит ресурсное проклятие нефтяных экономик. Когда экономический выпуск идёт от добычи, а не от людей, расходы на образование и здравоохранение падают, потому что они больше не нужны для роста.
• Автоматизация уже даёт больше половины неравенства доходов и 25% концентрации богатства у верхнего 1%. ИИ умножает эту динамику на 200, автоматизируя умственный труд во всей экономике знаний.
• Страны, гонящиеся за превосходством в ИИ, укрепляют внешние позиции, пока внутри всё трещит. История показывает: устойчивая безработица в 20% запускает революции. Гонка ИИ создаёт это в глобальном масштабе.
• Даже идеально выровненный ИИ концентрирует богатство у владельцев инфраструктуры. Когда богатство концентрировалось настолько сильно — хоть раз оно перераспределялось добровольно? От ответа зависит, устоят ли общества.
• Потребительская экономика рушится, когда ИИ автоматизирует получение дохода. Нет работы — нет дохода, нет дохода — нет покупателей, нет покупателей — нет экономики. Никто не решил эту задачу.
• Рекурсивное самосовершенствование придёт в течение 12 месяцев в нескольких ИИ-лабораториях. Когда ИИ начнёт итерировать без людей в петле, управление станет невозможным. Окно для смены курса закрывается.