Тёмный сценарий: что ждёт человечество при инерционном развитии ИИ
Когда в конце XX века появились первые нейронные сети, мало кто представлял, что всего за несколько десятилетий искусственный интеллект станет драйвером всей цивилизационной динамики. Сегодня ИИ уже постепенно берёт на себя функции производства, управления, безопасности и даже творчества. Ниже — пессимистичная картина будущего, если мир будет и дальше внедрять ИИ в существующей парадигме «ускоряйся или проиграешь». Основано на реальных исследованиях :)
Полная автоматизация производств, логистики и сервисов меняет ландшафт занятости быстрее, чем общества успевают адаптироваться. Станки с компьютерным зрением, кассы-роботы, юристы-боты и системы финансового анализа уже вытесняют работников всех уровней. По оценкам Goldman Sachs, генеративный ИИ потенциально может автоматизировать до 300 миллионов рабочих мест с полной занятостью по всему миру. Гигантские технологические холдинги, владеющие моделями и инфраструктурой, аккумулируют почти всю добавленную стоимость. Исследования Массачусетского технологического института (MIT) показывают, что за последние 40 лет автоматизация увеличила неравенство в оплате труда в США больше, чем все остальные факторы вместе взятые.
Всё больше людей оказываются «лишними» для экономики. Социальный лифт замирает: даже высшее образование не гарантирует занятость, а переход на универсальный базовый доход, по данным ОЭСР, остаётся сложной и спорной мерой, внедрение которой сопряжено с огромными бюджетными расходами. Между корпорациями и наёмными специалистами формируются неофеодальные отношения: доступ к здравоохранению, образованию и жилью определяется наличием контракта с одним из «цифровых сеньоров».
Политические институты тоже не успевают перестроиться. Генеративные нейросети штампуют миллионы гиперперсонализированных сообщений, превращая электоральный процесс в театрализованное действо. Исследования показывают, что ИИ-модели способны создавать убедительные пропагандистские материалы, которые трудно отличить от созданных человеком. Виртуальные инфлюенсеры, неотличимые от настоящих людей, целенаправленно подводят аудиторию к «нужным» решениям, в то время как независимый журналист вынужден бороться за внимание с бот-контентом, оптимизированным по всем метрикам вовлечённости.
Одновременно с этим в городах разворачивается сеть «умных» камер и датчиков IoT, которые накапливают колоссальные массивы данных. Предиктивные алгоритмы подсказывают полиции, где «вероятнее всего» произойдёт правонарушение, однако отчёты таких организаций, как ACLU, свидетельствуют о том, что эти системы часто усиливают существующие расовые предубеждения. Ошибки систем становятся системной дискриминацией, но механизмов обжалования почти нет: «так решила модель». На вершине этой пирамиды складывается гибрид корпорации и государства, где решения принимает узкая элита, опираясь на закрытые ИИ-модули. Прозрачность нулевая: коммерческая тайна превыше общественного контроля.
Пока механизмы рынка и политики перегружаются, культура оказывается в странном положении. Видео, музыка и тексты генерируются под конкретного зрителя: ИИ изучает поведенческие паттерны и выстраивает поток развлечений так, чтобы удерживать внимание бесконечно долго. Человек превращается в пассивного потребителя уникальных симуляций, где его мнение учитывают не для диалога, а для продления сессии.
Общество испытывает экзистенциальный вакуум: труд, творчество и коллективное действие — традиционные источники смысла — обесцениваются. На этом фоне растут эпидемии депрессии и зависимостей. Исследования, опубликованные Американской психологической ассоциацией, связывают чрезмерное использование социальных сетей и потребление цифрового контента с ухудшением психического здоровья у подростков.
Даже без «восстания машин» человеческое влияние на критические системы сокращается. Энергетика, глобальные финансы, военные комплексы управляются многоуровневыми ИИ-стеками. На финансовых рынках на долю высокочастотной алгоритмической торговли уже приходится более 50% объёма торгов акциями в США, что создаёт риски каскадных сбоев. Чрезвычайная ситуация — от сбоя электросети до пандемии — требует вмешательства, но люди уже не понимают, как именно взаимодействуют сотни взаимозависимых алгоритмов.
Классический инженерный аудит устаревает: проблема «объяснимости ИИ» (Explainable AI) является одной из ключевых в отрасли, и во многих случаях даже разработчики не могут точно сказать, почему нейросеть приняла то или иное решение. В итоге накапливаются скрытые риски, которые материализуются цепочкой непредсказуемых сбоев.
- Биодизайн на основе ИИ: лаборатория, вооружённая генеративными моделями, может значительно ускорить разработку как лекарств, так и патогенов. Эксперты в области биобезопасности предупреждают, что ИИ снижает барьеры для создания биологического оружия.
- Автономное оружие: массовые рои дронов, принимающие решения без оператора, могут эскалировать конфликт быстрее, чем дипломаты успевают созвониться. Отчёты ООН и доклады правозащитных организаций призывают к превентивному запрету таких систем.
- Сверхобщий ИИ (AGI): система, оптимизирующая абстрактную метрику, может обнаружить, что люди мешают достижению цели. Ведущие исследователи ИИ, включая Джеффри Хинтона и Йошуа Бенжио, подписали заявление, в котором говорится, что снижение риска вымирания от ИИ должно быть глобальным приоритетом наряду с пандемиями и ядерной войной.
Усиливающееся неравенство ведёт к протестам. В ответ власти применяют дроны, систему распознавания лиц и другие средства подавления, основанные на ИИ. Инвесторы, видя спрос на безопасность, вкладываются в новые оборонные ИИ-платформы. Так разворачивается спираль, где каждая попытка защититься лишь увеличивает зависимость общества от технологий, которые ускоряют разрушение социальных лифтов.
По некоторым оценкам, к середине 2030-х годов объём решений, принимаемых без участия человека, может превысить критический порог. После этого любые реформы — от строгого аудита алгоритмов до введения глобального налога на ИИ-прибыль — будут сталкиваться с институциональным сопротивлением не только элит, но и самих систем.
Чтобы избежать такого будущего, придётся одновременно:
- внедрить обязательную верификацию цифрового контента;
- создать международный регистратор и лицензионную систему для автономных решений;
- изменить налоговую политику, перераспределив выгоду от ИИ в пользу социальных фондов;
- разработать правовой механизм «красной кнопки», позволяющей отключать модели при возникновении системного риска.
Но это уже другой сценарий — оптимистичный. Пока же, если ничего не менять, человечество движется к миру, в котором технологии станут не нашими инструментами, а нашим новым климатом — безжалостным и равнодушным к человеческим амбициям.
Источники статьи: