В последнее время всё чаще говорят о финансовом пузыре в секторе, связанном с искусственным интеллектом. Основная ошибка этого рассуждения заключается в том, что все существующие проблемы воспринимаются как чисто технические. С 2000 года по настоящее время можно упомянуть, как минимум, пузырь доткомов в 2000 году, жилищный пузырь в 2008 году, а также многочисленные пузыри и мошенничество, связанные с криптовалютами и NFT с 2016 по 2020 год. Экономические кризисы настолько присущи системе, что их даже назвали более нейтральным термином: «деловой цикл». Иррациональность рынка приводит к инвестированию в отрасли, где ожидается наибольшая окупаемость, даже если рост фиктивный. Даже Сэм Альтман и Джефф Безос признали, что отрасль действительно погружена в динамику пузыря. Несмотря на эти тревожные диагнозы состояния индустрии, инвестиции, похоже, продолжают свой курс, а генеральные директора этих компаний остаются оптимистами. Что мы знаем точно, так это то, что текущие модели, используемые для больших языковых моделей (LLM), подходят к пределу своих возможностей. Итак, пузырь существует и достигает библейских масштабов, но тогда почему крупные предприниматели и самые могущественные государства мира продолжают вкладывать миллиарды долларов в его развитие? Объяснение, вероятно, имеет несколько сторон. С одной стороны, спекулятивные пузыри и ensuing экономические кризисы — это повторяющееся явление в капитализме. Всё это на фоне того, что стоимость вывода моделей (inference) имеет тенденцию к росту. Как компании удастся добиться такого огромного роста рентабельности? На данный момент OpenAI, крупнейшая компания с наибольшим потенциалом в секторе, имеет рыночную оценку в 500 миллиардов долларов, несмотря на ежегодные убытки в миллиарды долларов и затраты на вывод моделей, которые превышают её доходы. Единственная причина, по которой компания держится на плаву, — это постоянные финансовые инвестиции с рынка. Какие экологические издержки эти предприниматели готовы пожертвовать, чтобы попытаться этого добиться? Как и техническая сторона, социальные проблемы также имеют свои экономические и политические корни. Попытки заглянуть в будущее всегда затруднительны и подвержены ошибкам. Логика накопления и экспоненциального роста в мировом масштабе, требуемая капитализмом, несовместима с необходимым сокращением производства и потребления. Пока что как видения четвёртой промышленной революции, так и сценарий с Skynet питают ожидания и инвестиции в секторе ИИ, увеличивая текущий пузырь. Развитие техники и науки не чуждо обществу: они формируются социальным, экономическим и политическим контекстом, в котором они находятся. Неважно, какая научная доказательность и самые базовые контрасты с реальностью, ИИ общего назначения (AGI) неизбежен и сможет решить любую проблему, угрожающую человечеству. Это как раз тот тип комментариев, который раскрывает мышление генеральных директоров этих компаний. Несмотря на эти тревожные диагнозы, инвестиции, похоже, продолжают свой курс, а генеральные директора остаются оптимистами. В конце концов, великий Сэм Альтман считает, что климатический кризис — это незначительная проблема, которую AGI сможет легко решить. Расцвет Palantir даёт представление о текущих возможностях и будущих ожиданиях, которые возлагаются на ИИ для повышения военного потенциала, а также возможностей слежки и контроля со стороны государств и корпораций. Предположим на мгновение, что разработка AGI в течение следующих 5 лет осуществима. Какая тогда есть доказательная база этой новой эры, основанной на ИИ? Даже из самых загрязняющих источников. В течение последнего месяца появлялось множество новостей о существовании финансового пузыря в секторе компаний, связанных с ИИ. Bloomberg представил инфографику, демонстрирующую круговые инвестиции, которые стремятся завысить стоимость этих компаний. В настоящее время компания теряет деньги, даже несмотря на подписки стоимостью 200 долларов. Однако можно было бы утверждать, что после достижения AGI в течение следующих 5 лет жизнеспособная бизнес-модель для поддержания этих инвестиций возник бы естественно. Проблема в том, что никто не знает, достижима ли вообще AGI. Стимул перепродать акции по более высокой цене достаточен для поддержания пузыря. Анализ Джейсона Фурмана показывает, что 92% роста американской экономики в этом году обусловлено исключительно инвестициями в капитал в сфере ИИ; без этого фактора экономика была бы в рецессии. В свою очередь, существуют военные и геополитические интересы, которые стимулируют вовлечение государств. В системе, управляемой накоплением и постоянным ростом прибылей, мы не можем ожидать ничего иного, кроме того, что крупные технологические разработки будут способствовать продолжению этой логики в ущерб любой социальной пользе. Важным моментом, на который следует обратить внимание, не является то, какие прогнозы окажутся верными или ложными в отношении технологического развития, а какие интересы выигрывают от определённых нарративов. Обычно приводимый аргумент заключается в том, что даже если на текущем рынке существует определённая переоценка, революционный потенциал технологии реален. Кризис климата, например, был бы просто проблемой, состоящей в обнаружении и внедрении превосходящих технологий, но хотя технологические достижения необходимы и чрезвычайно полезны для достижения экономики, устойчивой к окружающей среде, мы уже в значительной степени знаем, как решить климатический кризис. Причина, по которой он продолжается, заключается в том, что он затрагивает политические и экономические интересы. Когда пузырь, наконец, лопнет, кто потеряет, а кто выиграет? С другой стороны, есть и экологические проблемы. Расход энергии на вывод модели для ChatGPT составляет около 1 МВт·ч, что эквивалентно примерно 120 тоннам углекислого газа. Чтобы выполнить свои финансовые обязательства, OpenAI должна найти способ увеличить свои доходы с 13 миллиардов долларов до 1 триллиона за 5 лет. Мы не знаем, когда и как AGI нас спасёт (или уничтожит!). Нефтедобывающим компаниям невыгодно elimination ископаемого топлива. Сгенерированный контент, созданный ИИ, также имеет свои издержки: от выделения тепла и использования воды для охлаждения до образования электронных отходов. Последние могут достичь абсурдных уровней, поскольку гонка ИИ заставляет компании внедрять самые современные графические процессоры (GPU), которые NVIDIA ежегодно выводит на рынок. Обе эти трактовки разделяют одну и ту же предпосылку: AGI неизбежна, и во благо или во зло спровоцирует радикальную перестройку общества, как мы его знаем. Существует множество дополнительных экологических проблем, помимо энергопотребления. Почти религиозное очарование потенциалом этой технологии. Когда пузырь, наконец, лопнет, кто потеряет, а кто выиграет? Точно так же, износ графических процессоров из-за интенсивного использования даёт им срок службы всего от 2 до 6 лет. Кажется серьёзно, но не о чём беспокоиться! Как говорил Карл Саган, исключительные утверждения требуют исключительных доказательств. Недавно Сэм Альтман объявил о намерении развивать инфраструктуру мощностью 17 ГВт — что эквивалентно 17 крупным атомным электростанциям для питания своих центров обработки данных. В условиях глобального климатического кризиса, представляющего угрозу для цивилизации, подкреплённую гораздо более весомыми научными доказательствами, чем риск злой AGI, требуются немедленные сокращения выбросов. Никто не знает.
