Просто о сложном

ИИ столкнулся с непреодолимым потолком

26 октября, 20:22

За последние несколько месяцев вокруг ИИ разразилась настоящая информационная буря. Обещания Илона Маска о полностью самоуправляемых Tesla в ближайшие годы, предсказания о превосходстве ИИ над человеком уже в следующем году и планы по созданию армии роботов на базе ИИ к 2040‑му — всё это стало частью общего нарратива индустрии. Однако за фасадом оптимизма развивается гораздо более сложная реальность. Научные исследования и аналитика показывают, что рост ИИ сталкивается с закономерным потолком — пределом, который становится всё более очевидным. Именно о нем и пойдет речь в этой статье.

Современные системы искусственного интеллекта основаны на алгоритмах глубокого обучения (ДО) и искусственных нейронных сетях. Их принцип прост — подается огромный объем данных, и система обучается выявлять закономерности в них. После этого её используют для распознавания изображений, генерации текста, автономного вождения и множества других задач. Важнейшие достижения связаны с увеличением объема обучающих данных и мощностью вычислений.

Рекордные показатели эффективности достигаются благодаря экспоненциальному росту объема данных, а также развитию специализированных мощных чипов для обучения нейросетей. Но именно здесь и начинается сдвиг — прирост эффективности перестает расти пропорционально, достигая так называемой точки убывающей отдачи.

Опыт с системами компьютерного зрения иллюстрирует, как увеличения обучающих наборов приводят к всё меньшему росту точности. Например:

  • Обучение простого ИИ для распознавания собак и кошек на 100 изображениях дает 60% точности.
  • Увеличение набора до 200 изображений повышает точность до 65%.
  • При 400 изображениях — всего лишь до 67,5%.

Эти цифры показывают, что каждый следующий кусок данных дает все меньшую прибавку. В точке, когда набор данных достигает миллиардов образцов, прирост эффективности становится практически незаметен, а расходы на сбор и обработку данных — колоссальны.

Обучение нейронных сетей — одна из самых энергоемких задач в современной науке искусственного интеллекта. Для поиска закономерностей модель должна сравнить каждую точку данных со всеми остальными, что приводит к экспоненциальному росту требуемых вычислительных ресурсов. Вкладывать миллионы или миллиарды рублей в вычислительные мощности становится непрактично и технически сложно.

Пример из практики — модель ChatGPT-4. Ее обучение основано на базе данных примерно в 571 раз больше, чем у предыдущей версии — ChatGPT-3. Несмотря на такую масштабную масштабную подготовку, качество и точность ИИ не выросли пропорционально. Более того, его недостатки, такие как галлюцинации фактов или ошибочное понимание, остались актуальны.

Обучение GPT-4 использовало около 45 ТБ текста — это огромный объем. Для следующей итерации улучшение должно потребовать десятки тысяч ТБ, что в настоящее время является практически невозможной задачей. Даже при использовании максимально оптимизированных методов обработки и хранения таких данных, энергетические и финансовые затраты будут неумолимо расти — на уровне, недоступном для большинства исследовательских организаций.

Сам генеральный директор OpenAI, Сэм Альтман, заявил, что для продолжения развития нужны энергетические прорывы, такие как термоядерный синтез. Однако даже при успешной реализации таких технологий стоимость энергии останется высока, а доступность — ограниченной. В результате, улучшение любой модели ИИ связано с сопутствующими затратами, которая быстро приближается к пределам живых ресурсов.

Исследования, проведенные учеными из Университета Массачусетса в Амхерсте, подтверждают, что для повышения точности систем распознавания изображений до 95% потребуется затратить не менее 100 миллиардов долларов и произвести столько же выбросов углерода, сколько за месяц выбрасывает город Нью-Йорк. При этом, ошибочный показатель — 5% — все еще остается.

Пределы сложности и эффективности современных методов очевидны: дальнейшее повышение точности требует все больших затрат, которые становится невозможно оправдать с экономической и экологической точки зрения.

Автомобили Тесла с системами Autopilot и FSD — одни из наиболее продвинутых в отрасли. Однако даже их разработка сталкивается с этим потолком. Для полной автономности необходимо создать системы, которые распознают все ситуации вокруг автомобиля с точностью 100%. По оценкам экспертов, это потребует энергии и вычислительных ресурсов, сравнимых с затратами, превышающими возможности существующих технологий. Поэтому массовое использование полностью автономных машин остаётся недостижимым без прорывных технологий.

Несмотря на кажущийся безысходный характер ситуации, ученые ищут способы преодоления ограничений:

  • Разработка новых архитектур искусственного интеллекта, использующих меньшие по объему обучающие наборы без потери эффективности.
  • Внедрение аналоговых и квантовых технологий для ускорения обучения и снижения затрат энергии.
  • Использование методов обучения с меньшими требованиями к данным — например, few-shot или zero-shot обучения.
  • Оптимизация алгоритмов и улучшение вычислительной инфраструктуры для повышения эффективности использования ресурсов.

Однако все эти решения находятся на ранней стадии разработки и потребуют десятилетий для практической реализации.

Широкие заявления о колоссальных возможностях ИИ остаются отчасти преувеличенными. Текущий тренд показывает, что развитие систем искусственного интеллекта сталкивается с неумолимым потолком — границей, за которой любые дальнейшие улучшения требуют непомерных затрат ресурсов. Это означает, что сенсационные обещания о революционных решениях и полном автоматизировании многих сфер жизни могут оказаться недостижимыми в обозримой перспективе.

В будущем мы, вероятно, увидим постепенное и более реалистичное развитие технологий, основанное на новых принципах и архитектурах, которые смогут обеспечить более эффективное использование данных и энергии. Пока же, стоит сохранять баланс между амбициями и возможностями науки и технологий.