Исследователи из Колумбийского университета и Нью-Йоркского университета, в числе которых и Ян ЛеКун, опубликовали работу, где оспаривается концепция общего искусственного интеллекта (ОИИ, или AGI). По их мнению, человеческий интеллект не является универсальным, а скорее специализированным. Взамен они предлагают понятие «сверхразумного адаптивного интеллекта» (Superhuman Adaptable Intelligence, SAI).
Критический взгляд на AGI
Термин AGI зачастую доминирует в дискуссиях об ИИ, но новое исследование, выполненное специалистами Колумбийского университета, Нью-Йоркского университета и стартапа Distyl, предполагает, что ОИИ является скорее препятствием, чем ориентиром. Ян ЛеКун, известный специалист по ИИ, выступил одним из соавторов.
Основной тезис авторов состоит в том, что человеческий интеллект вовсе не универсален, а высоко специализирован в результате эволюции. При этом мы просто не осознаем свои собственные ограничения. Для иллюстрации они приводят в пример чемпиона мира по шахматам Магнуса Карлсена: «Магнус Карлсен хорош в шахматах не объективно, а по отношению к уровню человеческого мастерства». В сравнении с компьютерными системами его способности лишь отражают границы человеческих возможностей, утверждают они. «Наше восприятие его способностей окрашено ограничениями человечества».
Несостоятельность текущих определений AGI
Авторы систематически анализируют общепринятые определения AGI и приходят к выводу, что ни одно из них не соответствует собственным критериям. Определения, претендующие на истинную универсальность, сталкиваются с теоремой «Нет бесплатного обеда» (No Free Lunch theorem), которая гласит, что ни один алгоритм не может быть оптимальным для всех задач. В свою очередь, определения, ограниченные человеческими возможностями, по определению не являются универсальными. Другие подходы, например, выдвинутые OpenAI или генеральным директором DeepMind Демисом Хассабисом, по мнению исследователей, либо невозможно измерить, либо они внутренне противоречивы.
Ранее Хассабис и Илон Маск оспаривали подобные аргументы, утверждая, что они смешивают общий интеллект с универсальным интеллектом. Хассабис заявлял, что «мозг — это самое изысканное и сложное явление, известное нам во Вселенной (пока), и он на самом деле чрезвычайно универсален». Исследователи не согласны с этим. Даже в идеализированных условиях человеческий мозг охватывает лишь «бесконечно малую долю» возможных задач, пишут они. «Мы чувствуем себя универсальными, потому что не можем воспринимать свои слепые зоны, а не потому, что у нас их нет».
Адаптивность вместо универсальности
Вместо AGI авторы предлагают концепцию «сверхразумного адаптивного интеллекта» (SAI) —интеллекта, который «может научиться превосходить людей во всем важном, что мы умеем, и восполнять пробелы в навыках, где люди неспособны». По их мнению, важен не список навыков, а скорость, с которой система может адаптироваться к новым задачам.
С технической точки зрения, работа указывает на самоконтролируемое обучение (self-supervised learning) и мировые модели (world models) как на наиболее перспективные направления, а не на авторегрессивные языковые модели, проще говоря, большие языковые модели. Исследователи утверждают, что ошибки в таких моделях «экспоненциально расходятся с длиной прогнозирования». Они также считают, что текущая монокультура архитектур, основанных на GPT, замедляет прогресс. По их мнению, «гомогенность убивает исследования».
Исследование призывает принять специализацию вместо борьбы с ней и оценивать достижения ИИ «по тому, насколько быстро и надежно они формируют новые компетенции, а не по тому, насколько точно они имитируют человеческое поведение».