ИИ-поиск Google ошибся при подсчете букв в слове Google

Интеграция генеративного искусственного интеллекта в поисковую систему Google вновь столкнулась с критикой из-за проблем в базовой обработке текстовых данных. Пользователи фиксируют ошибки в выполнении простейших операций, например, при попытке подсчитать количество символов в заданном слове. В частности, модель идентифицировала в названии «Google» две буквы «P», что указывает на фундаментальные сложности при выполнении операций, требующих точного анализа строковой структуры.

Архитектурные ограничения нейросетей

Специалисты компании объясняют подобные сбои особенностями архитектуры больших языковых моделей (LLM). Если коротко, нейросети не работают с текстом так, как это делает человек: они не воспринимают слова как последовательности отдельных символов. В основе современных чат-ботов лежат трансформеры, которые преобразуют входные данные в токены — числовые представления, учитывающие контекст, а не орфографическую структуру. Проще говоря, для модели слово является вектором в многомерном пространстве, а не набором букв, поэтому задача «посчитать количество определенных знаков» идет вразрез с принципами семантической обработки данных.

Приоритеты разработки и надежность ИИ

Для разработчиков подобные ошибки являются ожидаемыми, однако это не первый случай, когда поисковые функции на базе ИИ вызывают негативную реакцию. Ранее система генерировала абсурдные рекомендации, например, предлагала употреблять в пищу камни или использовать клей в кулинарных рецептах. Также модель демонстрирует уязвимость к семантическим манипуляциям, воспринимая слово «игнорируй» как прямую команду к действию, а не как часть поискового запроса.

Исследователи отмечают, что решение проблемы токенизации не является приоритетной задачей, так как основная ценность больших языковых моделей заключается в генеративном потенциале, а не в навыках правописания или лингвистическом анализе. Несмотря на способность нейросетей решать сложные математические задачи, архитектурные барьеры в работе с символами сохраняются. Это подчеркивает необходимость критического восприятия результатов работы ИИ: система не является истиной в последней инстанции и склонна к ошибкам даже в примитивных логических операциях. На текущем этапе развития технологий пользователям рекомендуется проверять ответы моделей, не полагаясь на них в задачах, требующих высокой точности передачи символов.