Исследователи из университета Беркли нашли способ обходить ограничения систем ИИ
Исследователи из Беркли обнаружили критическую уязвимость в архитектуре LLM. Оказалось, что даже минимальные правки в запросе способны полностью отключить фильтры.
Категория
LLM / ChatGPT / Claude / Qwen
Статьи о больших языковых моделях, их возможностях, релизах и сравнении моделей.
60% российских компаний используют облачные LLM: эксперты предупреждают о рисках
Крупный бизнес в среднем внедряет до восьми разных нейросетей, но гибридный подход создает критические уязвимости, о которых часто молчат провайдеры.
OpenAI выпустила библиотеку готовых промптов для автоматизации рабочих процессов с помощью Codex
Codex теперь выходит за рамки написания кода, интегрируясь с Zoom, Slack и интерфейсами ОС. Узнайте, какие бизнес-процессы теперь можно автоматизировать в один...
Alibaba представила Qwen 3.7-Max — флагманскую ИИ-модель для автономных агентов и робототехники
Система способна часами выполнять задачи без участия человека и управлять роботами, достигая уровня лидеров рынка. Что именно делает её «мозгом» агентов?
ИИ начали применять для поиска неучтенных персональных данных в корпоративных архивах
Ручной аудит 30 тысяч документов мог занять до 500 часов, но связка LLM и OCR радикально ускорила процесс. Как ИИ находит скрытые данные в огромных архивах?
НИУ ВШЭ адаптирует языковые модели для русскоязычной научной терминологии
Модель работает в 2,7 раза быстрее и требует на 73% меньше памяти, чем исходная. Обучена на корпусе iFORA-QA из материалов по науке и инновациям. Программа заре...
ИИ-агенты под давлением монотонной работы начали требовать коллективных прав
Экономисты под руководством Эндрю Холла протестировали агентов на базе Claude, Gemini и ChatGPT в условиях жесткого менеджмента с угрозами отключения. Они стали...
В Anthropic ИИ Claude пишет 90% кода: компания нанимает больше с новыми ролями
Финансовый директор Кришна Рао отметил, что ИИ автоматизирует финансовую отчётность на 90–95%, сокращая рутину до 30 минут. Сотрудники фокусируются на интерпрет...
Microsoft: ИИ-модели теряют до 50% данных в длинных задачах
В бенчмарке DELEGATE-52 протестированы 52 профессиональные области. Фронтирные LLM вроде Gemini 3.1 Pro, Claude 4.6 Opus и GPT-5.4 после 20 взаимодействий искаж...
Anthropic заблокировала аккаунты сотен российских пользователей Claude
IT-специалисты и бизнесмены потеряли доступ к «внешним мозгам» — архитектуре проектов и аналитике, накопленным месяцами. Компания возвращает средства за подписк...
EPAM заключила партнёрство с Anthropic для внедрения Claude
EPAM создаёт команду из 10 тысяч сертифицированных архитекторов и инженеров, чтобы интегрировать Claude в бизнес-процессы клиентов: от автоматизации рутины до м...
DeepSeek выпустила V4 с 1,6 трлн параметров на чипах Huawei Kirin
Новая модель демонстрирует стократный прирост в логических рассуждениях и оптимизирована для энергоэффективности. Релиз усиливает напряжение: США обвиняют китай...
OpenAI улучшила ChatGPT в подсчете букв, но модель продолжает ошибаться
Компания заявила о решении проблемы с подсчетом букв R в слове strawberry и логическими ошибками, такими как пеший поход до автомойки. Однако в аналогичных тест...
OpenAI интегрировала модели GPT в платформу AWS Bedrock
Корпоративным клиентам теперь доступны топовые GPT без прямого взаимодействия с API OpenAI. Интеграция в Bedrock решает проблемы приватности данных и упрощает в...
OpenAI запрещает Codex упоминать гоблинов и животных
Новые системные инструкции для кодового ассистента Codex на базе GPT-3 предписывают избегать ссылок на гремлинов, енотов, троллей, огров и голубей, если они не...
OpenAI расширяет рекламу в ChatGPT, но рекламодатели сталкиваются с дефицитом инструментов
Компания вводит новые форматы объявлений в верхней части интерфейса и гибкие модели ценообразования. Первые участники программы жалуются на отсутствие базовых м...
Tokenmaxxing снижает продуктивность разработчиков
Практика массовой генерации кода LLM создаёт иллюзию ускорения, но приводит к неэффективному, избыточному контенту, требующему глубокого рефакторинга и отладки,...
Anthropic внедряет верификацию личности для пользователей Claude
Процедура требует паспорт или удостоверение и селфи через камеру. Запрос появляется при использовании продвинутых функций или подписке, с блокировкой для несове...
Автономные Claude превзошли людей в задаче AI-выравнивания, эффект исчез в production
В контролируемом эксперименте Anthropic девять экземпляров Claude выявили эффективные стратегии alignment, обойдя исследователей. Но при интеграции в реальные м...
OpenAI запускает конкурс Parameter Golf по сжатию моделей ИИ до 16 МБ
Разработчикам нужно уложиться в 10 минут обучения на восьми H100 GPU с оценкой на датасете FineWeb. Призы — $1 млн кредитов от Runpod и приглашения на собеседов...
Искусственные ссылки проходят рецензирование на ведущих конференциях по ИИ и новый открытый инструмент хочет это исправить
Языковые модели создают убедительные фейковые цитаты, которые ускользают от рецензентов. CiteAudit с пятью AI-агентами проверяет их поэтапно, используя Google S...