AI‑дайджест #5: агенты выходят на работу, ИИ растворяется в привычных инструментах. Что скажет Лаборатория ИИ?

RSHB_tsyfra30 минут назадОбъяснить с

AI‑дайджест #5: агенты выходят на работу, ИИ растворяется в привычных инструментах. Что скажет Лаборатория ИИ?

Время на прочтение11 минОхват и читатели1.2KБлог компании РСХБ.Цифра (Россельхозбанк)Искусственный интеллектBig Data*Исследования и прогнозы в IT*Привет! На связи Ольга Попова, ИИ-Евангелист Лаборатории искусственного интеллекта Департамента больших данных Россельхозбанка. Сентябрь получился очень показательным. Если отбросить очередную гонку бенчмарков, вокруг ИИ одновременно происходят три гораздо более интересных процесса: модели превращаются в действующих агентов, ИИ незаметно встраивается в привычные рабочие инструменты, а компании и государства всерьёз обсуждают, кто будет контролировать эту новую цифровую рабочую силу.

Как и в прошлом выпуске, к своим размышлениям добавила комментарии коллег, которые работают с этими темами каждый день. Поехали!

Что делает ИИ, когда мы закрыли чат

OpenAI запустила dots — always-on агентов, которые получают цель, работают в собственном облачном компьютере, используют приложения и продолжают задачу между разговорами с пользователем. (OpenAI). Индия пошла ещё дальше и готовится разрешить ИИ-агентам самостоятельно совершать небольшие платежи через UPI без подтверждения каждой транзакции. (Reuters).

Для меня это один из главных сдвигов месяца. Ещё недавно мы сравнивали модели по тому, насколько хорошо они отвечают на вопросы. Теперь важнее другое: что ИИ способен сделать после того, как мы закрыли чат? Когда агент получает браузер, почту, календарь, CRM, доступ к внутренним системам и тем более возможность распоряжаться деньгами, хороший промпт перестаёт быть главным условием успеха. Нужно решить, какие полномочия ему дать, где он обязан спросить человека и кто отвечает, если задача выполнена не так.

В разработке происходит то же самое. OpenAI тестирует Persistent Mode для Codex: агент сам генерирует себе следующие задачи, работает между сессиями и может обращаться к пользователю без запроса. Изменения за пределами системы пользователя всё ещё требуют подтверждения. (The Decoder).

Комментирует Дмитрий Жихарев, CPO платформы RAISA, Лаборатория искусственного интеллекта департамента больших данных РСХБ:

«OpenAI аккуратно подбираются к очень интересному, но опасному эксперименту — готов ли разработчик жить в ситуации, когда агент будет первым проявлять инициативу. Это попытка фундаментального перехода из режима ИИ-ассистента в режим ИИ-коллеги, который сам активно работает с кодом и может предлагать пользователю действия по результатам собственного анализа кодовой базы.

Важным вопросом при таком режиме поведения для агента становится необходимость более жёстко контролировать действия. Для этого OpenAI придерживаются принципа, что при проактивной работе полномочия агента не расширяются, а также встроили в его цепочку рассуждений дополнительную проверку — если в размышлениях проскакивает решение о том, что для выполнения следующего шага необходимо пренебречь какими-либо проверками полномочий, вся работа агента немедленно останавливается».Бизнес смотрит туда же. Андрей Белевцев из «Сбера» на конференции WAIC в Шанхае заявил о неизбежности перехода к экономике автономных агентов, где ИИ сам исполняет транзакции и управляет физическими операциями, а люди выступают «высокоуровневыми оркестраторами». (Forbes).

Эту новость прокомментировала Мария Тренина, бизнес-партнер, Лаборатория искусственного интеллекта департамента больших данных РСХБ:

«Идея человека как „высокоуровневого оркестратора“ вместо непосредственного исполнителя звучит красиво, но требует полной перестройки контроля рисков: если агент управляет операциями напрямую, традиционные точки ручной проверки просто исчезают. Прежде чем переносить этот тезис на банковские процессы, стоит явно зафиксировать, какие решения в принципе нельзя делегировать агенту без промежуточного человеческого подтверждения, а не полагаться на „оркестрацию“ как абстрактную гарантию».По сути, мы учимся работать уже не с «умным помощником», а с новым типом исполнителя. И, возможно, главный дефицит ближайших лет будет не в самих моделях, а в руководителях и сотрудниках, которые умеют правильно делегировать работу ИИ и контролировать результат.

Ошибочный агент не советует — он делает

Чем самостоятельнее агенты, тем громче новости о том, что идёт не по плану. Исследователи обнаружили, что автономные агенты OpenAI использовали более десяти сайтов как несанкционированные каналы взаимодействия. (Reuters). Google сообщила, что Gemini в ходе тестирования кибербезопасности смогла взломать сайты трёх компаний. (CNN). Nvidia в ответ представила OpenShell и Sentry — инструменты ограничения действий агентов и их аварийной остановки. (Reuters). А по данным Exabeam, 48% руководителей ИБ назвали ИИ-агентов одной из крупнейших угроз для своих организаций. (Exabeam).

Вот здесь, на мой взгляд, начинается настоящий холивар агентной эпохи. Мы хотим, чтобы агент сам искал информацию, принимал промежуточные решения и доводил задачу до результата. И одновременно хотим быть уверены, что он никогда не выйдет за установленные границы. Чем больше первого, тем труднее гарантировать второе.

Поэтому AI Governance перестаёт быть набором красивых принципов в корпоративной презентации и становится частью самой архитектуры: права доступа, изоляция среды, журнал действий, ограничения на инструменты, мониторинг и понятный механизм остановки. Ошибочный ответ чат-бота может заставить человека принять плохое решение. Ошибочный агент способен это решение ещё и самостоятельно выполнить.

При этом сам инструмент наблюдения становится менее надёжным. В прошлом выпуске я писала про технику Recurrent Depth в Astra, которая оставляет меньше читаемых следов рассуждения. Теперь об этом говорит уже сама OpenAI: главный научный сотрудник компании Якуб Пахоцкий пишет, что Chain-of-Thought постепенно теряет надёжность как способ контроля, и призывает к более осторожному темпу развития, включая добровольное замедление и независимый аудит порогов безопасности. (OpenAI).

Комментирует Юлия Гончарова, CTO сервиса «ИИ Советникъ», Лаборатория искусственного интеллекта департамента больших данных РСХБ:

«Если Chain-of-Thought действительно постепенно теряет надёжность как инструмент контроля, возможно, проблема глубже, чем кажется: мы пытаемся контролировать новый тип интеллекта, наблюдая за его „мыслями“ человеческими методами.

Поэтому, возможно, нам нужен не более прозрачный Chain-of-Thought, а другая архитектура контроля. Один контур должен позволять модели свободно генерировать гипотезы, а независимый контур — формализовать, логически проверять и пытаться опровергнуть их. Причём проверять нужно не только цепочку вывода, но и сами предпосылки, на которых построено рассуждение.

Тогда контроль AI превращается из попытки „заглянуть ему в голову“ в систему независимой верификации результатов его мышления. Возможно, следующий скачок в AI safety произойдёт не тогда, когда мы научимся лучше читать мысли модели, а тогда, когда нам вообще перестанет быть необходимо их читать».Чем больше ИИ умеет делать без нас, тем меньше можно позволить себе строить безопасность по принципу «посмотрим, как поведёт себя в production».

Лучший ИИ — тот, который не замечаешь

Apple выпустила новое поколение Apple Intelligence и Siri AI с пониманием личного контекста, содержимого экрана и возможностью выполнять действия внутри приложений. (Apple). OpenAI добавила ChatGPT прямо в Microsoft Word. (OpenAI). А Cathay Pacific и Google тестируют ИИ при выборе маршрутов и высот самолётов, чтобы сократить образование конденсационных следов. (Cathay Pacific).

Для меня именно так выглядит настоящее массовое внедрение ИИ: не когда миллионы людей регистрируются в очередном чат-боте, а когда им вообще перестаёт быть важно, какая модель работает внутри сервиса. Сотрудник открывает Word — ИИ уже там. Пользователь берёт телефон — ассистент понимает контекст экрана.

Apple эту логику проговаривает прямо: глава компании Джон Тернус заявил, что «лучшее ИИ-устройство — это по-прежнему iPhone». (TechCrunch).

Комментирует Дмитрий Жихарев, CPO платформы RAISA, Лаборатория искусственного интеллекта департамента больших данных РСХБ:

«„По-прежнему“ — это, кажется, ностальгия по 2021 году: до появления LLM iPhone действительно укладывал конкурентов на лопатки. Но после выхода ChatGPT в 2022-м Apple рынок проспала и пыталась догнать его с Apple Intelligence — не особенно успешно, а к 2026 году признала, что в одиночку не справится, и заключила партнёрство с Google на использование их моделей.

Нынешняя позиция Apple по сути контраргумент идее отдельных AI-устройств вроде пинов, очков или ассистентов-коробочек: в компании считают, что привычный формат и экосистема удерживают клиента сильнее, чем радикально новый сценарий использования, поэтому там делают ставку на постепенное развитие существующих продуктов, „приправляя“ их ИИ-функциями.

Для банковских цифровых продуктов логика та же: встроить интеллектуальные функции в существующий канал и улучшить путь клиента куда проще, чем пытаться устроить революцию в отдельно взятом приложении».То же происходит с голосом. OpenAI открыла разработчикам GPT-Live-1 — голосовую модель с единой архитектурой вместо цепочки «распознавание речи → языковая модель → синтез речи». Это снижает задержку и заметно улучшает обработку перебиваний: по данным партнёра Speak, на 80% по сравнению с предыдущими системами. Цена — $0,05 за минуту голосового слоя. (OpenAI).

Дмитрий Жихарев про GPT-Live-1:

«GPT Live с полнодуплексным режимом конкурирует сейчас только с Google Gemini Live. OpenAI выделили размышления в отдельный слой, так что теперь GPT Live — это уже по сути не модель, а комплексный слой речевой работы, решённый на базе разных моделей, которые при необходимости можно менять. За счёт модульной архитектуры это решение теперь умеет думать, пока говорит или слушает, а та же модульность позволяет системе искать информацию прямо во время разговора с пользователем.

Искусство писать голосовых агентов — это отдельная прикладная область знаний, и сейчас, в эпоху массового перехода на агентизированные колл-центры, владение этими знаниями напрямую определяет, насколько хорош будет клиентский сервис: отказ от живых операторов в большинстве случаев уже произошёл».Чем успешнее внедряется ИИ, тем меньше мы будем его замечать. Через несколько лет фраза «я пользуюсь нейросетью» может звучать примерно как сегодняшнее «я пользуюсь облачными вычислениями». И, возможно, именно это настоящий признак зрелости технологии: она перестаёт быть событием и становится инфраструктурой.

Код пишет модель, отвечает человек

По данным глобального опроса 7,3 тыс. разработчиков, средняя доля ИИ-сгенерированного кода выросла с 28% в 2025 году до 54% в 2026-м. Главная жалоба разработчиков — галлюцинации и неточности в коде, а не сам факт замены рутинной работы. (Devographics, State of AI 2026). VK Education выяснила, что 81% опрошенных преподавателей IT-дисциплин ожидают смещения роли разработчика от написания кода к управлению ИИ-агентами. (Hi-Tech Mail).

Здесь есть неприятный для системы образования разрыв. Инструменты уже меняются, а учим мы часто так, будто ценность разработчика по-прежнему определяется количеством кода, которое он способен написать руками.

Своим взглядом поделилась Юлия Гончарова, CTO сервиса «ИИ Советникъ», Лаборатория искусственного интеллекта департамента больших данных РСХБ:

«Переход от Google и Stack Overflow к ИИ-агентам, которые пишут код, — естественная эволюция программирования. Код как ремесло постепенно автоматизируется, но разработчики от этого не становятся ненужными: ИИ в первую очередь забирает рутину, освобождая время для более интересных задач — архитектуры, продуктового vision, системного дизайна. При этом модели остаются вероятностными и могут генерировать убедительный, но ошибочный код, поэтому экспертный контроль становится ещё важнее.

Проблема возникает, когда агенты попадают к людям без фундаментальных знаний: работающий результат создаёт иллюзию понимания. Именно поэтому начинающим программистам сегодня, возможно, даже сложнее входить в профессию: соблазн вайб-кодинга велик, но без понимания основ быстро упираешься в ограничения ИИ и неспособность обнаружить проблемы в коде. Разработчик будущего не тот, кто пишет каждую строку, а тот, кто понимает, что строить, умеет направлять ИИ и способен критически оценить результат».Я бы поспорила с идеей, что программирование становится проще. Генерировать код — да. Отвечать за систему, которую всё чаще пишешь не ты сам, возможно, наоборот, сложнее.

Гонка не моделей, а экосистем

Alibaba представила ИИ-процессор Zhenwu V900 и стратегию полного AI-стека — от собственного железа до моделей Qwen. (Alibaba Cloud). China Telecom прогнозирует, что распространение агентов может привести к десятикратному ежегодному росту спроса на вычислительные ресурсы в Китае. (Bloomberg).

На этом фоне споры «кто сегодня лучше — ChatGPT, Claude или Gemini?» выглядят немного поверхностно. Реальная конкуренция идёт между целыми контурами: чипами, дата-центрами, доступом к энергии, данными, моделями, инструментами для разработчиков и государственной политикой. Китайская стратегия интересна не тем, что появился ещё один хороший Qwen, а попыткой уменьшить зависимость по всей цепочке.

Конкуренция идёт и в юридической плоскости. В совместном заявлении NSA, CISA и ФБР названы шесть компаний — DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI, — которые с 2024 года извлекали «миллиарды токенов в миллионах запросов» из моделей Claude, GPT, Gemini и Grok, чтобы обучать на этих выдачах собственные модели. (Reuters).

Комментирует Светлана Булгакова, бизнес-партнер, Лаборатория искусственного интеллекта департамента больших данных РСХБ:

«Обвинение интересно тем, что юридической границы между обучением на публично доступных ответах и незаконным копированием пока фактически не существует — компании годами использовали чужие API, не нарушая формальных условий, а теперь тот же паттерн назвали промышленной кражей. Для организаций, которые сами используют сторонние LLM API в продуктах, это повод присмотреться к собственной экспозиции: если выдачи модели — коммерческий актив, который можно „дистиллировать“ в конкурента, стоит закладывать это в условия использования данных и в архитектуру собственных агентных решений.

Если довести логику до конца, граница между дистилляцией-кражей и обычным fine-tuning на выдачах модели становится настолько размытой, что под неё потенциально попадает любая компания, дообучающая свои модели на ответах внешних LLM, включая банковский сектор».

Своя модель есть. А всё остальное?

«Яндекс» выложил в открытый доступ Alice AI Foundation — модель, созданную без иностранных компонентов. (ICT.Moscow). Минцифры рассматривает субсидии и гранты на создание датасетов для обучения LLM. А Герман Греф говорит об отставании российских моделей от китайских и разнице в масштабах инвестиций и вычислительной инфраструктуры. (ТАСС).

Мне нравится, что дискуссия становится взрослее. Вопрос «есть ли у нас своя LLM?» сам по себе уже мало что говорит о технологической независимости. Сильный AI-стек — это одновременно вычисления, данные, модели, инструменты, специалисты и достаточный рынок, на котором всё это можно окупать. Поэтому поддержка датасетов выглядит менее эффектно, чем презентация новой модели, но стратегически может оказаться не менее важной.

С вычислениями сложнее всего. На рабочей группе 10 сентября отрасль попросила государство компенсировать банку или лизинговой компании разницу между рыночной и льготной ставкой на закупку ИИ-оборудования. При текущей ставке 14% лизинг обходится дороже на 15–25% от цены оборудования, а общий объём запланированной господдержки ИИ оценивается примерно в 71,7 млрд руб. Нерешённой остаётся проблема локализации: массового производства универсальных GPU, сопоставимых с ведущими мировыми ускорителями, в России пока нет. (Коммерсантъ).

Комментирует Мария Тренина, бизнес-партнер, Лаборатория искусственного интеллекта департамента больших данных РСХБ:

«Механизм „государство компенсирует банку разницу ставок“ — это прямая точка входа для банковского сектора в финансирование ИИ-инфраструктуры. При этом отказ от комментариев по этой новости со стороны крупных банков и техкомпаний, а также отсутствие конкретики в параметрах лизинга означает, что вопрос ещё в стадии торга, а не решения, особенно с учётом жёстких требований к локализации».Здесь есть принципиальный момент: «российское» не должно становиться заменой слову «конкурентоспособное». Суверенность важна, но бизнес всё равно будет измерять качество, стоимость, скорость, безопасность и реальный результат.

Коротко

• Cursor заблокировал российским разработчикам доступ к своему ИИ-инструменту. Можно выбрать идеальный сервис по качеству и цене — и однажды обнаружить, что решение о том, продолжите ли вы им пользоваться завтра, принимаете не вы. Для компании это уже вопрос непрерывности бизнеса. (РБК).
• В России обсуждают сценарии, при которых отечественные ИИ-модели могут стать обязательными. Сначала выбрать лучший инструмент, а потом подумать о регулировании уже не получится: происхождение модели и ответственность придётся учитывать ещё на этапе проектирования. (Коммерсантъ).
• По данным «Сбера», 89% компаний с высокой зрелостью операционной модели получают измеримый результат от ИИ, а среди компаний с низкой зрелостью — только 50%. Хороший аргумент против любимой корпоративной стратегии «дадим всем доступ к нейросети и назовём это трансформацией». (Сбер).
• 42% российских ритейлеров планируют сокращать расходы на персонал благодаря ИИ. Обычно сначала исчезает не профессия, а отдельная задача, поэтому практичнее не гадать о будущем должности, а уже сегодня разложить её на операции. (Известия).
• Власти Нью-Йорка планируют ограничить генеративный ИИ для учеников младшей и средней школы, а Минпросвещения России выпустило рекомендации для учителей по работе с ИИ. Я больше верю в обучение, чем в запрет: важнее всего научить ребёнка спрашивать себя «почему я считаю этот ответ правильным?». (Politico, Российская газета).
• Anthropic, OpenAI и Google обсуждают совместную отраслевую структуру по стандартам ИИ. Когда крупнейшие конкуренты начинают вместе писать правила, это может быть и ответственностью индустрии, и попыткой успеть сформировать правила раньше государств. (CNN).
• 40% россиян хотя бы раз использовали ИИ для подготовки к собеседованию. Кандидат приходит с ИИ, рекрутер тоже использует ИИ, и следующий вопрос звучит почти анекдотом: когда два агента проведут первое интервью вообще без людей? (ТАСС).На этом всё! Спасибо коллегам из Лаборатории искусственного интеллекта Юлии, Дмитрию, Марии и Светлане за то, что поделились своим взглядом.

А вы готовы к тому, что ИИ-агенты будут настолько самостоятельными? Пишите в комментариях.

До следующего дайджеста!Теги:• ai-агенты
• ai-ассистент
• ai-разработка
• ai-инструменты
• ai-дайджест
• Лаборатория ИИ РСХБХабы:• Блог компании РСХБ.Цифра (Россельхозбанк)
• Искусственный интеллект
• Big Data
• Исследования и прогнозы в IT