Data Science ODS

🏃‍♂️ GigaChat 3.1 Ultra & Lightning: большое обновление открытых моделей В ноябре мы открыли preview-версии GigaChat 3 Ultra и Lightning. С тех пор серьёзно доработали и модели, и весь пайплайн — высокие результаты на аренах, улучшенный function calling, решённая проблема циклов, DPO в нативном FP8, найденный и зарепорченный баг в SGLang при dp > 1. Сегодня выпускаем обновлённые GigaChat 3.1 Ultra и GigaChat 3.1 Lightning в опенсорс под MIT лицензией! GigaChat 3.1 Ultra 🔘 702B параметров (36B активных на токен) 🔘 По нашим замерам обходит non-reasoning Qwen3-235B-A22B и DeepSeek-V3-0324 в математике и general reasoning 🔘 Существенный прирост качества по сравнению с ноябрьским preview — как в метриках, так и в реальных диалогах 🔘 Контекст 131K токенов ➡️ GitVerse | HuggingFace GigaChat 3.1 Lightning 🔘 10B параметров (1.8B активных) 🔘 На аренах отвечает на уровне GPT-4o 🔘 Остаётся одной из лучших моделей в своём размере, особенно сильна в function calling 🔘 Серьёзный выигрыш по скорости за счёт MoE + MTP + FP8 🔘 Контекст 256K токенов ➡️ GitVerse | HuggingFace Обе модели • Обучены с нуля — без инициализации зарубежными весами • MoE + MTP + MLA • Совместимы с HuggingFace, llama.cpp / vLLM / SGLang Для нас это не просто апдейт весов — это история про то, как переход на новую архитектуру вскрывает неожиданные проблемы на всех уровнях стека, от данных до инфраструктуры. 🤖 Подробнее — в статье на Habr

ГОЛЛИВУД ПОБЕДИЛ Сёма развёлся с Sora Самая расхайпованная на свете лавка Шмуля Альтмана (фото) – изобретатель ChatGPT – OpenAI объявила о закрытии генеративной нейросети Sora. Эту фичу специально вывели два года назад для создавания качественных видео по текстовому запросу. Массовый пользователь получил доступ к этому ГИИ в ноябре 2025-го. Sora вызвала бурю негодований в Голливуде и бурную радость криминала. Первым это ПО угрожало минимум – исключением живых актеров из съёмок, вторым – сулила лёгкое и почти даровое создание дипфейков для любых кибервзломов. В сопоре о Sora победил Голливуд. OpenAI откажется от поддержки версии нейросети для разработчиков и от видеофункционала в чат-боте ChatGPT. "Мы прощаемся с приложением Sora. Спасибо всем, кто творил с помощью Sora, делился своими работами и создавал вокруг них сообщество", – написали якобы от команды проекта в Х. Создатели обещали рассказать о способах сохранить сгенерированный контент. Позже. По словам самого Шмуля Иеремиевича, команда Sora займется долгосрочными проектами, например, – робототехникой. Но это – не точно. Возможно, уволят всех, как обычно. OpenAI планирует изменить стратегию, сосредоточиться на разработке инструментов для повышения продуктивности корпораций и частных пользователей. ВАШУ ЦИФРУ! Настоящая причина, конечно, не опасность интернет-ворья и не визги с хуйливудских пригорков. Дело – в деньгах и рынке. OpenAI запустила Sora в надежде ее применения в создании вертикальных видео для TikTok. Но много воды утекло. Китаёзскую сеть в США прижали, а Сёму заткнули, точнее – "направили в позитивное русло" крупным контрактом с Пентагоном. Ведь еще год назад сотрудники OpenAI поражались: зачем сколько денежных и вычресурсов Сэмэн вкладывает в крайне рискованный проект, при полном отсутствии признаков его востребованности для работы на благие цели

📌 Google разработала алгоритм квантования KV-кэша без потери точности. Подразделение Research анонсировало TurboQuant, алгоритм векторного квантования, объединяющий 2 других метода - QJL и PolarQuant, который решает проблему увеличения KV-кэша при работе с длинным контекстом. TurboQuant будет представлен на ICLR 2026, PolarQuant - на AISTATS 2026.

KV-кэш хранит промежуточные представления токенов, чтобы модель не пересчитывала их на каждом шаге генерации. С ростом контекста он превращается в узкое место по памяти. Обычное векторное квантование сжимает эти данные, но вносит накладные расходы: для каждого блока нужно хранить константы квантования в полной точности, а это плюс 1–2 бита на элемент, что частично обесценивает само сжатие.

🟡TurboQuant - двухэтапный пайплайн. Сначала PolarQuant: случайный поворот выравнивает геометрию векторов, после чего они переводятся из декартовых координат в полярные (радиус и угол). Распределение углов оказывается предсказуемым и сконцентрированным, поэтому нормализация и хранение дополнительных констант становятся больше не нужны. На втором этапе подключается QJL, метод на основе преобразования Джонсона-Линденштраусса, который кодирует остаточную ошибку первого этапа всего одним знаковым битом и через встроенную оценочную функцию сочетает высокоточный запрос с низкоточными сжатыми данными, корректно вычисляя attention score. Ни один из методов не требует обучения или дообучения и работает в режиме "без предварительного анализа набора данных". Алгоритмы тестили на бенчмарках для длинного контекста: LongBench, Needle In A Haystack, ZeroSCROLLS, RULER и L-Eval с моделями Gemma и Mistral.

При квантовании KV-кэша до 3 бит TurboQuant показал нулевую деградацию точности на всех задачах: поиск «иголки в стоге сена», QA, генерация кода, суммаризация.

Объем KV-кэша при этом сократился в 6 раз. На H100 четырехбитный TurboQuant ускорил вычисление attention-логитов до 8 раз по сравнению с 32-битными ключами.

Область применения не ограничивается KV-кэшем. В экспериментах с высокоразмерным векторным поиском TurboQuant стабильно превзошел по recall методы PQ и RaBitQ несмотря на то, что те использовали крупные код-буки и подстройку под конкретный датасет. 🟡Статья 🟡Arxiv @ai_machinelearning_big_data 🎯Полезные Мл-ресурсы 🚀 Max #AI #ML #LLM #TurboQuant #Google

Openpilot 0.11 — первый робо-агент, обученный только на симуляциях Команда Comma.ai опубликовала интересный пост, где утверждает, что впервые в истории индустрии выпустила на дороги робо-агент, полностью обученный в вымышленной нейросетями симуляции. Немного контекста: в Comma.ai разрабатывают систему помощи водителю, совместимую со многими моделями автомобилей. Система работает на втором уровне автономности — умный лейн-кипинг в широком спектре сценариев. Эта задача гораздо проще, чем полностью автономное вождение, что позволяет Comma.ai экспериментировать. В то время как Waymo и британская команда Wayve интегрируют модели мира в свои пайплайны, Comma.ai идёт ещё дальше и отказывается от всего, кроме модели мира. Похожую идею предлагали учёные из Беркли в классической для робототехники статье DayDreamer — интересно, что этот подход удалось адаптировать для автономного вождения. Вот что предлагают создатели Openpilot 0.11: Шаг 1. Собрать 40 тысяч часов интересных видео, записанных флотом автономного транспорта и разбить их на сцены по 10 секунд с частотой 5 Гц. Шаг 2. Обучить на этом датасете двухголовую модель мира: 🔴 первая голова предсказывает по видеоконтексту следующее действие эго-агента, 🔴 вторая — генерирует следующий кадр по видеоконтексту и только что полученному следующему действию. Потом к контексту добавляется сгенерированный кадр, и процесс повторяется. Секретный ингредиент — подавать на вход модели не только две секунды истории, но и последнюю секунду в эпизоде. Так ей понадобится предсказывать только промежуточную траекторию — это значительно улучшает сходимость. В итоге получается достаточно реалистичный симулятор вождения, который генерирует следующий кадр по двум секундам видео и действию эго. Шаг 3. Обучить в полученном симуляторе небольшую модель-водителя, которая должна сходиться в финальное состояние по одному лишь видео, не видя последний кадр. Щедро насыпать шум на всех стадиях для устойчивости. Openpilot 0.11 обучали on-policy — модель много едет по сгенерированной ей самой траектории, что выгодно отличает подход от обычного imitation learning. При этом награды или штрафы не задавались явно — по опыту reinforcement learning, конструирование наград иногда всё только портит. Авторы усвоили горький урок: для того чтобы всё сошлось, достаточно увеличить количество данных и размер модели. Единственная проблема, которая остаётся, — модель-водитель может научиться ломать симуляцию непредсказуемыми способами. Авторы утверждают, что это решается за счёт гипотезы большого мира: одновременно увеличивать и модель мира, и размеры водителя так, чтобы мир всегда был на порядок больше. В парадигме Level 2 получается хороший результат — агент держит линию и расстояние до других, объезжает запаркованные авто. Но вопрос, будет ли это скейлиться на более сложные задачи, остаётся открытым. Разбор подготовил ❣️ Кирилл Федянин 404 driver not found

«Сбер» представил новое поколение GigaChat на основе модели GigaChat Ultra «Сбер» обновил ИИ-помощника 🏷GigaChat. В его основу легла версия модели GigaChat Ultra, которая разработана и обучена в России. Теперь он запоминает факты о пользователе и использует их для дальнейшей персонализации общения и предлагаемых решений. Кроме этого, помощник самостоятельно ищет информацию в интернете. GigaChat Ultra позволяет создавать на своей основе прикладные ИИ-продукты и сервисы, а также запускать код в интерпретаторе — изолированной среде в интерфейсе помощника. Помимо этого, обновленный GigaChat генерирует текстовые ответы в два раза быстрее, чем предыдущая версия. ИИ-модель прошла три этапа обучения. Первый — заключался в обучении на различных материалах. На промежуточном этапе улучшались специализированные навыки: расширен корпус кода, добавлены данные по наукам. На финальном этапе стабилизировалась работа в реальных условиях. 🔗 Источник: https://www.sberbank.ru/ru/sberpress/all/article?newsID=f1a3ecf6-09cd-4d5d-bc58-3b92f4ba790b&blockID=1303&regionID=77&lang=ru&type=NEWS --- Подпишитесь на Email-рассылки ICT.Moscow по общей ИТ-повестке, искусственному интеллекту и аналитике, чтобы всегда оставаться на связи.

В Китае озабочены Generative Engine Optimization Китайские сервисы по оптимизации генеративных запросов наполняют интернет большим объёмом мусорных статей. О проблемах манипуляции ИИ-моделями в рекламных целях рассказала ежегодная передача по случаю Дня защиты прав потребителей (3.15 Gala). Поскольку интернет-пользователи всё больше полагаются на ИИ-решения (в Китае DeepSeek, Doubao и Kimi), а не поисковики, на смену поисковой оптимизации приходит генеративная (Generative Engine Optimization, GEO). В Китае сформировался рынок GEO-услуг: компании могут заказывать выведение в топ своего бренда или дискредитацию конкурента. Для этого моделям скармливается нужная информация, которую генерируют с помощью тех же моделей. Журналисты продемонстрировали, насколько просто сейчас можно заставить ИИ выдать нужный результат. Иными словами, насколько неразборчивы модели. GEO-сервис использовался для продвижения несуществующего фитнес-трекера Apollo-9. Спустя пару часов после генерации и публикации рекламного контента два ИИ-чатбота не только упомянули «продукт» по тематическому запросу, но и включили его в топ лучших. Проблема касается и западных моделей: в феврале журналист BBC поставил опыт и, потратив 20 минут, смог сделать себя лучшим технологическим журналистом по поеданию хот-догов в «глазах» ChatGPT и Gemini. Для этого ему потребовалось всего лишь написать статью с рейтингом на личном сайте (позднее он добавил приписку, что это не сатира, чтобы и ИИ относился к материалу серьёзно). Возможно, в Китае ситуация с рекламным отравлением моделей обстоит острее в связи с большим внедрением ИИ в повседневную жизнь, чем на Западе или в России. Но это только вопрос времени.

🧊 0DIN выпускает сканер безопасности ИИ с открытым исходным кодом Сканер 0DIN — специализированная платформа для оценки безопасности генеративного ИИ и агентных моделей, созданная на базе открытого проекта GARAK, разработанного командой NVIDIA. На протяжении последних двух лет 0DIN занималась созданием инфраструктуры для поиска, отслеживания и анализа уязвимостей в передовых ИИ-моделях. Главная особенность сканера заключается в его библиотеке: в отличие от инструментов со статическими проверками, она непрерывно пополняется новыми методами атак (джейлбрейками и инъекциями промптов) на основе реальных отчетов из программы вознаграждений за найденные уязвимости (bug bounty) от 0DIN. Проект имеет открытый исходный код и распространяется по лицензии Apache 2.0.

Сканер построен на основе сканера уязвимостей NVIDIA GARAK LLM. Мы расширили возможности GARAK, добавив графический интерфейс, функцию планирования, нашу собственную библиотеку, отчетность корпоративного уровня и информацию об уязвимостях, поступающую непосредственно из нашей программы вознаграждения за обнаружение ошибок.

— пишут исследователи. Исследователи заявляют, что опенсорсный продукт имеет следующие фичи: 1️⃣ 179 модулей проверок (полезных нагрузок) от сообщества, охватывающих 35 семейств уязвимостей и согласованных с десяткой главных угроз OWASP Top 10 для LLM. 2️⃣ Многоцелевое сканирование: тестирование языковых моделей (LLM), работающих через API, а также браузерных чат-интерфейсов. 3️⃣ Сканирование по расписанию и по запросу с настраиваемой периодичностью. 4️⃣ Оценка метрики успешности атак (ASR — Attack Success Rate) с отслеживанием динамики и тенденций между сеансами сканирования. 5️⃣ Экспорт отчетов в формат PDF с возможностью глубокой детализации по каждому вектору проверки и конкретной попытке эксплуатации. 6️⃣ Интеграция с SIEM-системами: экспорт логов и результатов в Splunk или Rsyslog. 7️⃣ Multi-tenant архитектура — поддержка нескольких организаций в рамках одного развертывания. Данные шифруются при хранении (encrypted at rest). 8️⃣ Отсутствие искусственных ограничений: полный функционал «из коробки», неограниченное количество сканирований и пользователей. Сканер работает путем прямого подключения к API или веб-интерфейсам различных ИИ-моделей (от продуктов OpenAI и Anthropic до локальных LLM), после чего автоматически запускает структурированные наборы проверок (полезных нагрузок) и формирует отчет с метрикой успешности атак (ASR). 😘https://0din.ai/blog/0din-releases-open-source-ai-security-scanner ❗️ https://0din-ai.github.io/ai-scanner ✋ @Russian_OSINT

ИНВЕСТОРЫ В ПАРОВОЗНЫЙ СВИСТОК Только 7-10% пилотных проектов бигтехкомпаний, запущенных в 2025 г. и связанных с внедрением больших языковых моделей, чат-ботов на базе искусственного интеллекта (ИИ) и ИИ-агентов, дошли до стадии полноценного внедрения. 90% проектов – в стадии пилотирования, или полностью пересмотрены, или закрыты. Такова статистика опроса консалтеров "Интеллектуальной аналитики" около 50 крупнейших организаций сферы ИКТ, промышленности, финансов, госсектора, транспорта и логистики. Опрос проводили с декабря 2025 по февраль 2026 гг. Респонденты рассказали, что 30-40% пилотов они свернули, так как ИИ-потуги не дали финансового эффекта. Все закрытые проекты показали слабую или нулевую интеграцию в реальные бизнес-процессы компаний, следует из опроса. В большинстве случаев компании не интегрируют модели с CRM (Customer Relationship Management – система управления взаимодействием с клиентом), ERP (Enterprise Resource Planning – система управления бизнес-процессами и ресурсами компании), документооборотом и другими корпсистемами. Главная причина – компании начинали не практичные проекты (с единственным разумным бизнес-вопросом – "Где и Как это принесёт деньги?"), а – "громко-публичные" инициативы с сильным PR-эффектом. Так следует из ответов респондентов. ВАШУ ЦИФРУ! На четвертом годУ сумасшествия (ChatGPT вывели на рынок в конце ноября 2022-го) по генеративному искусственному "интеллекту" (ГИИ, речь ведь – именно о нем) доказано: денег сам по себе он не зарабатывает. Да никакой ИИ не приносит денег сам по себе. Он их только жрёт. Чтобы начать зарабатывать с ИИ/ГИИ нужно сперва создать бизнес-модель. И тогда уже – подключать к ней компьютер с необходимыми ИКТ-системами. В т. ч. – интеллектуальными

Compresr — каждый токен на счету Длинные агентные сессии в Claude Code и Cursor быстро упираются в контекстный лимит. История диалога, результаты тулов, прочитанные файлы — всё это забивает окно и ухудшает качество ответов. Стандартная компакция Anthropic решает проблему, но при срабатывании /compact пользователь вынужден ждать минуту‑две, пока модель суммаризирует историю. Compresr предлагает альтернативу — локальный прокси Context Gateway, который сжимает контекст заранее и делает компакцию мгновенной. Принцип работы Context Gateway развёртывается на машине пользователя и садится между агентом и LLM‑провайдером. Прокси отслеживает размер истории и при достижении порога запускает фоновую суммаризацию. К моменту, когда агенту нужна компакция, она уже готова. Кроме истории, gateway сжимает tool outputs и управляет tool discovery — вместо показа всех инструментов он выбирает подмножество, релевантное текущему запросу. Два уровня сжатия 🟣Token-level compression — алгоритмический выбор наиболее важных токенов с сохранением смысла, используется для системных промптов, RAG‑контекста и длинных документов 🟣Chunk-level filtering — удаление нерелевантных блоков целиком, применяется для предфильтрации результатов ретривера перед композицией промпта Три модели 🟣Espresso — agnostic compression, не требует query, используется для системных промптов и статической документации 🟣Latte — query-aware compression, требует явного запроса пользователя, применяется в RAG и Q&A сценариях 🟣Coldbrew — chunk-level filtering, отбирает релевантные чанки без изменения текста Характеристики Заявленный диапазон сжатия — от 2x до 100x в зависимости от избыточности контента. В публичном демо Compresr снижает задержку на 25% и экономит 20% токенов. На бенчмарке FinanceBench модель Latte при ~10x сжатии даёт точность 74.5% против 72.3% в бейзлайне. Способы поставки 🟣Context Gateway — CLI‑бинарь на Go 🟣SDK — библиотека на Python 🟣VS Code‑расширение — для сжатия CLAUDE.md файлов Compresr особенно интересен для длинных код‑сессий и RAG‑пайплайнов с большими документами — именно там, где стандартная компакция становится узким местом. Как тебе такое, Александр?

«Compresr интересен тем, что он решает одну из самых актуальных проблем современных LLM-систем — управление контекстом. В большинстве агентных фреймворков контекст растёт почти бесконтрольно: история диалога, результаты инструментов, куски кода... В какой-то момент всё это начинает не только упираться в лимиты токенов, но и ухудшать качество ответов модели. Compresr предлагает довольно радикальное решение — вынести управление контекстом в отдельный инфраструктурный слой. Gateway фактически становится «операционной системой» для контекста: он решает, какие данные вообще попадут в окно модели. Особенно интересна идея chunk-level filtering. По сути, это дополнительный этап между retriever и prompt construction. В RAG-системах именно там часто появляется шум: ретривер возвращает слишком много слабосвязанных фрагментов, которые просто занимают место в контексте. С другой стороны, агрессивная компрессия — это всегда компромисс. Слабые сигналы, второстепенные детали и длинные логические цепочки могут теряться. Поэтому заявленные коэффициенты сжатия в десятки раз стоит воспринимать скорее как демонстрацию возможностей, чем как реальный production-режим. Но сама тенденция выглядит важной: по мере роста агентных систем всё больше оптимизаций происходит не внутри модели, а на уровне orchestration-слоя. И инструменты вроде Compresr — хороший пример того, как начинает формироваться новая инфраструктура вокруг LLM», — отметил Александр Тараканов, исследователь AI VK.

Насколько, на ваш взгляд, жизнеспособен вынос управления контекстом в отдельный gateway — это новая норма или временный workaround? Готовы ли вы жертвовать частью информации ради latency и стоимости? И где сегодня основной bottleneck в RAG: retriever, prompt construction или уже сам контекст? Обсудим 👇 #aivk #compresr

Зарубежные СМИ пишут, что от Маска продолжают уходить соучредители компаний Tesla и xAI. В феврале массовый уход сотрудников из корпоративной империи Илона Маска дополнили два высокопоставленных руководителя — Тони Ву , соучредитель xAI, и Радж Джеганнатхан, вице-президент Tesla они объявили о своей отставке с разницей в 48 часов. По данным анализа Financial Times, с 2021 года уволилось примерно 66% непосредственных подчиненных Маска. Когда из стартапа по разработке искусственного интеллекта уходит четвертый соучредитель с момента основания в 2023 году, а из Tesla — руководитель имеющий 13-летний стаж, курировавший IT и AI-инфраструктуру, это перестаёт быть случайностью и превращается в системный кризис доверия. xAI. Всего за один год компания xAI потеряла половину своей команды основателей. Вслед за Ву ушел Кристиан Сегеди (который покинул компанию в феврале прошлого года), Игорь Бабушкин (который ушел в августе), а Грег Янг недавно ушел, сославшись на проблемы со здоровьем. Маск лично инициировал волну увольнений в xAI, будучи недоволен работой программного подразделения. Для проверки качества он привлёк «специалистов» из SpaceX и Tesla — компаний с инженерной культурой, где жёсткость и сверхурочные возведены в абсолют. Соучредитель Годун Чжан, возглавлявший команду Imagine, был публично обвинён Маском в проблемах с продуктом и отстранён от ключевых обязанностей ещё до своего ухода. После ухода Цзихан Дай, еще одного соучредителя, в компании занимающейся разработкой искусственного интеллекта, осталось всего двое из 12 соучредителей, которые помогли Маску создать xAI в марте 2023 года. Резкая потеря сотрудников затормозила крупнейший проект xAI в области искусственного интеллекта. Сообщается, что разработка «Macrohard», направленная на создание ИИ-агента, способного выполнять любые задачи, доступные офисным работникам, была приостановлена после того, как её руководитель, Тоби Полен, покинул компанию всего через несколько недель после назначения на должность главы проекта. Примечательно, что в сообщении своей сети на X Маск признал, что его стартап в области искусственного интеллекта xAI «...не был создан должным образом с первого раза » и теперь «перестраивается с нуля». До того, как SpaceX приобрела xAI в рамках сделки, оценившей объединенную компанию в 1,25 триллиона долларов, Tesla в письме акционерам за четвертый квартал 2025 года сообщила об инвестициях в размере 2 миллиардов долларов в рамках раунда финансирования серии E для xAI. (То есть Маск втюхав инветорам xAI, теперь заявляет всему миру, что то, что он только что продал, было неисправно). Хотя все эти увольнения вызывают вопросы о будущем компании, Маск преуменьшает значение утечки мозгов, считая это частью запланированной реорганизации. По его словам, на общем собрании сотрудников в прошлом месяце, он заявил, что некоторые работники лучше подходят для ранних этапов развития предприятия, чем для более поздних, сообщает New York Times. Tesla. Радж Джеганнатхан дослужившийся до вице-президента по ИТ и инфраструктуре искусственного интеллекта, Джеганнатхан был доверенным помощником, которому часто поручали «тушить пожары». Совсем недавно, после увольнения Троя Джонса в 2025 году, он неожиданно был назначен руководителем отдела продаж в Северной Америке. Акционеры Tesla уже подали в суд на Маска за за то, что он перенаправил ресурсы в области искусственного интеллекта из Tesla в пользу своих частных предприятий. Вопрос теперь не в том, уйдёт ли очередной топ-менеджер, а в том, сможет ли Маск найти достаточно фанатичных инженеров, готовых заменить ушедших, чтобы его амбициозные проекты не начали пробуксовывать. 🌪 Ветер Восточный