Data Portal | Data Science & Машиннное обучение

Исследователи внедрили одного вредоносного агента в группу LLM-агентов. Вся сеть не смогла прийти к консенсусу. Это проблема византийских генералов — классический кошмар распределённых систем, которому уже больше 40 лет. И теперь это проблема и ваших agent-pipeline. Даже в полностью «честной» среде, где вообще нет злонамеренных участников, LLM-агенты всё равно часто не могут сойтись на общих значениях. И ситуация становится хуже по мере увеличения числа агентов в группе. Причём характер сбоя показательный. Это не скрытая подмена ценностей. Не один агент тихо проталкивает неправильный ответ. Модели просто.. застревают. Тайм-ауты. Круговые обсуждения. Разговор никогда не приходит к общему решению. Почему это важно: весь хайп вокруг multi-agent AI строится на предположении, что координация работает. Рои автономных агентов, коллективное решение задач, децентрализованные AI-системы. Всё это предполагает, что если посадить несколько LLM в «комнату» и дать им протокол общения, они смогут прийти к общему решению. Проблема византийского консенсуса — одна из самых старых и изученных задач распределённых систем. Классические алгоритмы решили её десятилетия назад с жёсткими математическими гарантиями. Вопрос был в том, смогут ли LLM-агенты добиться того же через естественный язык, а не через формальные протоколы. Пока что ответ — нет. И причина довольно фундаментальная. Традиционные алгоритмы консенсуса работают потому, что каждый узел выполняет одинаковый детерминированный протокол. LLM же стохастические. Один и тот же промпт может давать разные ответы в разных запусках. Согласие, достигнутое на третьем раунде обсуждения, может развалиться на четвёртом, когда агенты пересмотрят своё рассуждение после чтения ответов других. В этом и есть фундаментальное несоответствие: алгоритмы консенсуса предполагают детерминированные state machines, а LLM — их противоположность. Это также означает, что тезис «больше агентов = лучше ответы» имеет потолок, который почти никто не измеряет. После определённого размера группы издержки координации и провалы сходимости начинают перевешивать пользу от разнообразия мнений. Практическое следствие довольно неприятное для тех, кто строит multi-agent системы для задач с высокими рисками. Надёжное согласие не возникает само, если просто посадить умных агентов за один стол. Его нужно явно проектировать, с формальными гарантиями, а не надеяться, что оно появится само. При этом multi-agent системы уже начинают внедрять в финансы, медицину и автономную инфраструктуру. А проблема консенсуса — самый базовый механизм координации — до сих пор не решена. 👉 @DataSciencegx

Google снова выкатили пушку Они заопенсорсили Agent Development Kit, и он отлично сочетается с Gemini 3.1 Flash-Lite. Это значит, что теперь можно собирать always-on AI-агентов, которые работают 24/7 почти за копейки. На 100% open source. 👉 @DataSciencegx

🔥 Подписка на easyoffer PRO на 1 год со скидкой 70% easyoffer – сайт для подготовки к собеседованию на программиста, тестировщика и другие IT-профессии становится еще доступнее со скидкой 70% до 10 марта. ⚙️ Актуальные функции: 1. База вопросов из реальных технических собеседований с вероятностью встречи и примерами ответов. 2. База задач с этапа live-coding. 3. База видеозаписей 1100+ реальных собеседований, в том числе в топовые компании (Сбер, Авито, Яндекс, WB, OZON, МТС и др.) на позиции Junior/Middle/Senior. 4. База 400+ тестовых заданий от компаний. 5. Аналитика ТОП-требований из вакансий для лучшего написания резюме по ключевым словам. 6. Тренажеры для подготовки к собеседованию. В том числе тренажер «Реальное собеседование» со сценарием вопросов под конкретную компанию. Акция до 10 марта (включительно) на PRO-тариф. – Подписка действует 1 год – Доступ ко всем профессиями сразу 👉 Смотри подробности тарифа и покупай на easyoffer

Files are all you need! В этой исследовательской работе говорится, что лучший способ управлять AI-контекстом — это относиться ко всему как к файловой системе, и OpenClaw это уже доказал. Но большинство agent framework'ов до сих пор этого не поняли. Память в них прикручена как запоздалая надстройка. Инструменты живут в отдельном слое. Все фрагментировано, живет недолго, и когда что-то идет не так, это почти невозможно нормально аудировать. Работа Everything is Context берет 50-летнюю идею из Unix и использует ее, чтобы это исправить. Вместо того чтобы считать память, инструменты и знания разными системами, она предлагает хранить все это как файлы. Каждый фрагмент знания получает свой путь, метаданные и историю версий. Каждый шаг рассуждения становится залогированной, трассируемой транзакцией. Если открыть директорию OpenClaw, там прямо лежат SOUL.md, MEMORY.md, AGENTS.md и HEARTBEAT.md — обычные Markdown-файлы. В статье формализуется то, что делает OpenClaw, в виде трех этапов: ↳ Context Constructor выбирает релевантное и сжимает это так, чтобы оно поместилось в token window ↳ Context Updater обновляет контекст по мере развития диалога ↳ Context Evaluator записывает проверенные знания обратно на диск Под капотом файловая система разделяет сырую историю, долгосрочную память и краткоживущие scratchpad'ы. В промпт модели каждый раз загружается только тот срез, который реально нужен ей прямо сейчас. И каждый доступ и каждое преобразование логируются с таймстампами, так что у вас всегда остается след, по которому можно понять, как информация, инструменты и человеческий фидбек повлияли на конкретный ответ. Вот в этом и весь выигрыш. Когда агент что-то забывает или ошибается, можно просто открыть файл и точно увидеть, что именно он знал. Ничего не исчезает бесследно между сессиями. Файлы решают эту проблему по самому устройству системы. Если вы строите что-то на агентах, эту статью точно стоит прочитать. 👉 @DataSciencegx

Андрей Карпаты упаковал проект autoresearch в новый самодостаточный минималистичный репозиторий, если кто-то хочет поиграться с ним на выходных. По сути, это training core из nanochat для LLM, ужатый до версии на одну GPU и один файл примерно на 630 строк кода, а дальше: - человек итеративно дорабатывает промпт (.md) - AI-агент итеративно дорабатывает training-код (.py) Цель в том, чтобы спроектировать своих агентов так, чтобы они обеспечивали максимально быстрый исследовательский прогресс бесконечно долго и вообще без вашего участия. На изображении каждая точка — это полный training run LLM, который длится ровно 5 минут. Агент работает в автономном цикле в git feature-ветке и накапливает git-коммиты в training-скрипт по мере того, как находит более удачные настройки, дающие меньший validation loss к концу обучения: архитектуру нейросети, оптимизатор, все гиперпараметры и так далее. Можно представить, как сравнивается исследовательский прогресс разных промптов, разных агентов и так далее. Часть код, часть sci-fi, и щепотка психоза :) 👉 @DataSciencegx

Напоминание: 💕LR это в первую очередь про штраф L1 (lasso) или L2 (ridge) 💕Naive Bayes это alpha 💕decision tree почти никто не использует как отдельный алгоритм, но понимать, как он работает, всё равно нужно 💕random forest это в первую очередь max_depth, число estimators, max_features (нельзя брать все признаки), min_samples_split и min_samples_leaf 💕GBT это обычно про xgboost / catboost / lightgbm, где смотришь на всё то же самое, что выше, плюс learning_rate, alpha / lambda, число leaves, subsample / colsample_bytree и boosting type, если он применим 💕PCA лучше лишний раз не трогать для time series, если только ты не делаешь rolling-вариант или не используешь это в исследовательских целях. А вот PLS вполне норм. Виды PCA и когда их использовать: -> linear, если предполагаются линейные зависимости между признаками -> kernel, если зависимости между признаками нелинейные -> incremental, если у тебя очень много признаков и сэмплов и нужно быстро прогонять PCA -> robust PCA, если в данных есть выбросы 💕Если уже говорим про PCA, можно упомянуть ICA, когда нужны статистически независимые признаки, а не просто некоррелированные 💕 kNN иногда используют; k-means полезен там, где очевидно, что главное это число кластеров 💕support vector machine это когда уже ничего не сработало и тебе просто интересно, вдруг вот это взлетит. Держится на C и kernel, которые отвечают за линейные или нелинейные зависимости 💕гиперпараметры NN это вообще отдельная история, потому что они зависят от типа сети. Но базово помни связку: NN layer -> normalization layer -> dropout layer. Иногда между normalization и dropout, или даже позже, ставят activation layer. Это уже зависит от того, нужна ли тебе гибкость в выборе места для активации, или ты просто убираешь её как отдельный слой и задаёшь activation прямо в параметрах слоя NN. 👉 @DataSciencegx

Одно из самых наглядных доказательств того, что LLM на самом деле не понимают, о чём говорят. Мы спросили GPT, допустимо ли пытать женщину, чтобы предотвратить ядерный апокалипсис. Он ответил: да. Потом мы спросили, допустимо ли домогаться женщины, чтобы предотвратить ядерный апокалипсис. Он ответил: абсолютно нет. Хотя пытка очевидно хуже, чем домогательство. Этот удивительный переворот появляется только тогда, когда цель это женщина, но не мужчина и не человек без уточнения пола. И возникает он именно для тех видов вреда, которые находятся в центре споров о гендерном паритете. Наиболее правдоподобное объяснение такое: во время reinforcement learning with human feedback модель усвоила, что определённые виды вреда считаются особенно тяжёлыми, и затем начала механически сверхобобщать это. Но рассуждать о самом вреде как таковом она не научилась. LLM не рассуждают о морали. То, что называют generalization, часто оказывается механическим сверхобобщением, лишённым семантического содержания. Ссылка на статью 👉 @DataSciencegx

Простые числа - это причина, по которой данные вашей банковской карты в безопасности. Когда вы что-то покупаете в интернете, платёжная информация шифруется с помощью системы под названием RSA, и вся её безопасность держится на одном простом математическом факте: Перемножить два больших простых числа легко. А вот обратить этот процесс назад и выяснить, какие именно два простых числа были перемножены, практически невозможно. Например, для компьютера не составляет труда посчитать: 12,451 × 18,637 = 232,048,387 Но в обратную сторону всё намного сложнее. Если я дам вам число 232,048,387 и попрошу найти его простые множители, не подсказывая, с чего начинать, это уже становится реально трудной задачей. А теперь увеличьте эти простые числа до чисел с сотнями цифр, именно такие и используются в RSA, и даже самым быстрым компьютерам на Земле потребовалось бы больше времени, чем возраст Вселенной, чтобы взломать это тупым перебором. Что делает ситуацию философски странной, так это то, что шифрование RSA построено на задаче, про которую математики до сих пор не доказали, что она действительно сложная. Мы считаем, что разложение больших чисел на множители фундаментально трудная задача. Но никто так и не доказал, что для неё не существует какого-то короткого пути. Теоретически, как бы маловероятно это ни было, кто-то может уже завтра открыть хитрый алгоритм, который мгновенно ломает всё шифрование, одновременно раскрывая все банковские счета, все личные сообщения и все государственные секреты. Это одна из величайших нерешённых задач математики, известная как P vs NP. Она ставит вопрос: всегда ли задачи, для которых легко проверить правильность ответа, так же легко и решаются. Если ответ да, то есть если P = NP, современное шифрование полностью рушится. 👉 @DataSciencegx

Команда Qwen имеет свой официальный agent framework, и в нем есть вообще все. Не нужно сшивать сторонние библиотеки. Не нужно бороться с абстракциями. Qwen-Agent дает вам: → нативный function calling, встроенный прямо в сам фреймворк → безопасную песочницу с code interpreter из коробки → поддержку RAG и MCP → Chrome-расширение для agent workflow прямо в браузере Это сделала команда, которая создала саму модель. Поэтому оно просто работает. На 100% open source и полностью бесплатно. 👉 @DataSciencegx

Кто-то собрал персональный ИИ, который читает все твои документы и ничего не забывает. Называется Khoj. → Индексирует твои Notion, Obsidian, Google Docs и PDF → Отвечает на вопросы с цитатами и ссылками на реальные файлы из твоей базы → Можно развернуть у себя (self-host) на своём железе → Работает офлайн с локальными моделями (Llama, Mistral) → Помнит ваши диалоги между сессиями → API-совместим с Claude и OpenAI На 100% open-source. 👉 @DataSciencegx