Машинное обучение /наука о данных Библиотека

🔬 IBM показала как заставить ИИ отвечать одинаково каждый раз Обычно большие языковые модели работают вероятностно и дают слегка разные ответы даже при одинаковом запросе. Команда IBM проверила можно ли полностью убрать эту случайность и добиться стабильности в критичных системах. Исследователи провели 480 прогонов на пяти моделях и трёх задачах при температуре 0. Модели объёмом 7B и 8B выдавали полностью одинаковые ответы. Модель 120B совпадала только в двенадцати с половиной процента случаев даже при полном отключении случайности. Главные источники нестабильности оказались в порядке извлечения документации и в процессе выборки токенов. Команда принудительно включила greedy decoding зафиксировала seed и использовала строгий порядок параграфов SEC 10K чтобы каждая попытка шла по одному и тому же пути. Дополнительно они добавили схемы проверки для JSON и SQL а числовые ответы считали корректными только при отклонении не более пяти процентов. Это сохраняет смысл и факты но не позволяет считать мелкие отличия дрейфом. При температуре 0.2 задачи с RAG теряли стабильность а SQL и короткие сводки оставались стопроцентно одинаковыми. Структурированный вывод стабилен по природе а свободный текст остаётся чувствительным к любым флуктуациям. В результате IBM предложила уровни использования. Модели 7B и 8B подходят для всех задач в регулируемых областях. Модели 40B и 70B подходят только для строго структурированного вывода. Модели 120B признаны нестабильными для процессов где нужна полная повторяемость. Тесты между локальными и облачными средами совпали. Значит детерминизм переносится если соблюдены все контрольные механизмы. Для финансовых стеков рекомендуют температуру 0 фиксированный порядок извлечения версионированные промпты и двойную валидацию перед запуском в прод Источник arxiv.org/abs/2511.07585

Ваши модели заслуживают продакшн. Освойте MLOps и CI/CD для ML с нуля!Практический курс от экспертов OTUS Вы обучаете модели, добиваетесь отличных метрик — но деплой так и остаётся в списке «сделать потом»? Курс «MLOps» — это про то, как превратить ваши модели в надёжные, автоматизированные сервисы. На практике разберёте CI/CD, контейнеризацию, мониторинг и управление инфраструктурой. Вы поймёте, как выстраивать полный цикл: от хранения данных и исходников до переобучения и развёртывания моделей в k8s. Вы научитесь работать с Docker, MLflow, Airflow, Prometheus, Grafana и Kafka. Разберётесь, как организовать конвейер обучения и обновлений, как обрабатывать ошибки и следить за метриками в проде. И главное — перестанете «собирать пайплайны вручную», заменив хаос на надёжные процессы. Пройдите короткое вступительное тестирование и получите скидку на обучение  по промокоду WELCOME_MLOPS5: https://otus.pw/KxXT/?erid=2W5zFJSgmCC предложение актуально до 1 декабря 2025 года Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.

🔥 Новый подход к обучению маленьких чат-моделей у больших «чёрных ящиков» Появилась интересная работа: как научить маленькую модель вести себя почти как большая закрытая модель — имея доступ только к её ответам, без весов и без градиентов. То есть студент просто «спрашивает API», получает текст — и на этом всё. Это и называется black box distillation. Но у классического подхода есть проблема: он просто заставляет студента копировать текст, а не поведение. Поверхностная имитация вместо глубокой. Авторы решили эту проблему другим способом. 🏆 Ключевая идея Не просто копировать ответы учителя, а обучать дискриминатор, который умеет отличать ответы учителя от ответов студента. Этот дискриминатор превращается в модель-оценщик и выдаёт награду за каждый ответ. Дальше запускается RL, который двигает студента в сторону ответов, больше похожих на учителя. 📈 Что важно - студент и дискриминатор обучаются на текущих ответах студента - это «on-policy», в отличие от старых методов, где reward-модель обучалась на фиксированном датасете - благодаря этому обучение стабильнее и нет reward hacking - после короткого warmup студент начинает учиться как генератор - качество на тестах растёт как по внутренним, так и по внешним задачам - у студентов Qwen и Llama заметно сокращается разрыв с большим учителем 💡 Результат: Модель 14B выдаёт чат-качество, почти достигшее уровня учителя, но стоит намного дешевле в работе. Это один из самых чистых и эффективных методов «дистилляции поведения», а не поверхностного текста. Полная работа: arxiv.org/abs/2511.10643

🔥 Подборка полезных ресурсов для программистов. Здесь ты найдёшь всё это - коротко, по делу и без воды. Пока другие ищут, где “подглядеть решение”, ты уже используешь самые свежие инструменты! AI: t.me/ai_machinelearning_big_data Python: t.me/pythonl Linux: t.me/linuxacademiya Devops: t.me/DevOPSitsec Собеседования DS: t.me/machinelearning_interview C++ t.me/cpluspluc Docker: t.me/DevopsDocker Хакинг: t.me/linuxkalii Data Science: t.me/data_analysis_ml Javascript: t.me/javascriptv C#: t.me/csharp_1001_notes Java: t.me/java_library Базы данных: t.me/sqlhub Python собеседования: t.me/python_job_interview Мобильная разработка: t.me/mobdevelop Golang: t.me/Golang_google React: t.me/react_tg Rust: t.me/rust_code ИИ: t.me/neural PHP: t.me/phpshka Android: t.me/android_its Frontend: t.me/front Big Data: t.me/bigdatai МАТЕМАТИКА: t.me/data_math Kubernets: t.me/kubernetc Разработка игр: https://t.me/gamedev Haskell: t.me/haskell_tg Физика: t.me/fizmat 💼 Папка с вакансиями: t.me/addlist/_zyy_jQ_QUsyM2Vi Папка Go разработчика: t.me/addlist/MUtJEeJSxeY2YTFi Папка Python разработчика: t.me/addlist/eEPya-HF6mkxMGIy Папка ML: https://t.me/addlist/2Ls-snqEeytkMDgy Папка FRONTEND: https://t.me/addlist/mzMMG3RPZhY2M2Iy Папка Linux:https://t.me/addlist/w4Doot-XBG4xNzYy 😆ИТ-Мемы: t.me/memes_prog 🇬🇧Английский: t.me/english_forprogrammers 🧠ИИ: t.me/vistehno 🎓954ГБ ОПЕНСОРС КУРСОВ: @courses 📕Ит-книги бесплатно: https://t.me/addlist/BkskQciUW_FhNjEy Сохрани себе, чтобы не потерять!

📘 CocoIndex: Knowledge Graph for Documents Отличный пример того, как можно создавать граф знаний в реальном времени на основе документов с помощью CocoIndex. 🔍 Основные идеи: - Используется LLM для извлечения связей между сущностями и построения графа знаний. - Поддерживается экспорт узлов и отношений в графовые базы данных, такие как Neo4j или Kuzu. - Пример пайплайна на Python: добавление источников, извлечение сущностей, формирование связей и экспорт. - После построения можно выполнять графовые запросы вроде MATCH p=()-->() RETURN p. 📎 Подробнее: https://cocoindex.io/docs/examples/knowledge-graph-for-docs #AI #KnowledgeGraph #RAG #CocoIndex

Carnegie Mellon представила один из самых важных агентных AI-пейперов года Исследователи CMU выпустили работу “Training Proactive and Personalized LLM Agents” - и она предлагает совершенно другой взгляд на обучение агентов. Фокус не на том, чтобы просто выполнять задачи. Фокус на том, чтобы лучше общаться с пользователем. Обычные агенты - «машины выполнения»: делают задачу, но почти не взаимодействуют. Новые же модели делают три вещи одновременно: → выполняют задачу (Productive) → задают умные уточняющие вопросы (Proactive) → подстраиваются под стиль, тон и предпочтения пользователя (Personalized) Для обучения они создали целый интерактивный мир — UserVille, населённый симулированными пользователями с разными характерами и странностями (например, кто-то отвечает только JSON, кто-то — только A/B/C 🤯). Модели обучали через новый RL-фреймворк PPP — Productive, Proactive, Personalized. Результаты: - +21.6% выше результативность по сравнению с GPT-5 - агенты стали задавать меньше, но гораздо более точных вопросов - автоматически копируют стиль общения пользователя Это направление будущего: не просто агенты, которые «делают задачи», а агенты, которые понимают для кого они это делают. Paper: arxiv.org/abs/2511.02208v1

Японские медиагиганты вышли против OpenAI из-за Sora 2. Через ассоциацию CODA (в неё входят Studio Ghibli, Bandai Namco, Square Enix) они требуют прекратить использование их контента для обучения модели без разрешения. Аргумент: в Японии само копирование данных на этапе обучения уже может считаться нарушением авторских прав — и никакой «opt-out» это не исправляет задним числом. После релиза Sora 2 в сентябре начали массово появляться ролики «в японском стиле», и регуляторы потребовали от OpenAI объяснений — особенно касательно того, были ли защищённые произведения в тренировочном наборе. Сэм Альтман заявил, что OpenAI добавит opt-in и может рассмотреть ревеню-шэринг. Но CODA настаивает: использование контента должно начинаться только после разрешения, а не наоборот. Ключевой вопрос: являются ли промежуточные копии при обучении «воспроизведением» по японскому закону — и означает ли схожесть выходов, что защищённые материалы были в датасете? Если да, рынок в Японии может перейти к модели «разрешение-сначала» и обязательным аудитам источников данных. Тема только набирает обороты — и может стать прецедентом для глобального рынка генеративных моделей. theverge.com/news/812545/coda-studio-ghibli-sora-2-copyright-infringement

Научись проектировать ИИ-агентов, управлять роботами и развертывать RAG-системы 21 ноября на True Tech Champ На бесплатном фестивале технологий от МТС тебя ждет конференция с российскими и иностранными экспертами и новый формат лектория — ИТ-качалка. Уже известны первые спикеры и темы: 🔴 «Физический агент: на пути к когнитивным роботам общего назначения с моделями мира», Артем Лыков — ведущий R&D-разработчик MWS, аспирант ISR Lab и Skoltech. 🔴«RAG как помощник на каждый день», Валентин Малых — руководитель фундаментальных исследований MWS AI 🔴An introduction tutorial to AI Agent Workflows, Майкл Ланэм — канадский разработчик с 20-летним и автор книги AI Agents in Action. Между докладами и воркшопами можно смотреть гонки и битвы роботов, устроить поединки робопауков, пройти лазерный лабиринт, собрать сервер на скорость, сделать аксессуары из плат и протестировать другие айтивности. Выбирай формат — смотри прямой эфир или приходи в МТС Live Холл. Регистрируйся, чтобы провести 21 ноября с пользой и драйвом.

⚖️ Amazon подала в суд на Perplexity: почему Comet стал проблемой Amazon обвиняет Perplexity в том, что их Comet-браузер действует как скрытый AI-шопинг-агент: логинится под учёткой пользователя, оформляет заказы и кликает по сайту так, будто это живой человек. Для Amazon это - запрещённый скрытый автоматизированный доступ. Главная претензия: Comet маскирует бот-трафик под обычные клики, мешая Amazon применять свои правила против автоматизации, защитные проверки и аудит. Агент заходит в личные разделы аккаунта, трогает корзину и оформление покупки. Любая ошибка скрипта или неверный промпт может привести к покупке не того товара, отправке не по тому адресу или утечке приватных данных. Amazon считает, что Perplexity обходит официальные интерфейсы и условия использования, не идентифицируясь как бот. Это, по их словам, нарушает правила и создаёт риски безопасности, а также портит персонализацию — ведь рекомендации и ценообразование настроены под человеческое поведение, а не быстрые скриптовые запросы. Компания также утверждает, что требовала остановить работу агента, но тот продолжал работать, что усиливает аргумент «несанкционированного доступа». Позиция Perplexity: это всего лишь удобный помощник для пользователей, который сравнивает цены и оформляет покупку от их имени, а хранение логина — локальное. Пользователь вправе выбирать своего ассистента, даже если Amazonу это не нравится. В итоге спор о том, кто контролирует сессию: пользователь или AI-браузер. И должен ли такой агент открыто объявлять себя ботом вместо маскировки под человека. theguardian.com/technology/2025/nov/05/amazon-perplexity-ai-lawsuit

⁉️Машинное обучение кажется чем-то сложным и недосягаемым? Всё проще, чем вы думаете! Первый шаг — разобраться, как устроен ML-процесс и научиться работать в Jupyter Notebook — инструменте, с которого начинают все специалисты в Data Science. На открытом уроке вы шаг за шагом поймёте, как строится путь от данных до модели. Научитесь запускать эксперименты в Jupyter Notebook и Google Colab, работать с виртуальными окружениями и не бояться “сломать” систему. Всё — в формате простых и наглядных примеров. После урока вы сможете уверенно начать свой первый ML-проект и поймёте, какие инструменты нужны, чтобы перейти от теории к практике. ➡️ 13 ноября в 20:00 МСК. Открытый вебинар проходит в преддверии старта курса «Machine Learning. Basic». Регистрируйтесь и сделайте первый шаг в машинное обучение без страха и путаницы:т  https://otus.pw/8VU2/?erid=2W5zFGufUH6 Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.