Машинное обучение /наука о данных Библиотека

📌VLM становятся умнее, быстрее и доступнее.

Технологии, связанные с VLM переживают настоящий бум в 2025 году. Если раньше они ограничивались базовыми задачами вроде описания картинок, то теперь справляются с логическими рассуждениями, управлением роботами и генерацией видео на лету.

Основной тренд - гибкость: современные «умные» системы могут обрабатывать любые данные: текст, изображения, звук и выдавать ответы в любой форме.

В 2023 году компания Марка Цукерберга представила семейство моделей Chameleon, а команда Qwen доработала ее до Qwen2.5 Omni, которая сочетает генерацию текста и изображений через архитектуру «Thinker-Talker». Иными словами, VLM научились рассуждать.

Размер моделей перестал быть главным критерием. Вместо гигантских сетей разработчики теперь делают компактные версии, которые работают на обычных компьютерах. SmolVLM2 с 500 миллионами параметров справляется с видеоанализом, а Google упаковала мультимодальные способности в Gemma 3 в 1 миллиард параметров. Пользователям важны доступность мощь без лишних затрат.

Еще один эволюционный виток — использование смесей экспертов. Вместо того, чтобы задействовать всю сеть целиком, модели выбирают только нужные части, экономя ресурсы. Kimi-VL от Moonshot AI, например, задействует 2,8 миллиарда параметров из 16, решая сложные задачи. Это как собрать команду специалистов, где каждый отвечает за свою часть работы.

VLM научились не только понимать данные, но и действовать. В робототехнике их используют как «мозг» для управления движениями — π0 от Physical Intelligence складывает белье или собирает коробки, превращая команды в физические действия. А в повседневных задачах, например, с HuggingSnap, модели анализируют видео на смартфонах.

Безопасность тоже стала критичной. Модели ShieldGemma 2 и Llama Guard 4 проверяют контент на соответствие политикам, блокируя вредоносные изображения или текст. Это особенно важно для сервисов, где пользователи загружают персональные медиа.

Наконец, VLM учатся работать с длинными видео и документами. Qwen2.5-VL анализирует часовые видеозаписи, выделяя ключевые кадры, а ColPali помогает находить информацию в PDF без предварительной обработки.

В 2025 году VLM перестали быть «игрушкой» для лабораторий. Они внедряются в реальные задачи: от автоматизации офисной работы до помощи в медицине. Главный вопрос теперь не в том, на что способна та или иная модель, а как быстро ее внедрить на практике.

🟡Статья на Huggingface

🐍 Practical Python Programming — бесплатный курс по Python для тех, кто хочет не просто читать, а писать код

Курс ориентирован на практику и охватывает ключевые аспекты современного Python-разработчика:

• Работа с данными
• Построение структуры программы
• Классы, объекты и ООП
• Механика работы объектов "под капотом"
• Генераторы и ленивые вычисления
• Тестирование, логирование и отладка
• Работа с модулями и пакетами

Отличный старт для тех, кто хочет уверенно разобраться в Python и сразу применять знания на практике.

🔗 Ссылка на курс

⚡️Создаём свою нейросеть в PyTorch

Хотите быстро разобраться в PyTorch и написать свою нейросеть? Мы подготовили для вас вебинар, где на практике разберём все этапы создания ML-модели.

Вебинар проведет Владислав Агафонов — ML-инженер, ранее работал в Yandex и Huawei.

Что будет на вебинаре?
🟠Установим PyTorch в Google Colab и настроим работу на бесплатном GPU;
🟠Поймём, что такое тензоры и почему они — фундамент всех нейросетей;
🟠Скачаем готовый датасет, разберём его структуру и подготовим для обучения;
🟠Научимся использовать DataLoader для эффективной загрузки данных;
🟠Пошагово соберём облегчённую версию классической свёрточной нейронной сети (CNN);
🟠Обучим и протестируем модель.

🕗 Встречаемся 14 мая в 18:30 по МСК, будет много практики, ответы на вопросы и полезные инсайты от эксперта.

😶Зарегистрироваться на бесплатный вебинар

🖥 500+ промптов для любых задач — собрано в одном месте.

Всего 9 категорий: бизнес, карьера (подходит для создания резюме), креатив, образование, здоровье, маркетинг, технологии, личный помощник и универсальные.

Сохраняйте, чтобы всегда под рукой. Ускоряйте работу и повышайте свою эффективность!

https://www.promptly.fyi/library

📚 Librum — читалка с облачной библиотекой и 70 000+ бесплатных книг

С этим инструментом ваша библиотека станет по-настоящему мобильной — проект имеет синхронизацию между устройствами, теги, коллекции и даже статистика чтения — всё под рукой, будь то Windows, Linux или macOS.

Проект полностью открытый, а его команда живёт на донаты. При этом здесь уже есть поддержка редких форматов вроде CBZ (для комиксов) и TIFF, а в дорожной карте — TTS и AI-инструменты для заметок.

🤖 GitHub

Demonstrating Berkeley Humanoid Lite:
An Open-source, Accessible, and Customizable
3D-printed Humanoid Robot

➡️ Схема робота

@machinelearning_books

❔Хотите узнать, как популярные приложения угадывают ваши предпочтения? Матричная факторизация — мощный подход для построения рекомендаций.

На открытом вебинаре 30 апреля в 20:00 МСК вы разберетесь с принципами работы моделей матричной факторизации (SVD, ALS), поймёте, как реализовать их на Python с помощью библиотеки implicit и получите практические навыки, которые сразу сможете применить.

После занятия вы сможете создавать эффективные рекомендательные системы и использовать потенциал данных вашего бизнеса для персонализированных решений.

⚡️Регистрируйтесь на открытый урок и получите скидку на программу обучения «Рекомендательные системы»: https://otus.pw/YMrI/?erid=2W5zFJGLnAU 

Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.

📌Обучение с подкреплением: как языковые модели учатся рассуждать.

Объемная и интересная статья Sebastian Raschka, автора книги "Build a Large Language Model From Scratch" о тенденциях и проблемах современных методов обучения LLM через призму RL.

В мире LLM последние месяцы стали переломными. Релизы GPT-4.5 и Llama 4, вопреки ожиданиям, не вызвали ажиотажа — все потому, что эти модели остались «классическими», без продвинутых методов обучения для рассуждений. Их конкуренты - xAI и Anthropic уже добавили кнопки «расширенного мышления», а OpenAI представила o3 — модель, где упор сделан на стратегическое применение вычислений через обучение с подкреплением. Становится ясно: масштабирование данных и параметров почти исчерпало себя, и будущее за RL.

Основной инструмент RLHF (обучение с подкреплением на основе человеческой обратной связи) давно используется для настройки LLM под предпочтения людей. Но для задач, требующих логики, этого недостаточно.

Здесь на сцену выходит GRPO — модификация алгоритма PPO, которая экономит ресурсы, убирая «критика» (модель оценки вознаграждения). Так создавалась DeepSeek-R1-Zero, ее обучали вообще без этапа SFT, используя только автоматические проверки ответов. Если математическая задача решена верно, модель получает «плюс», если нет — «минус». Такой подход не только дешевле, но и снижает риск «обмана» модели (reward hacking).

Но и RL — не панацея. Исследования показывают, что PPO и GRPO неявно поощряют длинные ответы, даже если те ошибочны. Например, при отрицательном вознаграждении штраф распределяется по токенам, и модель учится растягивать текст, чтобы смягчить наказание.

Решения уже есть: одни команды вводят штрафы за длину, другие меняют расчет преимуществ. А модель L1 от Kaggle и вовсе позволяет пользователям задавать желаемую длину ответа, балансируя между точностью и затратами.

Способность к рассуждениям может возникать и без RL. DeepSeek V3 демонстрирует мыслительные «озарения», хотя ее не обучали специально. Этот факт всерьез ставит под вопрос исключительную роль RL — возможно, все дело в данных, где уже есть цепочки логических шагов.

Тем не менее, RL усиливает эти способности: модели начинают самокорректироваться, использовать внешние инструменты (калькуляторы, поиск) и даже переносить навыки между доменами — от математики до медицины.

Некоторые заявления о прогрессе оказались преувеличены: улучшения на мелких моделях часто нестабильны, а результаты зависят от случайных факторов вроде выбора сида. Кроме того, RL требует внушительных ресурсов (o3 от OpenAI потратила при обучении в 10 раз больше вычислений, чем предыдущая версия)

В итоге, RL остается ключевым направлением, но важно избегать «эйфории». Сочетание RL с автоматической проверкой ответов, контроль длины и гибридные подходы (как в DeepSeek-R1) — вот что приближает нас к моделям, которые не просто генерируют текст, а действительно думают.

🔜 Читать статью в оригинале


@ai_machinelearning_big_data

#AI #ML #LLM #RL

Стэнфорд опубликовал свой самый новый курс «CS336: Language Modeling с нуля».

Курс практический, всех желающих научат обучать свою LLM — уже до начала июня будете иметь в руках своего личного ChatGPT. Рассказывают про всё: от архитектуры и токенизаторов до обучения с подкреплением и масштабирования.

Первые три лекции здесь, а домашка — тут.

🔍 OpenLLMetry —стандартизированная observability для LLM-приложений. Это значит, что мониторинг вызовов к OpenAI, Anthropic или векторным базам вроде Pinecone и Weaviate можно интегрировать в существующие системы без перестройки пайплайнов.

Интересно, что решение работает в двух режимах: как готовый SDK для быстрого старта и как набор инструментаций для тех, кто уже использует OpenTelemetry. При этом собранные данные сохраняют совместимость kll— можно начать с Traceloop, а затем переключиться на другой бэкенд без потери истории.

🤖 GitHub

@machinelearning_books