Neurogen

Последнее время в тик токе, да и не только стал очень популярен тренд постить сгенерированные видео в соре. Ну ладно бы еще что то адекватное +- было, но то что я наблюдаю всю неделю, заставляет задуматься кто эти люди которые все это генерят 😑 просто чтобы вы понимали, я потратил очень много времени и сил чтобы собрать для вас самый отборный контент рукастых энтузиастов из тик тока которые научились пользоваться сорой, это было морально тяжело, и многие такие видео собирают не одну сотню тысяч просмотров 🥴

✴️ AgentKit

AgentKit - интегрированная среда, которая предоставляет разработчикам все необходимое для создания агентов. До релиза агент кита нужно было много мучатся с разными инструментами в том числе для оркестровки, создания коннекторов, ручной оценки и разработки интерфейса, опен аи собрали это все в единую, удобную среду.

Компоненты AgentKit

Agent Builder: визуальная среда с функцией drag-and-drop, позволяет проектировать, тестировать и развертывать логику агента. Сэм Альтман описал его как "Canva для создания агентов", я думаю он имел ввиду что он интуитивно прост в использовании. Позволяет создавать сложные многоэтапные рабочие процессы без кода.

ChatKit: Набор инструментов для встраивания настраиваемых чат-интерфейсов на базе агентов в веб-сайты и приложения. Упрощает обработку потоковой передачи ответов, управление потоками диалогов.

Connector Registry: Централизованное место для управления интеграцией данных и инструментов. Администраторы могут настраивать встроенные коннекторы к сервисам, вроде Dropbox, Google Drive и Microsoft Teams и тд, а также подключать всякие инструменты.

Evals for Agents: Нужен для тестов своего агента, позволяет систематически тестировать, выявлять недостатки и оптимизировать их работу с помощью набора данных, оценки трассировки и автоматической оптимизация подсказок.

На данный момент можно потестить в agent builder

Подъехала обещанная апишка

Вакансия: Frontend-разработчик (стажер) в NeuroAPI.Host

Что предстоит делать:
- Разрабатывать интерфейсы и компоненты на Vue 3 + TypeScript. Основной стек: Vue 3 (Composition API), Vite, Pinia, Vue Router, Tailwind CSS, tanstack useQuery, vue‑i18n.
- Работать с существующими компонентами дорабатывая их по задачам.
- Работа с REST API: отправка запросов, обработка ошибок, реализация ретраев и таймаутов, работа с мок‑данными для UI.
- Оптимизировать производительность (CWV).

Чему научитесь:
- Компоновка модулей с использованием Composition API.
- Tailwind, доступность (a11y), code‑splitting, кэширование, различные полезные практики при работе с vue3.
- Минимальные аспекты фронтенд‑безопасности (XSS/CSRF, работа с токенами/куками).

Формат:

Удалённо, стажировка 4–8 недель.

По итогам — оффер и ЗП по результатам (по качеству и скорости выполнения задач).


Для отклика: Отправьте краткое резюме/о себе, занятость (ч/нед), город/часовой пояс, GitHub/портфолио и 1–2 лучшие работы в ЛС @roman_neurogen

Школьника во Флориде арестовали из-за запроса в ChatGPT

13-летний ученик средней школы решил «пошутить» и спросил у ChatGPT, как совершить насилие в отношении друга прямо в классе.

Система мониторинга Gaggle, которую используют в школе, моментально зафиксировала угрожающий запрос и отправила оповещение службе безопасности.

Полиция прибыла в школу и арестовала подростка. Сам он утверждает, что это была всего лишь «шутка» и «троллинг».

Интересно чем закончится 😏

✴️ LiteRT-LM

Google анонсировала production-готовый фреймворк для запуска больших языковых моделей на пользовательских устройствах. Эта технология сейчас питает Gemini Nano в Chrome, Chromebook Plus и Pixel Watch!

🔘Зачем?
Offline-доступность - работает без интернета
Молниеносная скорость - время до первого токена измеряется миллисекундами
Экономичность - без затрат на API-вызовы
Приватность - данные не покидают устройство

🔘Техническая архитектура
Используется система Engine/Session. Engine(синглтон) управляет тяжелами ресурсами типо базовой модели и энкодеров, а Session(интерфейс) представляет отдельные задачи с собственным состоянием.

Ключевые оптимизации:
- Context Switching для переключения между задачами
- Session Cloning для кэширования промптов
- Copy-on-Write KV-Cache для эффективного использования памяти

🔘Где уже внедрен?
Chrome Browser - Web AI API с Gemini Nano для сотен миллионов пользователей
Chromebook Plus - помощь в работе с множеством вкладок и анализе сложных текстов
Pixel Watch - Smart Replies и другие AI-функции на минимальных ресурсах

Фреймворк предоставляет:
- Кроссплатформенность: Android, Linux, macOS, Windows, Raspberry Pi
- Аппаратное ускорение: CPU, GPU, NPU через LiteRT
- Модульный дизайн: от высокоуровневых API до низкоуровневого C++

🔘Стек Google AI Edge
1. LiteRT — базовый runtime для ML-моделей
2. LiteRT-LM — C++ фреймворк для LLM-пайплайнов
3. LLM Inference API — высокоуровневые нативные API

LiteRT HuggingFace community
GitHub
Поддерживаются Gemma, Qwen и другие open-weight модели
Google Developers Blog