Антон Непша.js

Инструменты дебага LLM-приложенийВот так в одном слайде могут уместиться результаты полутора лет экспериментов (см. дату моего первого поста про LLM), сравнения разных инструментов и попыток найти наиболее удобный и подходящий под нужды нашего проекта Developer Experience.Sentry разворачивал через боль просто потому что уж очень хотелось посмотреть, что есть в их новой AI Agents Insights.LangChain-стек первый год вообще не вызывал ничего, кроме отторжения и непонимания смысла в его лишних абстракциях. Из этого даже отдельный доклад родился. Разобрался, стало легче. Понравилась их студия, которая позволяет, собственно, «дебажить».Уже позже пришел к Langfuse и Phoenix, и остановился на Langfuse из-за наиболее подходящего под мои нужды набора инструментов и OpenSource лицензии.В общем, выступил сегодня на HolyJS с обзором возможностей Sentry, LangGraph Studio, Langfuse, Arize Phoenix, Mastra и Lunary в плане дебага, observability и удобства разработки. Самый главный слайд — перед вами)Вся презентация выложена на сайте конференции. Как только доклад выложат в открытый доступ, тоже сразу поделюсь тут:)

Кто-нибудь разворачивал Sentry локально?Я вот попробовал. Правда, надо было сначала обратить внимание на минимальные системные требования в 4 ядра CPU и 16 GB RAM + 16 GB swap.С такими запросами Sentry нагружал до 90% CPU у игрового ноутбука 3-летней давности и забирал почти всю оперативную память. При этом, ставился он часа два (долго скачивались пакеты), а все его 70+ сервисов в Docker Compose поднимались после установки ещё минут 15. И ты сидишь такой с тормозящим ноутбуком и пытаешься ОШИБКИ ОТЛАВЛИВАТЬ)) Такой себе опыт разработки получился)Хорошо, что у меня оказался второй ноутбукХоть он и старый, но с 32GB RAM, которые как раз можно было бы удачно утилизировать на поднятие Sentry.Правда, на нём винда, а Sentry на винду ставиться не захотел. Благо, у Windows есть возможность развернуть виртуальную Ununtu через команду:wsl.exe --install Ubuntu-24.04Далее в этой виртуальной Ubuntu я ставлю Sentry, и остаётся только настроить port-forwarding, чтобы перенаправлять запросы из локальной сети до WSL. Делается это через Windows Powershell:netsh interface portproxy add v4tov4 listenport=9000 listenaddress=0.0.0.0 connectport=9000 connectaddress=$wsl_ipНу и там же настраиваем Windows Firewall:New-NetFirewallRule -DisplayName "Sentry WSL Access" -Direction Inbound -Action Allow -Protocol TCP -LocalPort 9000Теперь с любого устройства, подключенного к моему Wi-Fi, есть доступ до 9000 порта виртуальной Ubuntu на старом ноуте, где у меня развёрнут и работает Sentry.Естественно, Sentry полностью забрал на себя почти всю мощность старого ноутбука (vmmem забирает на нём 20+гб RAM), но зато на том устройстве, с которого я привык работать, теперь есть и доступ к Sentry, и все ресурсы свободны.Вот зачем, оказывается, люди себе домашние серверы ставят. Радуюсь, как ребёнок.

Ещё один способ создать проект на ReactНедавно наткнулся на ещё один способ разворачивать быстрые прототипы на React: bun init --reactДа, у нас есть create-vite, create-next-app и даже create-react-router, о котором я когда-то писал пост. Но шаблон bun по своему удобен.Преимущества— Можно сразу на старте подключить tailwind или shadcn через bun init --react=tailwind или bun init --react=shadcn соответственно, либо оставить CSS Modules;— Зависимости устанавливаются сразу. И их очень мало: только react, react-dom и пакеты с типами (ну и tailwind/shadcn, если вы их выбрали);— В шаблоне сразу вшит HTTP-сервер для создания заглушек или для написания простого бэка с REST API. Работает из коробки, и это супер удобно по сравнению с тем же vite, где нужно вручную ставить какой-нибудь express или koa и дополнительно настраивать vite config.Недостатки— Логика HTTP-сервера почему-то объявлена в файле index.tsx. Лично мне это кажется странным, т.к. никакой jsx-разметки в этом файле нет. Правда, это легко фиксится — файл можно переименовать.— Есть нюанс в работе CSS Modules: в упор игнорируются файлы с названиями *.module.css. Но если убрать из названия слово module, то всё работает.— Всё-таки это bun. С ним скорее всего даже React Compiler просто так не поставишь, т.к. bun не использует babel по умолчанию, а React Compiler это babel-плагин.Что в итогеЛично для меня наличие HTTP-сервера в шаблоне из коробки — это прям киллер-фича. В последнее время я больше работаю над небольшими прототипами, и для этих целей, кажется, шаблон bun очень хорошо подходит: ставится быстро, конфигурировать почти ничего не надо. В общем, первое впечатление положительное. Посмотрим, как долго оно продержится))

А ещё развернулась, кстати, уже недельная ожесточённая драма вокруг AO3 learning, и это хилариус.Кто не в курсе - ао3 - это аналог фикбука, тока англоязычный. И вот значит некие энтузиасты сделали бесплатное! приложение без рекламы!, которое использует обычный! браузерный переводчик, чтобы можно было прямо в процессе тыкать на незнакомые слова в тексте, и они бы тебе переводились.Так вот господа борцы за права решили.... что это кража Что приложение крадёт фанфики,браузерный встроенный переводчик, напоминаю😭 на сайте, в котором можно скачать текст! ещё и переводит без согласия автора! а злые изучатели английского настоящие воры, разумеется. и это осуждают те же самые люди, которые в любой игре пишут englsh plz и ничё не щёлкает. А ещё они призывают жаловаться на руаккаунты, защищающие AO3 learning... в роскомнадзор!! а они точно понимают, что твиттер у нас типа офишали заблокирован? Ну, конечно, известный факт - люди из стран, где нет запретов и санкций, и где в целом всё удобно, вообще редко подкованы в темах компьютерной безопасности, и для них слова браузер и расширение - это что-то из тёмной шумерской магии. Наверное, всё-таки изучение языков и правда влияет на интеллект как же я люблю вавилонский твиттер и мировые срачи 💅 мейкс ми фил элайв

Рынок, на котором клиенты оплачивают производственные линии, чтобы получить гарантированную поставку на них произведённого, всякие гении вроде Бьюрри до сих пор называют пузырём.До сих пор — потому что NVDA у них в статусе пузыря уже третий год. Но об этом массовый читатель заголовков не помнит.Про пузыри я уже написал достаточно, и повторяться не стану. Но как же тоскливо, когда «гении» путают импульс (из-за шортсквиза, из-за пересмотра прибылей, из-за недоинвестированности) с необоснованно высокими мультипликаторами.Можт всё-таки пузырь?Все внезапно поняли?Снова и сноваТочно пузырьПро механику пузырейПро скорость измененийПро ожидания от AI-пузыряПро эхо-камеру пузыряПро причины для продажиЗапасов нет — точно пузырьи ещё три десятка упоминаний…

🌟 Zyphra выложила чекпоит ZAYA1-74B-PreviewЧерез 2 дня после релиза ZAYA1-8B Zyphra опубликовала превью более крупной модели ZAYA1-74B.Это промежуточная веха: модель прошла претрейн, мидтрейн и расширение контекста, но RL-постобучения и инстракт-тюнинга на ней ещё не делали.Zyphra ставит ZAYA1-74B-Preview рядом с полноценными моделями и приводит 2 метрики - avg@1 и pass@4.По pass@1 модель ожидаемо отстаёт, а pass@4 уже подбирается к лидерам. Zyphra трактует это как сигнал того, что в базовой модели достаточно разнообразия и способностей, чтобы RL вытащил их в финальные цифры.В подтверждение этой логики Zyphra ссылается на опыт ZAYA1-8BТам между чекпойнтами с похожими pass@k и финальной версией разрыв оказался большим: +20.8 на AIME'26, +32.4 на HMMT'26, +10.0 на LiveCodeBench-v6, +11.7 на GPQA-Diamond, +19.0 на IFEval.🟡Внутри 74B-Preview масштабированная 8BТо же CCA-внимание, но каждый второй слой заменён на внимание со скользящим окном размером 4K.Со слов Zyphra, это почти вдвое сокращает KV-кеш без потерь на длинном контексте. Чтобы трюк сработал, при расширении контекста в слоях со скользящим окном сохранили исходное основание RoPE, а у глобальных - растянули.🟡Контекст наращивали поэтапно: 32k → 128k → 256k.Претрейн занял около 15T токенов в две фазы: сначала общие веб-данные, затем больше математики, кода и науки. Мидтрейн - 3 фазы примерно по 1T токенов: расширение контекста, ввод reasoning-трасс и фокус на агентных задачах.🟡АгентикаНа ZAYA1-8B этот режим работал слабее, поэтому в корпус 74B-Preview добавили больше агентного материала. Первые цифры на τ-bench Zyphra описывает как многообещающие.Авторы при этом оговариваются, что pass@k плохо отражает многошаговые сценарии, там важнее следование инструкциям, удержание состояния и устойчивость к промежуточным ошибкам, и значительная часть этих способностей появляется только после агентного RL.Старшую ZAYA1, кстати, тоже обучали исключительно на AMD . Полноценный RL уже идёт, финальную версию 74B Zyphra планирует выпустить в ближайшие недели.📌Лицензирование: Apache 2.0 License.🟡Блогпост🟡Модель@ai_machinelearning_big_data#AI #ML #LLM #ZAYA1 #ZYPHRA

У нас заканчивается уже второй поток курса по построению SOC, в котором рассматривались многие практические темы создания центров мониторинга, но вот темы ИИ в них мы там почти не касались, так как пока в России это не так чтобы мейнстрим. И поэтому нередко (сам через это прошел) ИИ в SOCах воспринимается как нечто спасающее аналитиков от выгорания, ложных срабатывний и поднимающих их продуктивность на недосягаемую высоту. Но... как и в поговорке "если вы автоматизируете хаос, вы получите автоматизированный хаос" и "garbage in, garbage out", в автономных SOCах (AI SOC) аналогичная история. Если у нас неэффективные процессы обнаружения и реагирования, то ИИ не сделает их лучше и эффективнее, он сделает их быстрее в своей неэффективности.Прежде чем внедрять ИИ в SOC, сначала надо разобраться с фундаментом, – понимать свою инфраструктуру и покрытие ее источниками данных, знать модель угроз, разбираться в том, что в поведении систем, сетей и пользователей, – норма, а что нет. Да, это скучно, но без этого ИИ мало чем поможет. ИИ может распознавать структуру источника событий или сетевой протокол, что ускоряет создание нового коннектора, но без понимания, нужен он или нет, и что мы там хотим видеть, ИИ бесполезен. Мы можем ускорить разбор терабайт логов, но без понимания, что мы там ищем, ИИ бесполезен. Мы можем выявлять аномалии в поведении пользователя, но не видя разницы между powershell, запускаемого от имени админа и от имени бухгалтера, ИИ бесполезен.ИИ позволяет обогащать данные, собирая их из разных источников – OSINT, TI и т.п. Это классно и действительно может быть полезно, но... без учета контекста может сыграть с нами злую шутку. То есть обрабатывать события научить ИИ можно, а вот про "понимать контекст" часто забывают. Не может одна и та же модель, обученная вендором, одинаково эффективно работать и в промышленном сегменте нефтяной компании, и в технологическом стартапе, и в государственной организации.Кто-то должен сказать ИИ, что важно, а что нет в конкретной среде. Это поэтому я включаю в свой список вопросов для ИИ-вендора неудобное "А вашу модель можно обучить на моих данных?" (и ответ, кстати, не так очевиден и однозначен). Когда вендор говорит о снижении шума и фолсов в обрабатываемых данных, откуда он знает, что вот именно это событие ложное или бесполезное? В одной компании это так, а в другой – нет. Кто научит ИИ распознавать эти нюансы? Без этого ИИ не снижает энтропию, а только повышает ее. Убирая шум, ИИ, непонимающий контекст среды, может "выплеснуть с водой и ребенка".Так что, ИИ может сделать неэффективный SOC еще более эффективным в своей неэффективности. То есть ускорить обработку мусора, быстрее гонять плохие процессы, автоматизировать бессмысленные реакции. Но превратить фундаментально неправильно построенный SOC в эффективный – почти нереально. Не потому, что ИИ слабый и плохой, а потому что проблема структурная. Именно про нее мы на курсе "Построение SOC 2.0: от концепции до реализации" и говорим. Это не реклама курса, это скорее размышления вслух, наблюдая за тем, как активно термин "искусственный интеллект" начинает переплетаться с SOC, без понимания истинного смысла их симбиоза 🤔ЗЫ. Картинка из презентации одного поставщика автономных SOCов (AI SOC). #ии #soc

Запускаем DeepSeek-V4 (1.6T) на «калькуляторе»: SVD-трансмутация, Identity Theft и гаражный MLOps24 апреля 2026 года мир содрогнулся — вышел DeepSeek-V4-Pro. 1.6 триллиона параметров, MoE-архитектура, веса на 800+ ГБ. Академики в белых халатах из исследовательских центров тут же выкатили райдер: «Вам нужно минимум 8xH100 и прямой канал до дата-центра».Мы посмотрели на свою бесплатную NVIDIA T4 с 16 ГБ VRAM в Kaggle, на 50 ГБ диска и поняли: вызов принят. Пока вы ждете гранты на GPU-кластеры, мы занимаемся цифровой вивисекцией.https://habr.com/ru/articles/1028560/Алгоритмы и Структуры данных

https://www.re-gent.dev/а вот еще нашел на тему трекинга. git показывает, какие файлы поменялись.re_gent показывает, из какого промпта и какой сессии появились эти изменения. Работает поверх клодовского PostToolUse, хз за остальные харнесы

Днём AI, вечером метафизика, что я читаю в разное время суток. Первое - про AI-generated блогеров, виртуальных инфлюенсеров и то, как контент-рынок трансформируется прямо сейчас. Я уже примерно год говорю об этом, посмотрим, я думаю, через год мы вообще не сможем отличить настоящее видео от аи, а через 2 совсем перестанем ходить в соц сети - там за нас это будеут делать наши аи агенты. Вечером — по-прежнему читаю про метафизику, поле человека и то, как внутреннее состояние связано с внешними событиями.Я закончила обучение на «квантового терапевта», хотя сама формулировка мне не очень нравится. Звучит слишком громко и немного suspicious.На деле для меня это скорее про работу с полем человека: состоянием, вниманием, телом, нервной системой, внутренними установками и тем, как человек взаимодействует с реальностью. Ну.. и мы проходили еще 14 слоев, пожалуй, не буду их тут перечислять. Идея простая: меняем события и следы событий в поле и вслед за этим начинают меняться и события в настоящем. Примерно как с улыбкой: можно улыбнуться просто физически и через тело немного поменяется настроение.Только здесь масштаб глубже: меняешь внутреннюю настройку и постепенно меняется траектория жизни.В общем, днём я изучаю, как искусственный интеллект будет менять внешний мир.А вечером как внутренний мир меняет внешний 😅

#статья дняКажется странным, что сначала в браузерах (браузере?) появились переходы между страницами aka View Transitions, и только сейчас — между элементами.В Chrome 147, наконец, добавили element-scoped view transitions.До этого если хотелось анимировать, например, сортировку списка, приходилось запускать document.startViewTransition() — даже если менялся один маленький блок.Выглядело это примерно так:document.startViewTransition(() => { list.sort(...) render()})Теперь можно запустить переход прямо на контейнере списка:listElement.startViewTransition(() => { list.sort(...) render()})И в этот момент браузер работает только с этим куском DOM.На практике это означает, что можно спокойно:— анимировать список— параллельно обновить, например, сайдбар— и одно не будет цеплять другоеСплошные плюсы.Собственно, статья:https://developer.chrome.com/blog/element-scoped-view-transitionsЧто ещё в Chrome 147:https://developer.chrome.com/blog/new-in-chrome-147#chrome #view #transitions

Дизайнеры придумали зарядное устройство по образцу грибов, которое питается от вашего роутера — команда корейских дизайнеров представила концепцию устройств Spoa, способных улавливать рассеянную электромагнитную энергию бытовых приборов и роутеров.Изделия представлены в трех модификациях: Cap, Slim и Stem — они улавливают электромагнитные поля в разных условиях и накапливают собранную энергию во встроенном аккумуляторе. Достаточно, чтобы зарядить смартфон или беспроводные наушники. Все три достаточно малы, чтобы носить с собой: цепляются на рюкзак или пояс. В кафе рядом с чужим ноутбуком, в метро, в офисе — Spoa собирает фоновые поля и тихо копит заряд.Экосфера 🌿/ Мы в МАКС

Со мной произошла презабавная история, которая столкнула два мира лбами. Один мир до ужаса консервативный, даже архаичный, а другой прогрессивно-оптимистичный.Не знаю знакомы ли вы с гайдбуком MasterCard, но это документ, который полностью построен на соотношениях (ratios), сплошная математика. Из постоянных величин там только ISO/IEC 7810 ID-1 (стандарт определяющий размер физических идентификационных карт). К слову, он близок к золотому сечению. Так вот, размер физической карты мы знаем. Дальше становится интереснее. Логотип должен иметь соотношение 4.72 к 1, а если используется белая подложка, её отступы рассчитываются как 0.25X, где X = диаметру одного круга. Вообще, возможно у MasterCard есть готовый шаблон, но у наших партнёров его не оказалось.Изучив гайд и собрав макеты, я отправляю их CPO и получаю в ответ разбор дизайна от ChatGPT. Закрываю сомнения, вызванные ИИ. Отправляем дизайн партнеру и получаем в ответ разбор макета от Claude.В итоге там, где можно было бы довериться человеку, люди больше доверяют машине. Я понимаю, что читать и разбираться в гайдбуке утомительно. Гораздо проще загрузить картинки в ChatGPT или Claude и попросить проверить. Но ведь проверять ответ тоже нужно. Кто-то же должен просто посмотреть глазами. В данном случае, проверка ИИ-шками только увеличило время выполнения задачи, чем сократило ее. Удивительно, как мы безусловно полагаемся на технологии, и как классно, что еще существуют такие компании, как MasterCard cо стайлгайдом на 100 стр.