SILLYFEED

Нейронный Кот

@neural_cat · 1.5K подписчиков

Открыть канал в Telegram

Посты канала Нейронный Кот в SillyFeed: единая лента публичных Telegram-каналов со ссылками на оригиналы.

by@fursovhttps://www.linkedin.com/in/fursovia

Посты канала

Нейронный Кот
Qwen3-VLНаконец вышли завершающие размеры в серии Qwen3-VL — 4B и 8B.В двух форматах: instruct и thinkingИ в двух точностях: bf16 и fp8До этого вышли MoE версии: 235B-A22B, 30B-A3BQwen-VL это моя любимая модель ♥️, мне понравилось с ней работать в поколении Qwen2.5-VL. На моей задачи многоклассовой классификации удалось выбить ~0.95 F1Я пробовал gemma-3(n), SmolVLM(2), Phi-4, Phi-3.5 — все они так себе. Только Kimi-VL хорошо работала, но была существенно тяжелее.В планах попробовать Qwen3-VL для text-only задач. Кажется, должна работать прям хорошо⛓️ Коллекция на хагинфейсе
Нейронный Кот
Multi-Token PredictionВ DeepSeek учили предсказывать ДВА токена напередПодробнее почитайте, что такое MTP тут и тутОтбросим мысль про ускорение генерации на инференсеМне интереснее, что предсказание двух токенов улучшает генерализацию модели (см. таблицу)И это же логично? Мы, люди, не предсказываем только одно слово (токен), когда формируем мыслиМы пытаемся предсказать сразу несколько основных токенов, которые будут в нашем ответеНапример, на вопрос про трансформер, мы сразу вспоминаем майкла бэя такие слова как атеншн, эмбединги, kv cache, etcТак, вот. Почему бы не учить LLM предсказывать сразу две вещи:1. next token2. all next tokensТо есть в лосс добавить еще одно слагаемое, которое делает multi-label предсказание ВСЕХ следующих токенов для i-го шага. И предсказывать это одним слоем (матрицей d x |V|)Будет работать?
Нейронный Кот
🤪 4x ускорение редактирования кода в gpt-4oOpenAI релизнули новую фичу, которая ускоряет генерацию — Predicted OutputsДля задач, где требуется редактирование ответа (например, кодинг), теперь можно передать новый параметр`prediction` в completions API.Работает примерно так:1. Мы показываем, какой ответ должен быть2. Chatgpt одним форвард пассом понимает, где надо исправить ответ (или не одним, если исправлять надо в нескольких местах)3. Исправляет ответ только там, где надоИтого, тратится на ~порядок меньше форард пассов.🔹Gpt-4o по скорости на таких задачах становится быстрее Haiku от антропика🔹НО вас все равно чарджат за ваш "драфтовый" ответ по цене completion токенов😠 Завтра все заходим в Cursor, выбираем gpt-4o, получаем ускорение в несколько раз🚨 Ссылка на докуИ Анонс в твиттере @neural_cat

Ещё по теме «Технологии»

Технологии
К.Робуль. О женском
Пока искала фотки, хотела вам показать, как я общаюсь с GPT 😄Я реально разговариваю с ним как с ассистентом. Не какие-то сложные промты, а просто по-человеческиФоткаю еду, иногда прямо на весах, иногда просто «вот я съела это». Даже если это сушки 😅 Он, конечно, пишет, что это не лучшая идея, но всё равно учитывает (сильно не ругает)Иногда могу просто скинуть фото холодильника или продуктов и спросить, что лучше приготовитьЯ не идеальная, делаю не каждый день, иногда через день. Но точно благодаря этому стала осознаннее подходить к вопросу «что мы в себя кладем». Сейчас больше фокуса на белок, на клетчатку, на овощи - посмотрим что будет дальше… так то мне в купальнике быть на следующей неделе 🙃
iOS Good Reads – swift, разработка мобильных приложений, архитектура, блокчейн, VR, AR, карьера, IT
Xylem – XML парсер на чистом SwiftXylem – новый XML парсер на Swift. Он очень минималистичный, модульный, быстрый и безопасный – ну и не тащит за собой вообще никаких зависимостей. Благодаря этому он кроссплатформенный, так что будет работать везде, где есть Swift.
Инфобез
21 IP адрес «просканировали весь интернет» в поисках незащищенного RDPGreyNoise выявили удивительное почти половину всего сканирования RDP‑сервисов в интернете за месяц делает 21 IP‑адрес. Географически сосредоточены в Нидерландах и действуют как единый кластер.Эти адреса целенаправленно шерстят интернет по портам, связанным с удалённым доступом (в первую очередь 3389), чтобы найти публично доступные RDP‑машины. После обнаружения обычно следуют попытки брутфорса логинов и паролей.В пиковые дни та же группа сканировала до двух третей всего мирового RDP‑сканирования, тогда как остальной интернет «разделил между собой» похожий объём трафика тысячи других IP.Что должно насторожить ИБ‑специалиста- Если у вас RDP доставляется в интернет, вы попадаете в общий «котёл» для таких сканеров.- Часть этих IP дополнительно сканирует и другие сервисы, например PostgreSQL, что наводит на мысль о скоординированной операции разведки.Простые рекомендации— Не вешать RDP напрямую в интернет. Используйте VPN, ZTNA или шлюз с обязательной аутентификацией.— Если RDP‑доступ всё‑таки публичен — только по IP‑белому списку, с жёстким rate‑limiting и блокировкой IP после нескольких неудачных попыток.— Включить многофакторную аутентификацию там, где возможно, и использовать сложные пароли/ключи, а не «admin/123456».
Освой AI | Рост продуктов
Мое увлечение психологией в свое время сейчас оказывает мне все бОльшую услугу в понимании того, что происходит.Происходит, на мой взгляд сильный кризис ценностей и трансформация мира вокруг разных точек роста. Назову те, которые вижу.Личностный рост, как спутник 20-х годов. С ковида началось повальное увлечение психологией и психотерапией, дальнейшие события лишь подкинули масла в огонь. Главный раскол: винить мир или работать над собой. На мой взгляд, если обобщить и сильно упростить, примерно так выглядит запрос в терапию у каждого из нас. Работа над собой сняла тревогу и позволила двинуться и вырасти тем, кто ее выбрал. И откинула назад тех, кто предпочел сопротивляться и закрыться.Раскол вокруг AI AI сейчас безусловно усиливает сильных и пугает тех, кто не готов. В итоге люди вокруг меня делятся по принципу Вавилонской башни: те, кто использует инструменты с AI, не могут понять тех, кто рассуждает об их вреде или ненужности, не попробовав. С каждым выходом новой модели и нового инструмента раскол все растет. Те, кто не хочет пробовать по разным причинам, все сильнее искажают себе реальность (защитный механизм психики), те, кто уже попробовал, нередко надевают корону и ощущают себя выше. В итоге два полюса все сильнее расходятся. Раскол усиливается.Что дальше?Дальше или дорогой AI в руках у сильных корпораций, а для простых людей – вечная попытка “догнать” и невозможность. Или все-таки путь децентрализованного AI, о котором говорят братья Либерман. Системная ошибка человечестваПо сути, в мире сейчас все шиворот-навыворот. Молодые люди, у которых есть ментальная мощь, не имея денег, идут кормить ипотеку и корпорации, и обзаводятся (если повезет) свободой к сорока годам, когда для инноваций и обучения сил уже не осталось. Все свои самые продуктивные годы люди тратят на построение какой-то жизни, у большинства она даже не получается такой, как хочется. Но, если в мире появляется неограниченное количество рабочей силы, то все должно быть наоборот: это молодые люди после школ и вузов должны сразу получать деньги на эксперименты, учебу и создание ценности для общества. Венчурные фонды, вкладывающие в личность, а не в проект. Массово, по умолчанию. Просто потому что так выгоднее экономике нового времени. Выгоднее вкладывать в молодость, чем бесконечно оплачивать зрелость.И тут опять вопрос к психотерапии и личности – эти молодые люди должны быть не как мы с вами, а на порядок сознательнее. А значит мы – их нынешние родители – уже сегодня взялись изучать свою психику, чтобы вырастить таких детей. И вот тут у меня картинка складывается: почему последние годы все вокруг пытаются ментально расти. Это мы, те, кто сегодня, работаем над собой, влияем на тот срез мышления человека, на котором обучится AI и AGI. И это мы, сегодняшние, растим детей, которые через 30 лет будут иметь неограниченное количество ресурсов и настолько новую психику, что будут в состоянии ими грамотно распорядиться.Хочу вот так верить 🙏
Медпрофилактика Кузбасса
📍Информационные технологии всё больше внедряются в нашу жизнь, приносят нам удобство и ускоряют рутинные процессы. Но наряду с плюсами, есть и минусы. Главная угроза - расцвет киберпреступности. Почитайте, как защититься от онлайн-мошенников и обезопасить свои деньги 👆
«Гарант». Всероссийский учебный центр
​​Промышленная безопасность 2026 Еще недавно промышленная безопасность ассоциировалась с инструкциями, журналами и проверками. В 2026 году всё окончательно изменилось — теперь это про технологии, которые работают в реальном времени. И новые ГОСТы это только закрепили. 🔍 Что поменялось по-настоящему: Безопасность перестала быть «на бумаге». Теперь это — цифровая экосистема, где каждый датчик, камера и система контроля связаны между собой. 📌 Ключевые сдвиги: — регистрация ОПО полностью ушла в «цифру»: вместо документов — записи в реестре и QR-коды — экспертизы промышленной безопасности — только в электронном виде — надзор всё чаще строится на непрерывном мониторинге, а не на разовых проверках 💡 Но главное — требования к самим системам: Теперь недостаточно просто «установить датчик». Системы должны: — реагировать на изменения за секунды — передавать данные по резервируемым каналам — точно определять местоположение персонала (до метра) ⚠ Для объектов I и II классов опасности это уже не рекомендация, а обязательное условие: автоматизированные системы производственного контроля становятся нормой. 🧠 Как это выглядит в реальности: Современная безопасность — это когда всё работает как единый организм. Например: датчик фиксирует утечку → система сразу показывает видео с участка → доступ блокируется → включается вентиляция → открываются пути эвакуации. Без звонков, без «сейчас разберемся», без человеческого фактора. 🤖 Плюс — новые возможности: — камеры отслеживают ношение СИЗ — тепловизоры находят перегрев до аварии — системы распознают дым на ранней стадии — СКУД не пустит сотрудника без допуска или просроченной аттестации 🔌 Но есть нюанс, о котором часто забывают: Самое слабое место — не «умные» технологии, а инфраструктура: — отсутствие резервного питания — нестабильные каналы связи — неподходящее оборудование И именно это чаще всего «роняет» всю систему в критический момент. 👉 Итог, к которому пришла отрасль: 2026 год — это переход от контроля «по факту» к предотвращению в режиме реального времени. И вопрос уже не в том, соответствуете ли вы требованиям. А в том — работает ли ваша система безопасности, когда это действительно важно. 📎 Маленькая самопроверка: Если у вас всё еще: — разрозненные системы — нет резервирования — и безопасность «включается» только во время проверки значит, вы уже отстаете от новых реалий. Безопасность стала технологией. И назад пути уже нет. #промышленнаябезопасность
Глебсмит
McKinsey выпустил материал о будущем ресторанов в эпоху ИИ. Пять старших консультантов конторы из отдела ритейла, пять видео, шесть страниц PDF, рассуждают крупными мазками на заданную тему: "будущее отрасли до 2040 года".Я прочитал. И понял, что материал интересен не тем, что там что-то про рестораны. Там почти ничего про рестораны. Там исчерпывающий, буквально учебниковый образец того, как устроен современный консалтинговый псевдоанализ.Продукт, бесполезный чуть менее чем полностью для всего, кроме медийного вау-эффекта. Созданный людьми, которые в анализируемой ими индустрии не работали ни дня, которые не знают и не понимают ее. И не хотят знать и понимать. Зато глубоко в трендах.Про рестораны, если коротко: роботы будут готовить, ИИ будет угадывать настроение, дроны в Шэньчжэне уже возят кофе на 40-й этаж, GLP-1 (оземпик и аналоги) меняет размер порций, данные решают всё. Ни одной цифры, которую можно проверить. Ни одной компании, которая уже проиграла. Ни одного человека, который знает, сколько стоит аренда  кафе или почему закрылся ресторан на соседней улице.Зато паттерн — идеальный. Он воспроизводится в любой индустрии без изменений. Подставьте вместо "ресторан" — больница, университет, логистика, туалет, расстрельная камера. Структура не меняется. Потому что она не про предмет. Она про жанр.В этом жанре пять обязательных ролей.1⃣ Оракул-тамада. Открывает материал пророчеством без обязательств. "Следующие десять лет дадут больше изменений, чем предыдущие пятьдесят". Тезис создаёт ощущение масштаба, ни к чему не обязывает. Обязателен.2⃣Китаец с дроном. Поставляет экзотический кейс из какого-нибудь Шэньчжэня, который работает в условиях специфической плотности, регуляторного вакуума и субсидированной инфраструктуры. Подаётся как универсальный тренд. Неопровержим, потому что далеко. И никто не знает толком.2⃣ Капитал(н) очевидность. Объясняет, что потребители хотят хорошее и недорогое одновременно. Что данные важны. Что технологии меняют бизнес. Говорит это с интонацией открытия. "И тут мы окончательно убедились и не поверили своим глазам…"4⃣ Эмпат-профессионал. Рассуждает о том, что после роботизации сотрудники смогут сосредоточиться на "эмоциональном контакте с гостем". Никогда не работал на кассе. Никогда не считал косты и не занимался закупками. Убеждён, что главная проблема отрасли — недостаток эмпатии, а не аренда.5⃣ Адвокат данных. В любом месте разговора вставляет: "Игроки, которые правильно организуют сбор и обработку данных, окажутся впереди тех, кто это игнорирует". Это его единственная реплика, подходящая к любой индустрии — от мишленовских ресторанов до похоронных бюро.Большие консалтинговые фирмы — в первых рядах евангелистов ИИ. Они вложились в него операционно: сокращают аналитиков, автоматизируют производство контента, продают клиентам "AI transformation" как главный продукт десятилетия. Все они одновременно пророки и бенефициары.Но судя по качеству того, что выходит проповедовать ИИ, они доверяют самому ИИ. Интонация, структура, словарь - это уже не живая мысль. Это текст, собранный из паттернов, обученных на предыдущих текстах, которые сами были собраны из паттернов.И здесь ровно то, о чём давно предупреждают скептики: каждый новый цикл контента создаётся моделями, обученными на материале, который создали предыдущие модели. Содержательное качество не накапливается, оно тратится. Остаётся форма без вещества. Жанр без мысли.Будет очень смешно и показательно, если первыми, кто рухнет под тяжестью постИИ идиотизма, окажутся его главные провозвестники. Консалтинг, который продавал клиентам будущее, сам стал его жертвой -  и не заметил момента, когда перестал производить знание и начал производить его симуляцию.Рестораны же как-нибудь переживут без ИИ – анализирующего эмоции клиента в режиме онлайн.
Музей современных технологий
Люди по несколько часов снимают свою жизнь, чтобы обучать роботовСтудент из Индии после учёбы закрепляет телефон на лбу и записывает, как разбирает вещи на балконе. Другой парень из Нигерии регулярно снимает, как гладит одежду.Таких людей тысячи. Они работают на стартап Micro1 и записывают повседневные действия по инструкции. Важно держать руки в кадре и двигаться максимально естественно.Эти видео потом используют компании вроде Tesla и Figure AI. На них обучают ИИ, чтобы роботы понимали, как выполнять обычные бытовые задачи.Платят по-разному. За простые действия около $15 в час. За сложные сценарии, например медицинские, — до $150 в час.Но есть проблема с качеством. Подходит только примерно четверть записей. Многие видео снимаются в обычных квартирах, и поведение людей не всегда выглядит так, как нужно для обучения.В итоге всё упирается в то, какие привычки роботы перенимают от людей.А вы бы согласились на такую работу?❤️ — да👎 — нет, не интересно@museuminvest
НейроВед
Новая модель генерации изображений от OpenAI?В сети появились примеры, которые приписывают GPT Image 2. Судя по ним, модель заметно лучше понимает сцены из реального мира и аккуратно работает с текстом на изображениях.Главный акцент — фотореализм. По первым впечатлениям, качество уже сопоставимо с топовыми решениями, а местами выглядит даже сильнее.Гонка генераторов снова оживает.