SILLYFEED

Knowledge Accumulator

@knowledge_accumulator · 5.5K подписчиков

Открыть канал в Telegram

Посты канала Knowledge Accumulator в SillyFeed: единая лента публичных Telegram-каналов со ссылками на оригиналы.

Реалистичный взгляд на технологии и мир

Посты канала

Knowledge Accumulator
Прилетел в Германию сегодня утром, чтобы через несколько часов сесть на поезд и поехать в Польшу. После Currywurst mit Pommes я почувствовал, что зря поставил Германию в один ряд с Россией в предыдущем посте.Выехав из Берлина, наш поезд проехал час, после чего остановился на 20 минут. Потом нам объявили, что он сломался и дальше никуда не поедет. Нас призвали устроить рейдерский захват ни в чем не повинного поезда, идущего обратно в Берлин. О том, что, собственно, дальше, пока ничего неизвестно.Воистину, до такого состояния failed state России ещё очень далеко.
Knowledge Accumulator
In-Context Reinforcement Learning for Variable Action Spaces [2024] Я уже упоминал Algorithm Distillation ранее - эта достаточно прорывная идея заключается в том, что мы можем дистиллировать алгоритм в нейросеть. Для этого нам необходимо сгенерировать алгоритмом датасет из "траекторий" обучения, а затем учить нейросеть предсказывать действия алгоритма при условии всей предыдущей истории. В обозреваемой работе, которая ещё и по совместительству творчество подписчиков, делается шаг в сторону увеличения гибкости этого подхода. Вместо того, чтобы обучать классификатор действий с фиксированным количеством вариантов, мы делаем так:1) Для каждого нового экземпляра среды, для каждого действия мы генерируем случайный эмбеддинг2) При предсказании действия нейросеть выплёвывает вектор действия. 3) Мы обучаем этот вектор на contrastive loss - тот же softmax + logloss, но используем векторы из пункта №1 как "опорные" для каждого действия.В итоге, что видит трансформер на входе:- Список эмбеддингов всевозможных действий- Траектория алгоритма - s_1, a_1, r_1, s_2, ..., s_nСудя по результатам, улучшенный алгоритм обгоняет AD в случае перемешанных действий и умеет работать на средах с новым количеством действий.Статья интересная и является движением в правильную сторону. В какой-то момент мы перестанем использовать трансформеры для ICL и, скорее всего, эта идея сможет быть переиспользована. Algorithm Distillation, думаю, очень пригодится при мета-обучении AGI, поэтому рад, что люди работают над его развитием.@knowledge_accumulator
Knowledge Accumulator
ChessGPT - есть ли модель мира у языковой модели?В этих двух блогпостах автор исследует наличие "модели состояния" у языковой модели, обученной на шахматных партиях, записанных в виде PGN (1.e4 e5 2.Nf3 …).50 миллионов параметров и 16 миллионов игр с lichess уже достаточно, чтобы она умела играть лучше 90% игроков. Как нам получить прямое свидетельство того, что модель внутри хранит состояние доски?Возьмём активации с внутренних слоёв и будем обучать линейную модель поверх этих активаций предсказывать состояние доски - точнее, вероятность нахождения каждой из фигур в каждой из позиций. Такой подход успешно предсказывает 99.2% клеток, значит, информация о состоянии всей доски у такой модели есть. Но так можно предсказывать не только доску. Автор учит линейную модель предсказывать - это игра с рейтингом <1500 или >2000 (остальные выкидываем)? Результат - 89%.Во втором посте автор показывает, что на "рейтинг" сгенерированного хода даже можно повлиять. Для этого мы должны добавлять к активациям внутреннего слоя "вектор высокого рейтинга", который мы выучили, обучая классификатор рейтинга.И всё-таки, есть ли модель мира у языковой модели?Этот вопрос, как часто бывает, демонстрирует ограниченность человеческого мышления. Мы склонны наделять большие системы из простых элементов бинарными качествами и до хрипоты спорить о значении терминов, тогда как в реальности всё проще.У системы внутри есть всё, что помогает решению задачи - "модель мира", "модель игрока". Есть ровно в той степени, которая нужна для минимизации ошибки - x% модели среды, y% модели игрока и даже z% модели качества интернета для предсказания внезапного конца игры.При этом у системы нет ни модели мира, ни игрока, потому что её об этом не просили в явном виде. А нужно ли это? Я думаю, что нет, и все проблемы, вызыванные их отсутствием, решаются правильной постановкой задачи перед самой системой. Но мы пока к этому не пришли.@knowledge_accumulator

Ещё по теме «Бизнес и финансы»

Бизнес и финансы
Глобус Воронежской области
Очередной "черный день" для главы ГК "Развитие" Сергея Гончарова. И - очередной лучик надежды для горожан на то, что в Воронеже закончится строительный беспредел.Да не закончится, конечно. Просто число беспредельщиков подсократят...https://t.me/newgorodvrn/886#гкразвитие #сергейгончаров
что-то на DL-ском
Open Computer Agent от Hugging FaceTL;DR: запускаете Space → набираете в prompt действие → наблюдаете, как агент кликает, печатает и сам закрывает вкладки 💛smolagents core ≈ 1 000 строк Python. Планировщик LLM → цепочка tool-calls → low-level «мышь/клавиатура».Repo лежит рядом с Space; ставится одной командой. 💛облачный Linux + Xvfb + Firefox. Desktop стримится вам через noVNC (iframe в HF Spaces). 💛Qwen-VL в качестве вижена, bounding-box целей на скриншоте, чтобы агент «попал» мышкой. 💛xdotool/pyautogui генерирует X-Events💛high-level LLM размечает шаги, детектор экрана ищет координаты, executor кликает. Петля повторяется, пока done = True.🤗Space
Попугай глаголет
Опережая свои же возможности Как же быстро мы эволюционируем! Уже видели, наверняка, как учёные смогли [в адронном коллайдере] превратить свинец в золото? Считаю, что наше поколение самое везучее, тк застало эпоху без телефонов и интернета вместе с ИИ и другими научными прорывами. Мы стали свидетелями этого скачка: от первых чёрно-белых мобилок (у меня была и раскладушка, и слайдер:) до персонального всезнающего помощника в кармане (который может быть кем угодно — психолог, репетитор, тренер и т. п.) Только вот наш мозг к такому скачку не был готов и оттого легко залипает на быстрый дофамин в экране. Пытается приспособиться к новым реалиям, где между действием и наградой всего пара секунд, а не часы и дни упорного труда.Только подумайте, сколько привычных задач стало решаться быстрее? 👉🏽 Купить что-то за 10 мин — на маркетплейсе, а не прогуливаясь часами по магазинам, сравнивая цены и характеристики. А до этих магазинов ещё добраться надо было 😅👉🏽 Получить продукты через 10 мин без надобности их собирать и тащить. Разогреть готовую еду, а не готовить.👉🏽 Получить план занятий с нужными материалами за 5 мин от ИИ, а не искать их часами самому.Всё больше действий требуют минимум времени, к чему мозг пока не привык. И кстати, занимаясь всем этим раньше, наши родители не слушали параллельно подкасты 😂 максимум —радио или магнитофон для настроения)) Разговаривали друг с другом. Или были в своих мыслях.Насколько мы стали зависимы от стимулов и быстрых наград. Насколько это всё в новинку нашему мозгу, который заточен на труд и только потом результат. Вот и получается как на картинке))* * *Я это всё к тому, что не надо удивляться, почему нас часто посещают тревожность, прокрастинация и потеря смыслов. Наш био-компьютер просто не поспевает за своими же изобретениями)) Чтобы помочь ему, предлагаю иногда намеренно удлинять путь от желания до награды. Начать медитировать и учиться быть в тишине. Не требовать от себя гиперпродуктивности и мгновенной адаптивности. Ваше внимание к себе и своим ощущениям — уже большой шаг. Двигайтесь в своём темпе. 🟡А вот, что делать с телом, которое страдает от этого скачка технологий больше всего, расскажу в следующем посте. Будет просто топ-находка!В комментариях предлагаю поностальгировать: какие старые «долгие» задачи вызывают у вас тёплые воспоминания? Чем вам было в радость заниматься, хоть и муторно?
Юлия Попова | Искусство инвестиций
💵Помните поговорку про скупого, который платит дважды? Вот это я. В конкретно данный момент трижды.Когда это происходит?Когда я перестаю слушать себя и включаю кого-то, кем не являюсь пока. Или и не буду являться, но включаю эту роль. Вот, например, роль прагматичного предпринимателя. Наслушалась старших коллег, начиталась умных книжек, посчитала что то, приняла решение, что для меня стали «до’роги» услуги моего продюсера, с которой пишем подкасты. Решение приняла, но слава богу не захлопнула, как я обычно делаю. Решение приняла, но на уровне ощущений, понимаю что что-то не то делаю. Но я же рациональный человек. Кто я такая, чтобы медитировать на этот счет🤣Пошла в рынок, нашла альтернативного творца. Понимаю, что человек другой, стоимость дешевле, но мне то нужно также как было и «с перламутровыми пуговицами», как в советском кино. Важно: дело не в специалисте, она по-своему классная. Дело во мне!!! Но я ж начитана, рациональна, а еще сильна и находчива, и терпелива иногда. Попробовала попеределывать тексты сама, повычитывать, подописывать, поредактировать. Но я в этом не профи🫠
Мне хоть еще на одно обучение поступай. Плюсом к трем текущим 🤣🤣🤣
Оказалось, что есть нюанс:
я опять не учла, что время самый дорогой ресурс. И я чувствую, что его становится катастрофически мало. Я как та самая белка в цейтноте.
Что имеем в итоге:Во-первых, я еще не опытный предприниматель, а значит, личный бизнес опыт мне еще нарабатывать и нарабатывать.Во-вторых, хочешь делать что-то - умей делать не одна. Умей делать с профессионалами. Делегировать, доверять, давать возможность расти.В-третьих, время и внимание реально дорого стоят. Особенно, когда тратишь его без удовольствия занимаясь не своей работой. Сразу умножайте на х3. Это даже не обсуждается. В-четвертых, продюсеров, партнеров, и прочие опорные позиции на переправе не меняют. Да, хорошие спецы стоят денег, но и результат стоящий: у вас остается время на работу, которая напрямую ведет к позитивному фин резу. И вуаля, мы снова пришли к тому, что занимаясь только своим делом, своей профессией мы можем максимально зарабатывать деньги, и вновь наше дорогое время и внимание = деньги. В-пятых, да, черт подери. Когда чувствуешь синхрон и мэтч, это дорого стоит. Нужно уметь не только считать, но слушать и слышать себя. Чтобы не пересобирать выпуск подкаста за пару дней. Чтобы не вычитывать тексты и смыслы в отпусках, в выходные, ночью. И чтобы не оказываться вновь той самой скупой, которая в итоге платит абсолютно обоснованно трижды. К чему я это все:
если у вас есть какой то вопрос, задача, которая «живет с вами» уже какое то время, но внешний фон вам твердит: дорого, да зачем тебе это, да зачем мне это… а может быть потом… Значит самое время действовать, а не сливать время и внимание на бесконечное обдумывание.
Слушайте себя, работайте с теми, с кем вам в удовольствие, чей опыт, подход и знания откликаются. У меня все. Нет не все: Даша, спасибо тебе за твое отношение к делу.
ДЕТИ и ДЕНЬГИ | Елена Нохрина
«Я Ада Занегина. Мне 6 лет. Пишу по-печатному. Гитлер выгнал меня из города Сычевка Смоленской области.Я хочу домой. Маленькая я, а знаю, что надо разбить Гитлера и тогда поедем домой.Мама отдала деньги на танк. Я собрала на куклу 122 рубля 25 копеек. А теперь отдаю их на танк.Дорогой дядя редактор! Напиши в своей газете всем детям, чтобы они тоже свои деньги отдали на танк. И назовем его «Малютка». Когда наш танк разобьет Гитлера, мы поедем домой.Ада.Такое письмо в 1943 году написала маленькая девочка в газету «Омская правда», о которой я вам уже рассказывала☝️Оно получило широкий отклик и дети со всей Сибири начали присылать свои накопления и письма, вот некоторые из них:Таня Чистякова, 5 лет:⤵️«Здравствуй незнакомая девочка Ада! […] Мне только 5 лет, а я уже год жила без мамы. Я очень хочу домой, а потому с радостью даю деньги на постройку нашего танка. Скорей бы наш танк разбил врага».Алик Солодов, 6 лет:⤵️«Я хочу вернуться в Киев и вношу собранные на сапоги деньги — 135 рублей 56 копеек - на строительство танка «Малютка». Тамара Лоскутова:⤵️«Мама хотела купить мне новое пальто и накопила 150 рублей. Я поношу старое пальтишко».Друзья, периодически я сталкиваюсь с мнением, что деньги портят детей и поэтому им не нужны ❌Но скажите, неужели эта история, в очередной раз, не доказывает нам обратное? Блог о Финансах для РодителейP.S. Фрагмент документального фильма «Малютка: большой поступок маленького человека» выпущен к 80-летию Победы с участием той самой девочки 🔥P.P.S. Куклу Аде подарили после 1945 года
Мои 52 понедельника 📈
5 мая, понедельник ❤️‍🔥Сейчас будет немного грустное откровение с моей стороны. Ну, даже много-грустное.Совсем скоро у меня день рождения, и подружани уже активно трясут с меня вишлист. А я до последнего откладывала, уверенная, что это займёт у меня 5 минут. Потому что человек, у которого 148 товаров в корзине Яндекс.Маркета и 300 - на Озоне, не должен долго думать. Все мои желания - уже там.Но, когда села заполнять, поняла, что вообще не так все просто. Потому что 95% товаров в моей корзине - не мои. Что-то мужу, что-то детям, что-то хозяйственное.Не буду же я в свой лист на ДР вписывать детские трусы, вешалки и средство для чистки дивана, да?Короче, проанализировала более 500 позиций в своих «хотелках», и обнаружила, что чего-то радостного, красивого и «моего» там ровно 11 товаров. 11 из 500+Взгрустнулось как-то.🤡 Доходы: 0 руб.🫡 Расходы:- 761 руб. - Продукты💸 Остаток на карте: 143 руб.💸 В копилке: 68000/100000 руб.😻 543 дня французского (Позанималась до полуночи и после, так что сразу плюс 2 дня)❤️‍🔥 Опять без чтения :(
RRB
Об относительной ничтожностиВ современной цивилистике выделяют такую категорию, как «относительной ничтожность». Смысл в том, это категории в том, что сделка ничтожна, но на ничтожность может ссылаться лишь определённое лицо. Для всех сделка действительна, но для данного лица она ничтожна. При столкновении в суде двух лиц, для одного из которых сделка ничтожна, а другого – действительна, сделка может быть квалифицирована судом как ничтожная лишь тогда, когда это идёт на пользу стороне, для которой сделка ничтожна. Как правило, категория относительной ничтожности применяется к договорам, в которых специальную защиту получает слабая сторона (сильная не может ссылаться на ничтожность, а слабая может), а также к распорядительным сделкам, когда распорядительная власть лица относительным образом ограничена.То, что категория «относительной ничтожность» содержит в себе неизгладимые логические противоречия, понятно. Сделка не может мерцать – она либо действительна для всех, либо нет. И тем более она не может мерцать для конкретного лица: для тебя сделка вроде действительна, но когда ты оказываешься в суде с определённым лицом, она вдруг считается ничтожной. В действительности, «относительной ничтожность» – это попытка искусственно скрестить оспоримость и ничтожность. От относительности здесь берётся критерий «установлена в пользу конкретного лица и недоступна для других», от ничтожности – «действует ipso iure и принимается во внимание ex officio». При этом игнорируется логическая несовместимость этих критериев: оспоримость проявляет своё действие только для конкретного лица потому, что она основана на субъективном праве этого лица (а никто не может пользоваться чужим правом); ничтожность принимается во внимание ex officio потому, что она не связана с каким-либо субъективным правом и суд лишь констатирует текущую материально-правовую действительность. Вводя «относительную ничтожность», правопорядок хочет, чтобы выгоды от недействительности имела одна сторона, но чтобы у этой стороны не было необходимости совершения дополнительных процессуальных действий. Однако система права просто не может дать правопорядку инструмент, который удовлетворял бы этому желанию (как, например, система права на может дать инструмента для передачи больших прав, чем имеешь сам). Но всё это аргументы, которые можно отбросить со ссылкой на догматический ригоризм и то, что нет нужды в абсолютной логической непротиворечивости системы. Хорошо. Давайте разберём два казуса. Сможет ли ответить на них теория «относительной ничтожности»?I. Потребитель A и индвидуальный предприниматель B заключили сделку, которая по правилам о несправедливых договорных условиях считается относительно ничтожной. Для B сделка действительна, но A может ссылаться (или не ссылаться) на ничтожность, при том суд примет во внимание ничтожность ex officio, если того потребуют интересы A. Представим, что за потребителем A унаследовали по закону его сын и дочь – C и D. Дети С и D, унаследовав имущество за A, разделили его так, что договорная позиция в этой мерцающей сделке досталась D. Затем за индивидуальным предпринимателем B в порядке завещания унаследовал C. Соответственно, после этих распоряжений, в мерцающей сделке место A заняли С и D совместно, а затем D единолично, а место B занял C. Вопрос: вправе ли C ссылаться на ничтожность сделки? С одной стороны, он является правопреемником A, и в этом качестве он должен унаследовать это квази-право ссылаться на ничтожность. С другой стороны, он является правопреемником В, и в этом качестве он не вправе ссылаться на ничтожность. Как ответить на это вопрос, совершенно непонятно. Выступая адвокатом дьявола, я бы сказал, что при разделе наследства D получила в единоличное обладание квази-право ссылаться на ничтожность, но строго говоря это вообще не право (раз суд может принять во внимание ex officio) и как им вообще можно тогда распорядиться?
LunarDev
Решение#include <iostream>#include <cmath>using namespace std;int main(){ int vertexNum; double ansS = 0; double firstX, firstY, currX, currY, prX, prY; cin >> vertexNum; cin >> firstX >> firstY; prX = firstX; prY = firstY; for (int i = 1; i < vertexNum; i++) { cin >> currX >> currY; ansS += (prX * currY - currX * prY); prX = currX; prY = currY; } ansS += (prX * firstY - firstX * prY); ansS = abs(ansS) / 2.0; printf("%.5f\n", ansS); return 0;} #Задачи #bydusssh💬 Чат |📒 Меню🧑‍💻 LunarDev
Котомодерн
Стрим об экономике НовороссииДавно хотел провести такой эфир. Просто перечисляя и сортируя по категориям проблемы «новых регионов», понимаешь как много работы предстоит. Давайте, коротко, какие выводы из разговора я могу сделать.1. Особая экономическая культураУкраинское прошлое, война, санкции, оторванность от российского экономического пространства и многие другие факторы создают особую среду экономических отношений.Предприятия не хотят раскрывать информацию о себе, государство позволяет им это делать (ведь на дворе военное положение). Покупатели не знают, что продает предприятие рядом. Оно в режиме секретности. Даже если делает обычный кетчуп. Это сильно искажает рынок. Покупатели и продавцы просто не могут найти друг друга. Привычные российские платформы, снижающие трансакционные издержки: Авито, ЦИАН, Яндекс.Карты, тарегтированная реклама, Яндекс.Такси и другие — не работают.Суды, правовые институты запущены лишь частично, выходить «на плановый режим» они будут ещё долго. Статистика не собирается, или она засекречена. Всё это тоже увеличивает трансакционные издержки.Проблемы высокого спроса и низкого предложения искажают, как говорили в СССР, «культуру торговли». Проще говоря, «а куда ты денешься, я тут одна продаю, жри что дают».В итоге, на «новых территориях» формируется специфическая культура экономических отношений. Работать в этих условиях — вообще не тоже самое, что вести деятельность в реалиях «материка». Навык поиска покупателей, продавцов, помощников в Новороссии — это что-то крайне специфичное, местами архаичное, бесполезное в условиях будущей нормализации ситуации. К сожалению, людям пока приходится вырабатывать малополезные в будущем навыки.2. Кризис предложенияПроблема развития экономики новых территорий почти на 100% лежит на стороне предложения, а не спроса. Огромный поток денег из федерального бюджета в виде строек, выплат военным, субсидий и пенсий повышает спрос. Предложение не может расшириться. У этого много причин.Почему же люди из «материка» не ринулись покрывать спрос? Во-первых, частично ринулись, экономика действительно растёт, хоть и сильно медленнее, чем могла бы в «среднероссийских» условиях. Во-вторых, задайтесь сами вопросом. А почему бы не инвестировать в Донбасс, Херсон, Запорожье? Ну, с чего же начать… Военные риски. Правовые риски. Проблемы с привлечением капитала. Санкции. Нехватка инструментов анализа рынка. Проблемы с транспортом. Наличие контроля на бывшей границе. Отсутствие коммерческой недвижимости. И много чего ещё.В итоге, государству приходится приводить на новый рынок «материковые» компании за ручку. Иногда подпинывая. Чтобы показать остальным, что «лёд тронулся». Но лишь государственное давление с требованием «На Донбасс!» не поможет решить ситуацию.Большинство проблем сводятся к идущей войне. Когда она закончится, ситуация разительно улучшится. А пока, спрос превышает предложение. Это выражается и в высоких ценах, и в неценовых ограничениях. На стриме, Иван Лизан проиллюстрировал это примером с записью и ожиданием очереди на обычную примерку выпускного платья.Хорошо, что нашли формулу работы Ozon и WB в новых регионах. Это расширит предложение и снизит цены. 3. Проблемы брендингаОтсутствие понятного названия у «новых территорий» очень ярко показывает мутность и туманность их позиционирования. Вопрос будущего этих регионов в экономике, политике, культуре России всё ещё не решён. Как они будут называться? Какой у них будет федеральный округ (которого до сих пор нет)? Какое направление развитие продвигать, как приоритетное: индустрию, туризм, сельское хозяйство, «жизнь на юге»?Это сложная проблема, сама Украина (ещё когда была относительно целым государством) решить её так и не смогла. Современный мир очень динамичен. Он быстро меняется. Долгосрочные тренды общемирового развития требуют полного пересмотра концепции развития не только Русского Синьцзяна, но и львиной доли территории России в целом.Иначе всё это будет зоной застоя, поставщиком мечтающих уехать в Москву, или «зарубеж».Часть 1 из 2