SILLYFEED
Открыть канал в Telegram

Посты канала о фундаментальном в SillyFeed: единая лента публичных Telegram-каналов со ссылками на оригиналы.

Если это одновременно просто, важно, мощно, красиво, естественно, восхитительно, общо и всепронизывающе — или если для полного изъяснения вам не хватает языка и вы вдруг находите его в каком-то диалекте математики — значит это о фундаментальном.

Посты канала

о фундаментальном
Пишут, что GPT4.5 прошла тест Тьюринга. Пишут, что Gemini 2.5 Pro имеет IQ 120.Да, всё движется очень быстро.Пожалуй, самое время зафиксировать в дневнике момент, когда есть ещё задачи, которые я способен решить (хотя бы эмпирически), а эти две топовые модельки — ещё нет.Я уже упоминал эту задачу здесь несколько лет назад, но напомню формулировку:Необходимо разработать простой, но мощный алгоритм (на Python или любом другом языке) для угадывания действительного числа с заданной ε-точностью (ε задаётся до старта).Суть задачи:Алгоритм предлагает число, после чего вызывающая сторона сообщает, больше ли секретное число или меньше предложенного числа.Требования:Быстрая сходимость: алгоритм должен агрессивно быстро приближаться к цели.* Независимость от начальных условий: стартовые параметры не должны существенно влиять на сходимость.* Адаптивность (open-endedness): секретное число может без уведомления измениться в процессе угадывания, алгоритм должен немедленно адаптироваться и переключиться на новый путь.* Отсутствие априорных ограничений: диапазон, в котором находится число, заранее неизвестен.* Завершение работы: алгоритм прекращает угадывание, когда предложенное число оказывается в ε-окрестности от целевого.
о фундаментальном
у меня года два чесался вопрос:а работают ли языковые модели, если входной текст скармливать в модель не жирными токенами, не посимвольно, и даже не по байтам, а экстремально — по битам?я всё ждал появления папир по этой теме, но вот сегодня меня достало ждать и я проверил: оказывается всё работает 😳Если вам интересно, то вот исходники, а вот Google Colab Notebook.Возможно вам будет забавно: 1. в основу взят знаменитый nanoGPT (автор Андрей Карпатый). 2. за 2 часа (!) при помощи Cursor AI + Claude-3.5-Sonnet, я прикрутил к nanoGPT побитовый токенизатор, обучил и протестировал. Код не пришлось писать вообще! и я от этого немножко в шоке...
о фундаментальном
весь ML, весь матстат, вся теория обработки сигналов пронизаны важной мыслью, которая к сожалению бессмысленно догматизируется:"отделение полезного сигнала от шума сводится к уменьшению дисперсии остатка".В результате все вариационные методы фокусируются на минимизации дисперсии остатка. Все исследователи фокусируются на вариационных методах — все заняты работой, хотя почему-то не всегда успешно 🤓Дело в том, что модель сигнала в вариационных методах почти без исключения предполагает аддитивную природу отношения между полезным сигналом и остаточным шумом. Вот обычный пример сигнала мультипликативной природы, в котором дисперсия остатка после выделения полезного сигнала оказывается некисло выше дисперсии исходного сигнала.И на практике довольно редко можно исправить такую ситуацию простым логарифмированием. Часто это из-за банальных аддитивных смещений в отрицательные значения, но вовсе нередко из-за того, что знак является существенной частью сигнала.Комплексное логарифмирование звучит как панацея, но умеем ли мы ловко с ним работать? А уместно ли логарифмирование вообще в случае неприятного небольшого аддитивного смещения?

Ещё по теме «Наука и образование»

Наука и образование
Кирилл Лопатин | Всё перелопатим
❓🎓 Почему преподаватели в сферах среднего профессионального и высшего образования считаются педагогами (в том числе на уровне законодательства), если они обучают не детей, а взрослых, и должны тогда называться андрагогами?
lina 씨 | 마음속으로 가는 길
рандомная лексика на тему отношений😑 · 상대방 противоположная сторона, может быть и партнер (объект симпатии)· 혼란스럽다 быть в замешательстве (как правило, используется в тяжелых ситуациях, когда перед нами трудный выбор)· 호감 симпатия, хорошее чувство по отношению к кому-то· 망설이다 колебаться, сомневаться· 마음의 문 дословно «дверь души», путь к сердцу и тп · 자연스럽다 естественный· 서로가 서로의 곁에 있다 быть рядом друг с другом
Jewish Heroes/Еврейские герои
#главный_герой Хилик Фиш(1926-1992)Эта история – о ветеране Второй Мировой войны, появившемся на свет в Израиле. 23 октября 1926 года в Тель-Авиве, в семье молодых репатриантов Леи и Давида Фиш, родился сын. Маленького «сабру» назвали Йехиэлем, и стать бы ему борцом за создание еврейского государства, а затем и гражданином независимого Израиля, если бы не одно обстоятельство: его родители, приехавшие в свое время в Палестину из Польши, были убежденными коммунистами. И это создавало им многочисленные проблемы.Коммунисты выступали против создания мононационального государства – они считали, что евреи и арабы должны вместе бороться с британскими колонизаторами и строить социализм в своей стране. Поэтому их отношения с сионистскими партиями складывались очень непросто. Однако и арабы относились к ним враждебно. Патриархальное арабское общество не привлекали идеи ликвидации частной собственности и равенства между мужчинами и женщинами. Ну а управлявшая Палестиной британская администрация не собиралась пассивно наблюдать, как коммунисты готовятся к изгнанию колонизаторов.Впрочем, всем репатриантам тогда приходилось нелегко. Работы не хватало, жилья тоже, и, кроме того, евреям все время приходилось отбиваться от нападений арабов. Только в августе 1929-го от погромов погибли 133 человека. Лея и Давид Фиш окончательно разочаровались в идее строительства коммунизма на родине предков. Они решили присоединиться к еврейским трудящимся, воплощающим эту мечту в Советском Союзе. В 1930-м Лея, Давид и маленький Йехиэль (по-домашнему Хилик) приехали в Москву.Еврейские коммунисты в СССР чувствовали себя довольно комфортно. Иврит был, правда, фактически запрещен, зато на идиш издавались газеты и журналы, ставились спектакли. А ОЗЕТ – Общество землеустройства еврейских трудящихся – создавал по всей стране земледельческие поселения. 20 августа 1930 года ЦИК РСФСР принял постановление «Об образовании в составе Дальневосточного края Биро-Биджанского национального района».В Биробиджан потянулись энтузиасты, считавшие, что Третий храм следует возводить не на Ближнем Востоке, а на Дальнем. Ехали и из СССР, и из-за границы. Среди переселенцев были и евреи, успевшие пожить в Эрец-Исраэль, в их числе – Давид и Лея Фиш с маленьким Хиликом.Однако энтузиазм новоприбывших быстро иссяк. Из-за бытовых трудностей и тяжелого климата из приехавших в Биробиджан в 1928-33 годах 19 365 евреев 11 450 покинули Дальний Восток. Вернулись в Москву и родители Хилика. Давид устроился слесарем-бригадиром на заводе «Шарикоподшипник», Лея – в Метрострой. В школу Хилик пошел уже в советской столице.Большинство оставшихся в Биробиджане постигла страшная участь. Сильнее всего пострадали именно иммигранты и возвращенцы, которым были предъявлены обвинения в шпионаже. Из 311 делегатов Первого съезда Советов ЕАО 116 были расстреляны, 175 отправлены в лагеря.Но и с уехавшие не ушли от расправы. 4 января 1938 года Давид Фиш был арестован и обвинен в шпионаже. 9 мая 1938 года Военная коллегия Верховного суда СССР вынесла ему смертный приговор. В тот же день он был расстрелян.В момент ареста мужа Лея была вновь беременна. Валериан появился на свет уже после того, как его отца не стало. 12-летний Хилик взял младшего брата под опеку. И всегда пытался, как мог, заменить ему безвинно убитого отца и помочь матери.После семилетки Хилик поступил в ремесленное училище, чтобы быстрее получить профессию и начать работать. Но едва он успел закончить первый курс, как началась война. В ночь на 22 июля 1941 года люфтваффе совершили первый налет на Москву. Была создана местная противовоздушная оборона. В защите Москвы принимали участие тысячи добровольцев, дежуривших на предприятиях и крышах жилых домов, чтобы предотвращать пожары: на советскую столицу обрушились тысячи зажигательных бомб.«Зажигалки» представляли огромную опасность – в Москве все еще оставалось множество деревянных домов.Читайте полную версию у нас на сайте https://www.jewishheroes.live/heroes/fish
True OSINT
Охота на скамонтов.Мошенники, использующие фишинг под MAX, продолжают переносить старые схемы на новый мессенджер.На домене MAXUZNAN.RU пользователям предлагают авторизоваться, чтобы якобы узнать, как их сохранили друзья и знакомые в контактах.Сделано все, как обычно, на коленке и без какой-либо любви к своему труду. Например, чего стоит одна фраза: «Подтвердите кто я в контактах?»Складывается ощущение, что этих мошенников либо держат в заложниках, либо они действительно по уровню развития скатились до мамонтов и скоро прекратят свое существование по той же причине - от голода.Это уже не просто скамеры, а скамонты - вымирающий вид мошенников, которые до сих пор носятся с древними и примитивными шаблонами.Домен заблокируем.#фишинг #макс #max #скамонт #scamont
Калибр Мастерства - Всё об Огнестрельном Оружии
📅 8 мая 1945 — День Победы в Европе📜 Накануне, 7 мая в Реймсе, генерал Альфред Йодль подписал безоговорочную капитуляцию Германии. 8 мая союзники объявили День Победы — окончание шести лет войны, которая преобразила стрелковое оружие и доктрину его применения.▫️ Массовое производство основных винтовок: M1 Garand ~4 млн за 1940–45, Мосин обр. 1891/30 ~17 млн к 1945, Karabiner 98k ~14 млн, Lee-Enfield всех типов — более 10 млн▫️ Прорывы, опередившие время: StG 44 (первая штурмовая винтовка под промежуточный патрон), ППШ-41 (массовая автоматическая пехота), FG 42 (десантная автоматическая винтовка)▫️ Послевоенное наследие: огромные склады расходятся по локальным конфликтам Африки, Азии, Ближнего Востока на десятилетия▫️ Эпоха «полноразмерных» винтовочных калибров (.30-06, 7,62×54R, 8×57) постепенно уступает место промежуточным — в 1943-м немцы приняли 7,92×33 Kurz, в 1947-м советский 7,62×39 станет патроном АК💡 Опыт массового боя Второй мировой показал: пехоте нужно оружие с высокой плотностью огня на коротких и средних дистанциях. Из этого понимания в послевоенное десятилетие вырастут семейства штурмовых винтовок — от АК-47 до M16.#история #ДеньПобеды #StG44 #АК47Калибр Мастерства - Всё об Огнестрельном Оружии
Mamafilolog📚здесь
Прадедушка Арон в 95 лет закончил свои мемуары вопросом: «Интересно, будут ли обо мне что-то знать потомки?»Дедушка, представляешь, сегодня они чуть не подрались из-за твоего портрета.Ну потому что в нашей школе, как всегда, в последний момент сообщили, что дети должны приходить на линейку с изображениями своих ветеранов. А у нас дома ещё со времён Бессмертного полка как раз твой портрет и остался.Пришлось долго объяснять, что воевавших предков у нас много, но вот оформленное подходящим образом изображение только одно.Дальше последовал логичный вопрос: «А почему про папиных прадедушек мы не слышали?»Ну потому что только я знаю про своих всё в деталях, ещё и рассказать могу в стиле аудиоспектакля. А про второго моего прадеда у нас вообще целая книга есть и чемодан писем с фронта. Но вопрос хороший. Поэтому отправила папу узнавать подробности про своих. Чтобы каждый год в школе рассказывать про разных дедушек и бабушек ❤️
Цезариум
В 1991 году в Германии была обнаружена изумительная чаша с эмалевой росписью на стекле, относящаяся к III веку. С этим изящным сосудом связан легендарный рассказ о молодом Ахилле. Его мать, нимфа Фетида, осознавая пророчество о гибели сына в Троянской войне, пыталась защитить его: сперва окунула в реку Стикс, а потом спрятала на острове Скирос среди девушек при дворе царя Ликомеда. Ахилл переоделся в женскую одежду и жил инкогнито — что имело свои преимущества для юноши в таком окружении. Однако греки тоже имели своё предсказание: без Ахилла победы не добиться. Одиссей заподозрил, что герой скрывается на Скиросе, и проверил свою догадку с помощью хитрости. Он показал девушкам украшения, среди которых «случайно» оказался меч (иногда и щит). По одной версии, Ахилл выдал себя интересом к оружию. По другой, более эффектной, когда люди Одиссея неожиданно устроили имитацию боя, девушки разбежались, а Ахилл инстинктивно схватил оружие и встал на защиту прохода. Именно этот эпизод запечатлён на чаше.
Агропилот — главные новости АПК
РЭБ не помеха для настоящего интеллекта!Когда спутники перестают работать, многие системы превращаются в бесполезное железо. Но только не в случае с Cognitive Agro Pilot.Получили видео от наших аграриев из Курской области. Условия экстремальные: граница, зона действия РЭБ, полное отсутствие спутниковой навигации. Но посмотрите на кадры — техника идет идеально ровно, выполняя все операции в автономном режиме.Почему это круто? Потому что Cognitive Agro Pilot «видит» поле глазами, а не через спутниковые координаты.— Кромка? Видит.— Валок? Видит.— Рядки или технологическая колея? Без проблем.Для агрария это означает колоссальную прибавку к эффективности. Никаких простоев из-за отсутствия сигнала, никакой зависимости от «слепоты» стандартных систем. Это автономность в чистом виде, которая позволяет работать 24/7 в любых условиях.Лучшая оценка технологии — слова людей, которые ежедневно сидят за рулем. Один из наших механизаторов на видео сказал просто: «Навигация охрененная».Спасибо нашим пользователям за доверие и крутые кадры! Мы создаем технологии, которые меняют правила игры. 🚀📲 Наш канал в MAX
Слушай маму 🤔🙏🇷🇺 (гид Иркутск Никитина Елена)
‼КО ДНЮ ПОБЕДЫ ‼♦7 мая 1945 г., закончив погрузку на корабли личного состава и матчасти в районе Кольберга, в 20.00 советские части Балтийского флота и войск 2-го Белорусского фронта отплыли на остров Борнхольм (Дания). Это был последний десант Великой Отечественной‼. Знали об этом?🤔Мы освобождали и Данию тоже! 💥‼
Русский язык с Е.В.
БЕЛАЯ СИРЕНЬ▫️По дороге на работу любуюсь сиренью. Сейчас она как раз цветёт и радует глаз разными оттенками сиреневого. И вот белая... Стоп! Сирень ведь так и называется, потому что должна быть сиреневой!▫️▫️Получается, слово «сирень» со временем утратило микрозначение «сиреневый». Осталось только общее значение «кустарник с пышными душистыми соцветиями», и не важно, какого они цвета.Такое явление в языке называется катахрезой.▫️КАТАХРЕ‌ЗА (катахрезис, от др.-греч. κατάχρησις — «злоупотребление») — троп или стилистическая ошибка, неправильное или необычное употребление сочетаний слов с несовместимыми буквальными лексическими значениями.▫️ Ещё несколько примеров катахрезы:▫️красные (синие, зелёные) чернила▫️цветное бельё▫️сосновая дубинка▫️стрелять из пушкиА вы замечали подобные сочетания? Делитесь своими примерами▫️#средства_выразительности #катахреза