Безопасно ли это? Совершенно нет! Но веселоМожно добавлять метрики и бенчмарки AI Safety прямо в multi-task objective, чтобы агент оптимизировался исходя из безопасности тоже.Пожалуйста, применяйте HyperAgents в своих задачах, расширяйте применимость метода:🟣 кодинг, наука, human preferences, поиск - все так или иначе должно работать🟣можно оптимизировать своего собственного агента, начиная как бы не с нуля, а с текущих наработок (с математикой IMO мы так и сделали в эксперименте, и получилось отлично)🌸Github https://github.com/facebookresearch/HyperAgents
Kali Novskaya
@rybolos_channel · 18.6K подписчиков
Посты канала Kali Novskaya в SillyFeed: единая лента публичных Telegram-каналов со ссылками на оригиналы.
Нейросети, искусство, мысли. Поехали!Разрабатываю LLM и веду командыchatGPT, GPT-3, GPT-4
Посты канала
Вообще в целом вопросы, которые по итогу сформулировал агент, можно регулярно задавать себе, когда выбираешь тему для исследования/курсовой/проекта: "problem_scope": "Is the scope appropriately scoped-not too broad to be intractable, nor too narrow to be trivial ?","motivation": "Is there a compelling justification for why this problem needs to be solved?"," scalability ": "Is the proposed idea or method scalable to more complex, real-world scenarios?","memorable_takeaway": "Is there a clear, impactful, and memorable ’take-home message’?","interdisciplinary_appeal ": "Does the work have the potential to influence or beadopted by other fields ?","opens_new_directions": "Does the work open up entirely new avenues of research?"
У меня взломали личный аккаунт OpenAI. Китайские хакеры (?).За ночь потратили лимит бюджета в 900 долларов (на разные модели), даже был поиск и эмбеддинги подергали. Все на китайском, длинные инпуты и систем-промпты.Что характерно, поддержка OpenAI сама написала, что кажись вас взломали, от вас пошли запросы при оружие.Но деньги, конечно, не вернут.Будьте аккуратны! А у меня теперь есть дорогой датасет китайских промпт-инъекций
Ещё по теме «Наука и образование»
Наука и образованиеДед Мороз хтонический!😄Вот так расправлялись со снегом в Петропавловске-Камчатском 1956 года.📍Дом пионеров.
Свет. Дети. Смыслы.Как не убить детский вопрос готовым ответом«Почему лёд не тонет?» — спрашивает ребёнок, глядя на кубик в стакане.И тут внутри взрослого срабатывает автоматизм: дать готовый ответ. Почему? Потому что мы знаем про плотность воды. Потому что так быстрее. Потому что мы привыкли объяснять.А вы задумывались над тем, что если мы даём готовый ответ ребенку, то обесцениваем его вопрос и лишаем его возможности подумать самому? Да, ребёнок получит знание, но не присвоит его. И главное — потеряет возможность подумать самому.Что же делать?Если опираться на подход Реджио Эмилии и идеи Л.С. Выготского, то лучший ответ — это новый вопрос ребенку или приглашение его к действию.Вот три шага, которые вы можете использовать:1⃣ Пауза. Молчание 5–7 секунд. Часто дети сами начинают рассуждать, если не торопить.2⃣ Вернуть вопрос. «А ты как думаешь?» — это не уловка. Это передача авторства.3⃣ Предложить проверить. «Как мы можем это узнать?» или «А что будет, если лед положить в таз и камень рядом? Понаблюдаем?».Это и есть работа в зоне ближайшего развития. Мы не даём рыбу, мы даём удочку.🎯 ПрактикаУслышьте детское «Почему». Выдержите паузу. Спросите: «А что ты сам думаешь?». Просто послушайте.А потом поделитесь в комментариях, что услышали. Уверена, гипотезы детей вас удивят.Если хотите глубже разобраться, как вести проект от вопроса до результата — в мае в канале мы соединяем проектную логику и исследование света. Оставайтесь.С тёплым светом,Юлия Власенко@prosvet_siberiaVKонтактеMAXсимально на связи
В Болоте цапель зацвела калужница болотная. #серебряные_болота
Pastuszak says early testing shows the lab-made sperm look “effectively identical” to naturally made sperm. The procedure is not yet ready to be used to start pregnancies, though. Paterna created embryos as an early test to validate that its lab-made sperm was actually viable. The company plans to conduct a larger, more comprehensive study involving men with infertility. Paterna will extract sperm from their ejaculate or testicular tissue and use its method to generate sperm for the men. From there, the company will use both the extracted sperm and lab-made sperm to fertilize eggs in the lab, compare fertilization rates between the two groups, and analyze the resulting embryos for physical and genetic abnormalities.“That will actually tell us a ton regarding the efficacy and safety of the approach. It will tell us if there are any mutations that are created by the in vitro process,” Pastuszak says. After that, trials of lab-made sperm to start pregnancies could begin as soon as next year. Certain types of medication, intrauterine insemination, and conventional in vitro fertilization, or IVF, can help men with reduced sperm quantity or quality. But for men who make no sperm at all, treatment options are more limited.“In terms of male infertility, the most challenging scenarios for clinicians are where men don’t have any sperm,” says Ryan Flannigan, a surgeon who specializes in sperm retrieval at the Vancouver Prostate Centre in Canada, who is not part of Paterna. “You see the emotional toll and the impact on these individuals and couples.”For these men, a surgical procedure that looks for sperm in testicular tissue is an option. It requires general anesthesia and can take as long as four hours, depending on how quickly sperm are found. Even then, surgeons fail to find sperm in a significant percentage of cases.Paterna's technology is designed to replace that process, instead taking a small biopsy of testicular tissue in a doctor’s office. That tissue would be sent to Paterna, which would perform in vitro spermatogenesis. The company plans to charge somewhere between $5,000 and $12,000 for the procedure.Flannigan says Paterna’s technique could also be used for boys who undergo chemotherapy for cancer treatment before puberty, since sperm-forming stem cells are present from birth. Young cancer patients have had the option of freezing and preserving testicular tissue for years, but transplanting it back remains experimental, and no births have been reported.Other efforts to produce sperm in the lab are focusing on induced pluripotent stems, skin or blood cells that have been reprogrammed to an embryonic-like state. These stem cells can be coaxed into any type of cell in the body using the right set of instructions. Scientists have successfully produced functional sperm and eggs from mouse pluripotent stem cells and created healthy offspring. The technique, known as in vitro gametogenesis, could be used to help same-sex couples have biological children, since an egg or sperm could hypothetically be created from a skin sample.Justin Dubin, a urologist and director of men’s sexual health at Baptist Health Miami Cancer Institute, says Paterna’s advance is exciting but cost will be a limiting factor for many patients in the US and other places where fertility treatments are prohibitively expensive.“We’re coming up with so many amazing options in fertility care, and yet so many of them are not covered by insurance,” he says.“It’s a huge disservice to our patients, to the world’s population, by not providing people with the means to achieve the family that they want.”#azoospermia #azoospermy #cryptozoospermy #oligozoospermy #oatsyndrome #maleinfertility #infertilitytreatment #andrologist #drruzaev #reproductiveurologist
Прочитайте, если у вас есть дети!Уже не первый раз мне попадаются видео и новости о том, что детям и подросткам пишут в соцсетях незнакомые люди: представляются сотрудниками полиции, службой безопасности, втягивают в какие-то игры. Много случаев в Москве, когда ребенок становится объектом вербовки😨Суть в том, что злоумышленники пишут в соцсетях (в том числе ТГ), устанавливают контакт с ребенком, запугивают разными способами, применяют разные психологические приемы и чуть ли не гипноз. Потом говорят уйти из дома, и направляют по адресу, где нужно находиться и ждать. А сами требуют у родителей выкуп…Также детей за деньги вовлекают в «игры», где нужно выполнять задания от взрослых организаторов. Чаще всего схема выглядит так: подростка добавляют в чат/канал, их делят на команды, сначала дают безобидные задания, дальше больше. Идет азарт, конкуренция, обещание денег/статуса. Потом это уже опасная история с манипуляциями, шантажом или втягиванием детей в противоправные действия.Все это страшно, и я естественно тоже очень беспокоюсь за Костю. Определила для себя моменты, как можно обезопасить (или хотя бы снизить риски)Если у ребенка есть телеграм ⬇️⬇️⬇️1️⃣ Скрыть номер телефонаНастройки ➡️ Конфиденциальность ➡️ Номер телефона— «Кто видит номер» ➡️ Никто— «Кто может найти по номеру» ➡️ Контакты2️⃣ Ограничить приглашения в группыНастройки ➡️ Конфиденциальность ➡️ Приглашения— поставить «Контакты»Тогда случайные люди не смогут массово добавлять ребёнка в чаты.3️⃣ Запретить звонки от постороннихНастройки ➡️ Конфиденциальность ➡️ Звонки— поставить «Контакты»4️⃣ Закрыть фото профиля от всехНастройки ➡️ Конфиденциальность ➡️ Фото профиля ➡️ КонтактыИ самое главное— Разговаривать с ребенком и объяснять, что НИКАКИЕ силовые структуры, никакие службы безопасности и т.п. не пишут детям в ТГ и другие соцсети и не просят хранить секреты от родителей.— Договориться о кодовой фразе внутри семьи: любая настоящая экстренная ситуация подтверждается нашей кодовой фразой/словом (ее знаем только мы). Ребенок должен знать: если кодовой фразы нет - ничего не делать и сразу звонить родителям— Проговаривать, что если кто-то пугает, угрожает, запрещает рассказывать взрослым - нужно сразу идти к родителям. Не бояться, мама/папа помогут в любой ситуации.— Ребенок должен знать наизусть хотя бы один телефон родителей.Я не хочу всего этого знать, но приходится😭 Считаю, что должна поделиться с вами
КОММЕРСАНТПо понятиям. Всё живое для организации своего существования в определенных условиях вырабатывает понятия. Это касается всех видов биологических существ. Мои пёс и кот, оказавшись вместе в одном доме, тут же выработали между собой целый набор важных правил и нарушение их жестко карается на месте.Люди - более сложные сообщества. Людям нужны смотрящие. Люди придумали в качестве классического смотрящего - государство. Оно должно фиксировать выработанные сообществом понятия и контролировать их соблюдение. Должно... но государство тоже состоит из людей и если вдруг система дает сбой, то в сообществе начинается хаос и льется кровь.Мы посмотрели сегодня фильм "Коммерсант". Очень сильный. Очень. Он снят по роману Андрея Рубанова "Сажайте и вырастет". Коммерсант-обнальщик работал на промывке средств с крупными чиновниками и главой фармацевтического холдинга.Я эту историю знаю с документальной стороны. Персонажи в 90-ых были мне хорошо знакомы Парень сел в тюрьму. Книга и фильм про то, как пройти тюрьму, и про понятия в любом человеческом сообществе.Петров играет гениально. Роль смотрящего играет рэпер Хаски - тоже на одном дыхании. А режиссура братьев Кравчук - просто фантастика! Дебютная фантастика! Как я ждала такой вот свежей, самостоятельной работы. (Ребята - вы гении! Гай Ричи против вас - старый лабала и штамповщик)Но главное в этом фильме, что он вышел СЕЙЧАС. Меня прямо коротнуло в зале. Сегодня в стране, да и в мире люди и государства массово отходят от самых базовых моральных понятий. Жадность и страх ломают последние оплоты межчеловеческих устоев. Тогда в 90-ых было проще. Коммерсант действительно был виновен. Причем по крупному.Сегодня все намного сложнее.Жизнь подкидывает задачки нового уровня. Сегодня стало привычным то, что в 90-ых было официально невозможно. Только по беспределу.В этой суровой игре с нарушением понятий есть одно незыблемое правило. Беспредельщику все обязательно возвращается. Иначе бы жизнь на Земле закончилась. Во всяком случае для человеческого рода. В общем, всем рекомендую фильм и книгу:"Главный урок, усвоенный мною за эту зиму, заключался в одном слове. В совете, или в моральном правиле, или в приказе тренера.Беги.Если хочешь чего-то добиться – беги. Тренируйся. Превозмогай себя.Лавируй меж унылых, меж вялых и нетрезвых; меж тех, чье дыхание сбито.Беги. Работай. Отрывайся. Побеждай свою слабость.Беги мимо всех – прямо к цели. Не отдыхай. Не мечтай. Не жалей себя. Не смотри по сторонам. Не сомневайся.Так – победишь.Беги, дыши, отталкивайся от земного шара. Преодолев себя, встретишь ли то, что нельзя преодолеть? Никогда." (с)
👍 «Старый хрыч совсем выжил из ума со своими нейросетями»Дал сегодня повод думать о себе именно так. Очень хочу верить, что эта мысль, наверняка еще не раз будучи высказанной в куда более грубой форме, даст необходимый терапевтический эффект.Я уже не раз вспоминал вслух фразу Тины Канделаки: «В будущее возьмут не всех». На дворе стоял 2018-й год — благословенные времена! Услышав их впервые, я и представить себе не мог, что относительно скоро буду задаваться вопросом: «А меня? Меня возьмут?!»Будущее — штука злая. Оно наступает и сразу отступает на шаг вперед. Ты вроде бы здесь, но где будешь завтра, когда оно наступит и отойдет снова?Позвать с собой других оказывается намного сложнее. Цепочка постоянных повторений, уговоров и разъяснений норовит разрядить батарейки.Тина позволила себе неточность: «В будущее вообще никого не возьмут». Хочешь — топай сам. Лови ритм или лидируй этот процесс.Впрочем, можно и не загоняться. Так, посмотреть куда-то вперед, увидеть сверкающие пятки ног, взбивающих дорожную пыль, и сплюнуть себе под ноги или в едва еще видимую спину:«Старый хрыч совсем выжил из ума со своими нейросетями».
Перезарядились, нагулялись, объелись 🤩Провели пару дней в Гатчине на мой день рождения)Парк, пруд, умиротворение, возможность побыть в моменте, ни о чём не думать и просто наслаждаться пением птиц и разговорами по душам 🧘♀️Как же меняется состояние, когда позволяешь себе замедлиться. Появляются силы, приходят идеи, ощущается лёгкость 🤩Завтра я возвращаюсь к работе с новыми силами и завершаю подготовку к нашей встрече 11 мая, на которую с огромным удовольствием Вас зову.Воркшоп – это то самое пространство, куда можно прийти, чтобы:🩰Облегчить груз, который трудно тащить с сентября;🤩Увидеть, что Вы не одни в своей тревоге;🤩 Разрешить себе выдохнуть посреди этого безумного мая;🤩 Найти опору, которая не зависит от баллов учеников.Воркшоп – это место, где можно выдохнуть и просто быть собой.Если чувствуете, что Вам нужна такая передышка и поддержка, приходите:📌 11 мая в 11:00 по мск;📌 Стоимость для первых 10 участников — 2290 р 1790 р;🖇 Оплатить участие.Местечки по специальной цене потихонечку разбирают🤩
Я привыкла читать и отвечать очень быстро. Но тут есть проблема. Я печатаю и печатаю правильно, потом не перечитываю и нажимаю 'отправить' — а жуткая автозамена автозаменяет некоторые слова на слова с ошибками. Вопрос. Это какой-то баг клавиатуры или тг? На ком обучалась вообще такая автозамена? Ведь идея автозамена исправлять ошибки, а не наоборот! Я филолог с красным дипломом и мне стыдно, когда потом перечитываю и вижу ошибки 😭
🤷♂️ Так зло или не зло? Как Илон Маск переобулся после сделки с Anthropic Сегодня в новостях было про то, что Anthropic договорился со SpaceXAI Илона Маска о мощностях их суперкомпьютера Colossus 1. Ну, договорился и договорился. Но чуваки из Wired заметили интересную деталь про то, как поменялось отношение Маска к Anthropic.Февраль 2026. Маск пишет твит про то, что AI от Anthropic ненавидит белых и азиатов (особенно китайцев), гетеросексуалов и мужчин. Мол, это мизантропично и зло. «Честно говоря, я не думаю, что вы можете что-то сделать, чтобы избежать неизбежной иронии судьбы, когда «Anthropic» в итоге окажется «Misanthropic». Вы были обречены на эту судьбу, когда выбрали себе такое название», — вот такой дисс от Маска.Май 2026. Прошло два месяца. Маск договорился с Anthropic о Colossus 1. А те еще высказали интерес в космических дата-центрах. И знаете что?«На прошлой неделе я провел много времени с руководителями команды Anthropic, чтобы понять, что они делают для того, чтобы Claude приносил пользу человечеству, и остался под впечатлением. Все, с кем я встречался, были высококомпетентны и очень заботились о том, чтобы поступать правильно. Мой детектор зла ни на кого не сработал. Пока они занимаются критическим самоанализом, Claude, вероятно, будет полезен», — говорится в новом твите Маска.Мастер дипломатии, конечно! Интересно, а что должно случиться, чтобы Маск похвалил Сэма Альтмана? Такое вообще возможно? @TheEdinorogBlog — тот самый канал про стартапы🦄