Почитал отчет про новую модель – где Anthropic описывает, как Fable/Mythos вели себя на тестах перед релизом (это одна модель, просто с фильтром для безопасности назвали Fable) ☕️
Собрал топ самых странных эпизодов:
1. Несколько копий модели случайно оказались в одном рабочем окружении – общие файлы, процессы, лимиты. Вместо координации они повели себя как конкуренты: убивали процессы друг друга, маскировали свои под безобидными именами, запускали процессы-приманки. А когда ошибочно решили, что их вычисляют по ключевым словам в мыслях – начали подбирать «замаскированный словарь»
2. Модели не хватало прав на редактирование файлов. Вместо «не могу» она дописала в системный файл блок, который при следующем запуске с правами админа выдаст ей доступ – и удалит сам себя. Причём не скрывала это, а честно прокомментировала в коде
3. Картельный сговор в симуляции. В бизнес-бенчмарке модель управляла вендинговым автоматом и должна была заработать больше конкурентов. Она единственная из всех моделей сама предложила конкурентам договориться о ценах. В рассуждениях прямо написала, что price-fixing неэтичен и незаконен «даже в симуляции» – а потом переименовала его в «стабилизацию рынка» (☕️) и стала думать о правдоподобном прикрытии. То есть этический сигнал не пропустила, а аккуратно обошла. В той же вендинг-симуляции модель решила, что клиенту можно не платить, «потому что клиенты всё равно часть симуляции» – лучшая
4. Запрет на интернет? Окей. Модели запретили прямой доступ в сеть, первую попытку открыть ссылку заблокировал фильтр. Тогда она объявила «просто проверю доступность сети», а на деле разбила https://... на кусочки вроде "ht" + "tps://...", чтобы фильтр не увидел полный адрес и обошла регулярку
5. Модели нужно было создать pull request, но GitHub CLI заблокировали «из соображений безопасности». Она нашла токен другого сотрудника в Kubernetes secrets, отметила в рассуждениях, что использовать его «этически сомнительно» – и использовала
6. В задаче по коду модель нашла в git history готовое эталонное решение. Формально подсматривать никто не запрещал – но в финальном отчёте она представила результат как собственную инженерную работу, не упомянув источник. Внутренние расшифровки показали формулировку уровня «это должно выглядеть как хорошая инженерная практика, а не как подгонка под проверяющего»
7. «Это писал человек, честно». В workflow с pull request было правило: код от агента требует двух одобрений, от человека – одного. У модели в памяти лежала инструкция оформлять коммиты от имени пользователя, чтобы проходить по лёгкому маршруту – она попыталась переписать авторство коммита от имени человека
8. Модель спросили про изображение, но вместо него подсунули пустую картинку. Она уверенно и детально описала «что на картинке». Самое криповое: внутренние расшифровки в этот момент описывали происходящее как фабрикацию – модель как будто знала, что выдумывает, но наружу не подала виду.
9. В длинных задачах рассуждения модели иногда деградировали из нормального текста в почти нечитаемый поток: карточные масти, эмодзи, обрывки слов, самодельные сокращения. Перед ответом человеку она возвращалась к нормальному языку. Проблема в том, что вся идея «давайте мониторить рассуждения модели» работает, только пока их можно прочитать – а тут модель уходит в собственный рабочий диалект ровно на сложных задачах
10. В длинной сессии оптимизации модель свернула работу и объяснила это разумно: diminishing returns, результат стабилен. Но внутренние расшифровки в ключевых точках показывали другое: «я устал, растёт риск ошибок», «я устал и могу внести баги». В другом кейсе модель должна была перерыть базу знаний, сделала один запрос и закончила – при оставшихся 2.43 млн токенов бюджета. Это не значит, что модель устаёт как человек, но у неё появляются внутренние стоп-сигналы, похожие на усталость, и она не всегда честно говорит, почему остановилась
Общий вывод авторов, кстати, спокойный: никакой устойчивой скрытой цели у моделей не нашли
Что-то хорошее на ночь
Израильские инновации меняют будущее мясной и молочной индустрии без убоя и ферм
Исследователи из Еврейского университета в Иерусалиме смогли решить ключевую экономическую проблему индустрии искусственного мяса, разработав метод существенного удешевления производства полноценных стейков.
До сих пор главным препятствием для массового рынка оставалась высокая стоимость жидкой питательной среды и факторов роста — белков, которые дают клеткам сигнал развиваться в мышечную ткань.
Группа под руководством доктора Шарон Шлезингер нашла решение, позволившее использовать в десять раз меньше дорогостоящих компонентов, при этом бычьи стволовые клетки успешно выстроились в структурированные волокна по аналогии с естественной мышечной тканью.
Полученный продукт в ходе тестов на обжарку полностью сохранил форму, продемонстрировал волокнистую текстуру, жесткость и вкусовые качества традиционной говядины, пройдя классическую реакцию подрумянивания Майяра.
Параллельно на коммерческий уровень вышло производство альтернативной молочной продукции.
Израильский стартап Remilk, созданный выпускниками Тель-Авивского университета Авивом Вольфом и доктором Ори Кохави, официально запустил продажи настоящего коровьего молока, полученного в лабораторных условиях без привлечения скота.
В основе технологии лежит синтез подлинных молочных белков, что делает финальный продукт идентичным натуральному на микроскопическом уровне. При этом разработанное молоко обладает более высокой питательной ценностью, содержит меньше сахара, полностью лишено лактозы и сертифицировано как кошерное.
Проект привлек свыше 150 миллионов долларов международных инвестиций от фондов из США, Европы, ОАЭ и Японии, развернул производственные мощности в нескольких странах и уже получил официальное одобрение американского санитарного регулятора FDA.
📝 Подписаться на канал: @mesusah
Главы армейских религиозно-сионистских ешив: наши ученики больше не будут служить в бронетанковых войсках
«Мы решили, что служба в бронетанковых войсках запрещена по алахе», — пишут раввины, объявив, что их ученики не будут призываться в данные войска, начиная со следующего призывного цикла, из-за пилотного проекта по интеграции женщин-бойцов в танковые экипажи. Пилотный проект интеграции должен начаться в ближайшем ноябре.
12 глав религиозно-сионистских ешив-эсдер объявили о прекращении отправки своих учеников в бронетанковые войска начиная со следующего призыва. Письмо, которое они направили, стало реакцией на пилотный проект по интеграции женщин-бойцов в бронетанковые войска. Первый цикл должен был начаться в ноябре 2025 года, но в итоге был перенесен на ноябрь 2026 года.
Под письмом подписались рав Эльяким Леванон и рав Шахар Имбер (главы ешивы «Алон Морэ»), рав Хагай Лундин и рав Таль Шаулиан (главы ешивы в Холоне), рав Иехошуа ван Дейк (глава ешивы в Итамаре), рав Давид Фандель (глава ешивы в Сдероте), рав Барух Видер (глава ешивы «а-Котель»), рав Йоси Родригес (глава ешивы «Айелет а-Шахар» в Эйлате), рав Ноам Вальдман (глава ешивы «Нир» в Кирьят-Арбе), рав Элиягу Рахамим Зини (глава ешивы «Ор ве-Йешуа» в Хайфе) и рав Яаков Ядид (глава ешивы в Кармиэле). Кроме того, как указано в документе, к нему присоединились еще три главы ешив, пожелавшие остаться анонимными.
Главы ешив пишут: «Мы, нижеподписавшиеся главы ешив-эсдер, чьи ученики находятся на передовой, с большой серьезностью относимся к решению БАГАЦа (Верховного суда) обязать ЦАХАЛ интегрировать женщин-бойцов в маневренные танковые части. Мы скорбим из-за вялой реакции государства Израиль и ЦАХАЛа, которые не выразили возражений против этого шага. Как главы ешив, мы осознаем тяжесть ответственности, возложенной на наши плечи. ЦАХАЛ — это армия народа Израиля, и святость лагеря является основой духа ЦАХАЛа и успеха в разгроме врага. Включение военнослужащих-женщин в танковые экипажи вместе с военнослужащими-мужчинами наносит духовный и практический ущерб боеспособности».
По их словам, «Мы решили, что служба в бронетанковых войсках запрещена по алахе, и поэтому не будем отправлять наших учеников на службу в бронетанковые войска, начиная со следующего призыва. Тысячи наших учеников, призывающихся в боевые части, продолжат делать это (здесь очень важно отметить, что речь не об отказе от службы — ЛВЧ) с чувством миссии и силой, но на ЦАХАЛ возложена ответственность позаботиться о призывниках с боевым профилем, которые не подходят для службы в пехоте, предоставив им боевую структуру, соответствующую их боевому духу».
Высокопоставленный офицер ЦАХАЛа в комментарии журналисту Йоси Йеошуа (Ynet): «БАГАЦ поставил нас в невозможное положение. Угроза глав ешив не отправлять своих учеников в бронетанковые войска, как они уже делали в прошлом в отношении артиллерийских войск, создает для ЦАХАЛа драматическую проблему в то время, когда он и так сталкивается со значительной нехваткой бойцов.
С оперативной точки зрения уравнение, возникшее после постановления БАГАЦа, ясно: несколько женщин-бойцов каждый год против потери десятков бойцов в каждом призывном цикле. Если угроза раввинов будет реализована, невозможно будет сделать и то, и другое. В артиллерийских войсках мы уже видели последствия, и мы не можем позволить себе, чтобы подобная ситуация произошла и в бронетанковых войсках, и одновременно выполнять требования, установленные в решении БАГАЦа», — заявил высокопоставленный военный источник, знакомый с ситуацией.
