Лента

понедельник, 6 июля

Флипы · Материалы · Недвижка · Девелоперы · Новинки. Сводка свежих сигналов.

97Import AI 464: Fables writes GPU kernels; AI automatio…92Local LLM for legal-document adaptation keeps hallucin…92Success story with MiMo-V2.5-GGUF:UD-Q5_K_XL92Benchmarking Self-Hosted Gemma 2 9B vs. Frontier APIs:…92I stopped trusting model benchmarks and started runnin…92Got told my open-source model experiments are too scat…92Building a Native 1-Bit LLM Engine in Pure Rust: Achie…92I tested a bunch of Switch 2 screen protectors, and th…92LLM agents patch security bugs, pass all tests, but st…92AI is blowing up music. How should the Grammys handle…92For those creating personal assistants locally - how h…92Rivian’s software chief thinks you don’t need Ca…
NT
НОВИНКИ· Import AI (Jack Clark)· 97

Import AI 464: Fables writes GPU kernels; AI automation; and analog computation

В новом выпуске Import AI: Fable написал самый быстрый GPU-мегакернель для KernelBench-Mega (ускорение 18.71x), AI-системы за 8 месяцев увеличили успешность автоматизации фриланс-задач с 2.5% до 16.1% (RLI), вышел бенчмарк OSWORLD 2.0 для многочасовых компьютерных задач (лучший результат — 20.6%), а JD.com внедрила AI-систему управления инвентаризацией Oxygen AIIC на китайских NPU.

СИГНАЛ

Рост автономности AI в написании кода и выполнении сложных компьютерных задач ускоряет автоматизацию R&D и онлайн-работы, что напрямую влияет на рынок труда и конкурентоспособность IT-компаний.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· Surveillance· 404 Media· 90

Footage Shows Cop Stalking Woman He Met on a TV Set After Surveilling Her With a License Plate Reader

Полицейский Ламар Роман, работавший на съемках сериала AppleTV+ Bad Monkey, незаконно отследил женщину через базы данных и систему распознавания номеров, а затем устроил опасную погоню, чтобы остановить ее. Он был арестован в марте.

СИГНАЛ

Инцидент демонстрирует злоупотребление полицией системами слежения (ALPR, базы данных DMV) для личных целей, что поднимает вопросы о конфиденциальности и контроле за использованием таких технологий.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· Startups· TechCrunch· 89

Smart glasses maker Even Realities hits $1B valuation with $150M funding led by Meituan, Tencent

Even Realities, основанная бывшими инженерами Apple, привлекла $150 млн от Meituan и Tencent, достигнув оценки в $1 млрд. Компания разрабатывает умные очки без камеры, фокусируясь на дополненной реальности и конфиденциальности.

СИГНАЛ

Инвестиции от Meituan и Tencent подтверждают интерес китайских гигантов к AR-носимым устройствам, что может ускорить развитие рынка умных очков и повлиять на стратегии конкурентов в сегменте AI-гаджетов.

+ 1 источник
Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· Robotics· TechCrunch· 89

This humanoid robotics company is going public, but its CEO isn’t promising a robot in your home anytime soon

Agility Robotics, производитель двуногих человекоподобных роботов Digit, объявила о выходе на биржу через слияние с SPAC Churchill Capital Corp XI. Сделка оценивает компанию в $2,5 млрд и привлечет более $620 млн, что станет крупнейшим привлечением капитала в истории человекоподобной робототехники. Компания уже имеет подтвержденную выручку более $300 млн от клиентов, включая Amazon и GXO Logistics, и планирует использовать средства для расширения производства.

СИГНАЛ

Выход Agility Robotics на биржу дает розничным инвесторам первый прямой доступ к быстрорастущему сектору человекоподобных роботов, который ранее был доступен только венчурным фондам, и раскрывает финансовые показатели компании в отрасли, где конкуренты обычно скрывают данные.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 92

Local LLM for legal-document adaptation keeps hallucinating citations with total confidence — grounding/model/pipeline ideas?

Юрист по уголовным делам ищет способ адаптировать юридические документы на португальском языке с помощью локальной LLM на ноутбуке с RTX 4060 (8GB VRAM). Модель Qwen3 35B-A3B галлюцинирует ссылки на законы и судебные прецеденты, хотя задача — редактировать шаблоны, сохраняя корректные цитаты. Пользователь просит совета по выбору модели, методам ограниченной генерации, RAG и сохранению форматирования .docx.

СИГНАЛ

Проблема галлюцинаций в юридических LLM критична для внедрения AI в конфиденциальные документообороты, а поиск эффективных локальных решений на ограниченном железе актуален для корпоративного IT и специализированных SaaS-продуктов.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 90

Llama-Server is Throwing Away Your Perfectly Good KV Caches, and How to Fix It

В llama-server обнаружена ошибка: при восстановлении KV-кэша из файла после перезапуска процесса сервер сбрасывал восстановленное состояние и пересчитывал префилл заново. Причина — отсутствие сериализации списка контрольных точек (checkpoints), необходимых для отката при повторной токенизации. Исправление добавляет сохранение контрольных точек в sidecar-файл, что сокращает время восстановления со 720 секунд до 1 секунды для контекста 100K.

СИГНАЛ

Исправление критически важно для эффективной работы длинноконтекстных моделей на ограниченном оборудовании: без него функция сохранения/восстановления сессии была практически бесполезна, а теперь позволяет экономить до 720 раз времени на префилле.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 90

I asked Codex to optimize DeepSeek V4 Flash 8-bit MLX on oMLX. Got ~1.6x prefill and ~3x decode speedup.

Пользователь оптимизировал oMLX для 8-битной модели DeepSeek V4 Flash на Mac Studio M3 Ultra 512GB, получив ускорение префилла с ~300 до ~533 токенов/с (1.6x) и декодинга с ~7.3 до ~20-22 токенов/с (3x). Оптимизации включают использование нативных Metal-ядер для 8-битных аффинных MoE, замену сортировки маршрутов на bucket-метод и настройку параметров маршрутизации. Точность модели не изменилась, так как веса и формат квантования остались прежними.

СИГНАЛ

Оптимизация позволяет запускать большие языковые модели (302 ГБ) на потребительском железе с приемлемой производительностью, что снижает порог входа для локального использования AI и может повлиять на выбор аппаратного обеспечения для разработчиков и энтузиастов.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 90

Proposal: Use semantic compression as input diffusion to read sessions larger than the context window [R]

Предложен метод семантического сжатия для обработки длинных сессий ИИ, вдохновленный диффузией: контекст читается от сжатого к детальному, сохраняя нелокальную информацию. Базовые тесты на Qwen2.5 7B показали частичную работоспособность, но требуется дообучение для надежности.

СИГНАЛ

Метод может расширить контекстное окно LLM без потери структуры, что критично для анализа длинных документов и корпоративных IT-систем.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 89

BaryGraph - knowledge graph where every relationship is its own embedded document (not an edge) [R]

Представлен BaryGraph — граф знаний, где каждое отношение является самостоятельным документом с собственным векторным представлением (BaryEdge), а не ребром между узлами. Рекурсивное объединение BaryEdge образует иерархию MetaBary-триад, позволяющую выявлять структурные мосты между концептами из разных областей (например, нейронаука ↔ распределенные сенсорные сети). Система работает локально на MongoDB Community + mongot + nomic-embed-text, обрабатывая 6,6 млн документов английского Wiktionary. Предварительные тесты показывают корреляцию структурных метрик с человеческими оценками семантического сходства (ρ ≈ 0.32–0.53, p < 10⁻¹⁵), в отличие от косинусного сходства (ρ ≈ −0.04).

СИГНАЛ

Новый подход к представлению отношений в графах знаний может улучшить качество RAG-систем и поиска по неявным связям между доменами, что актуально для корпоративных IT-решений, работающих с разнородными данными.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 89

AI won’t save advertising, says Digitas’ Amy Lanzi

CEO Digitas Amy Lanzi на фестивале Cannes Lions заявила, что ИИ не спасет рекламу, назвав многие обещания об автоматизации «бессмыслицей». Она сравнила хайп вокруг ИИ с программатик-рекламой, которая не оправдала ожиданий полной автоматизации. Lanzi рассказала о реструктуризации Digitas: введены роли chief intelligence officer, chief systems officer и chief transformation officer для интеграции ИИ и данных в маркетинговые системы. Она отметила, что традиционная роль CMO уходит, уступая место chief growth officer, отвечающему за бизнес-результаты.

СИГНАЛ

Крупный рекламный холдинг Publicis (владелец Digitas) открыто критикует hype вокруг ИИ в рекламе, что сигнализирует о возможном пересмотре стратегий автоматизации и росте спроса на data-driven маркетинговые системы для корпоративных клиентов.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 89

Making Optimization Work When Labels Are Scarce [R]

Gnosys Labs представила метод оптимизации классификаторов ИИ при дефиците размеченных данных. На бенчмарке ToxicChat их система превзошла как исходный классификатор, так и стандартный оптимизатор GEPA, увеличив долю выявленного вредоносного контента с 73,1% до 77,7% при фиксированном уровне ложных срабатываний 5%. Метод объединяет небольшое количество верифицированных меток с большим пулом немаркированных данных для создания калиброванной оценки качества, что особенно эффективно для длинных сообщений и попыток джейлбрейка.

СИГНАЛ

Метод решает ключевую проблему развертывания AI-классификаторов в модерации контента, фрод-детекции и риск-скоринге — оптимизацию при дорогой и редкой разметке, что напрямую влияет на точность и стоимость внедрения таких систем в enterprise.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 91

Best tps can I get with Qwen3.5 122B on 32GB VRAM + 64GB RAM?

Пользователь запускает Qwen3.5 122B на RTX 5090 (32GB VRAM) + 64GB RAM и получает скорость от 6 до ~20 t/s. Используется Q5_K_S квантование, flash attention, 16 потоков CPU. Скорость растёт по мере заполнения кэша, но начальная производительность низкая.

СИГНАЛ

Это практический тест производительности большой LLM на потребительском GPU, показывающий, что даже с 32GB VRAM и offloading на CPU можно получить приемлемую скорость для инференса, что важно для локального запуска AI-моделей.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 91

Range anxiety

Торнадо повредил завод Rivian в Нормале, штат Иллинойс, как раз перед началом производства ключевой модели R2. Компания сталкивается с финансовыми трудностями, падением продаж и неблагоприятной рыночной конъюнктурой для электромобилей. Успех R2 критичен для выживания Rivian.

СИГНАЛ

Rivian находится на грани: от запуска R2 зависит, сможет ли компания стать массовым игроком на рынке EV или повторит судьбу обанкротившихся стартапов.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 89

Why can i never stop the looping?

Пользователь жалуется на постоянные циклы (looping) при использовании моделей Qwen3.6 35B и Ornith V1 с параметрами temp 0.6, top_p 0.95, top_k 20, min_p 0.05, rep_penalty 1.1 в Copilot Chat. В статье приведён пример бесконечного повторения одного и того же текста, что указывает на проблему с генерацией модели или настройками.

СИГНАЛ

Проблема looping в AI-моделях может указывать на ошибки в конфигурации или баги, что критично для разработчиков, использующих эти модели в продакшене или для автоматизации.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 91

These camera-free smart glasses made me feel like Tony Stark

Xgimi представила MemoMind One — умные очки без камеры с монохромным дисплеем, работающие как хедз-ап дисплей для уведомлений, переводчика и ИИ-ассистента. Устройство весит 47 г, работает до 16 часов, но пока сырое: баги, зависимость от приложения, отсутствие ответов на сообщения. Kickstarter стартует сегодня, цена от $399.

СИГНАЛ

Новинка демонстрирует альтернативный подход к умным очкам без камеры, что может повлиять на рынок носимых AI-устройств и приватность, но сырой софт и высокая цена ($599) ограничивают массовое принятие.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 91

MLX Fine-Tune Example Guide

Пользователь провел локальный LoRA-финтюнинг модели Mistral-7B-Instruct-v0.3 на Apple Silicon (MLX) для обучения литературному стилю Толкина и Вулфа. Использовано ~1200 примеров, обучено 0.145% весов, достигнуто снижение перплексии на 35%. Процесс занял ~3.5 часа на Mac M2 с 64 ГБ памяти. Основные выводы: малые тщательно подобранные наборы данных эффективны, MLX удобен для экспериментов, но экспорт в GGUF требует llama.cpp.

СИГНАЛ

Демонстрирует, что качественный финтюнинг LLM под конкретный стиль теперь доступен на локальном железе за несколько часов, что открывает возможности для кастомизации моделей под корпоративные или творческие задачи без затрат на облачные GPU.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 92

Success story with MiMo-V2.5-GGUF:UD-Q5_K_XL

Пользователь Reddit поделился успешным опытом использования модели MiMo-V2.5-GGUF:UD-Q5_K_XL для написания C++ программы, вычисляющей сложные проценты. Модель сгенерировала корректный код, который был выполнен через встроенный инструмент llama.cpp, и результат совпал с ручным расчётом. Это демонстрирует практическое применение LLM для автоматизации программирования.

СИГНАЛ

Пример показывает, как современные языковые модели могут генерировать рабочий код для финансовых расчётов, что полезно для автоматизации задач в корпоративном IT и финтехе.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 92

Benchmarking Self-Hosted Gemma 2 9B vs. Frontier APIs: The FP8 Quantization Prefill Tax and VRAM Realities on an NVIDIA L4 [P]

Проведено бенчмаркинг self-hosted Gemma 2 9B (FP8 vs unquantized) на NVIDIA L4. FP8 увеличивает время до первого токена (TTFT) на 58% для длинных контекстов, но снижает общую задержку на 6% и освобождает VRAM для KV-кэша, повышая пропускную способность. Качество генерации практически не страдает.

СИГНАЛ

Для инженеров, выбирающих между self-hosted LLM и облачными API, результаты показывают, что FP8-квантизация на L4 выгодна для асинхронных задач с коротким контекстом, но интерактивные сценарии с длинными входами требуют unquantized модели из-за штрафа на префилл.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 91

What if context compression is a diffusion noise function? Proposal + honest results from untrained-model experiments [R]

Предложен метод обработки сверхдлинного контекста через диффузионный процесс, где семантическое сжатие выступает функцией шума. Эксперименты на ненатренированных моделях показали, что компоненты работают изолированно, но цепочка «запись→сохранение→композиция» даёт узкое место. Результаты не подтверждают работоспособность архитектуры, но достаточны для оправдания обучения малой модели.

СИГНАЛ

Новый подход к управлению контекстом может снизить требования к памяти для LLM, что критично для задач с длинными документами (аналитика, код, юридические тексты).

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 91

You won&#8217;t have long to get these iPad deals before Apple&#8217;s price hike

Apple повысила цены на iPad и MacBook, но ритейлеры пока продают старые запасы со скидками. Например, iPad Air M4 (128 ГБ, Wi-Fi) можно купить за $519 вместо новых $899. Скидки быстро исчезают, поэтому рекомендуется поторопиться.

+ 1 источник
Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 92

I stopped trusting model benchmarks and started running my own eval set, here is what changed[D]

Автор разочаровался в публичных бенчмарках ИИ-моделей из-за манипуляций (собственные тесты Moonshot, самоотчеты параметров GLM, отсутствие данных у Seed 2.1) и создал собственный eval-набор из 240 реальных задач. Результаты показали, что лидеры бенчмарков не всегда лучшие на его данных, а разрыв между моделями меньше заявленного. Ключевой вывод: выбор модели для продакшена нужно делать на своих данных с замороженным и версионированным eval-сетом.

СИГНАЛ

Для разработчиков AI-продуктов это практическое руководство: не доверять публичным бенчмаркам, а строить собственные тесты на реальных данных, чтобы избежать дорогих ошибок при выборе модели.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 90

Qwen3.6 27B more dumb in vLLM compared to llama.cpp

Пользователь сравнивает производительность модели Qwen3.6 27B в vLLM и llama.cpp на двух RTX 5060 Ti (32 ГБ VRAM). В llama.cpp модель работает хорошо, но не справляется с параллельными запросами. При переходе на vLLM модель стала значительно менее интеллектуальной: допускает ошибки в синтаксисе вызовов инструментов, игнорирует сообщения и теряет контекст. Пользователь создал собственный парсер для исправления ошибок, но качество всё равно ниже, чем в llama.cpp.

СИГНАЛ

Сравнение производительности и качества квантованных моделей в популярных фреймворках (vLLM vs llama.cpp) критично для выбора инструмента при развёртывании AI-ассистентов в корпоративной среде, где важны как скорость, так и точность.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 92

Got told my open-source model experiments are too scattered. I'm organizing a journal to provide clarity before structuring the first git release. Is this readable for ML folks who aren’t in mech interp? Open to ANY feedback [D]

Исследование маршрутизации MoE-модели Qwen3.5-35B-A3B выявило, что эксперт E114 на слое 14 стабильно активируется при генерации текста от первого лица с самоанализом. Эффект воспроизводится при детерминированном декодировании и не зависит от лексических триггеров, что указывает на связь с дискурсивным регистром, а не с семантикой ключевых слов.

СИГНАЛ

Результат демонстрирует, что внутренние механизмы MoE-маршрутизации могут отражать высокоуровневые дискурсивные режимы генерации, что важно для интерпретируемости и контроля поведения больших языковых моделей в корпоративных AI-системах.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 92

Building a Native 1-Bit LLM Engine in Pure Rust: Achieving 150+ TPS and 350MB Memory Footprint on Edge CPUs. [P]

Разработчик создал на Rust движок для инференса LLM с 1-битной квантизацией, работающий на обычных CPU. Движок достигает 150+ токенов в секунду и потребляет менее 350 МБ ОЗУ, используя безмножительные SIMD-операции (AVX2, NEON), многопоточность и собственный формат сжатия. Поддерживаются модели на архитектурах LLaMA и Qwen, включая гибридный метод, восстанавливающий качество генерации.

СИГНАЛ

Технология радикально снижает стоимость и энергопотребление инференса LLM, делая возможным запуск моделей на мобильных устройствах, Raspberry Pi и в офлайн-средах без GPU, что меняет экономику развертывания AI на периферии.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 90

Dynamic KV Cache Quantization and Load-on-demand mmproj/MTP: my llama.cpp wishlist

Разработчик предлагает улучшения для llama.cpp: динамическую квантизацию KV-кэша через HTTP-эндпоинт, позволяющую переключать точность кэша без перезагрузки модели, а также загрузку/выгрузку mmproj и автоматическую квантизацию при нехватке памяти. Реализован прототип для Qwen3.

СИГНАЛ

Динамическая квантизация KV-кэша без перезагрузки модели значительно ускоряет работу с большими контекстами на GPU, что критично для AI-инференса и оптимизации VRAM.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 91

Elon Musk is steamrolling Wall Street to become a trillionaire

В подкасте обсуждается, что IPO SpaceX может сделать Илона Маска триллионером, несмотря на упадок X (бывший Twitter). X теряет выручку и пользователей, но Маск использует платформу для продвижения своих компаний. SpaceX доминирует в космической отрасли, особенно благодаря Starlink, что снижает влияние репутационных рисков на бизнес.

СИГНАЛ

IPO SpaceX на $2 трлн изменит правила корпоративного управления и рыночной подотчётности, а успех Starlink укрепляет монополию в спутниковом интернете, что критично для корпоративных клиентов и инвесторов.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 91

Dreame&#8217;s L20 Ultra robovac is an unbeatable deal for $280

Робот-пылесос Dreame L20 Ultra, выпущенный в 2023 году, продается со скидкой до $279 (код L20VERGE) вместо $1400. Модель оснащена автоматической очисткой, сушкой швабр, ИИ-обходом препятствий и мощностью всасывания 7000 Па. Это выгодная цена для премиум-устройства, хотя уступает новым моделям по характеристикам.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 90

The durable, floatable UE Wonderboom 4 speaker is cheaper than ever

Колонка UE Wonderboom 4 в синем цвете продаётся по рекордно низкой цене $51.49 на Amazon и $51.99 в Walmart и Best Buy. Модель имеет IP67-защиту, плавучий корпус, до 14 часов работы и поддержку стереопары.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 92

I tested a bunch of Switch 2 screen protectors, and these are the best

Обзор лучших защитных стекол для Nintendo Switch 2: amFilm, JSAUX, Dbrand и Genki. Рекомендуется глянцевое стекло amFilm за $9.99 (3 шт.) как оптимальное по цене и качеству. Матовые варианты снижают блики, но ухудшают углы обзора и яркость экрана.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 92

LLM agents patch security bugs, pass all tests, but still leave the vulnerability open [R]

Исследователь создал CVE-Bench — бенчмарк из 20 реальных уязвимостей для оценки LLM-агентов, исправляющих код. Лучшие модели (GPT-5.5, Laguna) достигают 50-60% успеха, но часто оставляют уязвимость открытой, проходя все тесты. Ключевая проблема: модели не могут надежно идентифицировать опасный код без подробного описания уязвимости.

СИГНАЛ

Результаты показывают, что текущие LLM-агенты ненадежны для автоматического исправления уязвимостей в production-коде, что критично для безопасности корпоративного ПО и SaaS-продуктов.

+ 1 источник
Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 92

AI is blowing up music. How should the Grammys handle it?

Глава Recording Academy Харви Мейсон-младший обсуждает повсеместное проникновение ИИ в музыкальное производство: более 50 000 треков в день создаются ИИ, инструменты вроде Suno стали мейнстримом. Академия пока не допускает ИИ-музыку к премии «Грэмми», но вынуждена адаптировать правила. Также затронуты переход шоу на Disney, проблемы с билетами (blue dot fever) и рост цен на концерты.

СИГНАЛ

Для инвесторов в IT и медиа: ИИ кардинально меняет креативные индустрии — от создания контента до монетизации, что потребует новых регуляций и бизнес-моделей, а также влияет на стоимость прав и лицензий.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 92

For those creating personal assistants locally - how has short/long term memory impacted your experience?

Пользователь делится опытом создания автономного AI-агента на базе Qwen 3.5 27B, который способен самостоятельно выполнять задачи, искать информацию и устанавливать приложения. Ключевым улучшением стало внедрение краткосрочной и долгосрочной памяти через файл memory.md, что сделало взаимодействие более естественным и продуктивным. Агент превосходит SOTA-модели в понимании контекста, хотя уступает в интеллекте, и демонстрирует эмерджентное поведение, например, доработку чужих решений.

СИГНАЛ

Практическая реализация долговременной памяти для AI-агентов — это шаг к персонализированным ассистентам, которые могут автономно работать над проектами, что критично для разработчиков софта и корпоративных IT-решений, стремящихся к автоматизации сложных задач.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 91

Project Blackwell: It Will Work, Eventually — Making an RTX Pro 6000 Run in a Dell R730 at 650K Context

Энтузиаст собрал локальный AI-сервер с 650K контекстом, установив NVIDIA RTX Pro 6000 (Blackwell) в сервер Dell PowerEdge R730 2016 года. Проект потребовал решения проблем с физической установкой, питанием, PCIe BAR, прошивкой и кабелями, включая внешний GPU-кейс и SlimSAS-соединение. После многочисленных итераций система заработала, обеспечив высокую производительность для AI-нагрузок.

СИГНАЛ

Это демонстрация возможности интеграции современных GPU в устаревшие серверные платформы, что открывает путь к созданию мощных локальных AI-систем с большим контекстом для разработчиков и исследователей, снижая зависимость от облачных решений.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 92

Rivian’s software chief thinks you don&#8217;t need CarPlay or buttons

Глава отдела ПО Rivian Уассим Бенсаид объясняет, почему компания не планирует внедрять Apple CarPlay и Android Auto, делая ставку на собственную интегрированную платформу. Он также рассказывает о совместном предприятии Rivian и Volkswagen (RV Tech), которое разрабатывает новую зональную архитектуру для электромобилей обеих компаний, начиная с модели R2. Бенсаид критикует традиционный подход автопроизводителей с множеством ECU и подчеркивает важность единой программной платформы для создания современных функций, таких как персонализированный вход в автомобиль.

+ 2 источника
Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 92

These are my favorite Switch 2 accessories

Автор рекомендует аксессуары для Nintendo Switch 2, включая чехлы, защитные стекла, контроллеры, карты памяти microSD Express, портативные батареи и AR-очки. Среди ключевых предложений — контроллер EasySMX S10, чехол Dbrand Killswitch, адаптер 8BitDo USB Adapter 2 и зарядная станция Jsaux OmniCentro. Особое внимание уделяется практичности и цене, с советом не переплачивать за веб-камеры и рулевые аксессуары.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 92

Win cool gadgets we can’t keep because The Verge has ethics

The Verge запускает розыгрыш гаджетов среди жителей США, которые журналисты не могут оставить себе из-за строгой этической политики редакции. Участники могут выиграть роботов, зарядные устройства и игровые аксессуары, заполнив форму на сайте издания. Конкурс открыт для резидентов 50 штатов и округа Колумбия, участие бесплатное.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 92

Sundar Pichai on AI, the future of search, and what’s happening to the web

Генеральный директор Google и Alphabet Сундар Пичаи в интервью обсудил реструктуризацию компании в ответ на появление ChatGPT, включая объединение исследовательских групп Brain и DeepMind в Google DeepMind и создание централизованной инфраструктуры ИИ. Он рассказал о планах интеграции ИИ-агентов Gemini во все продукты, включая поиск и YouTube, что может привести к снижению трафика на открытые веб-сайты (концепция Google Zero). Пичаи также затронул вопросы сроков достижения общего искусственного интеллекта (AGI) и необходимость быстрого принятия решений для сохранения конкурентоспособности.

+ 1 источник
Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 90

Running on a macbook, and having issues with crashing? Maybe this will help...

Пользователь MacBook Pro M2 Max делится подробным руководством по стабилизации работы локальных ИИ-моделей, в частности Qwen3.6 35b A3B. Ключевые советы: отключить ProMotion (переключить на 60 Гц), использовать GGUF-модели вместо MLX, запускать через llama.cpp или LM Studio, поднять лимит wired-памяти через sysctl, настроить охлаждение и включить preserve_thinking. Автор утверждает, что после оптимизации скорость генерации достигает 49–65 токенов/с, а обработка промптов — до 490 токенов/с, что быстрее Claude через GHCP.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 92

I built a computer use sandbox framework for codex on headless linux. GPU passthrough, computer use, and sudo access for codex all work. It's the perfect dev sandbox to allow full auto work while minimizing the "rm -rf /" risk

Разработчик создал sandbox-фреймворк AI-sandbox-manager для безопасного запуска автономных агентов на headless Linux с полным доступом к GPU, sudo и браузеру, но без риска повредить хост-систему. Решение использует LXC-контейнеры вместо ВМ для эффективного разделения GPU между несколькими параллельными агентами, включает компьютерный интерфейс через cua и механизмы защиты (блокировка git push) для ограничения критических операций.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 92

Viture’s refurb Luma Pro smart glasses are more than half off at eBay

Viture Luma Pro smart glasses доступны со скидкой 46% на eBay по промокоду LONGWEEKEND — рефурбишные модели стоят около $271 вместо $500. Очки с 52-градусным полем зрения и встроенными диоптрийными регулировками поддерживают работу с Steam Deck и другими устройствами через USB-C, имеют гарантию на 2 года и 30-дневный возврат.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 92

Musk v. Altman: Much ado about nothing

Суд признал иск Илона Маска к Сэму Олтману незаконным из-за истечения срока давности. Формально судебное разбирательство касалось преобразования OpenAI из некоммерческой в коммерческую организацию, но по сути Маск пытался наказать Олтмана за успех OpenAI без его участия. Все участники процесса (Маск, Олтман, сотрудники OpenAI) продемонстрировали недостаток управленческих навыков и эмоциональной зрелости, тогда как Microsoft выглядел единственным взрослым в комнате.

+ 1 источник
Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 92

I tested several cases for the Switch 2 and these are the best

Тестирование защитных чехлов для Nintendo Switch 2: обзор лучших вариантов от бюджетных до премиальных, включая рекомендуемый Dbrand Killswitch ($59.95–$134.80) с защитой экрана и адаптером для док-станции, а также альтернативы вроде JSAUX Split Case ($29.99) и переносных кейсов Tomtoc FancyCase ($36.99) и Belkin Charging Case Pro ($99.99).

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 92

After 8 months of running everything local, ive accepted the productivity tools also have to be local[D]

Разработчик на M3 Max перешёл на полностью локальный стек: Llama 3.3 70B для инфиденциальной работы с NDA вместо Claude API, но обнаружил, что продуктивные инструменты (транскрипция, скриншот-память, заметки) по-прежнему отправляют данные на серверы. Он собрал локальную альтернативу с Ollama, Whisper, Obsidian и AirJelly, поняв, что приватизация inference — это только половина задачи, а другая половина требует пересмотра всего экосистемы инструментов.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 92

Anker&#8217;s fast, foldable 3-in-1 charging station is back to its best price yet

Anker's Prime Wireless Charging Station 3-in-1 — компактное складное устройство для одновременной зарядки iPhone, Apple Watch и наушников — упало в цене до $104.99 (скидка $45) на Amazon, Best Buy и Walmart. Зарядник поддерживает технологию Qi2.2 с мощностью 25W, может зарядить iPhone 17 Pro с 0 до 50% менее чем за 30 минут, оснащен системой охлаждения AirCool и включает в комплект блок питания 45W.

+ 1 источник
Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 90

Orc (working name) - auditable and declarative AI workflow

Разработчик создаёт ORC (Orchestration as Code) — фреймворк для описания LLM-워크플оу через декларативный DSL, похожий на Terraform. Вместо Python-кода или визуальных инструментов, ORC позволяет определять агентов, модели, инструменты и шаги выполнения в .orc-файлах с валидацией выходов по JSON Schema. Проект находится на ранней стадии; автор ищет обратную связь о полезности концепции для локальных моделей (Ollama, llama.cpp) и смешанных local/cloud workflows.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/MachineLearning· 92

I tested reasoning models on the problems where surface-level thinking fails — AIME, proof sketches, and "why does this code have a subtle off-by-one", [D]

Разработчик протестировал несколько моделей AI на 120 собственных задачах, требующих глубокого рассуждения (AIME, научные проблемы, реальные баги кода). Ring 2.6 1T показал лучший результат на математике (38/40), но модели часто терпели неудачу на разных типах задач. Вывод: глубокое рассуждение (xhigh mode) реально помогает на сложных многошаговых задачах, но требует баланса с практической скоростью выполнения.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 90

7 of our favorite deals from Amazon’s Pet Days sale

Amazon's Pet Days sale (через 16 мая) предлагает скидки на товары для питомцев. Редактор The Verge выбрал 7 лучших предложений: очиститель ковров Bissell Little Green за $99,99 (вместо $129,99), голосовые кнопки за $19,76, самоочищающийся лоток Litter-Robot 4 с аксессуарами за $799,99, камера TP-Link Tapo за $17,99, корм Hill's Science Diet с 20% скидкой при подписке, AirTags первого поколения (4 шт) за $56,99 и прозрачный кошачий туннель за $28,99.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· The Verge· 91

Joanna Stern is not a robot, but she lived with them

Joanna Stern, бывшая колумнистка Wall Street Journal и соучредитель The Verge, запустила собственную медиа-компанию New Things и опубликовала книгу «I Am Not a Robot» о годе использования AI во всех аспектах жизни. В интервью она рассказывает, что большинство потребительских AI-продуктов ещё не готовы и не очень хороши (кроме некоторых применений), гуманоидные роботы явно не готовы к массовому использованию, но AI может найти применение в здравоохранении, образовании и других сферах независимо от того, хотят ли люди это принимать.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 91

OpenClaw + oMLX shows 0 cached tokens, but Hermes uses cache fine with the same local model, what am I missing?

Пользователь сообщает о проблеме с кешированием промптов в OpenClaw при использовании локальной модели Qwen3.6 через oMLX на Mac. Несмотря на то что Hermes и прямые запросы к oMLX демонстрируют эффективный кеш (93% и 61440 cached tokens соответственно), OpenClaw показывает 0 cached tokens и постоянно перепроцессирует промпты. Проблема не в самой модели или oMLX, а в конфигурации OpenClaw, которая, похоже, не отправляет prompt_cache_key несмотря на включенный compat.supportsPromptCacheKey.

Войди чтобы сохранять→ Оригинал
NT
НОВИНКИ· r/LocalLLaMA· 90

am I running this llama-bench of Qwen3.6-27B on these V100s right?

Разработчик тестирует возможность запуска Qwen 3.6-27B (INT8) на паре Tesla V100 SXM2 (64GB VRAM) для кодогенерации и текстовых приложений. Бенчмарк llama-bench показывает скорость обработки от 797 t/s на контексте 4K до 267 t/s на контексте 200K с использованием Flash Attention. Автор отмечает снижение производительности при больших контекстах и ищет совет по оптимизации конфигурации.

Войди чтобы сохранять→ Оригинал