Edge0-145B: 145B ИИ работает на одном RTX 5090

Edge0-145B: 145B ИИ работает на одном RTX 5090

12 ноября 2026 года Edge0 выпустила Edge0-145B — модель искусственного интеллекта с 145 миллиардами параметров, работающую на одной потребительской видеокарте. Веса появилась на Hugging Face 11 ноября, официальный блог-пост последовал 12 ноября, а к 14 ноября модель уже превысила 61 000 загрузок, с 11 379 звёздами на GitHub.

Заголовок прост: ИИ фронтирного класса, на вашем собственном компьютере, без облачных счетов. Вот что на самом деле представляет собой модель, что показывают цифры и где скрывается мелкий шрифт.

Что такое Edge0-145B

Edge0-145B — это латентная модель с разреженной смесью экспертов. В ней всего 145 миллиардов параметров, но для каждого токена активны только 10,12 миллиарда, поэтому она вообще помещается на одном GPU. Архитектура использует 48 слоёв и 512 экспертов на каждый слой, при этом 10 ориентированных экспертов и 1 общий эксперт активен на токен. Она была обучена нативно с 4-битной точностью и поставляется с окном контекста 256K-токенов.

Меньший родственник, Edge0-120B, был запущен в тот же день с общим параметром 120 млрд и 8,64 млрд активных на токен.

Показатели скорости

Edge0 отражает эти скорости декодирования на основе собственного тестирования, поэтому рассматривайте их как отчётываемые поставщиками, пока не появятся независимые запуски.

На RTX 5090 D с 24 ГБ памятисборка Q3 K декодируется со скоростью 121,2 токена в секунду с 3 554,9 токена в секунду при предварительном заполнении 16K. Сборка NVFP4 работает с декодированием 98,3 токена в секунду и 3 165,7 токена в секунду. Та же сборка Q3K достигает 91,7 токена в секунду на RTX 4090. На MacBook Pro Edge0 показывает более 1 100 токенов в секунду и более 80 токенов в секунду при типичной мощности около 120 Вт, при контексте от 128K до 256K с почти той же скоростью.

Поддержка с первого дня охватывает macOS, Windows и Linux на ноутбуках серии Apple M, а также видеокартах RTX Spark, RTX 4090 и RTX 5090.

Эталонные показатели

Каждая оценка ниже взята из внутренних оценок Edge0. Компания заявляет, что технический отчёт с полными инструкциями по настройке и воспроизведению всё ещё готовится, поэтому воспринимайте это как заявления, а не согласованные измерения.

Результат Terminal-Bench 2.1 привлекает внимание: 86,52 против 78,2 у Claude Opus 4.6 в конфигурации Max. Но обратите внимание на колонку GPQA-Diamond, где Edge0 отстаёт от DeepSeek-V4-Flash и Claude Opus 4.6. Ни один единственный бенчмарк не определяет модель, и кросс-бенчмарк «победителей» не существует. Тестируйте это на своих собственных заданиях.

Сколько это стоит

В Edge0-145B нет счёта за токен. Сделка отличается: вы платите аппаратным обеспечением и временем настройки вместо комиссий за API, и ваши данные остаются на вашем собственном компьютере. Для команд, строящих автоматизацию на собственном оборудовании, эта сделка — и есть суть. Если вы хотите увидеть, как сравниваются цены на облако, наш разбор Gemini 4 Hydrogen охватывает модель токена Google $1.50 за 1Млн токенов, а история IPO Anthropic показывает, насколько инвесторы теперь ценят компанию, стоящую за Claude.

Ловушки

Три вещи, которые нужно знать перед загрузкой.

Заголовок в 29 ГБ требует контекста. Edge0 утверждает, что модель работает с 29 ГБ максимальной памяти на ноутбуке, но карта модели Hugging Face в сумме составляет около 61,5 ГиБ для сборки NVFP4: 23,25 ГиБ видеопамяти плюс 38,27 ГиБ системной памяти. Цифра 29 ГБ — это только память GPU. Убедитесь, что у вашего компьютера есть соответствующая память.

Он является открытым весом, а не открытым исходным кодом. Веса находятся под лицензией Edge0 Community Model License 1.0, которая оставляет за собой некоторые применения, такие как продажа, аренда или лицензирование весов и запуск модельного сервиса, для отдельной письменной лицензии. Код фреймворка вывода — Apache 2.0, но веса — нет. Прочитайте лицензию перед созданием коммерческого продукта на ней.

Он построен на базе Qwen. Метаданные Hugging Face называют Qwen3.8-Flash-Next от Alibaba как базовую модель, и релиз является производным от этой модели. Собственный блог Edge0 не называет Qwen. Это важно, если ваши правила соответствия учитывают происхождение моделей.

Что выбрать

Выбирайте Edge0-145B, если у вас 24 ГБ видеокарта или мощный Apple Silicon, вы хотите, чтобы ваши данные оставались локальными, и вы запускаете агенты или программные нагрузки, где облако за один токен будет вредным. Уберите сборку NVFP4 или Q3_K, запустите свои рабочие процессы и сравните с текущим стеком по качеству, задержке и затратам электроэнергии.

Если вам нужен управляемый API, гарантированное время безотказной работы или модель с независимой верификацией бенчмарков, придерживайтесь облачной модели. Технический отчёт по Edge0-145B всё ещё находится в ожидании, и ни одна независимая лаборатория ещё не воспроизвела основные оценки.

Подождите и посмотрите, если вы выбираете между Edge0-145B и его «сестрой». Edge0-120B меньше и дешевле в эксплуатации, и первая волна независимых тестов покажет, какой из них выдерживается. Для более широкого анализа решения «сборка против покупки» смотрите «Custom AI vs Off-the-Shelf AI: 76% Buy First».

FAQ

Edge0-145B действительно бесплатен?

Грузы можно бесплатно скачать с Hugging Face, а фреймворк вывода — Apache 2.0. Вы всё равно платите за видеокарту, электричество и время на установку, а для некоторых коммерческих задач требуется отдельная лицензия по Edge0 Community Model License 1.0.

Может ли Edge0-145B работать на ноутбуке?

Edge0 говорит «да»: на MacBook Pro он показывает декодирование более 80 токенов в секунду при максимальной памяти GPU 29 ГБ. Полный измеренный объём составляет около 61,5 ГиБ с учётом системной памяти, поэтому нужен хорошо оборудованный ноутбук.

Насколько быстро работает Edge0-145B на RTX 5090?

Edge0 сообщает о декодировании 121,2 токена в секунду при сборке Q3_K и 98,3 токена в секунду с сборкой NVFP4, обе данные поставщиками по результатам собственного тестирования компании.

Edge0-145B лучше Claude Opus 4.6?

На Terminal-Bench 2.1 Edge0 показывает 86.52 против 78.2 у Claude Opus 4.6 Max. На GPQA-Diamond Claude лидирует с 91.3 до 90.4. Оценки указываются поставщиками, и независимая проверка пока не существует, поэтому окончательный победитель не определен.

Где я могу скачать Edge0-145B?

Веса находятся на Hugging Face в Edge0/Edge0-145B-q3k и Edge0-145B-NVFP4, а фреймворк вывода и инструменты развертывания находятся на GitHub в Edge0-AI/Edge0.

В чём разница между Edge0-145B и Edge0-120B?

Edge0-145B имеет 145 млрд параметров, при этом 10,12 млрд активных на токен; Edge0-120B имеет 120 млрд активных и 8,64 млрд активных. Обе были запущены 12 ноября 2026 года, а модель 120B является более лёгким и дешёвым в эксплуатации вариантом.

• Edge0-145B
• open source AI
• local AI
• RTX 5090
• AI benchmarks