| 1.1, penetrator (?), 18:31, 09/11/2025 [ответить] [﹢﹢﹢] [ · · · ]
| –5 +/– |
т.е. без этих библиотек какой-нибудь hugging face не запустить на CPU AI блоках? все правильно понял?
| | |
| |
| 2.5, Аноним (5), 18:45, 09/11/2025 [^] [^^] [^^^] [ответить]
| +2 +/– |
Это конкретно NPU на чипе CPU. Обычный оффлоад на CPU работает и так, конечно.
| | |
| 2.11, Аноним (11), 19:16, 09/11/2025 [^] [^^] [^^^] [ответить]
| +1 +/– | |
> т.е. без этих библиотек какой-нибудь hugging face не запустить на CPU AI блоках?
Не скажу наверняка, но похоже, что да. Как минимум в теории для доступа к AI блокам ведь должен быть какой-то API/драйвер?
| | |
| |
| 3.14, Аноним (14), 19:25, 09/11/2025 [^] [^^] [^^^] [ответить]
| –7 +/– |
Умный алгоритм должен сам определять куда что посылать сейчас ваще то хоп ИИ. Драйвера это прошлое тысячелетие.
| | |
| |
| 4.70, _kp (ok), 14:36, 10/11/2025 [^] [^^] [^^^] [ответить]
| +1 +/– |
>>Умный алгоритм должен
Да, конечно, он всем должен... Не спорю. Судьба у него такая.
Но сперва ИИ нужно на чем то запуститься.
А разработчики идут по пути наименьшего велосипедостроения, и используют готовые драйверов и библиотеки.
| | |
|
| 3.50, penetrator (?), 02:22, 10/11/2025 [^] [^^] [^^^] [ответить]
| –1 +/– |
я не разбирался в теме, но предполагал, что там появятся расширения процессорных инструкций, и софт который делает инференс будет проверять наличие этих инструкций и использовать в случае доступности, и ему не надо будет прослойка в виде рантайма
| | |
|
|
| 1.3, Аноним (3), 18:41, 09/11/2025 [ответить] [﹢﹢﹢] [ · · · ]
| –7 +/– |
КУДА, пацаны. Только КУДА. Вон, даже китайцы вроде бы свои чипы делают КУДА-компатибл.
| | |
| |
| 2.6, Аноним (5), 18:46, 09/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
Ну, царствие курточки не продлится вечно и, очевидно, не нравится крупным игрокам типа Google. Поэтому за TPU и NPU будущее.
| | |
| |
| 3.40, Аноним (40), 22:43, 09/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
А IBM для этого не хочет вспомнить про свои, некогда известные, Synergistic Processing Unit?
| | |
| |
| 4.62, ryoken (ok), 09:59, 10/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
CellBE? Куда оно после PS3 закопалось вообще? (Вопрос с целью повышения уровня образованности :) ).
| | |
| |
| 5.69, Аноним (69), 14:24, 10/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
Да. Самому интересно, такое передовое было, но забросили после первого практического выпуска в железе.
| | |
|
|
|
| 2.9, Аноним (9), 18:52, 09/11/2025 [^] [^^] [^^^] [ответить]
| +17 +/– |
Vulcan compute должен победить
Открытый формат, который работает на любых картах
А закрытый и залоченный только на Нвидию CUDA останется уделом прошлого
Еще может быть MAX/Mojo выстрелят
| | |
| |
| 3.26, МИСАКА (?), 20:46, 09/11/2025 [^] [^^] [^^^] [ответить]
| +1 +/– |
Ну когда допилят до минимально приемлемой производительности, тогда мейби и победит
| | |
| |
| 4.45, Витюшка (?), 23:14, 09/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
Я это слышал лет 10-12 назад. Тогда шла речь про Open чего-то там, уже даже не помню. Куда никуда не делась.
| | |
| 4.73, Аноним (73), 19:17, 10/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
Никогда не допилят, для этого надо на машине времени слетать назад на 10 лет и написать софтовую экосистему, как сделала невидия.
| | |
|
|
| 2.35, Мемоним (?), 22:12, 09/11/2025 [^] [^^] [^^^] [ответить]
| +1 +/– | |
> CANN (Compute Architecture for Neural Networks) — альтернатива CUDA от Huawei, программный инструментарий для разработки приложений под фирменные процессоры Ascend.
Партия и Хуавей решили что КУДА может идти куда подальше
| | |
|
| 1.12, Аноним (12), 19:18, 09/11/2025 [ответить] [﹢﹢﹢] [ · · · ]
| –1 +/– | |
> требуется не менее 64 ГБ оперативной памяти ... Доступ ограничен зарегистрированными клиентами AMD
Ну вот с этого и надо было статью начинать: зарегистрируйтесь и прикупите памяти. Остальное не важно.
| | |
| |
| 2.16, Аноним (11), 19:35, 09/11/2025 [^] [^^] [^^^] [ответить]
| +5 +/– | |
> зарегистрируйтесь и прикупите памяти. Остальное не важно.
Кто о чем, а опеннетные комментаторы - об отсутствии денег.
| | |
| |
| |
| |
| |
| |
| 7.54, Аноним (53), 05:11, 10/11/2025 [^] [^^] [^^^] [ответить]
| +/– | |
Потому что они все такие, ёлки палки.
У индустрии мания "делать тонкими". Нормальных разбираемых ноутов три модели на рынке.
| | |
| |
| 8.55, Аноним (55), 05:25, 10/11/2025 [^] [^^] [^^^] [ответить] | +/– | Распаянная оператива еще ладно, вот проц расраянный, это уже жесть, хотя шо то, ... текст свёрнут, показать | | |
| |
| 9.74, RM (ok), 00:19, 11/11/2025 [^] [^^] [^^^] [ответить] | +/– |  обсуждение идет в контексте Ryzen AI проца с NPU У Чуви лэптопа с таким я не ви... текст свёрнут, показать | | |
|
| 8.60, Аноним (60), 09:26, 10/11/2025 [^] [^^] [^^^] [ответить] | +1 +/– | Не все, а опять же дешмань 1000 и Apple Возми практически любой Dell за 1800... текст свёрнут, показать | | |
| |
| |
| |
| 11.77, RM (ok), 00:25, 12/11/2025 [^] [^^] [^^^] [ответить] | +/– |  Я не вижу там моделей в которых можно апгрэйдить RAM Оно запаяно, прикинь Еще ... текст свёрнут, показать | | |
|
|
|
|
| 7.61, Аноним (60), 09:41, 10/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
>> Да, на распаянный ноут.
> зачем покупать такой ноут?
Затем, что на нормальный ноут денег нет, очевидно.
| | |
| 7.64, bergentroll (ok), 10:59, 10/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
> зачем покупать такой ноут?
Затем например, что Thinkpad 14s на AMD Ryzen можно взять завозной по привлекательной стоимости. Но память распаяна, и лаптоп «тонкий» (по меркам тинкпадов).
| | |
|
|
|
|
|
| 2.18, Аноним (18), 19:48, 09/11/2025 [^] [^^] [^^^] [ответить]
| –2 +/– |
Правильно делают. ИИ нужно отгородить подпиской, чтобы у нормальных пользователей оно и не запускалось на компе.
| | |
| 2.41, Аноним (40), 22:47, 09/11/2025 [^] [^^] [^^^] [ответить]
| –1 +/– |
А были материнки C2D с возможностью установить >=64 Гбайт ОЗУ?
| | |
|
| |
| |
| 3.31, Bob (??), 21:49, 09/11/2025 [^] [^^] [^^^] [ответить]
| +1 +/– |
Там только начальная поддержка - полуоткрытый бэта тест, по сути.
| | |
|
|
| |
| |
| 3.21, Аноним (21), 19:58, 09/11/2025 [^] [^^] [^^^] [ответить]
| –1 +/– |
Там справа колонка как бы намекает где и когда применимо. Гейминг наше фсё! Осталось только зеленого китайца убедить что старые игры тоже имеют право на жизнь.
| | |
|
|
| 1.29, Аноним (-), 21:19, 09/11/2025 [ответить] [﹢﹢﹢] [ · · · ]
| +/– |
Там, скорее всего, ядро 6.14 нужно, для поддержки NPU. А тут народ только с дебиан 10 на 11 переползает.
| | |
| |
| 2.32, Аноним (32), 21:51, 09/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
NPU только складывает крохотные матрицы. Ну и арифметика уровня INT4, сам понимаешь, какая у неё погрешность вычислений.
| | |
| |
| |
| |
| |
| 6.67, Аноним (32), 14:13, 10/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
FP8 это очень приблизительная точность, вкупе с ограниченной размерностью матриц накладывает определённые ограничения. Энергоэффективность возможно, но больше смысла отдать вычисления на откуп видеокарте. NPU, как правило, решают строго определённые, предусмотренные производителем, задачи. Как мне видится, в моделях общего назначения, ограничения будут проблемой.
| | |
|
|
|
|
| 2.34, Bob (??), 22:09, 09/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
Стоит глянуть как оно под виндой сделан:
1) intel Meteor Lake/Arrow Lake - NPU буст 30-50% fps в XeSS 2.x апскейло-фреймгене в поддерживаемых играх.
2) AMD's Ryzen AI 300/9000 говорят о 40-60% бусте FSR4 апскейло-фреймгене
p.s.: пока фреймген от дискретной gpu зависит.
Intel допиливает (не факт) для текущих ultra 200 igpu чёт.
AMD под новую не анонсированную архитектуру делать будет.
p.p.s.: можно на lossless scaling глянуть. Там обе технологии свои есть. С некоторыми косяками. Пока без задействования NPU. Зато пашет почти всегда и везде.
| | |
|
| |
| 2.48, Аноним (-), 00:20, 10/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
Возьмите OpenVino для распознания, он на cpu нормально работает, лучше чем tensorflow.
| | |
|
| |
| 2.72, Аноним (73), 19:15, 10/11/2025 [^] [^^] [^^^] [ответить]
| +/– |
Наоборот. Невидия именно на проприетари взлетела. А далеко, в смысле лесом, пойдут пользователи. Уже пошли, так как AMD поддержку карт в rocm не держит и постоянно их дропает. А проприетарный SDK - это новая степень окукливания.
| | |
|
| 1.71, Аноним (73), 19:14, 10/11/2025 [ответить] [﹢﹢﹢] [ · · · ]
| +/– | |
>при этом для комфортной работы LLM требуется не менее 64 ГБ оперативной памяти (минимум 32 ГБ).
Что даже для 400M, идущей даже на "коре дуба" с двумя гигами?
| | |
|