Спойлер
Поддержка проекта
Помогите нам развивать платформу и создавать новый контент для разработчиков игр.
ПоддержатьЛокальные модели ИИ, истории успеха, разочарования, итд...
0
01.10.2026 23:17
Ternary Bonsai 2 27B каким-то чудом, проглючилась и написала кусок кода тетриса. Для 2-битной модели даже и не плохо получилось. Но, похоже, не стоит ставить этой модели слишком абстрактные задачи, она утонет в рассуждениях. Ну и 12Гб VRAM мало, нужно хотя бы 16
0
01.10.2026 23:44
0iStalker
У меня пока только разочарование.
На моих 8гб они искусно притворяются умными, но как только дело доходит до реальной задачи, то тут они и показывают себя какие они на самом деле.
Что-то мелкое можно доверить, но в коде разве что самое простое, да и то с опаской.
У меня онлайн qwen на триллиарды параметров бывает фейлит покруче меня самого, а что с локалкой ждать.
0
02.10.2026 04:50
Пока не будет специальных процессоров на базе видеокарт для локального ИИ - текущие модели будут сильно уступать облачным.
Как я это вижу - в материнской плате в один слот вставляется видеокарта для расчета и отрисовки графики,
а во второй слот вставляется специализированная железка для ИИ вычислений. А не пытаться на одной
видюхе все вытягивать.
Как я это вижу - в материнской плате в один слот вставляется видеокарта для расчета и отрисовки графики,
а во второй слот вставляется специализированная железка для ИИ вычислений. А не пытаться на одной
видюхе все вытягивать.
Хотите присоединиться к обсуждению?
Войти в аккаунт