The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

Подборка открытых больших языковых моделей для локального использования

11 Feb 2025
Подборка открытых больших языковых моделей для локального использования
Открытые большие языковые модели для запуска на своём сервере:
  • DeepSeek-R1 -китайская модель, охватывает 671 миллиард параметров и учитывает контекст в 128 тысяч токенов.
  • Granite - модель от IBM, 8 миллиардов параметров.
  • InternVL - модель, способная обрабатывать визуальную информацию. 5-78 млрд параметров.
  • OLMo 2 - полностью открытая модель, 7 и 13 млрд параметров.
  • Phi-4 - модель от Microsoft, нацеленная на решение логических задач. 15 млрд параметров.
  • Qwen - китайская модель, 72 млрд параметров, 128 тысяч токенов. Есть вариант для обработки визуальной информации.
  • SmolLM2 - легковесные модели (135 млн, 360 млн и 1.7 млрд параметров), рассчитанные на резюмирование информации и обработку текста.
  • all-MiniLM-L6-v2, 23 млн параметров, подходит для встраивания в приложения.

Движки для исполнения больших языковых моделей: llama.cpp, ollama, koboldcpp.

https://github.com/suncloudsmoon/awesome-open-source-ai
Машинное обучение

 Добавить ссылку
 
 Поиск ссылки (regex):
 

Последние заметки
<< Предыдущие 15 записей
- 27.04.2024 Подключение в BHyVe zvol-диска с другой машины
- 24.03.2024 Полезные пакеты, которые можно установить на сервер для диагностики сбоев
- 29.12.2023 Диагональное размещение информации на экране
- 25.12.2023 Автоматизация установки Samba AD+DDNS+DHCPD и почтового сервера в openSUSE Leap 15.5
- 24.12.2023 Проброс доступа к SSH через HTTPS
- 20.12.2023 Использование SSH поверх UNIX-сокета вместо sudo
- 08.12.2023 Проксирование запросов к S3 с помощью nginx и angie
- 29.11.2023 Cкрипт ddrescue-loop с функцией автоматической остановки/перезапуска диска на SATA порту
- 23.11.2023 Устранение ошибки redirection unexpected в bash-скриптах
- 21.10.2023 Защита от подмены серверных TLS-сертификатов в результате MITM-атаки провайдером
- 15.10.2023 Уменьшение жёстко определённого размера окна приложения в формате AppImage
- 12.10.2023 Определение IP-адреса пользователя в Telegram через голосовой вызов
- 14.09.2023 Установка в мобильной версии Firefox любого расширения от десктоп-версии
- 10.09.2023 Часто используемые параметры sysctl, касающиеся настройки сети в Linux
- 09.08.2023 Запуск Linux на Android-телефоне с SD-карты без перепрошивки
Следующие 15 записей >>




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру