The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

Подборка открытых больших языковых моделей для локального использования

11 Feb 2025
Подборка открытых больших языковых моделей для локального использования
Открытые большие языковые модели для запуска на своём сервере:
  • DeepSeek-R1 -китайская модель, охватывает 671 миллиард параметров и учитывает контекст в 128 тысяч токенов.
  • Granite - модель от IBM, 8 миллиардов параметров.
  • InternVL - модель, способная обрабатывать визуальную информацию. 5-78 млрд параметров.
  • OLMo 2 - полностью открытая модель, 7 и 13 млрд параметров.
  • Phi-4 - модель от Microsoft, нацеленная на решение логических задач. 15 млрд параметров.
  • Qwen - китайская модель, 72 млрд параметров, 128 тысяч токенов. Есть вариант для обработки визуальной информации.
  • SmolLM2 - легковесные модели (135 млн, 360 млн и 1.7 млрд параметров), рассчитанные на резюмирование информации и обработку текста.
  • all-MiniLM-L6-v2, 23 млн параметров, подходит для встраивания в приложения.

Движки для исполнения больших языковых моделей: llama.cpp, ollama, koboldcpp.

https://github.com/suncloudsmoon/awesome-open-source-ai
Машинное обучение

 Добавить ссылку
 
 Поиск ссылки (regex):
 

Последние заметки
<< Предыдущие 15 записей
- 08.11.2020 Решение проблемы с исчезновением устройств вывода звука в Ubuntu 20.04
- 13.09.2020 Гитара в Debian и борьба с XRUN
- 11.09.2020 Первоначальная настройка VPS сервера на базе CentOS 8
- 18.08.2020 Установка в Firefox официального расширения Google Translate, поставляемого для Chrome
- 10.08.2020 Создание сборки Android 10 для Raspberry Pi 4
- 10.07.2020 Включение DNS over TLS в Fedora
- 29.06.2020 Диапазоны IP-адресов облачных сервисов Amazon, Google, OVH, DigitalOcean и Microsoft
- 16.06.2020 Развёртывание приложений .NET/ASP.NET Core в Ubuntu 20.04 с Nginx
- 02.05.2020 Логическое объединение нескольких файловых систем при помощи mergerfs
- 13.04.2020 Откуда берется steal внутри виртуальных машин и что с этим делать
- 03.04.2020 Настройка PulseAudio и ALSA для достижения максимального качества звука
- 13.03.2020 Использование tor из состава Tor Browser без запуска самого браузера
- 05.03.2020 Конвертация Chrome-дополнения для запуска в Firefox
- 23.02.2020 Генерация конфигурации клиента OpenSSH из inventory.ini в Ansible
- 22.02.2020 Преобразование закрытого ключа PuTTY для использования в OpenSSH
Следующие 15 записей >>




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру