Статьи
И от LLM будет польза
В прошлой статье было описано как поднять свой собственный сервис с LLM на базе ollama и моделью DeepSeek. Но в таком случае это получался банальный чатбот, которых в сети полным полно, этот разве что полностью под собственным контролем. Попробуем сделать из этого болтливого бота полезный инструмент.А поможет нам в это проект ShellOracle. К СУБД Oracle […]
Kuasar – runtime с поддержкой sandbox
Что сегодня? В одной из прошлых статей (https://openscaler.ru/2024/02/19/isulad-kata-k8s/) мы рассмотрели технологию запуска контейнеров в обособленных виртуальных машинах и сегодня нам на рассмотрение попалась ещё одна подобная технология, которая позволит повысить безопасность запуска приложений в контейнерах. Данный проект называется kuasar, с деталями, документацией и примерами мы можете ознакомится пройдя по ссылке https://github.com/kuasar-io/kuasar. Немного теории Как написано […]
Установка Ollama и локальный запуск LLM модели ИИ
В настоящее время технологии генеративного искусственного интеллекта (ИИ или Generative AI) получили широкое распространение и имеется тренд на встраивание их возможностей во многие отрасли нашей жизни, включая информационные технологии, медицину, финансы, производство, автомобилестроение и т.д. Однако, одной из главных проблем, связанных с использованием ИИ, является необходимость обработки огромных объемов данных и требуемых вычислительных ресурсов. Также […]
Выпущена новая версия дистрибутива OpenScaler 24.09 (версия для разработчиков)
Мы рады представить вашему вниманию новую версию OpenScaler 24.09, основанную на кодовой базе openEuler 24.09.Данная версия является “промежуточной” между LTS релизами и не предназначеная для использования в продуктовой среде. Главная цель её использования – ознакомить разработчиков с новыми (и может быть не совсем ещё стабильными) версиями программного обеспечения.Подробнее о нововведениях:Дистрибутив построен на базе ядра Linux […]
Rubik – ещё один способ управления ресурсами в kubernetes
Что в этот раз? Сегодня мы вновь затронем аспекты работы модного ныне решения по управлению контейнеризированными приложениями — kubernetes. А именно — рассмотрим пример эффективного управления ресурсами (CPU, память, диски и т.д.), мощности которых никогда не бывает много. Перед тем как перейти, собственно, к описанию рассматриваемой сегодня технологии (вновь из стека дистрибутива OpenEuler), давайте для […]
A-Tune
A-Tune — «магия», которая ускорит ваш серверНа нашем сайте уже была обзорная статья по этой технологии, где довольно подробно рассмотрены основные виды способов увеличения производительности серверных приложений, поэтому, чтобы не перегружать нашу новую статью общими описаниями все желающие узнать базовую информацию об A-Tune могут ознакомится с ней пройдя по ссылке.Поставленная задачаСегодня мы постараемся показать, как […]
sysBoosts
В данной статье будет произведено знакомство с технологией sysBosts, которая позволяет ускорить процесс запуска программ. Введение sysBoost производит переупорядочивание исполняемого кода динамических библиотек, для повышения производительности программы, путем уменьшения количества сегментов кода и количества кеш-промахов. Предыстория Большие приложения используют большое количество сторонних или собственных динамических библиотек. Большое количество переходов PLT происходит во время вызова функций, […]
Sysmonitor — облегчённая система мониторинга сервера
Сегодня в нашей статье мы рассмотрим супер-облегчённую систему мониторинга, которая предназначена исключительно для локального использования. В ней нет привычного нам традиционного разделения на сервер мониторинга, который собирает метрики от агентов и складирует их в СУБД и собственно агентов мониторинга, разбросанных по серверам в сети. Данный проект демонстрирует минималистский подход, по сути сводя всю систему мониторинга […]
Дорабатываем сетевой стек протоколов с помощью Gazelle в составе ОС openScaler 22.03 LTS
Gazelle — это высокопроизводительный стек протоколов для пользовательского режима. Он напрямую считывает и записывает пакеты сетевого интерфейса NIC в пользовательском режиме на основе DPDK (Data Plane Development Kit,набор для разработки на уровне данных, состоящий из библиотек для ускорения рабочих нагрузок по обработке пакетов) и передает пакеты через память HugePages memory и использует стек протоколов LwIP […]