Запуск нейросети DeepSeek R-1 на OpenScalerЧасть I — Использование OllamaНа сегодняшний день технологии искусственного интеллекта все больше проникают в нашу не только рабочую (в виде множества ИИ агентов интегрированных во все что только можно, практически в весь инструментарий — от IDE разработчика ПО и заканчивая “умным” ассистентом в ВКС решениях) но и повседневную жизнь, в […]
Совсем недавно мы писали статью про то, как запустить в кластере k8s сервис Kserve и продемонстрировали запуск в нём инференса модели Qwen3. Но запуск мы осуществляли на CPU и ждать ответа нам приходилось больше минуты.Теперь давайте немного дополним прошлую статью и покажем, как запускать инференс в Kserve при помощи GPU (в данном случае Nvidia). И […]
Недавно нашему сообществу попалась на глаза статья от OpenAtom Foundation, где демонстрировался запуск Hugging Face Qwen3 при помощи инструмента KServe в кластере kubernetes на openEuler. Нас она заинтересовала и сегодня мы попробуем пройтись по ней и проверить её на практике. Отметим, что целью статьи является демонстрация использования модели Qwen3 от Hugging Face для задач генерации […]
В среде разработки Linux развертывание программного обеспечения часто становится проблемой, потому как требует довольно большого объема рутинных операций. Независимо от того, являетесь ли вы новичком или опытным разработчиком, вы столкнетесь с проблемами управления зависимостями, ограниченным доступом к сети и громоздкой конфигурацией при установке сложных программных стеков. Чтобы упростить этот процесс сообщество openEuler / OpenScaler запустило […]
В данной статье будет рассмотрен пример использования NPU ускорителя Ascend, встроенный в SoC на плате orangePi Ai Pro. Для этого будут запущены примеры с сетями Qwen, DeepSeek…С чего начатьПриобрести плату можно через интернет магазин, например: Onpad или Aliexpress.После получения необходимо использовать SD карточку не менее чем на 32 ГБ. Качаем прошивку со страницы: https://openscaler.ru/2025/06/11/firmware-orangepi-ai-pro-20t/ можно […]
На сегодняшний день ИИ инструментарий и функционал нейросетей все больше входят в обиходную жизнь и работу многих специалистов. От генерации мемов и сомнительных видеороликов (читаем “развлечение”) до вполне себе профессионального применения в разных областях бизнес деятельности. Если следить за развитием нейросетей то легко заметить их все возрастающее количество, как минимум стоит взглянуть на рейтинг 100 […]
С удовольствием сообщаем о выходе сборки ОС OpenScaler для одноплатного компьютера orangePi Ai Pro 20t. Подготовлены 2 сборки: на базе ОС openScaler 22.03 LTS SP4 на базе ОС openScaler 24.03 LTS SP1 К особенностям платы относится наличие на борту ускорителя Ascned 310B, а в самих прошивка установлены драйверы для их работы. Скачать можно по ссылкам: […]
В прошлой статье было описано как поднять свой собственный сервис с LLM на базе ollama и моделью DeepSeek. Но в таком случае это получался банальный чатбот, которых в сети полным полно, этот разве что полностью под собственным контролем. Попробуем сделать из этого болтливого бота полезный инструмент.А поможет нам в это проект ShellOracle. К СУБД Oracle […]
Что сегодня? В одной из прошлых статей (https://openscaler.ru/2024/02/19/isulad-kata-k8s/) мы рассмотрели технологию запуска контейнеров в обособленных виртуальных машинах и сегодня нам на рассмотрение попалась ещё одна подобная технология, которая позволит повысить безопасность запуска приложений в контейнерах. Данный проект называется kuasar, с деталями, документацией и примерами мы можете ознакомится пройдя по ссылке https://github.com/kuasar-io/kuasar. Немного теории Как написано […]