Предназначено для объединения разрозненных данных в единое хранилище, аналитики данных, автоматизации подготовки признаков ML-моделей, машинного обучения предиктивных моделей и визуализации данных.

Digital Q.DataFactory
промышленное решение
Data Lakehouse

Фабрика данных: объединяем данные,
бизнес-процессы и AI-прогнозы

Сложности при работе
с данными

Интеграция данных
  • Разрозненность источников (БД, файлы, IoT)
  • Ручное отслеживание изменений
Обработка и анализ
  • Ограниченные инструменты
  • Неавтоматизированные ETL-процессы
Хранение данных
  • Отсутствие единого хранилища
  • Неподдерживаемые форматы (геоданные, потоки и т. д.)
Безопасность
  • Риски НСД
  • Отсутствие гранулярного доступа
Производительность
  • Низкая скорость доступа (10 МБ >1 сек.)
  • Ограниченная масштабируемость
  • Отсутствие CI/CD
  • Сложность мониторинга
DevOps
и эксплуатация
  • Отсутствие CI/CD для ML-моделей
  • Неавтоматизированные процессы сбора данных, обучения и построения моделей
MLOps
Управление данными
  • Отсутствие единого каталога данных
  • Отсутствие контроля качества данных
Компоненты MLOps и распределенных вычислений для разработки и обучения ML-моделей
Единый портал данных для доступа пользователей к данным
Компоненты для разработки аналитических приложений: загрузка, контроль качества, обработка и визуализация данных
Инфраструктурные компоненты, обеспечивающие выполнение процессов фабрики данных

Делаем данные полезными

Решение помогает заказчикам максимально эффективно извлекать пользу из данных за счет автоматизации всего процесса – от сбора и обработки данных до решения задач прогнозирования

Архитектура решения

ИНЖЕНЕРЫ И АНАЛИТИКИ ДАННЫХ
Бизнес-пользователи
Digital Q.ReportCenter
Digital Q.Sensor BI
ИИ
Digital Q.GPT
ИСТОЧНИК ДАННЫХ
JDBC
API
ODBC
LOG
EVENT
ERP
Безопасность
Digital Q.Security
РАЗВЕРТЫВАНИЕ
КОМПОНЕНТОВ
Enterprise MGR
ОРКЕСТРАЦИЯ
И МАСШТАБИРОВАНИЕ
ВЫЧИСЛЕНИЕ
МЕТАДАННЫЕ
Digital Q.HMS
Digital Q.DataBase
ХРАНЕНИЕ ДАННЫХ
S3 хранилища Mino/Ceph
ЗАГРУЗКА
И ПРЕОБРАЗОВАНИЕ ДАННЫХ
Digital Q.DataFlows
Digital Q.MessageBroker
Digital Q.Reference
Digital Q.BPM
Управление данными
MLflow
Digital Q.Kubeflow
ML-инженеры


ФУНКЦИОНАЛ РЕШЕНИЯ

  • Spark — система пакетной и потоковой обработки больших данных в распределенном кластере: упрощает реализацию ETL-конвейеров, аналитику и машинное обучение;
  • Impala — система выполнения SQL-запросов для массивно-параллельной обработки (MPP);
  • Trino — система выполнения федеративных SQL-запросов для массивно-параллельной обработки (MPP).

Преимущества решения

Снижение стоимости разработки
Digital
Q.DataFactory
Подробнее
Универсальное хранилище данных
Подробнее
Единая
ответственность
Подробнее
Подходит
для различных задач
Подробнее
Возможности использования AI
Подробнее
Гибкая масштабируемость
Подробнее

Источник данных

Бизнес-процесс: как работает решение

CRM/ERP
IoT-датчики
Банковские
транзакции
SCADA-системы

Хранилище и контроль качества данных

OpenMetadata

контроль
качества данных
lineage-
трекинг
валидация
данных
каталогизация метаданных
S3 +

BI и отчетность

Дашборды

ML-модели

А/В-тестирование
фрод-детекция (банки)
прогноз аварий (нефтегаз)
Digital Q.Sensor BI

Предиктивная
аналитика

Автоматизация

заявки во
внешние системы
алерты инженерам
инцидент-менеджмент
Spark ML
Feature Store

Бизнес-процессы

Digital Q.BPM

Обработка
данных

Запросы

данные о клиенте
данные с датчиков

Загрузка и обработка

KPI эффективности
Real-time
фрод-карта
карта
аварийности
конвертация в
фильтрация
аномалий
буферизация
офлайн-данных

Операции

Digital Q.DataStreаmer

Digital Q.DataFactory: расскажем,
как превратить данные в реальную ценность

Презентация решения
Digital Q.DataFactory

Раскройте потенциал ваших данных: скачайте презентацию Data Lakehouse Digital Q. DataFactory и узнайте, как объединить масштабируемость
data lakes и эффективность warehouses на единой платформе
Остались вопросы?

Оставьте заявку на презентацию Digital Q.DataFactory получение записи вебинара или консультацию руководителя решения.

ОБРАТНАЯ СВЯЗЬ

Продолжая использовать и/или оставаясь на сайте, вы соглашаетесь с Политикой конфиденциальности сайта, включая использование сайтом файлов «cookie».
ОК