Данные, ИТ и машинное обучение

Коммерческие данные в одной системе

Автоматический сбор sell-in, отчётов дистрибьюторов и чеков сетей. Сопоставление номенклатуры, карантин данных, аналитические кубы, ML-модели спроса и рассылка отчётов в Excel.

Для когоCIO, CDO, Head of DWH, руководители коммерческой аналитики и BI.

ICEBERG ANALYTICS · КОНВЕЙЕР ДАННЫХ ОНЛАЙН КАРАНТИН ДАННЫХ · ПРОВЕРКА НА ВХОДЕ СБОИ ИЗОЛИРОВАНЫ СЫРЫЕ ПОТОКИ X5 · Магнит · Лента EDI CisLink · 1С/SAP 500 млн+ строк / мес КАРАНТИН (0,6% СТРОК) Нет PLU, аномалии ценника НОРМАЛИЗОВАНО (99,4%) Справочник MDM: EAN ↔ PLU ↔ 1С КАБИНЕТ ОПЕРАТОРА Сопоставление в 1 клик Загрузка не останавливается CLICKHOUSE · КОЛОНОЧНОЕ ХРАНИЛИЩЕ < 1,8 сек формирование аналитического среза Сжатие данных ×10 · Быстрый поиск по чекам СЕМАНТИЧЕСКИЙ СЛОЙ · SSAS TABULAR Одна версия цифр 100% согласованность DAX: LFL · запас · маржа · SOS/SOM ML-МОДЕЛИ СПРОСА Базовый спрос · Фантомные остатки Пустые полки видны без ручных аудитов АВТОМАТИЧЕСКАЯ РАССЫЛКА EXCEL Excel-книги со сводными таблицами Доставка по расписанию: каждый пн в 08:00
Сквозной конвейер данных и ML

От сбора отчётов из всех каналов до хранилища на ClickHouse, кубов SSAS Tabular и прикладных ML-моделей

Архитектура данных
01 · СБОР СЫРЫХ ДАННЫХ Многоканальный сбор ПЕРВИЧНЫЕ ПРОДАЖИ (SELL-IN) «1С:ERP», SAP, WMS-склады ДИСТРИБЬЮТОРЫ EDI CisLink, Excel, CSV-сводки ПОРТАЛЫ СЕТЕЙ «X5 Диалог», «Магнит Data», «Лента» КАССОВЫЕ ЧЕКИ (POS) Строки корзин, время, скидки Миллиарды строк / месяц 02 · КАРАНТИН ДАННЫХ Изоляция аномалий ВАЛИДАЦИЯ СХЕМ Контроль типов полей, дублей Отсечение выбросов ценников КАРАНТИННЫЙ СЛОЙ Строки с неизвестным PLU Изоляция 0,6% сбойных строк Загрузка не останавливается КАБИНЕТ ОПЕРАТОРА Сопоставление в 1 клик Автодогрузка в витрину 03 · СПРАВОЧНИКИ (MDM) Умное сопоставление НЕЧЁТКОЕ СОПОСТАВЛЕНИЕ (99,4%) Нечёткий поиск названий «Печ.сах 112» → SKU 4820 СВЯЗКА КВАНТОВ Штука ↔ Спайка ↔ Короб EAN-13 · PLU · ITF-14 Точный перевод в шт/кг ЕДИНЫЙ ГЕОСПРАВОЧНИК Привязка адресов к ФИАС Синхронизация дивизионов 04 · ХРАНИЛИЩЕ И КУБЫ Аналитическое ядро ХРАНИЛИЩЕ CLICKHOUSE Колоночное сжатие ×10 Запрос за < 2 секунды dbt ТРАНСФОРМАЦИИ Версионирование логики CI/CD и автотесты качества Происхождение данных SSAS TABULAR (DAX) Аналитические кубы Одна версия цифр 05 · ML И РАССЫЛКА Результат для бизнеса ПРИКЛАДНЫЕ МОДЕЛИ ML Базовый спрос · Фантомные остатки Упреждающие оповещения ГЕНЕРАТОР КНИГ EXCEL Большие сводные таблицы Готовые стили и формулы АВТОМАТИЧЕСКАЯ РАССЫЛКА PowerPoint и почта по расписанию 8:00 утра по понедельникам
Что мешает сегодня

Почему коммерческая аналитика в FMCG держится на ручном труде

Типичные проблемы ИТ-ландшафта производителя

Ручная работа в Excel

Аналитики тратят до 70% рабочего времени на то, чтобы скачивать отчёты с закрытых порталов сетей, сводить разнородные файлы дистрибьюторов и вручную сопоставлять строки.

Несогласованные справочники

Один и тот же товар в отчётах сетей, дистрибьюторов и в учётной системе завода («1С», SAP) называется по-разному, и автоматическая загрузка ломается.

У каждого отдела свои цифры

Коммерческий директор, бренд-маркетолог и финансовая служба видят разные выручку, маржинальность и объёмы за один и тот же отчётный месяц.

Модуль 1 · Сбор и карантин данных

Автоматический сбор и карантин данных

Что даёт: бесперебойный сбор разнородных данных. Некорректные строки, пропущенные артикулы и аномалии задерживаются на входе, чтобы не попасть в корпоративное хранилище.

Коннекторы к источникам

Учётные системы, дистрибьюторы, сети

Первичные продажи (sell-in) загружаются автоматически из учётных систем («1С», SAP), отчётов дистрибьюторов (EDI, Excel, CSV) и кассовых порталов сетей («X5 Диалог», «Магнит Data», «Лента», O'KEY).

Карантин данных

Ошибочные строки — в карантин

Строки с нераспознанными товарами, неизвестными адресами торговых точек или аномальными объёмами автоматически откладываются в карантинный слой и ждут разбора.

Кабинет оператора

Загрузка не останавливается

В интерфейсе оператора спорные записи сопоставляются в 1 клик. Основной расчёт и витрины аналитиков в это время продолжают работать.

Кабинет оператора карантина · демо Симулятор карантина
Источник данных Исходная строка отчёта Статус проверки Код в эталонном справочнике (MDM) Действие оператора
Портал «X5 Диалог» ПЕЧЕНЬЕ САХАРНОЕ 112Г ТРАДИЦИОННОЕ Нормализовано SKU 4820-115 · EAN 4601234567814 Сопоставлено автоматически
Отчёт сети «Магнит Data» ПЕЧЕНЬЕ ЮБИЛ. 112Г ЗЕМЛЯНИКА (PLU 99412) Карантин: нет PLU Не сопоставлено с артикулом в 1С
EDI дистрибьютора «Волга-Сбыт» ПЕЧЕНЬЕ ОВСЯНОЕ ЗЛАКИ 150Г КОР.12 Нормализовано SKU 4820-119 · Квант 12 шт Сопоставлено автоматически
Модуль 2 · Справочники (MDM)

Сопоставление номенклатуры и контрагентов (MDM)

Что даёт: единый эталонный справочник товаров, квантов поставки и торговых точек производителя.

Сопоставление названий

Нечёткое сопоставление (fuzzy matching)

Алгоритм связывает произвольные названия товаров из отчётов сетей («Печ.земл.112», «Печенье Сах Земл 112г») с внутренними артикулами завода. Точность сопоставления — 99,4%.

Связка кодов и квантов

EAN, PLU, спайки и короба

Система хранит связи между кодами: внутренний код 1С ↔ штрихкод единицы (EAN-13) ↔ код сети (PLU) ↔ спайка ↔ транспортный гофрокороб (ITF-14). Поэтому продажи корректно пересчитываются из одних единиц в другие.

Адреса и территории

Привязка к ФИАС и территориям

Адреса магазинов сетей и складов дистрибьюторов автоматически приводятся к классификатору ФИАС и привязываются к дивизионам продаж производителя.

Модуль 3 · Хранилище и OLAP-кубы

Аналитическое хранилище и кубы SSAS Tabular

Что даёт: единые для всей компании определения метрик и быстрый доступ к миллиардам строк кассовых чеков без нагрузки на учётные системы завода.

Хранилище (DWH)

ClickHouse и трансформации в dbt

Колоночная СУБД ClickHouse сильно сжимает данные и быстро агрегирует чековые транзакции. Трансформации описаны декларативным кодом в dbt и проверяются автотестами целостности.

Семантический слой (DAX / MDX)

Аналитические кубы SSAS Tabular

LFL (сопоставимые продажи), соотношение sell-in/sell-out, запас в неделях (Weeks of Supply) и Pocket Margin считаются по утверждённым формулам. Все отделы работают с одними определениями — цель в том, чтобы цифры совпадали на 100%.

Модуль 4 · Машинное обучение

Прикладные модели машинного обучения (ML)

Что даёт: решение конкретных задач коммерческой аналитики FMCG прогнозными моделями, а не абстрактным «AI».

ML-модели на чековых данных

Что модели находят в кассовых чеках: органический спрос, фантомные остатки и отсутствие товара на полке (OOS)

Прогнозные модели
ML 01 · БАЗОВЫЙ СПРОС Очистка органического спроса Промоприрост Дефицит ● Базовый спрос: 1 420 шт/нед Исключены скидки, праздники и сбои поставок ML 02 · ФАНТОМНЫЕ ОСТАТКИ Выявление мнимых остатков в ТТ Учётный остаток 1С/ERP: 48 шт. ФАНТОМНЫЙ ОСТАТОК 9 ДНЕЙ Кассовые продажи = 0 при остатке > 0 ▲ Завал на складе ТТ / кража / брак штрихкода Задача мерчандайзеру на внеплановый аудит ML 03 · НАЛИЧИЕ НА ПОЛКЕ Оценка физического присутствия интервал ~35 мин АНОМАЛИЯ: ПАУЗА 6,4 ЧАСА Часы пик (16:00–22:00) Вероятность пустой полки: 99,4% ● Товар кончился на полке, но есть на складе Фиксация внутридневных потерь без датчиков
ML-модель 01

Базовый спрос (baseline)

Из истории продаж убираются всплески от жёлтых ценников и праздников, а также провалы из-за дефицита (OOS). Остаётся реальный органический спрос — основа для планирования.

ML-модель 02

Фантомные остатки (phantom inventory)

Модель находит аномалию: по учётной системе магазина товар есть в остатке, но продажи на кассе внезапно упали до нуля. Обычно это значит, что товар украден, у него повреждён штрихкод или он завален на складе.

ML-модель 03

Доступность на полке (OSA)

Модель оценивает, сколько времени товар фактически был в торговом зале, по интервалам между покупками в чеках.

Модуль 5 · Отчёты и рассылка

Автоматическая сборка и рассылка отчётов

Что даёт: доставка готовой аналитики сотрудникам в привычных форматах, без необходимости осваивать сложные BI-системы.

Выгрузка в Excel

Большие книги Excel

Система автоматически заполняет корпоративные шаблоны Excel со сводными таблицами, формулами и оформлением.

Автоматические слайды

Презентации PowerPoint / PDF

Слайды к еженедельным совещаниям коммерческого департамента собираются автоматически — с графиками факторного анализа и выводами.

Почтовая рассылка

Адресная доставка по расписанию

Каждый ответственный сотрудник получает свои отчёты: утренние сводки продаж, еженедельные дайджесты по понедельникам, отчёты на закрытие месяца.

Результат внедрения

Что получают ИТ-дирекция и аналитики

85–90%

На столько сокращается время подготовки отчётов: аналитики занимаются не сведением таблиц, а поиском инсайтов.

100%

Совпадение цифр у коммерции, маркетинга и финансов: все берут данные из одного источника.

< 2 сек

Время построения многомерного среза по терабайтам чековых данных в ClickHouse и кубах SSAS.

Техническое описание DWH

Проверьте, готова ли ваша ИТ-инфраструктура к единому хранилищу данных

Оставьте контакты — пришлём подробную архитектурную схему DWH, описание API-коннекторов к сетям и спецификацию карантина данных.