'

Проектирование баз данных

Понравилась презентация – покажи это...





Слайд 0

Проектирование баз данных Часть 5. Хранилища данных и OLAP Использование MS SQL Server Analysis Services 2008 для построения хранилищ данных Автор: В.В. Полубояров (http://www.intuit.ru/department/database/mssqlsas2008 )


Слайд 1

2 5.1. Хранилище данных и OLAP. Назначение. Основные характеристики


Слайд 2

3 Бизнес-анализ (BI, Business Intelligence) – это категория приложений и технологий для сбора, хранения, анализа и публикации данных, позволяющая корпоративным пользователям принимать лучшие решения. В русскоязычной терминологии подобные системы называются также системами поддержки принятия решений (СППР).


Слайд 3

4 Сбор и хранение информации, а также решение задач информационно-поискового запроса эффективно реализуются средствами систем управления базами данных (СУБД) с помощью OLTP (Online Transaction Processing)-подсистем.


Слайд 4

5 Непосредственно OLTP-системы не подходят для полноценного анализа информации. Почему? В силу противоречивости требований, предъявляемых к OLTP-системам и СППР.


Слайд 5

6 Для предоставления необходимой для принятия решений информации обычно приходится собирать данные из нескольких транзакционных баз данных различной структуры и содержания.


Слайд 6

7 Основная проблема при этом состоит в несогласованности и противоречивости этих баз-источников, отсутствии единого логического взгляда на корпоративные данные.


Слайд 7

8 В основе концепции ХД лежит идея разделения данных, используемых для оперативной обработки и для решения задач анализа, что позволяет оптимизировать структуры хранения.


Слайд 8

9 ХД позволяет интегрировать ранее разъединенные детализированные данные, содержащиеся в исторических архивах, накапливаемых в традиционных OLTP-системах, поступающих из внешних источников, в единую базу данных, осуществляя их предварительное согласование и, возможно, агрегацию.


Слайд 9

10 Архитектура СППР


Слайд 10

11 Подсистема анализа может быть построена на основе: подсистемы информационно-поискового анализа на базе реляционных СУБД и статических запросов с использованием языка SQL; подсистемы оперативного анализа. Для реализации таких подсистем применяется технология оперативной аналитической обработки данных OLAP, использующая концепцию многомерного представления данных; подсистемы интеллектуального анализа, реализующие методы и алгоритмы Data Mining.


Слайд 11

12 ХД – предметно-ориентированный, интегрированный, редко меняющийся, поддерживающий хронологию набор данных, организованный для целей поддержки принятия решений. Предметная ориентация означает, что ХД интегрируют информацию, отражающую различные точки зрения на предметную область. Интеграция предполагает, что данные, хранящиеся в ХД, приводятся к единому формату. Поддержка хронологии означает, что все данные в ХД соответствуют последовательным интервалам времени. Понятие хранилищ данных


Слайд 12

13 Структура СППР с физическим ХД При загрузке данных из OLTP-системы в ХД происходит дублирование данных. В ходе этой загрузки данные фильтруются, поскольку не все из них имеют значение для проведения процедур анализа. В ХД хранится обобщенная информация, которая в OLTP-системе отсутствует.


Слайд 13

14 В системе виртуальных ХД данные из OLTP-системы не копируются в единое хранилище. Они извлекаются, преобразуются и интегрируются непосредственно при выполнении аналитических запросов в режиме реального времени. Фактически такие запросы напрямую передаются к OLTP-системе. Достоинства виртуального ХД: минимизация объема хранимых данных; работа с текущими, актуальными данными. Недостатки виртуального ХД: более высокое, по сравнению с физическим ХД время обработки запросов; необходимость постоянной доступности всех OLTP-источников; снижение быстродействия OLTP-систем; OLTP-системы не ориентированы на хранение данных за длительный период времени, по мере необходимости данные выгружаются в архивные, поэтому не всегда имеется физическая возможность получения полного набора данных в ХД. Виртуальные хранилища данных


Слайд 14

15 Интеграция разнородных данных. Эффективное хранение и обработка больших объемов данных. Организация многоуровневых справочников метаданных. Обеспечение информационной безопасности ХД. Проблемы построения хранилищ данных


Слайд 15

16 Структура СППР с самостоятельными витринами данных (ВД ) ВД содержит данные, ориентированные на конкретного пользователя, существенно меньше по объему, и для ее реализации требуется меньше затрат. ВД могут строиться как самостоятельно, так и вместе с ХД. ВД внедряются гораздо быстрее и быстрее виден эффект от их использования.


Слайд 16

17 Структура СППР с хранилищами данных и витринами данных


Слайд 17

18 5.2. Понятие и модель данных OLAP


Слайд 18

19 OLAP (Online Analytical Processing) – технология оперативной аналитической обработки данных, использующая методы и средства для сбора, хранения и анализа многомерных данных в целях поддержки процессов принятия решений. Основное назначение OLAP-систем – поддержка аналитической деятельности, произвольных запросов пользователей - аналитиков. Цель OLAP-анализа – проверка возникающих гипотез. Понятие OLAP


Слайд 19

20 OLTP – On-Line Transaction Processing, оперативная транзакционная обработка данных OLAP – On-Line Analytical Processing оперативная аналитическая обработка данных


Слайд 20

21 Категории данных в хранилищах данных Детальные данные Агрегированные (обобщенные) данные Метаданные


Слайд 21

22 Информационные потоки в хранилищах данных входной поток - образуется данными, копируемыми из OLTP-систем в ХД; данные при этом часто очищаются и обогащаются путем добавления новых атрибутов; поток обобщения - образуется агрегированием детальных данных и их сохранением в ХД; архивный поток - образуется перемещением детальных данных, количество обращений к которым снизилось; поток метаданных - образуется потоком информации о данных в репозиторий данных; выходной поток - образуется данными, извлекаемыми пользователями; обратный поток - образуется очищенными данными, записываемыми обратно в OLTP-системы.


Слайд 22

23 OLAP и OLTP. Характеристики и основные отличия Характеристики OLTP системы Большой объем информации Часто различные БД для разных подразделений Нормализованная схема, отсутствие дублирования информации Интенсивное изменение данных Транзакционный режим работы Транзакции затрагивают небольшой объем данных Обработка текущих данных – мгновенный снимок Много клиентов Малое время отклика – несколько секунд


Слайд 23

24 OLAP и OLTP. Характеристики и основные отличия Характеристики OLAP системы Большой объем информации Синхронизированная информация из различных БД с использованием общих классификаторов Ненормализованная схема БД с дубликатами Данные меняются редко, Изменение происходит через пакетную загрузку Выполняются сложные нерегламентированные запросы над большим объемом данных с широким применением группировок и агрегатных функций. Анализ временных зависимостей Небольшое количество работающих пользователей – аналитики и менеджеры Большее время отклика (но все равно приемлемое) – несколько минут


Слайд 24

25 5.3. Правила Кодда для OLAP систем


Слайд 25

26 Концептуальное многомерное представление Прозрачность. Доступность. Постоянная производительность при разработке отчетов. Клиент-серверная архитектура. Общая многомерность. Динамическое управление разреженными матрицами. Многопользовательская поддержка. Неограниченные перекрестные операции. Интуитивная манипуляция данными. Гибкие возможности получения отчетов. Неограниченная размерность и число уровней агрегации.


Слайд 26

27 5.4. Структура OLAP-куба


Слайд 27

28 Гиперкуб


Слайд 28

29 Операции, выполняемые над гиперкубом 1. Срез 2. Вращение


Слайд 29

30 Операции, выполняемые над гиперкубом 4. Детализация 3. Консолидация


Слайд 30

31 Фрагмент хранилища данных для OLAP


Слайд 31

32 Таблица фактов Факты, связанные с транзакциями (Transaction facts). Факты, связанные с "моментальными снимками" (Snapshot facts). Факты, связанные с элементами документа (Line-item facts). Факты, связанные с событиями или состоянием объекта (Event or state facts). Основные типы таблиц фактов


Слайд 32

33 Таблица измерений Таблицы измерений содержат неизменяемые либо редко изменяемые данные. Таблицы измерений также содержат как минимум одно описательное поле (обычно с именем члена измерения) и, как правило, целочисленное ключевое поле (обычно это суррогатный ключ) для однозначной идентификации члена измерения. Если будущее измерение, основанное на данной таблице измерений, содержит иерархию, то таблица измерений также может содержать поля, указывающие на "родителя" данного члена в этой иерархии. Каждая таблица измерений должна находиться в отношении "один ко многим" с таблицей фактов. Скорость роста таблиц измерений должна быть незначительной по сравнению со скоростью роста таблицы фактов


Слайд 33

34 Архитектура OLAP-систем


Слайд 34

35 5.5. Реализация OLAP


Слайд 35

MOLAP (Multidimensional OLAP) ROLAP (Relational OLAP) HOLAP (Hybrid OLAP) Типы OLAP - серверов


Слайд 36

MOLAP - сервер Детальные и агрегированные данные хранятся в многомерной базе данных. Хранение данных в многомерных структурах позволяет манипулировать данными как многомерным массивом, благодаря чему скорость вычисления агрегатных значений одинакова для любого из измерений. Однако в этом случае многомерная база данных оказывается избыточной, так как многомерные данные полностью содержат детальные реляционные данные.


Слайд 37

Преимущества Высокая производительность. Структура и интерфейсы наилучшим образом соответствуют структуре аналитических запросов. Многомерные СУБД легко справляются с задачами включения в информационную модель разнообразных встроенных функций. MOLAP - сервер


Слайд 38

Недостатки MOLAP могут работать только со своими собственными многомерными БД и основываются на патентованных технологиях для многомерных СУБД, поэтому являются наиболее дорогими. По сравнению с реляционными, очень неэффективно используют внешнюю память, обладают худшими по сравнению с реляционными БД механизмами транзакций. Отсутствуют единые стандарты на интерфейс, языки описания и манипулирования данными. Не поддерживают репликацию данных, часто используемую в качестве механизма загрузки. MOLAP - сервер


Слайд 39

ROLAP - сервер ROLAP-системы позволяют представлять данные, хранимые в классической реляционной базе, в многомерной форме или в плоских локальных таблицах на файл-сервере, обеспечивая преобразование информации в многомерную модель через промежуточный слой метаданных. Агрегаты хранятся в той же БД в специально созданных служебных таблицах. В этом случае гиперкуб эмулируется СУБД на логическом уровне.


Слайд 40

Преимущества Работа с очень большими БД Развитые средства администрирования. Инструменты ROLAP позволяют производить анализ непосредственно над хранилищем данных. В случае переменной размерности задачи ROLAP не требуют физической реорганизации БД, как в случае MOLAP. Системы ROLAP могут функционировать на гораздо менее мощных клиентских станциях, чем системы MOLAP. Более высокий уровень защиты данных и хорошие возможности разграничения прав доступа. ROLAP - сервер


Слайд 41

Недостатки Ограниченные возможности с точки зрения расчета значений функционального типа. Меньшая производительность, чем у MOLAP. Для обеспечения сравнимой с MOLAP производительности реляционные системы требуют тщательной проработки схемы БД и специальной настройки индексов. Но в результате этих операций производительность хорошо настроенных реляционных систем при использовании схемы "звезда" сравнима с производительностью систем на основе многомерных БД. ROLAP - сервер


Слайд 42

HOLAP - сервер Детальные данные остаются в той же реляционной базе данных, где они изначально находились, а агрегатные данные хранятся в многомерной базе данных


Слайд 43

Схема «Звезда» Схема «Снежинка» Схемы реализации OLAP в реляционных системах


Слайд 44

Схема «Звезда» Каждое измерение содержится в одной таблице.


Слайд 45

Схема «Звезда» Особенности: Одна таблица фактов (fact table), которая сильно денормализована является центральной в схеме, может состоять из миллионов строк и содержит суммируемые или фактические данные, с помощью которых можно ответить на различные вопросы. Несколько денормализованных таблиц измерений (dimensional table) имеют меньшее количество строк, чем таблицы фактов, и содержат описательную информацию. Эти таблицы позволяют пользователю быстро переходить от таблицы фактов к дополнительной информации. Таблица фактов и таблицы размерности связаны идентифицирующими связями, при этом первичные ключи таблицы размерности мигрируют в таблицу фактов в качестве внешних ключей. Первичный ключ таблицы факта целиком состоит из первичных ключей всех таблиц размерности. Агрегированные данные хранятся совместно с исходными.


Слайд 46

Схема «Звезда» Преимущества Благодаря денормализации таблиц измерений упрощается восприятие структуры данных пользователем и формулировка запросов, уменьшается количество операций соединения таблиц при обработке запросов. Некоторые промышленные СУБД и инструменты класса OLAP / Reporting умеют использовать преимущества схемы "звезда" для сокращения времени выполнения запросов.


Слайд 47

Схема «Звезда» Недостатки Денормализация таблиц измерений вносит избыточность данных, возрастает требуемый для их хранения объем памяти. Если агрегаты хранятся совместно с исходными данными, то в измерениях необходимо использовать дополнительный параметр - уровень иерархии.


Слайд 48

Схема «Снежинка» Существует измерение, которое содержится в нескольких таблицах


Слайд 49

Схема «Снежинка» Особенности: Одна таблица фактов (fact table), которая сильно денормализована является центральной в схеме, может состоять из миллионов строк и содержать суммируемые или фактические данные, с помощью которых можно ответить на различные вопросы. Несколько таблиц измерений (dimensional table), которые нормализованы в отличие от схемы "звезда". Имеют меньшее количество строк, чем таблицы фактов, и содержат описательную информацию. Эти таблицы позволяют пользователю быстро переходить от таблицы фактов к дополнительной информации. Первичные ключи в них состоят из единственного атрибута (соответствуют единственному элементу измерения). Таблица фактов и таблицы размерности связаны идентифицирующими связями, при этом первичные ключи таблицы размерности мигрируют в таблицу фактов в качестве внешних ключей. Первичный ключ таблицы факта целиком состоит из первичных ключей всех таблиц размерности. В схеме "снежинка" агрегированные данные могут храниться отдельно от исходных


Слайд 50

Схема «Снежинка» Преимущества Нормализация таблиц измерений в отличие от схемы "звезда" позволяет минимизировать избыточность данных и более эффективно выполнять запросы, связанные со структурой значений измерений.


Слайд 51

Схема «Снежинка» Недостатки За нормализацию таблиц измерений иногда приходится платить временем выполнения запросов.


×

HTML:





Ссылка: