Чем Qlik похож на Axapta

[gl00mie]

Исходные данные разбросаны по разным системам, а функциональные слои для сбора, склейки, чистки, подготовки, агрегирования, анализа, визуализации данных лежат внутри одного продукта. В чем противоречие?

[mazzy]

Цитата:

Сообщение от gl00mie

Исходные данные разбросаны по разным системам, а функциональные слои для сбора, склейки, чистки, подготовки, агрегирования, анализа, визуализации данных лежат внутри одного продукта. В чем противоречие?

1.
для данных есть слой обеспечения доступа к данным.
этот слой вряд ли может находится не в разбросанных системах.
по крайней мере, я хотел бы увидеть обоснование )

просто в формулировке не хватает слова ODBC или какой-нибудь другой провайдер данных.
но формулировка станет уже другой )

контрпример - данные "разбросаны" в Lotus Notes. Каким должно быть утверждение, чтобы оставаться хотя бы не ложным?

upd: контрпример2 - данные "разбросаны" по традиционным реляционным поставщикам. Но связь между ними происходит очень асинхронно и редко.
Например, данные с военных городков, где интернета нет в принципе, а связь осуществляется фельдъегерями на собачьих упряжках.
Или, например, данные с ноутбуков ремонтных бригад, которые занимаются обслуживанием газовой трубы.

2.
системы, предоставляющие исходные данные, как правило, содержат свои бизнес-правила для валидации и поддержки целостности данных. Причем таких бизнес-правил может быть очень много.

в данной формулировке подчеркивается, что "сбора, склейки, чистки, подготовки, агрегирования, анализа, визуализации данных лежат внутри одного продукт". но не говорится о том, что поддерживаются бизнес-правила чужих систем.

Другими словами, говорится, что в Qlik нужно пересоздавать бизнес-правила поддержки целостности, которые уже реализованы во внешних системах. Зная трудоемкость разработки таких бизнес-правил, начинаешь сомневаться в необходимости затрат на ПЕРЕСОЗДАНИЕ. в любом продукте.

и т.д.

Повторюсь, я отлично понимаю, что Nordic хотел сказать.
Я утверждаю, что "существующая формулировка требует доработки, чтобы не коробило от внутренних противоречий."

[gl00mie]

Цитата:

Сообщение от mazzy

для данных есть слой обеспечения доступа к данным.
этот слой вряд ли может находится не в разбросанных системах. контрпример - данные "разбросаны" в Lotus Notes. Каким должно быть утверждение, чтобы оставаться хотя бы не ложным?

Насколько я помню семинар по Qlik, в нем есть открытый API для написания адаптеров доступа к данным. На счет Lotus Notes не скажу, но как минимум для 1С такой адаптер на 2015 год имелся, так что Qlik'у достаточно было доступа к базе 1С, без прослойки в виде платформы 1С.

Цитата:

Сообщение от mazzy

контрпример2 - данные "разбросаны" по традиционным реляционным поставщикам. Но связь между ними происходит очень асинхронно и редко. Например, данные с военных городков, где интернета нет в принципе, а связь осуществляется фельдъегерями на собачьих упряжках.

И что доказывает этот контрпример? Что в Qlik нет функционального слоя "фельдъегерская служба"?.. Как в контексте данного контрпримера будут работать другие BI-решения? Почему-то вспоминаются суровые сибирские мужики и железобетонная шпала...

Цитата:

Сообщение от mazzy

системы, предоставляющие исходные данные, как правило, содержат свои бизнес-правила для валидации и поддержки целостности данных. Причем таких бизнес-правил может быть очень много. в данной формулировке подчеркивается, что "сбора, склейки, чистки, подготовки, агрегирования, анализа, визуализации данных лежат внутри одного продукт". но не говорится о том, что поддерживаются бизнес-правила чужих систем. Другими словами, говорится, что в Qlik нужно пересоздавать бизнес-правила поддержки целостности, которые уже реализованы во внешних системах.

Мне кажется, тут имеет место подмена понятий Не буду говорить за все системы, предоставляющие исходные данные, но по опыту Аксапты, в них обычно содержатся правила валидации и поддержки целостности для вводимых данных, когда те из условных журналов трансформируются в проводки. Для проводок же подобных бизнес-правил поддержки целостности обычно либо намного меньше, либо нет вовсе. Если BI-система в качестве исходных данных использует проводки, то нет необходимости в BI-системе применять к ним те же правила валидации и проверки целостности, какие применялись при формировании этих проводок из журналов в системе-источнике. Но может быть необходимость применять новые правила валидации и контроля целостности, которых в системе-источнике не было. Отсюда, утверждение, что "в Qlik нужно пересоздавать бизнес-правила поддержки целостности, которые уже реализованы во внешних системах", я лично считаю неверным (для любой BI-системы) при условии, что в качестве исходных берутся данные "проводок", а не "журналов".

Цитата:

Сообщение от mazzy

Зная трудоемкость разработки таких бизнес-правил, начинаешь сомневаться в необходимости затрат на ПЕРЕСОЗДАНИЕ. в любом продукте.

Это спор с самим собой

[mazzy]

?!

для дальнейшего обсуждения, предположим что ты прав
и как твои слова должны отразиться на исходном утверждении?

Цитата:

Сообщение от gl00mie

Насколько я помню семинар по Qlik, в нем есть открытый API для написания адаптеров доступа к данным. На счет Lotus Notes не скажу, но как минимум для 1С такой адаптер на 2015 год имелся, так что Qlik'у достаточно было доступа к базе 1С, без прослойки в виде платформы 1С.

возможно что QLIK'у достаточно.
как согласуются твои слова "Так вот, в Qlik - все эти слои лежат внутри одного продукта"
)))

Цитата:

Сообщение от gl00mie

И что доказывает этот контрпример? Что в Qlik нет функционального слоя "фельдъегерская служба"?.. Как в контексте данного контрпримера будут работать другие BI-решения?

а чё ты стрелки то переводишь? слабо говорить только про Клик в теме про Клик? ))))

а контрпример не доказывает.
контрпример опровергает утверждение "Так вот, в Qlik - все эти слои лежат внутри одного продукта."
))))))

Цитата:

Сообщение от gl00mie

Не буду говорить за все системы, предоставляющие исходные данные, но по опыту Аксапты, в них обычно содержатся правила валидации и поддержки целостности для вводимых данных, когда те из условных журналов трансформируются в проводки. Для проводок же подобных бизнес-правил поддержки целостности обычно либо намного меньше, либо нет вовсе.

конечно же ты не прав ))))
иначе не советовали бы пользоваться только семейством классов inventMov* для создания складских проводок
иначе не советовали бы пользоваться только семейством FormLetter для создания документов контрагентам

про производство и сводное планирование уж и говорить не стоит.
причем не только для ВВОДИМЫХ данных.

Нет, правил очень много.
Причем как правило идет дикая смесь бизнес-логики c чисто техническими аспектами поддержки целостности нормализованных данных.

Цитата:

Сообщение от gl00mie

Если BI-система в качестве исходных данных использует проводки, то нет необходимости в BI-системе применять к ним те же правила валидации и проверки целостности

Даже после чистки и другой "подготовка данных к аналитике - группировка, агрегация, построение срезов данных, расчетные показатели, простановка флагов и т.д"?

Цитата:

Сообщение от gl00mie

Отсюда, утверждение, что "в Qlik нужно пересоздавать бизнес-правила поддержки целостности, которые уже реализованы во внешних системах", я лично считаю неверным (для любой BI-системы) при условии, что в качестве исходных берутся данные "проводок", а не "журналов".
Это спор с самим собой

Ok. Как скажешь.

я утверждаю ровно то что уже написал:
"существующая формулировка требует доработки, чтобы не коробило от внутренних противоречий."

[George Nordic]

Цитата:

Сообщение от mazzy

Причина одна - меньше народа задействовано при сдаче результата

Это так, только если мы говорим про небольшие проекты. Да, если ты решаешь задачу одного отдела - Продаж, Маркетинга, Закупок - то да, приемка у тебя идет на уровне руководства данным отделом. Да ито - еще надо финансистов надо убедить, закупки, руководство... Но дело в том, что в последнее время я встречаюсь с проектами, которые гораздо больше виденных мною на DAX. И тут все гораздо сложнее - и много отделов, и уровней приемки.

Цитата:

Сообщение от mazzy

1.для данных есть слой обеспечения доступа к данным.
этот слой вряд ли может находится не в разбросанных системах.
по крайней мере, я хотел бы увидеть обоснование )

Да, есть слой для обеспечения к доступам. Это или ODBC / OLEDB / REST / табличные форматы, или готовые коннекторы (к SAP, SalesForce, Teradata, Informatica, Cloudera и т.д.) или написанные партнерами (например, к 1C, R или Hadoop), или открытый API для разработки собственных коннекторов.

Цитата:

Сообщение от mazzy

системы, предоставляющие исходные данные, как правило, содержат свои бизнес-правила для валидации и поддержки целостности данных. Причем таких бизнес-правил может быть очень много.

в данной формулировке подчеркивается, что "сбора, склейки, чистки, подготовки, агрегирования, анализа, визуализации данных лежат внутри одного продукт". но не говорится о том, что поддерживаются бизнес-правила чужих систем.

Другими словами, говорится, что в Qlik нужно пересоздавать бизнес-правила поддержки целостности, которые уже реализованы во внешних системах. Зная трудоемкость разработки таких бизнес-правил, начинаешь сомневаться в необходимости затрат на ПЕРЕСОЗДАНИЕ. в любом продукте.

Это не дело ETL. Это отдельная задача определенного класса BI, валидация данных до конечного результата, включая валидацию прав данных. Не надо дублировать бизнес-правила и внутреннию валидацию данных. BI должен показать, какие данные есть, и уже бизнес должен решать, что с ними делать. Или технические специалисты - почему так произошло. Но BI может взять и "сырые" данные, и "прошедшие внутренюю обработку" - смотря что за задачу ты ставишь.

Но я понимаю, о чем ты говоришь - про RLS. Да, если есть разграничение доступа к данным или настроен RLS, то любой ETL, включая Qlik, вытащат все доступные им данные. И, если надо будет пользователям снова обеспечить разграничение по данным, то придется дублировать структуру разграничения доступа. Обычно это делается созданием отдельно справочника разграничения прав доступа и заливкой в него данных из таблиц, отвечающих за доступ.

Да, тут есть важное "но!" Если в учетных системах требуется RLS вот как сейчас - т.е. ты же не разграничивешь права доступа "как они были год назад", то вот в BI мне пришлось столкнуться с очень непростым проектом, когда заказчик просил вот этому пользователю "заливать данные по март, а потом - в соответсвии с новыми правами". Пришлось делать иерархию прав, закачивать историчность доступа, потом грузить данные и резать их в соответствии с залитыми ограничениями.

Часто такое в банках есть, самое простое - это CRM. Вот менеджеры, вот права. Залили менеджеров, права, и нарубили исходник на группы. А вот с аудитом работы - не просто кто с чем имеет право работать, а кто что открывал и копировал в буфер - там посложнее. Но и это решается. Вот как бывает.

С Уважением,
Георгий

[mazzy]

Цитата:

Сообщение от George Nordic

Это так, только если мы говорим про небольшие проекты. Да, если ты решаешь задачу одного отдела - Продаж, Маркетинга, Закупок - то да, приемка у тебя идет на уровне руководства данным отделом. Да ито - еще надо финансистов надо убедить, закупки, руководство... Но дело в том, что в последнее время я встречаюсь с проектами, которые гораздо больше виденных мною на DAX. И тут все гораздо сложнее - и много отделов, и уровней приемки.

ok. услышал. надо подумать.

Цитата:

Сообщение от George Nordic

Не надо дублировать бизнес-правила и внутреннию валидацию данных.

даже ПОСЛЕ процедур очистки данных?
ведь в ходе очистки могут произойти и вставки данных. хотя бы "дефолтных".

с остальным - согласен.
про права - понял.

[wojzeh]

Цитата:

Сообщение от mazzy

ok. услышал. надо подумать.


даже ПОСЛЕ процедур очистки данных?
ведь в ходе очистки могут произойти и вставки данных. хотя бы "дефолтных".

с остальным - согласен.
про права - понял.

пара центов в беседу джентльменов:

1) кв - отличный инструмент для хранения данных, его файлы квд могут служить промежуточным (staging) хранилищем, скажем, для случаев инкрементной загрузки (дельта). один файл, сжатый, зашифрованный, скорость загрузки из него - наивысшая.

2) кв - отличный инструмент для проверки целостности данных. ему плевать на бизнес-правила, ибо би-ай не имеет цели сохранять транзацкии согласно моральному закону внутри нас, а наоборот, достигать космических скоростей вращения любых данных вокруг своего фаркопа.

грубо говоря, если стоит задача, например, мигрировать со старой ерп на ту же аксапту и нужно перетащить или добавить некоторые данные, например, для дополнения или корректировки тех же остатков, то сценарий крайне прост. засосал все таблицы в кв, открутил их там как бог черепаху и давай подгружать, чего душеньке угодно. ещё раз: никаких правил, sky is limit.

пример из жизни. медицинская компания ведёт учёт обращений застрахованных предприятий по целой куче показателей, вроде кровяного давления и т.п. при этом медицинские показатели, обращения существующих клиентов, выставление счетов и работа над продажами ведётся в четырёх специально заточенных системах (основная система - аксапта). каждый регион учитывается отдельно.

пообщавшись с одним представителем от каждого отдела, через три недели представили работающее решение с системой доступа к данным в разрезе регионов, автоматической доставкой отчётов, возможностью доступа ко всей визуализации с мобил, а вишенка на торте - найденная во время анализа (вот тут первый раз и появились на сцене их "бизнес-правила") дыра в их данных. размер дыры был чуть больше миллиона. руку жали, провожали, всё, как в песне было.

особенность проекта была в том, что в силу конфиденциальности персональных данных невозможно было получить доступ к живым базам. поэтому были созданы семплы всех нужных таблиц, в них перебиты все реальные персональные данные (фио, адреса, коды страхования и прочие телефоны), и вся разработка велась на "кошках". потом просто перенесли один единственный файл со скриптами и визуализациями и запустили -- скрипты подхватили строки подключения из внешнего файла, и всё заверте...


вы когда-нибудь за три недели миллион долларов находили?

[George Nordic]

Цитата:

Сообщение от mazzy

upd: контрпример2 - данные "разбросаны" по традиционным реляционным поставщикам. Но связь между ними происходит очень асинхронно и редко.
Например, данные с военных городков, где интернета нет в принципе, а связь осуществляется фельдъегерями на собачьих упряжках.
Или, например, данные с ноутбуков ремонтных бригад, которые занимаются обслуживанием газовой трубы.

Смысл этого утверждения? А баба Нюра складской журнал в тетрадке ведет. Есть данные - BI должен их достать и дать конечный результат (Визуализацию, отчеты) максимально быстро. И дать знать, что части данных нехватает. Или он некорректные.

Не надо в BI пихать "внутренные расчеты". Зачем дублировать упомянутый тобой InventMoment*, когда можно забрать итоговый InventSum???

С Уважением,
Георгий

[wojzeh]

имея конкретный практический опыт нескольких успешных проектов, могу ответить на конкретные вопросы.

вкратце, кликвью - бомба, жрёт всё подряд и быстро, имеет все необходимые инструменты для скриптов, поддержки, деплоймента, безопасности доступа, и всё в одном внутри себя. иммануил кант был бы в восторге (звёздное небо внутри нас и никаких моральных законов)

[Vals]

Цитата:

Сообщение от wojzeh

имея конкретный практический опыт нескольких успешных проектов, могу ответить на конкретные вопросы.

вкратце, кликвью - бомба, жрёт всё подряд и быстро, имеет все необходимые инструменты для скриптов, поддержки, деплоймента, безопасности доступа, и всё в одном внутри себя. иммануил кант был бы в восторге (звёздное небо внутри нас и никаких моральных законов)

Эту штуку пробовал? http://sisense.com/

[wojzeh]

Цитата:

Сообщение от Vals

Эту штуку пробовал? http://sisense.com/

нет, никогда. даже не слышал.

вкратце вот с их же сайта




и блэк маджик квадрант

[Vals]

Цитата:

Сообщение от wojzeh

нет, никогда. даже не слышал.

Могу устроить тестдрайв и демо