Avalados por :

Guía detallada para migrar un Data Warehouse a Amazon Redshift con Amazon S3 y DS 4.2

  • Creado 01/03/2024
  • Modificado 01/03/2024
  • 6 Vistas
0
Cargando...

He visto muchos mensajes sobre esto pero no muchas respuestas útiles.

Como estoy empezando un proyecto sobre esto, pensé en detallar el proyecto a medida que sucede, ya que puede ayudar a otros.

Estamos migrando nuestro Data Warehouse a Amazon Redshift. Estamos utilizando Data Services para cargar los datos y Webbi para ejecutar informes desde allí.

Comenzaré por lo que ya he hecho.

En primer lugar, intentar cargar datos directamente en Redshift es muy lento y no lo recomiendo, ni es la forma sugerida de hacerlo. Quieres incorporar Amazon S3 como punto de partida.

La última versión de DS 4.2 tiene un controlador nativo para S3. Configura un bucket y comienza tu carga allí. Utilizamos CDC, por lo que estamos cargando nuestros datos cambiados en S3. La diferencia entre esto y el ODBC en Redshift fue la siguiente. Tal vez 100 filas por segundo con suerte en el ODBC. 300,000 a 400,000 por segundo en S3. Una vez que los datos estén allí, puedes configurarlos para copiar a Redshift desde dentro de Amazon. Si todo lo que quieres es llevar los datos a Redshift, entonces aquí has terminado y funciona muy bien. Además, el S3 no es muy caro.

Si estás utilizando Redshift como tu Data Warehouse, continúa leyendo.

Una vez que los datos estén en S3, cópialos a Redshift. Hemos hecho esto y funciona bien.

Estoy en proceso de obtener el ODBC de SAP que viene con las herramientas de BI, ya que el ODBC nativo de Redshift no es 100% compatible (lo que significa que no todo en DS funciona a través de él).

Espero que con el ODBC de SAP esto mejore. Mi objetivo es poder ejecutar todo el SQL para no tener que alojar DS en Amazon. Agregaré más información después de haber probado esta parte.

Pedro Pascal
Se unió el 07/03/2018
Pinterest
Telegram
Linkedin
Whatsapp

4 Respuestas

0
Cargando...

Uno de los grandes beneficios de usar Data Services es que vienen incluidos todos los conectores de forma gratuita. Por lo tanto, cuando decidas cambiar y trasladar tu almacén de datos a otra tecnología, no tendrás que reconstruirlo todo de nuevo. Eso sería muy doloroso. Como ya teníamos nuestro Data Warehouse en SQL Server en DS, moverlo a redshift a través de S3 fue muy fácil y no fue un proyecto grande.

Respondido el 15/04/2024
LUCIANO RIOJA GHIOTTO
Se unió el 13/07/2019
0
Cargando...

Hola Mark

Estoy trabajando en una prueba de concepto para extraer datos de S/4 Hana a Red Shift. ¿Hubo alguna razón por la que no consideraste Matillion para la extracción? ¿Fue porque ya tenías SAP BODS funcionando y querías evitar volver a desarrollar la extracción en Matillion?

¿Puedes compartir las lecciones aprendidas de tu proyecto? Si tienes una parte 2 de esta integración, por favor compártela conmigo.

Poonam

Respondido el 15/04/2024
LUCIANO RIOJA GHIOTTO
Se unió el 13/07/2019
0
Cargando...

Lo siento por no haber vuelto a esto. Como S3 no es realmente una base de datos sino un sistema de archivos, verás la conexión para ello en formatos y luego crearás una nueva ubicación de archivo y seleccionarás el almacenamiento en la nube de Amazon S3 en las ubicaciones de archivo. Creo que esto ha estado disponible al menos desde la versión 4.2 sp6, creo. Sé que ha estado disponible desde hace más de un año.

Respondido el 15/04/2024
LUCIANO RIOJA GHIOTTO
Se unió el 13/07/2019
0
Cargando...

La forma en que lo construí fue generando los archivos planos en el servidor de SAP (puedes ver los archivos en AL11) configurando la ruta lógica y luego el equipo de Basis ayudó a escribir un código para transferir los archivos desde el servidor de SAP a S3.

Poonam

Respondido el 15/04/2024
LUCIANO RIOJA GHIOTTO
Se unió el 13/07/2019

contacto@primeinstitute.com

(+51) 1641 9379
(+57) 1489 6964

© 2024 Copyright. Todos los derechos reservados.

Desarrollado por Prime Institute

¡Hola! Soy Diana, asesora académica de Prime Institute, indícame en que curso estas interesado, saludos!
Hola ¿Puedo ayudarte?