AWS передает данные из MongoDB в DynamoDB / S3 / Redshift

Проблема в том, что перенос данных из MongoDB в DynamoDB / S3 / Redshift в настоящее время, насколько я понимаю, недоступен через сервис AWS DMS, поскольку он поддерживает не все типы данных. А может я ошибаюсь.

Проблема в том, что наш объект Mongo содержит нескалярные поля (массивы, карты). Поэтому, когда я делаю задачу mirgation через AWS DMS в табличном режиме, он плохо извлекает данные. По какой-то причине работает только выделение. DMS игнорирует правила преобразования (пробовал переименование и удаление).

В режиме документации все в порядке, но как мне запустить миграцию с каким-нибудь кастомным скриптом для трансформации? Поскольку данные хранятся таким образом, все же требуется преобразование.

Нам нужны некоторые модификации, такие как: переименование, удаление полей и выравнивание некоторых полей (например, у нас есть объект карты, и он должен быть сведен в несколько скалярных полей).

Миграция должна производиться в один из источников: S3, Dyanamo, Redshift

Будем благодарны за любую помощь и предложения.


person Mark    schedule 14.11.2020    source источник


Ответы (1)


используйте следующий сценарий ниже, чтобы сделать резервную копию базы данных MongoDB

mongodump -h localhost:27017 -d my_db_name -o $DEST

используйте приведенную ниже команду, чтобы синхронизировать резервную копию с корзиной S3.

aws s3 sync ~/db_backups s3://my-bucket-name

После того, как ваши данные в S3, вы можете очень легко загрузить Redshift с помощью команды копирования

person BigData-Guru    schedule 16.11.2020