Serverless Data Processing with Dataflow - CI/CD with Dataflow Rezensionen

CESAR ARMANDO M. · Vor mehr als ein Jahr überprüft

Can't build cloud composer ude to missing image-version Error. ERROR: (gcloud.composer.environments.create) INVALID_ARGUMENT: Found 1 problem: 1) Invalid image version: 'composer-1.20.8-airflow-1.10.15' derived based on your input: 'composer-1.20.8-airflow-1.10.15'. Currently suggested new environment image versions are: [composer-3-airflow-2.9.1, composer-3-airflow-2.7.3, composer-2.8.6-airflow-2.9.1, composer-2.8.6-airflow-2.7.3, composer-2.8.6-airflow-2.6.3].

Oliver Ta-Jen O. · Vor mehr als ein Jahr überprüft

Step 9 failed in creating the build - I did rerun teh build it failed - with logs not giving enough information

Shabana K. · Vor mehr als ein Jahr überprüft

1) Invalid image version: 'composer-1.20.8-airflow-1.10.15' derived based on your input: 'composer-1.20.8-airflow-1.10.15'. Currently suggested new environment image versions are: [composer-3-airflow-2.9.1, composer-3-airflow-2.7.3, composer-2.8.6-airflow-2.9.1, composer-2.8.6-airflow-2.7.3, composer-2.8.6-airflow-2.6.3].

Johannes V. · Vor mehr als ein Jahr überprüft

The command in this lab is wrong: ERROR: (gcloud.composer.environments.create) INVALID_ARGUMENT: Found 1 problem: 1) Invalid image version: 'composer-1.20.8-airflow-1.10.15' derived based on your input: 'composer-1.20.8-airflow-1.10.15'. Currently suggested new environment image versions are: [composer-3-airflow-2.7.3, composer-2.8.4-airflow-2.7.3, composer-2.8.4-airflow-2.6.3]. Update July 21, 2024: I have managed to complete the lab, but I had to fix many errors, which I mention below along with their solutions: - Install the latest version of compose: gcloud composer environments create $COMPOSER_ENV_NAME --location $COMPOSER_REGION --image-version composer-3-airflow-2.7.3 - Update the file workflow-dag/data-pipeline-test.py at line 110 publish_task = PubSubPublishMessageOperator … Change project=project to project_id=project - In the file wait_for_dag_deployed.sh adjust the command according to version 3 of composer: gcloud composer environments run data-pipeline-composer --location us-central1 dags list -- -o plain

Jesus Francisco S. · Vor mehr als ein Jahr überprüft

doesnt work

Lawrence G. · Vor mehr als ein Jahr überprüft

Bhavna D. · Vor mehr als ein Jahr überprüft

update the lab, can't be finish

Dragon e. · Vor mehr als ein Jahr überprüft

Sandra S. · Vor mehr als ein Jahr überprüft

Hi I am not able to perform the Serverless Data Processing with Dataflow - CI/CD with Dataflow LAB When creating the Cloud composer environment: "Create a Cloud Composer environment In Cloud Shell, run the following to create a Cloud Composer environment: gcloud composer environments create $COMPOSER_ENV_NAME \ --location $COMPOSER_REGION \ --zone $COMPOSER_ZONE_ID \ --python-version 3 \ --image-version composer-1.20.8-airflow-1.10.15" " I am getting this error: ERROR: (gcloud.composer.environments.create) INVALID_ARGUMENT: Found 1 problem: 1) Invalid image version: 'composer-1.20.8-airflow-1.10.15' derived based on your input: 'composer-1.20.8-airflow-1.10.15'. Currently suggested new environment image versions are: [composer-3-airflow-2.7.3, composer-2.8.5-airflow-2.7.3, composer-2.8.5-airflow-2.6.3]. I manged to create it by running this command: cloud composer environments create $COMPOSER_ENV_NAME --location $COMPOSER_REGION --image-version composer-3-airflow-2.7.3 Issue is that then is impossible to do Task 5. Creating Cloud Build pipelines Buliding always fails in step 9, I tried several times and re did the lab getting the same reustls Can you please fix this and let me know how to proceed? Thanks Maximo

Maximo C. · Vor mehr als ein Jahr überprüft

Rafi M. · Vor mehr als ein Jahr überprüft

this is the worst lab i have practice. you can't even finish it, composer version is deprecated.

Claudio J. · Vor mehr als ein Jahr überprüft

manjing m. · Vor mehr als ein Jahr überprüft

JORGE ALEJANDRO C. · Vor mehr als ein Jahr überprüft

Composer env couldn't be created. I have tried to change several parameters, with no success

Cristi D. · Vor mehr als ein Jahr überprüft

Step 9 failed in creating the build - I did rerun teh build it failed - with logs not giving enough information

Shabana K. · Vor mehr als ein Jahr überprüft

ERROR for airflow version 1 not supported please update the lab

CHENNA K. · Vor mehr als ein Jahr überprüft

not working and i got lot of issues from google side

Batthi V. · Vor mehr als ein Jahr überprüft

Hello, I´ve trying to do the lab but ran into two sytem errors and need your help to get through them. Error #1 - Task 2. Creating the Cloud Composer environment - Description: When creating the Cloud Composer environment with the lab's code, I receive the following error: "ERROR: (gcloud.composer.environments.create) INVALID_ARGUMENT: Found 1 problem: 1) Invalid image version: 'composer-1.20.8-airflow-1.10.15' derived based on your input: 'composer-1.20.8-airflow-1.10.15'. Currently suggested new environment image versions are: [composer-3-airflow-2.7.3, composer-2.8.5-airflow-2.7.3, composer-2.8.5-airflow-2.6.3]." - Here is the code provided by the lab: gcloud composer environments create $COMPOSER_ENV_NAME \ --location $COMPOSER_REGION \ --zone $COMPOSER_ZONE_ID \ --python-version 3 \ --image-version composer-1.20.8-airflow-1.10.15 Error #2 - Task 5. Creating Cloud Build pipelines - Description: When creating the build and testing the pipeline with the code from the lab, I receive the following error: "BUILD FAILURE: Build step failure: build step 9 "gcr.io/cloud-builders/gcloud" failed: step exited with non-zero status: 1 ERROR: (gcloud.builds.submit) build f6609bb1-24f8-449f-a2ce-5c115bb3c3f5 completed with status "FAILURE" " - Here is the code provided by the lab: cd ~/ci-cd-for-data-processing-workflow/source-code/build-pipeline gcloud builds submit --config=build_deploy_test.yaml --substitutions=\ REPO_NAME=$SOURCE_CODE_REPO,\ _DATAFLOW_JAR_BUCKET=$DATAFLOW_JAR_BUCKET_TEST,\ _COMPOSER_INPUT_BUCKET=$INPUT_BUCKET_TEST,\ _COMPOSER_REF_BUCKET=$REF_BUCKET_TEST,\ _COMPOSER_DAG_BUCKET=$COMPOSER_DAG_BUCKET,\ _COMPOSER_ENV_NAME=$COMPOSER_ENV_NAME,\ _COMPOSER_REGION=$COMPOSER_REGION,\ _COMPOSER_DAG_NAME_TEST=$COMPOSER_DAG_NAME_TEST

Andres Felipe G. · Vor mehr als ein Jahr überprüft

Composer environment is not supported, code is not working

vchemodurov@griddynamics.com S. · Vor mehr als ein Jahr überprüft

Step 9 failed in creating the build - I did rerun teh build it failed - with logs not giving enough information

Shabana K. · Vor mehr als ein Jahr überprüft

It have to be up to date. I tried image-version composer-3-airflow-2.7.3 I couldn't change test dag and run process corectly

Andrzej J. · Vor mehr als ein Jahr überprüft

janarthanam j. · Vor mehr als ein Jahr überprüft

Composer environment is not supported, code is not working

vchemodurov@griddynamics.com S. · Vor mehr als ein Jahr überprüft

This command is not working gcloud composer environments create $COMPOSER_ENV_NAME \ --location $COMPOSER_REGION \ --zone $COMPOSER_ZONE_ID \ --python-version 3 \ --image-version composer-1.20.8-airflow-1.10.15

Ramesh S. · Vor mehr als ein Jahr überprüft