Opiniones sobre Cómo ejecutar trabajos de Apache Spark en Cloud Dataproc

Alfred A. · Se revisó hace casi 5 años

Luccas S. · Se revisó hace casi 5 años

Luccas S. · Se revisó hace casi 5 años

Olivier M. · Se revisó hace casi 5 años

Muktanil D. · Se revisó hace casi 5 años

Frar M. · Se revisó hace casi 5 años

Qualche errore nel codice descritto nella guida del lab

Vincenzo P. · Se revisó hace casi 5 años

Jenelle V. · Se revisó hace casi 5 años

Jimmy L. · Se revisó hace casi 5 años

Görkem U. · Se revisó hace casi 5 años

Abhiraj P. · Se revisó hace casi 5 años

Reggie T. · Se revisó hace casi 5 años

Patrick B. · Se revisó hace casi 5 años

Ferry Yun K. · Se revisó hace casi 5 años

Sujana S. · Se revisó hace casi 5 años

Received the following error message in jupyter when runing the first de-couple-storage page --------------------------------------------------------------------------- Py4JJavaError Traceback (most recent call last) /tmp/ipykernel_10192/1997258255.py in <module> 5 data_file = "gs://"+gcs_bucket+"//kddcup.data_10_percent.gz" 6 raw_rdd = sc.textFile(data_file).cache() ----> 7 raw_rdd.take(5) /usr/lib/spark/python/pyspark/rdd.py in take(self, num) 1531 """ 1532 items = [] -> 1533 totalParts = self.getNumPartitions() 1534 partsScanned = 0 1535 /usr/lib/spark/python/pyspark/rdd.py in getNumPartitions(self) 463 2 464 """ --> 465 return self._jrdd.partitions().size() 466 467 def filter(self, f): /opt/conda/miniconda3/lib/python3.8/site-packages/py4j/java_gateway.py in __call__(self, *args) 1302 1303 answer = self.gateway_client.send_command(command) -> 1304 return_value = get_return_value( 1305 answer, self.gateway_client, self.target_id, self.name) 1306 /usr/lib/spark/python/pyspark/sql/utils.py in deco(*a, **kw) 109 def deco(*a, **kw): 110 try: --> 111 return f(*a, **kw) 112 except py4j.protocol.Py4JJavaError as e: 113 converted = convert_exception(e.java_exception) /opt/conda/miniconda3/lib/python3.8/site-packages/py4j/protocol.py in get_return_value(answer, gateway_client, target_id, name) 324 value = OUTPUT_CONVERTER[type](answer[2:], gateway_client) 325 if answer[1] == REFERENCE_TYPE: --> 326 raise Py4JJavaError( 327 "An error occurred while calling {0}{1}{2}.\n". 328 format(target_id, ".", name), value) Py4JJavaError: An error occurred while calling o80.partitions. : org.apache.hadoop.mapred.InvalidInputException: Input path does not exist: gs://qwiklabs-gcp-02-a5a5e335fadb/kddcup.data_10_percent.gz at org.apache.hadoop.mapred.LocatedFileStatusFetcher.getFileStatuses(LocatedFileStatusFetcher.java:156) at org.apache.hadoop.mapred.FileInputFormat.listStatus(FileInputFormat.java:247) at org.apache.hadoop.mapred.FileInputFormat.getSplits(FileInputFormat.java:325) at org.apache.spark.rdd.HadoopRDD.getPartitions(HadoopRDD.scala:205) at org.apache.spark.rdd.RDD.$anonfun$partitions$2(RDD.scala:300) at scala.Option.getOrElse(Option.scala:189) at org.apache.spark.rdd.RDD.partitions(RDD.scala:296) at org.apache.spark.rdd.MapPartitionsRDD.getPartitions(MapPartitionsRDD.scala:49) at org.apache.spark.rdd.RDD.$anonfun$partitions$2(RDD.scala:300) at scala.Option.getOrElse(Option.scala:189) at org.apache.spark.rdd.RDD.partitions(RDD.scala:296) at org.apache.spark.api.java.JavaRDDLike.partitions(JavaRDDLike.scala:61) at org.apache.spark.api.java.JavaRDDLike.partitions$(JavaRDDLike.scala:61) at org.apache.spark.api.java.AbstractJavaRDDLike.partitions(JavaRDDLike.scala:45) at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62) at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) at java.lang.reflect.Method.invoke(Method.java:498) at py4j.reflection.MethodInvoker.invoke(MethodInvoker.java:244) at py4j.reflection.ReflectionEngine.invoke(ReflectionEngine.java:357) at py4j.Gateway.invoke(Gateway.java:282) at py4j.commands.AbstractCommand.invokeMethod(AbstractCommand.java:132) at py4j.commands.CallCommand.execute(CallCommand.java:79) at py4j.GatewayConnection.run(GatewayConnection.java:238) at java.lang.Thread.run(Thread.java:748)

Dexter G. · Se revisó hace casi 5 años

Евгений З. · Se revisó hace casi 5 años

it was very good, a great approach to GCP technology

Camilo E. · Se revisó hace casi 5 años

Rodrigo R. · Se revisó hace casi 5 años

Marco L. · Se revisó hace casi 5 años

大崎敦 大. · Se revisó hace casi 5 años

Marcio L. · Se revisó hace casi 5 años

lots of code that didn't mean much to me

Isabela S. · Se revisó hace casi 5 años

Anna S. · Se revisó hace casi 5 años

Harsh R. · Se revisó hace casi 5 años