Running Jobs on Managed Apache Spark Ulasan

good

Soubhagya M. · Diulas lebih dari 5 tahun lalu

Alexey N. · Diulas lebih dari 5 tahun lalu

luis m. · Diulas lebih dari 5 tahun lalu

Jose M. · Diulas lebih dari 5 tahun lalu

Subhojit P. · Diulas lebih dari 5 tahun lalu

D. C. S. · Diulas lebih dari 5 tahun lalu

doesn't work, access to zip file in gs bucket can't be found

Nicolas L. · Diulas lebih dari 5 tahun lalu

Marian B. · Diulas lebih dari 5 tahun lalu

Rekha C. · Diulas lebih dari 5 tahun lalu

Sudeep D. · Diulas lebih dari 5 tahun lalu

sanjay k. · Diulas lebih dari 5 tahun lalu

There was an error and I get the following error and I couldn't recover from it: Py4JJavaError: An error occurred while calling None.org.apache.spark.api.java.JavaSparkContext.

Roberto J. · Diulas lebih dari 5 tahun lalu

Received this error when saving into my gs bucket: Py4JJavaError Traceback (most recent call last) <ipython-input-4-3c7bd18c700f> in <module> 6 data_file = "gs://"+gcs_bucket+"//kddcup.data_10_percent.gz" 7 raw_rdd = sc.textFile(data_file).cache() ----> 8 raw_rdd.take(5) /usr/lib/spark/python/pyspark/rdd.py in take(self, num) 1531 """ 1532 items = [] -> 1533 totalParts = self.getNumPartitions() 1534 partsScanned = 0 1535 /usr/lib/spark/python/pyspark/rdd.py in getNumPartitions(self) 463 2 464 """ --> 465 return self._jrdd.partitions().size() 466 467 def filter(self, f): /opt/conda/miniconda3/lib/python3.8/site-packages/py4j/java_gateway.py in __call__(self, *args) 1302 1303 answer = self.gateway_client.send_command(command) -> 1304 return_value = get_return_value( 1305 answer, self.gateway_client, self.target_id, self.name) 1306 /usr/lib/spark/python/pyspark/sql/utils.py in deco(*a, **kw) 109 def deco(*a, **kw): 110 try: --> 111 return f(*a, **kw) 112 except py4j.protocol.Py4JJavaError as e: 113 converted = convert_exception(e.java_exception) /opt/conda/miniconda3/lib/python3.8/site-packages/py4j/protocol.py in get_return_value(answer, gateway_client, target_id, name) 324 value = OUTPUT_CONVERTER[type](answer[2:], gateway_client) 325 if answer[1] == REFERENCE_TYPE: --> 326 raise Py4JJavaError( 327 "An error occurred while calling {0}{1}{2}.\n". 328 format(target_id, ".", name), value) Py4JJavaError: An error occurred while calling o55.partitions. : org.apache.hadoop.mapred.InvalidInputException: Input path does not exist: gs://qwiklabs-gcp-03-0fab9ee51e3a/kddcup.data_10_percent.gz at org.apache.hadoop.mapred.LocatedFileStatusFetcher.getFileStatuses(LocatedFileStatusFetcher.java:156) at org.apache.hadoop.mapred.FileInputFormat.listStatus(FileInputFormat.java:247) at org.apache.hadoop.mapred.FileInputFormat.getSplits(FileInputFormat.java:325) at org.apache.spark.rdd.HadoopRDD.getPartitions(HadoopRDD.scala:205) at org.apache.spark.rdd.RDD.$anonfun$partitions$2(RDD.scala:300) at scala.Option.getOrElse(Option.scala:189) at org.apache.spark.rdd.RDD.partitions(RDD.scala:296) at org.apache.spark.rdd.MapPartitionsRDD.getPartitions(MapPartitionsRDD.scala:49) at org.apache.spark.rdd.RDD.$anonfun$partitions$2(RDD.scala:300) at scala.Option.getOrElse(Option.scala:189) at org.apache.spark.rdd.RDD.partitions(RDD.scala:296) at org.apache.spark.api.java.JavaRDDLike.partitions(JavaRDDLike.scala:61) at org.apache.spark.api.java.JavaRDDLike.partitions$(JavaRDDLike.scala:61) at org.apache.spark.api.java.AbstractJavaRDDLike.partitions(JavaRDDLike.scala:45) at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62) at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) at java.lang.reflect.Method.invoke(Method.java:498) at py4j.reflection.MethodInvoker.invoke(MethodInvoker.java:244) at py4j.reflection.ReflectionEngine.invoke(ReflectionEngine.java:357) at py4j.Gateway.invoke(Gateway.java:282) at py4j.commands.AbstractCommand.invokeMethod(AbstractCommand.java:132) at py4j.commands.CallCommand.execute(CallCommand.java:79) at py4j.GatewayConnection.run(GatewayConnection.java:238) at java.lang.Thread.run(Thread.java:748)

Alfredo P. · Diulas lebih dari 5 tahun lalu

Aarushi R. · Diulas lebih dari 5 tahun lalu

Dale H. · Diulas lebih dari 5 tahun lalu

Hamza O. · Diulas lebih dari 5 tahun lalu

Zhilin Y. · Diulas lebih dari 5 tahun lalu

Dimitris L. · Diulas lebih dari 5 tahun lalu

Felipe S. · Diulas lebih dari 5 tahun lalu

Francois T. · Diulas lebih dari 5 tahun lalu

Jon S. · Diulas lebih dari 5 tahun lalu

Greg M. · Diulas lebih dari 5 tahun lalu

Jan F. · Diulas lebih dari 5 tahun lalu

antoine s. · Diulas lebih dari 5 tahun lalu

The last section of code did not work properly

Andrew F. · Diulas lebih dari 5 tahun lalu