sql >> Database teknologi >  >> RDS >> Mysql

Hive 1.2 Metastore Service starter ikke efter at have konfigureret den til S3-lagring i stedet for HDFS

  1. Du kan absolut ikke blande versioner af Hadoop-common, hadoop-aws, aws-s3-sdk og jackson versionerne ud fra, hvad alt forventer, eller du vil se stakspor.
  2. Og det er åben kildekode, så hvis du D/L alle kilde-JAR'erne lokalt, vil din IDE hjælpe dig med at finde, hvad der forårsager stak-sporingen. Dette er, hvad vi alle gør . Det er ikke magi, moderne IDE'er (intellij IDEA) har endda speciel stack-fejlretning.

Denne kommer ind, fordi værdien af ​​fs.s3a.multipart.size indstillet i hadoop-commons /core-default.xml ressource er 100 mio., som kom ind med HADOOP-13680 og området, der analyserer håndteringsnumre som "100M" i stedet for 104857600 . Denne staksporing siger "Hadoop 2.8+ konfiguration"

Du kan prøve at indstille egenskaben i dine konfigurationer til den numeriske værdi, men det er et advarselstegn på, at versioner af JAR'er er ude af synkronisering, og du vil sandsynligvis kun komme et par linjer længere, før noget andet går i stykker.

Rette:sørg for at hadoop-common.jar og hadoop-aws.jar er synkroniseret. Det ser ud til, at du har jackson og aws på linje, selvom jackson er kompleks nok, så kan du aldrig tage det for givet.




  1. Python Pandas to_sql, hvordan opretter man en tabel med en primær nøgle?

  2. Sådan gemmer du fremtidige(!) datoer i en database

  3. MySQL sammenligner og ekskluderer resultater korrekt

  4. Sådan får du en status for en kørende forespørgsel i postgresql-databasen