Problem -> winutils in the Hadoop binaries
Podczas, gdy uruchomisz job w Talend Big Data pojawi Ci warning: winutils in the Hadoop binaries
java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop binaries
lub
java.io.FileNotFoundException: The hadoop home directory (hadoop.home.dir) doesn't contain the required winutils.exe binary
Spis Treści
Rozwiązanie #1 (rekomendowane)
- Pobierz plik wintuils.exe np. z tej strony na GitHub (https://github.com/steveloughran/winutils) w odpowiadającej wersji Twojego środowiska Hadoop.
- Utwórz katalog: C:\hadoop\bin
- Skopiuj wcześniej pobrany plik winutlis.exe to folderu C:\hadoop\bin
- Utwórz nową zmienna środowiskową: HADOOP_HOME i jako wartość podaj ścieżkę do folderu, gdzie znajduję się plik winutils.exe: HADOOP_HOME=C:\hadoop\bin
- Uruchom ponownie Talend Studio
Rozwiązanie #2
- Pobierz plik wintuils.exe np. z tej strony na GitHub (https://github.com/steveloughran/winutils) w odpowiadającej wersji Twojego środowiska Hadoop.
- Utwórz katalog: C:\hadoop\bin
- Skopiuj wcześniej pobrany plik winutlis.exe to folderu C:\hadoop\bin
- W konfiguracji joba w Talend Studio otwórz zakładkę Run -> Advanced.
- W sekcji JVM Settings kliknij w przycisk new, aby dodać nowy parametr.
- Dodaj argument jak poniżej:
-Dhadoop.home.dir=C:\hadoop\bin -Dhadoop.home.dir=C:\hadoop\bin
![[SOLVED] Talend Big Data winutils in the Hadoop binaries java.io.IOException: Could not locate executable wintuils.exe - rozwiąż problem w 3 minuty! 1 Talend Big Data java.io.IOException: Could not locate executable null\bin\winutils in the Hadoop binaries](https://bigdata-etl.com/wp-content/uploads/2019/02/Talend_add_hadoop_home.png)
Podsumowanie
Dlaczego Rozwiązanie #1 jest rekomendowane? A dlatego, że wykonujesz tą czynność tylko raz i będzie ona miała wpływ na wszystkie joby, które tworzysz.
Natomiast w Rozwiązaniu #2 należy dla każdego nowo utworzonego joba dodawać argument -Dhadoop.home.dir=C:\hadoop\bin w sekcji Run -> Advanced.