首页 > Windows开发 > 详细

window环境运行spark-xgboost

时间:2021-05-14 15:44:47      阅读:20      评论:0      收藏:0      [点我收藏+]

在window 环境下使用spark - xgboost会出现一些问题,这里记录一下。

环境:window 10 + spark 2.4.1 + xgboost 9.0 + pycharm+ spark

由于在widows运行xgboost,是需要有一个dll文件的

技术分享图片

 

上错误

java.io.FileNotFoundException: File /lib/xgboost4j.dll was not found inside JAR.

出现上述错误的原因主要是  lib目录下没有 xgboost4j.dll  这个文件 ,这个lib又是什么鬼,为了这个找了好多的lib,python、annconda、spark的环境下都有lib

最后发现,之前创建项目的时候添加了两个包,一个是py4j一个是pyspark,是从spark中拿过来用的

技术分享图片

最终效果是这样

技术分享图片

所以去spark中找到这个路径下看是否有dll文件,发现没有lib,找到存放jar包的文件

技术分享图片

要有这两个文件才行,下载地址

这个文件用WRAR,我的打开发现没有xgboost.dll文件,

下载对应版本的xgboost4j,解压将lib中的dll文件复制到自己的文件里

技术分享图片

 

技术分享图片

 

 错误解决!!!!

window环境运行spark-xgboost

原文:https://www.cnblogs.com/lixiaobin123/p/14741464.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!