温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Java通过python命令执行DataX任务的实例

发布时间:2020-08-28 11:12:19 来源:脚本之家 阅读:257 作者:王绍桦 栏目:编程语言

1.安装datax

2.安装python并配置环境变量

3.把mysql2odps.json文件放在datax安装目录的job文件夹下

4.运行Test.java测试

mysql2odps.json文件:

{
  "job": {
    "content": [
      {
        "reader": {
          "name": "mysqlreader",
          "parameter": {
            "username": "$username",
            "password": "$password",
            "where": "optime>='$startDate $startTime' and optime<'$endDate $endTime'",
            "column": ["id","xm"],
            "connection": [
              {
                "table": [
                  "test"
                ],
                "jdbcUrl": [
                  "$jdbcUrl"
                ]
              }
            ]
          }
        },
        "writer": {
          "name": "odpswriter",
          "parameter": {
            "accessId": "****************",
            "accessKey": "******************************",
            "column": ["id","xm"],
            "odpsServer": "http://service.odps.xxx.com/api",
            "partition": "bt=$bt,region=$region",
            "project": "dst_project_name",
            "table": "test"
          }
        }
      }
    ],
    "setting": {
      "speed": {
        "channel": 10
      }
    }
  }
}

测试程序(我的datax安装路径为F盘根目录):

import java.io.BufferedReader;
import java.io.InputStreamReader;

public class Test {

  public static void main(String[] args) {
    try {
      System.out.println("start");
      String windowcmd = "cmd /c python F:/datax/bin/datax.py -p \" -Dusername=root -Dpassword=1234 -DjdbcUrl=jdbc:mysql://192.168.1.122:3306/center -Dwhere=left(optime,10)=CURDATE() -Dbt=20171214 -Dregion=beijing \" F:/datax/job/mysql2odps.json";
      System.out.println(windowcmd);
      Process pr = Runtime.getRuntime().exec(windowcmd);
      BufferedReader in = new BufferedReader(new InputStreamReader(pr.getInputStream()));
      String line;
      while ((line = in.readLine()) != null) {
        System.out.println(line);
      }
      in.close();
      pr.waitFor();
      System.out.println("end");
    } catch (Exception e) {
      e.printStackTrace();
    }
  }

}

以上这篇Java通过python命令执行DataX任务的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持亿速云。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI