大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。
Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺
1.pig运行模式
本地模式: pig -x local
直接访问本地磁盘
集群模式: pig 或者 pig -x mapreduce
2.pig latin 交互
帮助信息 help
上传本地文件到hdfs中
查看内容 cat
加载数据
grunt> A = load '/pig/input/a.data' using PigStorage('\t'); --加载文件,并用冒号’\t‘将数据分离为多个字段 grunt> B = foreach A generate $0 as id; --将每一次迭代的第一个元祖数据作为id grunt> dump B; 在命令行输出结果
执行成功,如下展示:
计算结果
3. 小试牛刀
1)、加载学生信息
student = load ‘/pig/input/student.data’ using PigStorage(‘,’) as (id:long,name:chararray,class:int,state:int);
2)过滤 符合条件的数据
filterStudent= filter student by state==1;
3)展示每个班的学生
groupStudentByClass= group student by class parallel 2;
dump groupStudentByClass;
4)统计每个班的人数
groupclass= foreach groupStudentByClass generate $0 as sid,COUNT($1) as total;
dump groupclass;
5)join
studentTeacher = join student by class,teacher by clazz;
dump studentTeacher;
参考资料:
https://www.ibm.com/developerworks/cn/linux/l-apachepigdataquery/
http://pig.apache.org/docs/r0.16.0/start.html
<pig编程指南>
发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/168014.html原文链接:https://javaforall.cn
【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛
【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...