1.社交粉丝数据分析:

以下是qq的好友列表数据,冒号前是一个用户,冒号后是该用户的所有好友(数据中的好友关系是单向的)
A:B,C,D,F,E,O
B:A,C,E,K
C:F,A,D,I
D:A,E,F,L
E:B,C,D,M,L
F:A,B,C,D,E,O,M
G:A,C,D,E,F
H:A,C,D,E,O
I:A,O
J:B,O
K:A,C,D
L:D,E,F
M:E,F,G
O:A,H,I,J
求出哪些人两两之间有共同好友,及他俩的共同好友都有谁?

解题思路:如果想要得到两两之间的共同好友,若A和B的共同好友是C,通过反向思考,可以求出C是哪些人的共同好友,然后将这些共同好友

      两两组合;

c --> a  b  e  f g  h  k (第一步:找出c的所有共同好友)
a-b  c
a-e  c  (第二步:作为key,即可得到a-e的共同好友c和d)d --> a  c  e  f g  h  k
a-c  d
a-e  d

第一步代码实现:

package cn.bigdata.hdfs.fensi;
import java.io.IOException;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
public class SharedFriendsStepOne {static class SharedFriendsStepOneMapper extends Mapper<LongWritable, Text, Text, Text>{@Overrideprotected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {//A:B,C,D,F,E,O(找出具有共同好友的都是哪些人的)String line = value.toString();String[] person_friends = line.split(":");String person = person_friends[0];String feiends = person_friends[1];for(String friend : feiends.split(",")){// 输出<好友,人>context.write(new Text(friend), new Text(person));}}}static class SharedFriendsStepOneReducer extends Reducer<Text, Text, Text, Text>{@Overrideprotected void reduce(Text friend, Iterable<Text> persons, Context context) throws IOException, InterruptedException {//persons:具有共同好友的所有人:c --> a b e f g h k StringBuffer sb = new StringBuffer();for(Text person : persons){sb.append(person).append(",");}context.write(friend, new Text(sb.toString()));}}public static void main(String[] args) throws Exception {Configuration conf = new Configuration();Job job = Job.getInstance(conf);job.setJarByClass(SharedFriendsStepOne.class);job.setOutputKeyClass(Text.class);job.setOutputValueClass(Text.class);job.setMapperClass(SharedFriendsStepOneMapper.class);job.setReducerClass(SharedFriendsStepOneReducer.class);FileInputFormat.setInputPaths(job, new Path(args[0]));FileOutputFormat.setOutputPath(job, new Path(args[1]));job.waitForCompletion(true);}
}

运行结果:

A    I,K,C,B,G,F,H,O,D,
B    A,F,J,E,
C    A,E,B,H,F,G,K,
D    G,C,K,A,L,F,E,H,
E    G,M,L,H,A,F,B,D,
F    L,M,D,C,G,A,
G    M,
H    O,
I    O,C,
J    O,
K    B,
L    D,E,
M    E,F,
O    A,H,I,J,F,

第二步代码实现:具有共同好友的人两两作为key输出

package cn.bigdata.hdfs.fensi;
import java.io.IOException;
import java.util.Arrays;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;public class SharedFriendsStepTwo {static class SharedFriendsStepTwoMapper extends Mapper<LongWritable, Text, Text, Text> {// 拿到的数据是上一个步骤的输出结果// A I,K,C,B,G,F,H,O,D,// 友 人,人,人
        @Overrideprotected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {String line = value.toString();String[] friend_persons = line.split("\t");String friend = friend_persons[0];String[] persons = friend_persons[1].split(",");//排序,使得B-C和C-B不重复
            Arrays.sort(persons);for (int i = 0; i < persons.length - 1; i++) {for (int j = i + 1; j < persons.length; j++) {// 发出 <人-人,好友> ,这样,相同的“人-人”对的所有好友就会到同1个reduce中去context.write(new Text(persons[i] + "-" + persons[j]), new Text(friend));}}}}static class SharedFriendsStepTwoReducer extends Reducer<Text, Text, Text, Text> {@Overrideprotected void reduce(Text person_person, Iterable<Text> friends, Context context) throws IOException, InterruptedException {StringBuffer sb = new StringBuffer();for (Text friend : friends) {sb.append(friend).append(" ");}context.write(person_person, new Text(sb.toString()));}}public static void main(String[] args) throws Exception {Configuration conf = new Configuration();Job job = Job.getInstance(conf);job.setJarByClass(SharedFriendsStepTwo.class);job.setOutputKeyClass(Text.class);job.setOutputValueClass(Text.class);job.setMapperClass(SharedFriendsStepTwoMapper.class);job.setReducerClass(SharedFriendsStepTwoReducer.class);FileInputFormat.setInputPaths(job, new Path("F:/fensiOutput/part-r-00000"));FileOutputFormat.setOutputPath(job, new Path("F:/fensiOutput4"));job.waitForCompletion(true);}
}

运行结果:

A-B    E C
A-C    D F
A-D    E F
A-E    D B C
A-F    O B C D E
A-G    F E C D
A-H    E C D O
A-I    O
A-J    O B
A-K    D C
A-L    F E D
A-M    E F
B-C    A
B-D    A E
B-E    C
B-F    E A C
B-G    C E A
B-H    A E C
B-I    A
B-K    C A
B-L    E
B-M    E
B-O    A
C-D    A F
C-E    D
C-F    D A
C-G    D F A
C-H    D A
C-I    A
C-K    A D
C-L    D F
C-M    F
C-O    I A
D-E    L
D-F    A E
D-G    E A F
D-H    A E
D-I    A
D-K    A
D-L    E F
D-M    F E
D-O    A
E-F    D M C B
E-G    C D
E-H    C D
E-J    B
E-K    C D
E-L    D
F-G    D C A E
F-H    A D O E C
F-I    O A
F-J    B O
F-K    D C A
F-L    E D
F-M    E
F-O    A
G-H    D C E A
G-I    A
G-K    D A C
G-L    D F E
G-M    E F
G-O    A
H-I    O A
H-J    O
H-K    A C D
H-L    D E
H-M    E
H-O    A
I-J    O
I-K    A
I-O    A
K-L    D
K-O    A
L-M    E F 

转载于:https://www.cnblogs.com/yaboya/p/9253050.html

Hadoop_24_MapReduce实现QQ共同好友相关推荐

  1. android获取QQ昵称,【Ctrl.js】QQ读取好友昵称和QQ号源码

    [JavaScript] 纯文本查看 复制代码//--------------------------------------------------------------------------- ...

  2. mysql生成类似qq号_【mysql】类似QQ的好友关系表是怎么设计的?

    请问一下类似QQ的好友关系表是怎么设计的? 难道只是简单的id,userId,friendId吗? 回答 其实没有必要把事情想得太复杂了,按照需求慢慢递进就可以了. 这是我做关注功能的表结构,可以参考 ...

  3. python爬取陌生人的qq空间_Python爬取QQ空间好友说说并生成词云(超详细)

    前言 先看效果图: 思路 1.确认访问的URL 2.模拟登录你的QQ号 3.判断好友空间是否加了权限,切换到说说的frame,爬取当前页面数据,下拉滚动条,翻页继续获取 爬取的内容写入本地TXT文件中 ...

  4. 爬虫实战-python爬取QQ群好友信息

    自从开始学习爬虫后,总是无法控制那一颗躁动的心.每天总是想要爬点什么,爬过电影.爬过电影影评.爬过图片(美女图).爬过视频链接,从最初的简单解析网页到模拟登陆再到异步加载,现在看到一个网页最先想的就是 ...

  5. iOS QQ空间 好友分享

    iOS QQ空间 好友分享 1.进入腾讯开发者平台,可以查看分享SDK文档,根据说明按步骤接入 demo演示 - (void)viewDidLoad { [super viewDidLoad]; // ...

  6. 使用Python2.7和火狐浏览器下载QQ空间好友相册(二)

    原来的文章由于用到了curl的命令,比较麻烦,而且带上cookie之后还是有一部分无法下载,所以用httplib2代替了curl.urllib.urllib2的一些功能.重新写了一个代码 前面文章的代 ...

  7. 我在网吧上网用的QQ给好友狂发病毒

    上两个月在网吧上网登录QQ和好友聊天,不知道有QQ尾巴病毒,发给了我的几位朋友,那网吧我再也不去了,黑网吧!. 前几天又在家后面的木材公司对面的网吧上网又是QQ尾巴自动在发病毒.我以后少去网吧了,不好 ...

  8. Python2.7获取QQ空间好友头像

    获取QQ空间好友头像并不复杂,通过一个网址就可以获取 获取方法: 小图 http://qlogo.store.qq.com/qzone/[QQ号]/[QQ号]/50 中图 http://qlogo.s ...

  9. jQuery实现防QQ列表好友分组

    1)在显示当前div之前, 先隐藏其他div 2)交替切换被选元素的 隐藏和显示 效果如下: 主要方式是通过jQuery查找点击的标签所属的tr,再找其同级元素,再查找div,并进行隐藏,而点击的对象 ...

最新文章

  1. matlab7.1(ERROR STARTING DESKTOP)解决
  2. 9月29日,访问量4200,留个脚印
  3. java stringbuffer 转数组_JAVA之旅(十七)——StringBuffer的概述,存储,删除,获取,修改,反转,将缓存区的数据存储到数组中,StringBuilder...
  4. windows加linux双系统安装方法
  5. 线性代数:矩阵及其运算
  6. Unity3d iOS 内购详细流程总汇
  7. WAP常见问题问答大全
  8. windows下V-Rep下载及安装教程
  9. 专科学历去学计算机,前景到底如何?
  10. ios闹钟铃声实现代码
  11. 复变函数与积分变换matlab,MATLAB软件在《复变函数与积分变换》教学中的几点应用...
  12. SWIFT电文 MT940客户对账单 报文格式说明
  13. 【NEUQ】PJ的情书 【哈夫曼树 】
  14. 思考分析常用思维模型
  15. “年薪百万”的视频剪辑师?Adobe专家让这一切都成为可能
  16. ActiveX控件之制作图片属性页
  17. 不同应用选择荧光染料 -CY7 ALK脂溶性Sulfo-Cyanine7 alkyne 结构式应用
  18. Python内置函数os模块shutil模块
  19. 华理2019信号与系统考研模拟试题(含数字信号处理)
  20. 基于ESO的永磁同步电机无感FOC 采用线性扩张状态观测器(LESO)估计电机反电势,利用锁相环从反电势中提取位置和转速信息

热门文章

  1. 基于stm32智能门禁系统,指纹锁(RFID+键盘+指纹+OLED)
  2. linux后台服务架构高性能设计之道
  3. lisp二次开发 微盘_AutoCAD 2008 Visual LISP二次开发入门到精通
  4. 电脑如何格式化重装系统
  5. 勇艺达 小漫在家 机器人_家用机器人哪个品牌好
  6. 转换成MP3格式怎么弄?几种常见的转换方法分享给你
  7. IDS、恶意软件、反病毒网关、APT与密码学
  8. Java 程序运行时间计算
  9. SQLyog注释 添加 撤销 快捷键
  10. ES 字段类型Field type