R语言并行计算的原理和案例

论坛 期权论坛 期权     
表哥有话讲   2019-7-14 03:58   2129   0
来源 | R友舍
众所周知,在大数据时代R语言有两个弱项,其中一个就是只能使用单线程计算。但是R在2.14版本之后,R就内置了parallel包,强化了R的并行计算能力。

parallel包实际上整合了之前已经比较成熟的snow包和multicore包,multicore无法在windows下运行。parallel包可以很容易的在计算集群上实施并行计算,在多个CPU核心的单机上,也能发挥并行计算的功能。我们今天就来探索一下parallel包在多核心单机上的使用。

parallel包的思路和lapply函数很相似,都是将输入数据分割、计算、整合结果。只不过并行计算是用到了不同的cpu来运算。

这样的计算过程可以使用如下方式来表述:
1、启动M个附属进程,并初始化
2、针对于任务,为每个附属进程分发所有的数据
3、将任务粗略的分为M个块儿(chunks),并将这些块儿发送到附属进程(包含需要的R代码)
4、等待所有的附属进程完成计算任务,并返回结果
5、对于其他任务也同样重复2-4
6、关闭附属进程
在parallel包里,对应上述两种并行化方式有如下两个核心函数(针对于lapply函数的并行化,mclapply在windows上不能使用):
parLapply(cl, x, FUN, ...)
mclapply(X, FUN, ..., mc.cores)

案例1、不使用并行计算,直接使用lapply(隐式循环函数,它实际就是对不同的数据应用了相同的函数):
fun
分享到 :
0 人收藏
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

积分:10
帖子:2
精华:0
期权论坛 期权论坛
发布
内容

下载期权论坛手机APP