芬兰安全防线:隐私项目开启合作首个芬兰合作项目中数组GPU助力隐私算法实现百倍加速

by Frédéric Parienté

Finn Antti Honkela 可能永远不会像 Linux 之父 Linus Torvalds 那样声名远扬,但他最近在清除数字隐私障碍中取得重大突破。

Honkela是赫尔辛基大学数据科学副教授,致力于差分隐私研究,这是一种基于个人数据的计算方法,用于保护个人数据隐私。今年 3 月,这一新兴领域荣登《麻省理工科技评论》“具备深远影响潜力的十大突破”榜单。

该技术当前已经广泛应用于智能手机和云计算,甚至会被应用于 2020 年的美国人口普查。

Honkela 说:“差分隐私依赖于强大的理论基础。因此,只要遵循算法,便能实现隐私保障。但截至目前,这样操作的性能成本非常高。”

“现在我们可以缩小这一差距。”他在谈到 NVIDIA 与人工智能研究人员在芬兰持续开展广泛合作的第一个项目时说。

差分隐私算法加速百倍

Honkela 和 NVIDIA 的解决方案架构师 Niki Loppi 借助数组 GPU 展示了一种用于加速差分隐私训练速度的方法。

Loppi说:“这类与 GPU 相关的加速十分常见,但这个方法的与众不同之处在于标准训练中加入的差分隐私的惩罚只有 2-3 倍,而不是 CPU 系统上观察到的 20 倍。”

他们的研究成果展示了如何对高价值的数据集作匿名处理,但由于包含个人敏感信息,这些数据集目前仍须保密。发布这些经处理的数据将帮助 AI 开发人员建立更好的模型,加速整个领域的发展。

当前 Loppi 在 NVIDIA 的同事们正聚焦AI训练中随机二次抽样过程,并在探索一种能够有效加速 GPU 在这一过程中运行的方法。这项工作可以进一步缩小实现差分隐私的性能差距。

这个项目开启了NVIDIA 与芬兰两家大型合作伙伴的合作进程。其中,芬兰倾举国之力打造的芬兰人工智能中心(FCAI)汇集了芬兰赫尔辛基大学、阿尔托大学和VTT 技术研究中心的顶级研究人员。

芬兰国家超级计算中心(CSC)是 NVIDIA 和 FCAI 的另一个合作伙伴。该公司将在其 2.7-petaflops 系统上运行该集团的研究项目,该系统包含 320 组 NVIDIA V100 Tensor Core GPU。

广泛的人工智能目标

与芬兰的合作缘起今年一月在意大利 Modena 的合作项目。他们加入了日益壮大的NVIDIA 人工智能技术中心 (NVAITC) 全球社区,推动技术进步。

与芬兰的合作项目将利用当地众多合作伙伴在各自领域的专业知识,推动人工智能向前发展。FCAI 的协调教授 Honkela 更是将人工智能研究人员和 GPU 专家的协同合作评价为“一个很好的工作模式”。

“显然,研究人员必须掌握代码,但有时了解如何实现程序的有效运行是一项并非所有研究人员都具备的专长。”他说。

NVIDIA NVAITC 高级主管 Simon See 说:“通过这次合作,我们能够更好地支持在致力该领域的当地科学家,推动芬兰的人工智能研究。”

后事如何无人可知。Honkela 指出,当前一种作为所有神经网络训练核心的现代高效反向传播算法,其实源于1970 年赫尔辛基大学的一名研究人员的硕士论文。