caffe2学习框架主要开发者（GPU算法工程师是做什么的）

本文目录

• GPU算法工程师是做什么的
• 如何配置一台深度学习主机

GPU算法工程师是做什么的

一、算法工程师简介（通常是月薪15k以上，年薪18万以上，只是一个概数，具体薪资可以到招聘网站如拉钩，猎聘网上看看）算法工程师目前是一个高端也是相对紧缺的职位；算法工程师包括音/视频算法工程师（通常统称为语音/视频/图形开发工程师）、图像处理算法工程师、计算机视觉算法工程师、通信基带算法工程师、信号算法工程师、射频/通信算法工程师、自然语言算法工程师、数据挖掘算法工程师、搜索算法工程师、控制算法工程师（云台算法工程师，飞控算法工程师，机器人控制算法）、导航算法工程师（@之介感谢补充）、其他【其他一切需要复杂算法的行业】专业要求：计算机、电子、通信、数学等相关专业；学历要求：本科及其以上的学历，大多数是硕士学历及其以上；语言要求：英语要求是熟练，基本上能阅读国外专业书刊，做这一行经常要读论文；必须掌握计算机相关知识，熟练使用仿真工具MATLAB等，必须会一门编程语言。算法工程师的技能树（不同方向差异较大，此处仅供参考）1 机器学习2 大数据处理：熟悉至少一个分布式计算框架Hadoop/Spark/Storm/ map-reduce/MPI3 数据挖掘4 扎实的数学功底5 至少熟悉C/C++或者Java，熟悉至少一门编程语言例如java/python/R加分项：具有较为丰富的项目实践经验（不是水论文的哪种）二、算法工程师大致分类与技术要求（一）图像算法/计算机视觉工程师类包括图像算法工程师，图像处理工程师，音/视频处理算法工程师，计算机视觉工程师要求l 专业：计算机、数学、统计学相关专业；l 技术领域：机器学习，模式识别l 技术要求：（1） 精通DirectX HLSL和OpenGL GLSL等shader语言，熟悉常见图像处理算法GPU实现及优化；（2） 语言：精通C/C++；（3） 工具：Matlab数学软件，CUDA运算平台，VTK图像图形开源软件【医学领域：ITK，医学图像处理软件包】（4） 熟悉OpenCV/OpenGL/Caffe等常用开源库；（5） 有人脸识别，行人检测，视频分析，三维建模，动态跟踪，车识别，目标检测跟踪识别经历的人优先考虑；（6） 熟悉基于GPU的算法设计与优化和并行优化经验者优先；（7） 【音/视频领域】熟悉H.264等视频编解码标准和FFMPEG，熟悉rtmp等流媒体传输协议，熟悉视频和音频解码算法，研究各种多媒体文件格式，GPU加速；应用领域：（1） 互联网：如美颜app（2） 医学领域：如临床医学图像（3） 汽车领域（4） 人工智能相关术语：（1） OCR：OCR （Optical Character Recognition，光学字符识别）是指电子设备（例如扫描仪或数码相机）检查纸上打印的字符，通过检测暗、亮的模式确定其形状，然后用字符识别方法将形状翻译成计算机文字的过程（2） Matlab：商业数学软件；（3） CUDA： (Compute Unified Device Architecture)，是显卡厂商NVIDIA推出的运算平台（由ISA和GPU构成）。 CUDA:trade_mark:是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题（4） OpenCL: OpenCL是一个为异构平台编写程序的框架，此异构平台可由CPU，GPU或其他类型的处理器组成。（5） OpenCV：开源计算机视觉库；OpenGL：开源图形库；Caffe：是一个清晰，可读性高，快速的深度学习框架。（6） CNN：（深度学习）卷积神经网络（Convolutional Neural Network）CNN主要用来识别位移、缩放及其他形式扭曲不变性的二维图形。（7） 开源库：指的是计算机行业中对所有人开发的代码库，所有人均可以使用并改进代码算法。（二）机器学习工程师包括机器学习工程师要求l 专业：计算机、数学、统计学相关专业；l 技术领域：人工智能，机器学习l 技术要求：（1） 熟悉Hadoop/Hive以及Map-Reduce计算模式，熟悉Spark、Shark等尤佳；（2） 大数据挖掘；（3） 高性能、高并发的机器学习、数据挖掘方法及架构的研发；应用领域：（1）人工智能，比如各类仿真、拟人应用，如机器人（2）医疗用于各类拟合预测（3）金融高频交易（4）互联网数据挖掘、关联推荐（5）无人汽车，无人机相关术语：（1） Map-Reduce：MapReduce是一种编程模型，用于大规模数据集（大于1TB）的并行运算。概念"Map（映射）"和"Reduce（归约）"，是它们的主要思想，都是从函数式编程语言里借来的，还有从矢量编程语言里借来的特性。（三）自然语言处理工程师包括自然语言处理工程师要求l 专业：计算机相关专业；l 技术领域：文本数据库l 技术要求：（1） 熟悉中文分词标注、文本分类、语言模型、实体识别、知识图谱抽取和推理、问答系统设计、深度问答等NLP 相关算法；（2） 应用NLP、机器学习等技术解决海量UGC的文本相关性；（3） 分词、词性分析、实体识别、新词发现、语义关联等NLP基础性研究与开发；（4） 人工智能，分布式处理Hadoop；（5） 数据结构和算法；应用领域：口语输入、书面语输入、语言分析和理解、语言生成、口语输出技术、话语分析与对话、文献自动处理、多语问题的计算机处理、多模态的计算机处理、信息传输与信息存储 、自然语言处理中的数学方法、语言资源、自然语言处理系统的评测。相关术语：（2） NLP：人工智能的自然语言处理，NLP (Natural Language Processing) 是人工智能（AI）的一个子领域。NLP涉及领域很多，最令我感兴趣的是“中文自动分词”（Chinese word segmentation）：结婚的和尚未结婚的【计算机中却有可能理解为结婚的“和尚“】（四）射频/通信/信号算法工程师类包括3G/4G无线通信算法工程师， 通信基带算法工程师，DSP开发工程师（数字信号处理），射频通信工程师，信号算法工程师要求l 专业：计算机、通信相关专业；l 技术领域：2G、3G、4G，BlueTooth（蓝牙），WLAN，无线移动通信, 网络通信基带信号处理l 技术要求：（1） 了解2G，3G，4G，BlueTooth，WLAN等无线通信相关知识，熟悉现有的通信系统和标准协议，熟悉常用的无线测试设备；（2） 信号处理技术，通信算法；（3） 熟悉同步、均衡、信道译码等算法的基本原理；（4） 【射频部分】熟悉射频前端芯片，扎实的射频微波理论和测试经验，熟练使用射频电路仿真工具（如ADS或MW或Ansoft）；熟练使用cadence、altium designer PCB电路设计软件；（5） 有扎实的数学基础，如复变函数、随机过程、数值计算、矩阵论、离散数学应用领域：通信VR【用于快速传输视频图像，例如乐客灵境VR公司招募的通信工程师（数据编码、流数据）】物联网，车联网导航，军事，卫星，雷达相关术语：（1） 基带信号：指的是没有经过调制（进行频谱搬移和变换）的原始电信号。（2） 基带通信（又称基带传输）：指传输基带信号。进行基带传输的系统称为基带传输系统。传输介质的整个信道被一个基带信号占用.基带传输不需要调制解调器，设备化费小，具有速率高和误码率低等优点,.适合短距离的数据传输，传输距离在100米内，在音频市话、计算机网络通信中被广泛采用。如从计算机到监视器、打印机等外设的信号就是基带传输的。大多数的局域网使用基带传输，如以太网、令牌环网。（3） 射频：射频（RF）是Radio Frequency的缩写，表示可以辐射到空间的电磁频率（电磁波），频率范围从300KHz～300GHz之间（因为其较高的频率使其具有远距离传输能力）。射频简称RF射频就是射频电流，它是一种高频交流变化电磁波的简称。每秒变化小于1000次的交流电称为低频电流，大于10000次的称为高频电流，而射频就是这样一种高频电流。高频(大于10K)；射频（300K-300G）是高频的较高频段；微波频段（300M-300G）又是射频的较高频段。【有线电视就是用射频传输方式】（4） DSP：数字信号处理，也指数字信号处理芯片（五）数据挖掘算法工程师类包括推荐算法工程师，数据挖掘算法工程师要求l 专业：计算机、通信、应用数学、金融数学、模式识别、人工智能；l 技术领域：机器学习，数据挖掘l 技术要求：（1） 熟悉常用机器学习和数据挖掘算法，包括但不限于决策树、Kmeans、SVM、线性回归、逻辑回归以及神经网络等算法；（2） 熟练使用SQL、Matlab、Python等工具优先；（3） 对Hadoop、Spark、Storm等大规模数据存储与运算平台有实践经验【均为分布式计算框架】（4） 数学基础要好，如高数，统计学，数据结构l 加分项：数据挖掘建模大赛；应用领域（1） 个性化推荐（2） 广告投放（3） 大数据分析相关术语Map-Reduce：MapReduce是一种编程模型，用于大规模数据集（大于1TB）的并行运算。概念"Map（映射）"和"Reduce（归约）"，是它们的主要思想，都是从函数式编程语言里借来的，还有从矢量编程语言里借来的特性。（六）搜索算法工程师要求l 技术领域：自然语言l 技术要求：（1） 数据结构，海量数据处理、高性能计算、大规模分布式系统开发（2） hadoop、lucene（3） 精通Lucene/Solr/Elastic Search等技术，并有二次开发经验（4） 精通Lucene/Solr/Elastic Search等技术，并有二次开发经验；（5） 精通倒排索引、全文检索、分词、排序等相关技术；（6） 熟悉Java，熟悉Spring、MyBatis、Netty等主流框架；（7） 优秀的数据库设计和优化能力，精通MySQL数据库应用 ；（8） 了解推荐引擎和数据挖掘和机器学习的理论知识，有大型搜索应用的开发经验者优先。（七）控制算法工程师类包括了云台控制算法，飞控控制算法，机器人控制算法要求l 专业：计算机，电子信息工程，航天航空，自动化l 技术要求：（1） 精通自动控制原理（如PID）、现代控制理论，精通组合导航原理，姿态融合算法，电机驱动，电机驱动（2） 卡尔曼滤波，熟悉状态空间分析法对控制系统进行数学模型建模、分析调试；l 加分项：有电子设计大赛，机器人比赛，robocon等比赛经验，有硬件设计的基础；应用领域（1）医疗/工业机械设备（2）工业机器人（3）机器人（4）无人机飞控、云台控制等（八）导航算法工程师要求l 专业：计算机，电子信息工程，航天航空，自动化l 技术要求（以公司职位JD为例）公司一（1）精通惯性导航、激光导航、雷达导航等工作原理；（2）精通组合导航算法设计、精通卡尔曼滤波算法、精通路径规划算法；（3）具备导航方案设计和实现的工程经验；（4）熟悉C/C++语言、熟悉至少一种嵌入式系统开发、熟悉Matlab工具；公司二（1）熟悉基于视觉信息的SLAM、定位、导航算法，有1年以上相关的科研或项目经历；（2）熟悉惯性导航算法，熟悉IMU与视觉信息的融合;应用领域无人机、机器人等。

如何配置一台深度学习主机

搞AI，谁又能没有“GPU之惑”？下面列出了一些适合进行深度学习模型训练的GPU，并将它们进行了横向比较，一起来看看吧！

CPU与GPU对比

CPU是一个有多种功能的优秀领导者。它的优点在于调度、管理、协调能力强，计算能力则位于其次。而GPU相当于一个接受CPU调度的“拥有大量计算能力”的员工。

下图是处理器内部结构图：

DRAM即动态随机存取存储器，是常见的系统内存。

Cache存储器：电脑中作为高速缓冲存储器，是位于CPU和主存储器DRAM之间，规模较小，但速度很高的存储器。

算术逻辑单元ALU是能实现多组算术运算和逻辑运算的组合逻辑电路。

当需要对大数据bigdata做同样的事情时，GPU更合适，当需要对同一数据做很多事情时，CPU正好合适。

GPU能做什么？关于图形方面的以及大型矩阵运算，如机器学习算法等方面，GPU就能大显身手。

简而言之，CPU擅长统领全局等复杂操作，GPU擅长对大数据进行简单重复操作。CPU是从事复杂脑力劳动的教授，而GPU是进行大量并行计算的体力劳动者。

深度学习是模拟人脑神经系统而建立的数学网络模型，这个模型的最大特点是，需要大数据来训练。因此，对电脑处理器的要求，就是需要大量的并行的重复计算，GPU正好有这个专长，时势造英雄，因此，GPU就出山担当重任了。

太长不看版
截至2020年2月，以下GPU可以训练所有当今语言和图像模型：

• RTX 8000：48GB VRAM，约5500美元
• RTX 6000：24GB VRAM，约4000美元
• Titan RTX：24GB VRAM，约2500美元


• 以下GPU可以训练大多数（但不是全部）模型：
• RTX 2080 Ti：11GB VRAM，约1150美元
• GTX 1080 Ti：11GB VRAM，返厂翻新机约800美元
• RTX 2080：8GB VRAM，约720美元
• RTX 2070：8GB VRAM，约500美元


• 以下GPU不适合用于训练现在模型：
• RTX 2060：6GB VRAM，约359美元。


• 在这个GPU上进行训练需要相对较小的batch size，模型的分布近似会受到影响，从而模型精度可能会较低。


• GPU购买建议


• RTX 2060（6 GB）：你想在业余时间探索深度学习。
• RTX 2070或2080（8 GB）：你在认真研究深度学习，但GPU预算只有600-800美元。8 GB的VRAM适用于大多数模型。
• RTX 2080 Ti（11 GB）：你在认真研究深度学习并且您的GPU预算约为1,200美元。RTX 2080 Ti比RTX 2080快大约40％。
• Titan RTX和Quadro RTX 6000（24 GB）：你正在广泛使用现代模型，但却没有足够买下RTX 8000的预算。
• Quadro RTX 8000（48 GB）：你要么是想投资未来，要么是在研究2020年最新最酷炫的模型。
• NV TESLA V100 （32GB）：如果你需要在NVIDIA数据中心使用CUDA，那么TESLA就是必选品了。
• 图像模型


• 内存不足之前的最大批处理大小：
• *表示GPU没有足够的内存来运行模型。


• 性能（以每秒处理的图像为单位）：
• *表示GPU没有足够的内存来运行模型。


• 语言模型


• 内存不足之前的最大批处理大小：
• *表示GPU没有足够的内存来运行模型。


• 性能：
• * GPU没有足够的内存来运行模型。


• 使用Quadro RTX 8000结果进行标准化后的表现


• 图像模型


• 语言模型


• 结论


• 语言模型比图像模型受益于更大的GPU内存。注意右图的曲线比左图更陡。这表明语言模型受内存大小限制更大，而图像模型受计算力限制更大。
• 具有较大VRAM的GPU具有更好的性能，因为使用较大的批处理大小有助于使CUDA内核饱和。
• 具有更高VRAM的GPU可按比例实现更大的批处理大小。只懂小学数学的人都知道这很合理：拥有24 GB VRAM的GPU可以比具有8 GB VRAM的GPU容纳3倍大的批次。
• 比起其他模型来说，长序列语言模型不成比例地占用大量的内存，因为注意力（attention）是序列长度的二次项。


• 附注：测试模型


• 图像模型：


• 语言模型：



云轩Cloudhin专注Deep learning和高性能计算服务器定制，针对主要深度学习框架（如TensorFlow、Caffe 2、Theano或Torch）进行了优化和设置，在桌面上即可提供强大的深度学习功能。

请点击输入图片描述

请点击输入图片描述