- 谷歌搜索的“AI推荐结果”:你搜“最好的咖啡”,TPU快速分析你的搜索历史、地理位置,推荐附近的咖啡店;
- 谷歌翻译的“实时翻译”:你输入中文,TPU秒译成英文,还能保持语句通顺;
- DeepMind的“AI下棋”:AlphaGo下围棋时,TPU帮它快速算“下一步走哪儿赢面大”。
优点:和谷歌的AI算法完美适配,跑谷歌的任务比其他芯片快3-5倍;而且省电,谷歌数据中心用TPU,电费能省一半。
缺点:不对外卖——你想买一块TPU装在自己电脑上用,门都没有,谷歌只给自己用。
四、生活中哪儿能用到?推理芯片藏在这些地方
很多人觉得“推理芯片离自己很远”,其实它早就藏在你每天用的东西里,只是你没发现。咱们从“衣食住行”四个方面,看看推理芯片到底有多近:
(一)“衣”:网购时的“AI推荐”,背后是推理芯片在算
你在淘宝、京东刷衣服时,是不是觉得“怎么推的都是我喜欢的风格”?这背后就是推理芯片在干活:
1. 你浏览、点赞、加购的衣服数据,会传到平台的服务器;
2. 服务器里的GPU或TPU推理芯片,快速分析“你喜欢宽松还是紧身、喜欢碎花还是纯色”;
3. 几秒钟内,推理芯片算出“你可能喜欢的100件衣服”,推到你手机上。
要是没有推理芯片,普通芯片得算几分钟甚至几小时,等结果出来,你早就划走页面了。
(二)“食”:外卖平台的“AI送餐路线”,推理芯片在指路
你点外卖时,外卖小哥总能“差不多准时送到”,靠的也是推理芯片:
1. 平台的推理芯片(一般是GPU或FPGA),会实时收集“天气、路况、小哥当前位置、你的位置”等数据;
2. 快速算出“最优路线”——比如“走XX路不堵车,比平时快5分钟”;
3. 要是路上突然堵车,推理芯片还能秒改路线,提醒小哥“绕XX路走”。
以前没有推理芯片时,靠人工规划路线,经常出现“小哥绕远路、餐品凉了”的情况,现在有了推理芯片,送餐准时率提高了30%以上。
(三)“住”:家里的“智能设备”,小芯片干大活
你家里的智能音箱、智能摄像头、智能门锁,里面都藏着小尺寸的推理芯片(大多是ASIC):
- 智能音箱:你喊“小爱同学,放首歌”,ASIC推理芯片会快速识别“这是唤醒词+指令”,不用等数据传到云端,几秒内就能放歌;
- 智能摄像头:晚上有人靠近门口,ASIC会识别“这不是家人”,马上推送报警信息到你手机,不用一直盯着屏幕;
- 智能门锁:你刷脸开门时,ASIC推理芯片会对比“你的脸和存的脸”,0.5秒内判断“能不能开门”,比指纹解锁还快。
这些小芯片虽然不起眼,但让“智能家居”真的“智能”起来,不用你手动操作,设备自己就能判断该干啥。
(四)“行”:自动驾驶和导航,推理芯片是“大脑发动机”
现在的汽车,不管是“辅助驾驶”还是“导航”,都离不开推理芯片:
- 辅助驾驶:比如特斯拉的“自动刹车”功能,汽车摄像头和雷达每秒收集1000+条数据,GPU推理芯片会快速识别“前面有车,要刹车”,比人反应快2-3秒;
- 导航软件:你用高德、百度导航时,推理芯片(可能是服务器里的GPU,也可能是手机里的ASIC)会实时分析“实时路况、红绿灯时长”,算出“最快路线”,比如“走XX高架,比走地面快15分钟”;
- 网约车平台:你下单后,平台的推理芯片会快速匹配“最近的司机”,还能算“司机到你这儿要多久、到目的地要多少钱”,几秒钟内就能派单。
没有推理芯片,自动驾驶就是“瞎子”,导航就是“慢半拍的地图”,出门会麻烦很多。
五、为啥要争“推理芯片”?这东西有多重要?
现在不管是中国、美国,还是谷歌、英伟达、华为,都在抢着做推理芯片。为啥大家这么看重它?因为它是“AI时代的基础设施”,就像20年前的“互联网服务器”——谁掌握了更好的推理芯片,谁就能在AI时代占先机。
咱们从两个层面说:
(一)对企业:没有好的推理芯片,AI业务就是“空架子”
比如某家公司想做“AI画图工具”,要是用普通芯片,用户画一张图要等10分钟,肯定没人用;要是用英伟达的GPU推理芯片,画一张图只要10秒,用户才会愿意用。
再比如手机厂商,要是没有好的ASIC推理芯片,手机的“AI拍照”就会模糊、“人脸识别”就会慢,用户就会觉得“这手机不行”,转而买有好芯片的手机。
这章没有结束,请点击下一页继续阅读!