硅谷AI考察报告20230526.docx

为了近距离了解硅谷AI前沿发展必威体育精装版动向和第手信息，

近期，我们专程前往硅谷学习考察，先后参观了微软、

Google、英伟达、Meta等公司总部，与众多业内人士进行了深入交流，收获多多，感触颇深。通过交流过所了解到的很多关于算力和大模型的前沿认知，与国内目前资本市场的理解不尽相同，甚至天差地别，这些差异也许蕴含着重要的投资机遇。为此，特将此次学习考察收获第一时间与各位分享。

此行中我们最大的感受是，在美国AI已经不是刚开始引发好奇与争议的新鲜事物，而是像水和电一样融入到社会生产、公司经营和百姓生活的各个方面。同时，AI技术进步的速度处于一个“寒武纪”的时代，几乎每一周甚至每一天，都有让人兴奋的新技术或者新产品横空出世并且迅速应用到实际场景中，因而美国的VC、PE可以说是几乎无孔不入，深入到AI各个方面去寻找投资机会。

以谷歌为代表的全球科技巨头普遍认为，本次AI革命是人类未有之大变局，它是人类进步的一个空前的拐点。我们曾经指出，这一次，AI将计算机历史上最大想象空间的互联网最高流量入口、公有云最大的市场、统一万物的操作系统合三为一，即使这样我们可能仍然低估了它的意义：这或将是人类发展史上最伟大的科技革命！

读者群福利：

1、每日微信群内分享证券报、华尔街日报、金融时报

2、每日分享热门研报、热门会议纪要及优质资讯

3、不定时分享必威体育精装版热门书籍、外刊杂志

5、所有内容均为内部学习交流使用，不可用作商业用途

扫一扫加小助手微信，马上入群~

我们从底层技术路径与算力、行业应用以及大模型与垂直模型的发展趋势三个方面来介绍硅谷AI学习考察之行的收获：

1大模型的底层技术与算力需求

1大模型的底层技术与算力需求

第一，GPT大模型的底层技术是谷歌的TransFormer，其核心的意义在于给定前文后推理出下一个最有可能的字符来进行输出，一些巨头的基础大模型差别在于解码单向结构还是编解码双向结构。ChatGPT可以支持对前文32000个字符分析再推理出下一个字，这已经是一个非常庞大的数量级，且ChatGPT只允许根据前文分析推理不允许加入后文来分析推理（decoderonly）。谷歌最先推出的大模型Bard是前后文都可以用来分析推理（编解码双向结构），但后来改成与ChatGPT类似只能用前文推理的

PaLM大模型，可能最终还是这种模式更接近于我们人类

语言的方式。

第二，大模型本质上更像依赖AI基础设施的“炼丹”，是推理并不是认知;目前视频生成受制于对基础设施的高要求仍存在一定局限性。虽ChatGPT在QA、总结等领域表现令人震惊，但实际上还是推理而不是认知，包括生成图片其实本质上也是生成文本，但是在生成视频上AI推理难度很大，因为视频的每帧都是大量图片，需要非常强大的AI基础设施去支撑。形象地说，大模型训练就像炼丹，AI基础设施越好火力越旺，但是一开始都不知道大模型到底有没有用，有一定的运气的成分在里面。

第三，大模型后来者的追赶难度并没有大家想象那么大，中国大模型追赶海外也会比较快。OpenAI本身并不是技术绝对领先于其他科技巨头，核心在于专注于TransForemer往通用人工智能方向发展，而微软、谷歌、Meta都有很多赚钱的业务不太重视大模型。入群学习关注公众号有道调研OpenAI做出来之后大公司发现AI有前途，自己资源更好肯定会加紧追赶。硅谷专家预测6个月到1年以后，全球大厂大模型水平基本看齐。中国大模型追赶海外也会比较快，中国本身是一个很好的市场，现在大模型所有的技术大家都了解，无非就是资源的集中堆

积。OpenAI做这么好都“委身”给微软，本身就是因为

训练太花钱。

第四，海外AI巨头算力储备A100芯片基本在50万片以上的量级，英伟达在把算力资源向云服务方向发展，同时也在布局自身大模型。目前海外巨头平均A100量级估计在

50万片以上，H100可能每家一两百张，六七月份才能大规模上线。英伟达的实际优势是软硬件结合，它的硬件上面有一层框架tensorRT，英伟达有几百人的工程设计团队做框架，比如pytorch必须有TensorRT才能跑，这个中间层软件一般硬件公司写不了。英伟达不止做硬件，做

TensorRT还要做下层的基础设施，未来英伟达有望形成

一个云品牌，同时自己也在布局大模型，可能会对整个AI生态造成极