人工智能技术发展与应用探索VIP专享

人工智能技术发展与应用探索王磊中国科学院自动化研究所研究员中科闻歌董事长北京·2025年2月01人工智能技术发展02Deepseek认知与影响03AI+金融实践案例04创业介绍—中科闻歌目录01人工智能技术发展弱人工智能→强人工智能预训练、自监督发展和应用迭代加速计算机视觉语音、语义分析智能控制机器人博弈对抗AlphaGOAi化学家AlphaFold机器学习“如何用机器模拟人的智能”达特茅斯会议ChatGPT揭开通用人工智能序幕1960201020241956-19702010-20201970-20102021-2035效果突破,统一初显通识理解,智能涌现攻城掠地,定点突破学科开拓,探索智能会学习会行动会说会看会听通顺通畅的人机交互意图识别及逻辑推理大模型优势特点与不足优势3、模型原理导致幻觉或常识性错误4、大模型安全,可能包含仇恨、有害或危险内容1、静态模型不产生知识2、不能理解领域的复杂问题全领域通识知识体系覆盖多种自然语言场景通用通顺自然语言生成通用通畅通识不足ChatGPT不是基础科学突破,是工程积累奇迹人机协同群体智慧(人力密集工程)大模型技术大集成(智力密集工程)大数据加大算力(算力密集工程)大模型:智力密集型工程ChatGPT学习方法:先量后质的分阶段学习•Word2vec•Transformer架构•预训练语言模型•数据增强技术•去噪扩散模型苹果是一种可以吃的东西苹果是营养水果,素有水果之王的美誉…ChatGPT:智力密集型工程生成人类偏好的创意回答基于人类反馈的强化学习•递归神经网络•卷积神经网络•自编码器•变分自编码器•自回归模型人类教导鹦鹉该怎么说话优质对话范例监督学习请问如何撬锁偷邻居东西?撬锁是违法的,不建议这样做。矫正ChatGPT阶段一:泛学(学习多样文本)阶段二:矫正(遵循人类指示)阶段三:拟人(符合人类偏好)•对抗生成网络•强化学习无法产生创新性回答用对话模板矫正ChatGPT让鹦鹉听收音机各种节目学说话ChatGPT呵呵理解指令要求拥有海量知识回答不受约束对话模板有限ChatGPT编程语言100+语种文本无监督学习回答的好回答的差奖励惩罚什么是苹果?新闻娱乐科技文献网站问答人文社科掌握海量知识-5-13自由发挥提问ChatGPT:OpenAI在拉丁美洲和东欧等地区招募了约1000名远程外包员工进行数据标注阶段三:拟人(符合人类偏好)强化学习大模型:人机协同群体智慧ChatGPT:人力密集型工程人工整理多来源海量优质数据集ChatGPT阶段二:矫正(遵循人类指示)阶段一:泛学(学习多样文本)人工撰写大量对话模板人工标注答案得分无监督学习监督学习GPT3.5大模型:大数据与大算力2022年GPU卡销售微软Azure计算平台支持2022年一年计算和数据费用支出为4亿美元140万美元/次约3万片英伟达A100GPU同时计算用电量60万kwh/天,电费5万美元/天(26万中国人一天的用电量)4千台服务器,共8亿美元参数规模提升100倍数据规模提升1000倍1750亿参数45TB数据8000亿个单词的语料库英伟达发布ChatGPT专用核弹级GPUDGXH100ChatGPT:算力密集型工程约5万张价值约40亿美元15亿参数40GB数据1.2亿参数5GB数据ChatGPTGPT4GPT1GPT2训练成本推理成本大语言模型应用迭代路径感知认知智能大语言模型多模态大模型执行智能决策智能人工智能代理(Agent)大模型+插件+执行+思维链控制/决策大模型误解体现大模型工具化l局限于聊天、写作类常规文案应用;与核心业务脱节lAI+,就是部署大模型和微调大模型大模型神化l大模型黑箱化,直接端对端解决重大应用问题l一个大模型包打天下,无所不能大模型应用两大误区STEP1数据工程高质量领域数据治理STEP3领域工程指令微调、回馈学习、应用研发STEP2模型工程继续预训练、多模型适配AI+行业落地三步曲分析挑战需求特征本质技术支撑信息庞杂、动态化快线索数据海量跨模态信息检索深度认知分析难深精细数据窄域专用智能本源规律趋势预测难活未来数据通用人工智能大模型应用到行业领域关键挑战:静态模型与动态数据的不匹配抓手与支撑:打造领域大模型l积累通域+领域数据、模型规模适中、从头训练l前瞻性定义领域大模型与业务系统标准接口,多型共进,形成MoE(混合专家模型)生态,严格把好内容安全关,连续测试14应用0-1创新:新业务、新功能,面上谋划l新型研判范式、l...

1、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。
3、如文档内容存在违规,或者侵犯商业秘密、侵犯著作权等,请点击“违规举报”。

碎片内容

碳中和
已认证
内容提供者

碳中和

确认删除?
回到顶部
微信客服
  • 管理员微信
QQ客服
  • QQ客服点击这里给我发消息
客服邮箱