8、DeepMind、OpenAI等联合发文 评估AI模型风险
日本通讯大臣松本刚明（Takeaki Matsumoto）称，G7政府官员将于5月30日举行首次AI工作级别会议，讨论知识产权保护、虚假信息以及AI技术应如何管理等问题。G7人工智能工作组将征求经济合作与发展组织的意见。据大皖新闻昨日报道， 今年4月，安庆经开区发生一起“冒充熟人”诈骗案，经开公安分局反诈中心民警调查发现诈骗分子使用了一段9秒钟的智能AI换脸视频佯装“熟人”，让受害人放松警惕，以一个项目招标需要周转资金为由，骗取何先生245万元转账。安庆经开公安分局在掌握大量线索后，专案民警连夜赶赴外省市，于4月28日下午一举抓获李某某等3名犯罪嫌疑人，扣押涉案手机26部，冻结、追回电诈资金一百余万元。5月22日，民警将先行追回的132万元被骗款返还给何先生。该案件正在进一步侦办中。在发布超预期财报后，英伟达实现了历史上最大的市值跃升之一，于当地时间周四股价大涨24%，总市值达到9390亿美元，涨幅达1840亿美元，接近去年苹果、亚马逊的最大单日涨幅。彭博汇编的数据显示，周四英伟达股票交易额约为590亿美元，超过标普500指数中交易量排在其后的四只股票特斯拉、微软、AMD、苹果的总和。昨日，医联正式发布了自主研发的基于Transformer架构的国内首款医疗大语言模型——MedGPT。与通用型的大语言模型产品不同，MedGPT致⼒于在真实医疗场景中发挥实际诊疗价值，通过多模态应用的打通，实现从疾病预防、诊断、治疗、康复的全流程智能化诊疗能力。基于Transformer架构，MedGPT可以整合多种医学检验检测模态能力，首次实现线上问诊到医学检查的⽆缝衔接。在问诊环节结束之后，MedGPT会给患者开具必要的医学检查项目以进一步明确病情，患者则可以通过医联云检验等多模态能力进行检查。基于有效问诊以及医学检查数据，MedGPT得以进行准确的疾病诊断，并为患者设计疾病治疗方案。患者可以通过医联互联网医院实现送药到家，MedGPT会在患者收到药品后主动为患者进行用药指导与管理、智能随访复诊、康复指导等智能化疾病诊疗动作。昨日，武汉大学官方公众号发文，宣布武大版ChatGPT大模型开启内测招募，内测账号仅限武汉大学在校师生，总计招募名额1000名，每位内测用户每天提问上限为100次。内测用户将通过摇号产生。武大版ChatGPT名叫CheeseChat（谐音“知识”），可以提供日常咨询、词条介绍、智能翻译、生活Tips、学业帮助、灵感协助等服务。CheeseChat基于国家网络安全学院数据智能实验室李晨亮老师团队的Cheese预训练语言大模型，以中文Alpaca-7B基础模型为底座（70亿参数），累计进行了80G文本数据上的Token预测训练，涵盖百度百科、武汉大学相关语料信息、社交媒体语料，在一百万条指令数据集上进行了全量参数的指令微调。在昨晚开幕的中关村论坛2023上，百度创始人李彦宏以《大模型改变世界》为题发表主题演讲。他谈到大模型重新定义人工智能的方式包括三点：第一，大模型重新定义了人机交互；第二，大模型会重新定义营销和客服；第三，大模型会催生AI原生应用。“业界有一种说法，大模型时代来了，每一个产品都值得重做一遍。但谁真正重新做了一遍呢？”李彦宏说，“百度要做第一个把全部产品重做一遍的公司，不是整合，不是接入，是重做，重构！”他谈道，未来，所有的应用都将基于大模型来开发，每一个行业都应该有属于自己的大模型，大模型会深度融合到实体经济当中去。云计算的游戏规则彻底被改变，客户选择云厂商，主要会看它的模型好不好，框架好不好，而不是算力、存储这些传统能力。2023中关村论坛昨晚开幕，在今天举行的“人工智能开放生态建设”平行论坛上，旷视合伙人兼总裁付英波发表了主旨演讲。他谈道，大模型是确定性方向，以语言、视觉、机械控制为核心的多模态大模型，将是AI走向通用化的必经之路。旷视将积极拥抱大模型，一直坚定地在投入和积累。付英波说，随着大模型的兴起，人工智能的发展和应用未来将呈现两大方向：一是以AIGC为代表的“AI in Digital”，二是以“智能机器人”为代表的“AI in Physical”。旷视将聚焦于“AI in Physical”，通过构建不同形态的智能机器人载体，对物理世界进行改造。他认为，AI技术只有与硬件载体结合，形成软硬一体化的产品，并融入到工业、制造、物流等实体产业体系中，才能最大限度地释放AI的价值。8、DeepMind、OpenAI等联合发文 评估AI模型风险今日，Google DeepMind联合OpenAI、Anthropic等企业，剑桥大学、牛津大学等高校，以及Alignment Research Center等机构，在预印本网站arXiv上发表了题为“Model evaluation for extreme risks”的论文，提出了一个针对新型威胁评估通用模型的框架，并解释了为何模型评估对应对极端风险至关重要。AI开发者将使用模型评估来揭开： （1）一个模型在多大程度上具有可能威胁安全、施加影响或逃避监督的某些“危险的能力”。（2）模型在多大程度上容易使用其能力来造成伤害（即模型的对齐方式）。对齐评估应确认模型即使在非常广泛的场景中也能按预期运行，并且在可能的情况下应检查模型的内部工作原理。这些评估的结果将帮助AI开发者了解是否存在足以导致极端风险的因素。论文地址：
https://arxiv.org/abs/2305.15324
OpenAI今日发表博客文章，宣布正在启动一项促进流程创新的赠款计划，将奖励10笔10万美元的赠款，以资助通过建立一个民主流程来管理AI行为的实验。在启动赠款计划之前，OpenAI还呼吁成立一个类似于管理核能的AI国际监管机构。OpenAI称，它正在寻求资助个人、团队和组织为“民主流程”制定概念验证，该流程可以回答有关AI护栏的问题。OpenAI希望通过这些初步实验探索与决策相关的问题，并建立新的民主工具，为未来的决策提供更直接的信息。该赠款即日起可申请，截止时间是太平洋标准时间 6月24日21点。申请结束后，OpenAI将选择十个成功的赠款接受者，获得赠款的可以是个人、团队或组织。
OpenAI的iOS版ChatGPT应用程序已在12个国家可用。除了美国外，新增的11个国家分别是美国、阿尔巴尼亚、克罗地亚、法国、德国、爱尔兰、牙买加、韩国、新西兰、尼加拉瓜、尼日利亚和英国。OpenAI表示很快将在更多地区上线。谷歌开始向注册Search Labs的用户推出AI大模型驱动的搜索生成体验（SGE）。搜索不会只显示10个蓝色链接，而是会生成由AI驱动的信息和其他见解/提示的“快照”，并提供一些进一步阅读的链接。当缺乏信息或谷歌对其响应信心不足时，SGE不会提供人工智能快照。申请地址：
https://labs.google.com/search/login外媒获得的一份共12页的亚马逊详细内部销售指南《生成式AI销售手册》，揭示了亚马逊激励客户在其产品、内容和客户体验中利用生成式AI技术的策略，侧重于吸引希望构建自己的生成式AI服务的公司，并鼓励亚马逊销售人员将AWS定位为比竞争对手更老练的供应商。亚马逊正在利用其在机器学习和一系列相关云产品方面的积累，作为接触对这项新技术感兴趣的商业客户的主要卖点。迄今为止，亚马逊对AI采取了中立的态度，避免与某个特定的初创公司绑定或推出自己的消费者应用。根据彭博社看到的截图，Tiktok正在测试一款名叫TAKO的AI聊天机器人。它能与用户进行对话，并能帮助他们发现新创作内容。该聊天机器人以一个幽灵形状的小图标突出显示在应用程序界面的右上角。用户在观看视频时，可以点击它进行提问。Tako可以根据用户的兴趣和喜好提供内容推荐。使用ExpertPrompting构建的开源聊天机器人ExpertLLaMA，通过在普通指令中添加专家身份描述，产生高质量、详细的专家级回答，其能力达到ChatGPT的96%。该项目提供了方法简介、由GPT-3.5生成的52000个专家数据集样本、由GPT-3.5直接提示生成的52000个基线数据集样本、52000个对应每个具体指令的专家身份描述、基于专家数据集训练的ExpertLLaMA检查点，以及与Vicuna、LLaMA-GPT4等现有模型进行比较的评估结果。GitHub地址：
https://github.com/OFA-Sys/ExpertLLaMA据外媒报道，阿布扎比先进技术研究委员会（ATRC）周四表示，阿布扎比酋长国正在研发一个大型人工智能模型Falcon 40B。该模型拥有400亿个参数，用了1万亿个tokens进行训练，可用于研究和商业用途的开源。欧洲最大媒体集团德国贝塔斯曼的首席执行官Thomas Rabe在接受英国《金融时报》采访时说，AI对创意产业来说更多的是机会而不是威胁。他非常欣赏ChatGPT，这款令人印象深刻的AI软件已经在提升他作为首席执行官的工作。他谈道，AI生成的各类书籍和文章的激增，将提升人们对受人尊敬的来源的作品的价值认同。他甚至认为，作家可以通过把他们过去的作品作为软件输入，生成新的内容。他也提到利用知名作者或艺术家的作品作为软件的输入以产生新内容“可能构成侵权”，该公司的法律专家正在对此进行审查。17、摩根大通开发类ChatGPT服务 提供投资建议CNBC获悉，摩根大通正在开发一种类似ChatGPT的软件服务，依靠颠覆性的AI形式为客户选择投资。根据这家总部位于纽约的银行的一份文件，该公司本月早些时候申请了一款名为IndexGPT的产品的商标。备案文件称，IndexGPT将利用“使用AI的云计算软件”来“分析和选择适合客户需求的证券”。加拿大隐私监管机构正在对ChatGPT母公司OpenAI的数据收集和使用情况展开联合调查。加拿大隐私专员办公室周四表示，联邦隐私监管机构以及魁北克省、不列颠哥伦比亚省和阿尔伯塔省的同行将调查OpenAI是否已获得通过ChatGPT收集、使用和披露居民个人信息的同意。加拿大的调查还将调查该公司是否尊重“其在公开性和透明度、访问权、准确性和问责制方面的义务”。OpenAI CEO萨姆·阿尔特曼（Sam Altman）今日发推文称：“欧洲关于如何最好地监管AI的对话非常富有成效！我们很高兴能继续在这里运营，当然也没有离开的计划。”过去一周，阿尔特曼在欧洲与法国、西班牙、波兰、德国和英国的政要会面，讨论AI的未来。本周三，他曾在伦敦的一次活动中表示，如果遵守欧盟即将出台的AI法规变得困难，OpenAI可能会考虑离开欧洲。美国芯片设计大厂Marvell（美满电子）预计今年来自AI的收入将飙升。Marvell在周四的一份声明中称，AI已成为Marvell的主要增长动力，本财年其AI相关产品的销售额将至少翻一番，并在未来几年继续快速增长。第一季度调整后的收益也略高于分析师的预期。其股价周四收盘上涨7.6% 至49.47美元，今年迄今已上涨33.6%。本周三发表于国际顶级学术期刊Nature上的一项新研究显示，一位瘫痪者采用大脑-脊柱接口技术，能够学会了正常、自然地走路。瑞士研究人员采用AI思维解码器来捕捉这位瘫痪者的脑内活动，并通过向瘫痪者的大脑中植入特定电极，在大脑与脊柱之间搭建起一个“数字桥梁”，用另一种算法将大脑植入物连接到脊柱植入物，使得瘫痪者逐渐适应了站立、行走等基本动作。论文地址：
https://www.nature.com/articles/s41586-023-06094-5d
（本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容，未经账号授权，禁止随意转载。）
