2月23日新闻,随着人为智能谈天工具ChatGPT持续火爆,诸如谷歌和微软等提供搜索业务的公司已经起头在搜索界面中整合人为智能谈天机械人职能。但对于这些科技巨头来说,这种谈天机械人风格的搜索引擎会让运营成本增长10倍,带来高达几十亿美元的支出。
整个科技行业的高管们都在会商运营像ChatGPT这种人为智能的高昂用度。OpenAI公司首席执行官萨姆·奥特曼(Sam Altman)曾在推特上说,ChatGPT每次和用户对话的推算成本高达几美分或更多,“让人难以忍受”。
谷歌母公司Alphabet董事长约翰·汉尼斯(John Hennessy)在接受采访时暗示,只管微调有助于迅快降低成本,但“与大型说话模型等人为智能互换信息的成本可能是实现尺度关键字搜索职能的10倍以上”。
2022年Alphabet净利润靠近600亿美元。分析师们暗示,即便基于谈天机械人的搜索业务有告白收入,这项技术也可能对Alphabet的利润产生不利影响,并带来几十亿美元的额表成本。
投行摩根士丹利估计,谷歌去年3.3万亿次搜索查问的成本约为每条0.55美分,凭据人为智能要天生的文本量,这个数字只会多不会少。分析师预计,若是“类似ChatGPT的人为智能谈天机械人可能用50个字的答案处置只有当今搜索一半的查问量”,那么到2024年,谷歌每年成本就要增长60亿美元。
其他分析师也有类似见解。专一于芯片技术的钻研和征询公司SemiAnalysis暗示,思考到谷歌新推出的张量处置单元(Tensor Processing Units)以及其他优化措施,在搜索中增长ChatGPT风格的人为智能可能会让Alphabet多花30亿美元。
这种人为智能比传统搜索引擎更昂贵的原因是所涉及的推算能力更高。分析人士暗示,这种人为智能依赖于造价几十亿美元的芯片,相应成本必要分摊到几年的使用寿射中。所亏损的电力同样会增长企业运营成本和碳排放指标方面的压力。
处置人为智能搜索查问的过程被称为“推理”,每次搜索时启动仿照人脑的巨大神经网络,天生一堆文本,可能还会查问大型搜索索引信息来获取事实信息。
Alphabet的汉尼斯暗示,“你必须降低推理成本,”他称“最坏情况下必要几年功夫”。
只管运营用度高昂,Alphabet仍必要思考若何应对来自其他科技公司的挑战。本月早些时辰,竞争敌手微软展示了若何将人为智能谈天机械人嵌入必应搜索引擎的打算。据Similarweb估计,微软高管们对准的是谷歌高达91%的搜索市场份额。
微软首席财政官阿米·胡德(Amy Hood)通知分析师,随着改进后的必应上线,用户数量增长和告白收入带来的益处已经超过了成本。胡德暗示,“对我们来说,即便以我们在会商的服务成本推算,毛利率也是增长的。”
谷歌另一个竞争敌手、搜索引擎You.com首席执行官理查德·索切尔(Richard Socher)暗示,增长人为智能谈天履历以及图表、视频和其他天生技术利用法式将增长30%到50%的运营用度。但他说,“随着功夫的推移,技术会变得越来越便宜。”
一位靠近谷歌的新闻人士提醒说,此刻确定谈天机械人的具体成本还为时过早,由于运行效能和使用情况会由于所涉及的技术有很大差距,并且搜索产品早就用人为智能提供技术支持。
埃森哲首席技术官保罗·多尔蒂(Paul Daugherty)说,只管如此,占有几十亿用户的搜索巨头之所以没有当即推出人为智能谈天机械人,思考成本是两个重要原因之一。
他说:“一是正确性,二是你必须以正确的方式扩大规模。”
多年来,Alphabet和其他公司的钻研人员一向在钻研若何以更低成本训练和运行大型说话模型。
更大模型通常必要更多的芯片进行推理,因而运行成本更高。能让消费者趋之若鹜的人为智能背后模型规模相当重大,好比说ChatGPT背后的模型就有1750亿个参数,每次运行的成本也会随用户查问的长度而不休变动。
一位资深科技高管暗示,要让几百万消费者使用这种人为智能,目前成本依然过高。这位不愿泄漏姓名的高管暗示:“这些模型极度昂贵,因而下一阶段的进取将降低训练这些模型和推理的成本,这样就能够在每个利用法式中使用它。”
一位知恋人士说,目前OpenAI的推算机科学家已经想出若何通过复杂代码来优化推理成本,从而提高芯片运行效能。
一个持久存在的问题是,若何在不影响正确性的情况下,将人为智能模型中的参数量削减10倍甚至100倍。
“若何最有效地剔除(参数),依然是一个悬而未决的问题,”曾掌管英特尔人为智能芯片项主张纳文·拉奥(Naveen Rao)说。
与此同时,一些公司思考付费使用人为智能搜索,好比OpenAI的升级版ChatGPT服务每月收取20美元的订阅用度。技术专家还暗示,一种变通步骤是将更幼的人为智能模型利用于更单一的工作,Alphabet在索求这一步骤。
Alphabet本月暗示,“较幼版”的LaMDA人为智能模型将为谈天机械人巴德提供动力,“所需的推算能力大大降低,使我们可能扩大到更多用户。”
在上周一次会议上,当被问及ChatGPT和巴德等谈天机械人时,汉尼斯暗示,更有针对性的模型而不是无所不能的系统才有助于“降低成本”。(辰辰)









浙公网安备33059102000194号