大阳城娱乐

大阳城娱乐

大阳城app注册下载(SuncityGroup) “Token”有了华文名“词元”,那么Token(词元)到底是什么

发布日期:2026-05-22 07:45 来源:未知 作者:admin 浏览次数:

大阳城app注册下载(SuncityGroup) “Token”有了华文名“词元”,那么Token(词元)到底是什么

在不久前举行的中国发展高层论坛年会上,国度数据局局长刘烈宏给一个东谈主工智能领域的中枢见地Token赋予了华文名——词元。那么,Token(词元)到底是什么?东谈主工智能和数据产业的畴昔会若何?请听中国工程院院士王坚在央视财经频谈“中国经济大讲堂”上的解读。

中国工程院院士王坚。(贵寓图片)

『大模子处理文本的最小单元』

东谈主类发展的速率相等快,之前是信息时期,很快又投入了AI时期。但是,在很万古期里,咱们并莫得把信息和数据进行很好的诀别。咱们往日讲的比特、字节齐是信息的计量单元,在很万古期里咱们也用这些计量单元来野心数据。而Token(词元)这一见地的出现,使数据有了明确的计量单元。这是把数据和信息诀别开来的一个相等进犯的分水岭。

Token(词元)是大模子意会、处理、生成信息的最小单元。打个比喻,在往日的信息领域,一般情况下咱们是用两个字节抒发一个汉字,是以,淌若要抒发“我心爱你”,加起来便是8个字节。而在AI模子中,如何把“我心爱你”这4个字拆成最小的数据单元呢?按照咱们的意会,“我”是一个最小的单元,“心爱”是一个最小的单元,“你”是一个最小的单元。但是从Token的角度来看并不是这样,“我心爱”可能是一个最小的单元,那么“我心爱你”就变成了两个Token。在许多场景中,它跟咱们平时的训戒是不一致的。是以,Token(词元)是以它我方的方式组合、供模子处理信息的最小基础单元,它更像是一个“词块”,不错是一个完好的词、一个常见短语,以至是一个标点标记或荒谬字符。

同期,Token(词元)亦然AI领域的计量单元。用泛泛的话来说,Token(词元)这个见地像咱们平时讲的斤、两之类的计量单元。而且,就像生涯中一斤肉比一斤青菜贵雷同,不同的Token(词元)也有不同的价值。淌若一种Token(词元)背后消耗的资源比较多、生成比较复杂,那么它自身就比较有价值,可能这种Token(词元)就会贵一些。是以,Token(词元)不可粗浅地等同于货币,它是数据的通用计量单元。

Token(词元)在东谈主工智能领域被环球所意志,是因为2017年发表的一篇著作《你所需要的仅仅珍惜力》。这篇著作由谷歌的8位科学家创作,其中提议的Transformer架组成为东谈主工智能模子的基石,同期也提议了Token(词元)这个见地。Token(词元)的出现,意味着数据有了我方的“东谈主格”,数据有了我方零丁的身份。也便是说,任何数据淌若莫得Token(词元)的身份,就进不了东谈主工智能模子。

咱们平时使用的平常的数据,也称为原始数据。东谈主工智能模子使用原始数据之前,开头必须把通盘的数据Token(词元)化。咱们不错把模子意会成一个“翰墨翻译器”,但它并不像东谈主类那样获胜意会句子或段落,它必须先将输入的翰墨切分红一个个小块,然后给每个小块分派一个唯一的数字ID,再把这些数字交给神经采集进行野心。这些被切分出来的“小块”,便是Token(词元)。它既不是英文里的单词,也不是华文里的字,它是以它我方的方式组合的最小单元。

东谈主工智能模子的滥觞逻辑,便是找到不同Token(词元)之间的关系。试想一下,要磨真金不怕火一个大说话模子,可能要用上亿个Token(词元),是以就要找准它们之间的关系,何况很好地在模子中抒发出来。当大模子与某个诈欺聚合时,比如你向大模子发问,它就会在算力“算”完后输出相应的Token(词元)算作谜底。

总之,Token(词元)是大模子处理文本的最小单元,它概述反应了数据的价值以及模子的锐利、算力的些许,是以,Token(词元)是AI系统滥觞的中枢。

(视觉中国供图)

『绮丽着数据身分商场的开启』

在东谈主工智能大模子领域,Token(词元)是掂量算力与资本的计量单元,因此它具有可计量、可订价、可来往的特征。

在Token(词元)出现之前,数据的价值很难界定。但跟着东谈主工智能的发展,原始数据变成了Token(词元),Token(词元)通过大模子以一定的方式进行通顺,并向那些诈欺东谈主工智能的消费者收取一定的用度。不错说,Token(词元)使数据自身完成了丽都转型。

淌若莫得基本的计量单元,是不可能变成一个新兴产业的。打个比喻,你跑到菜商场去买菜,淌若莫得计量单元,称不出几斤几两,这个菜商场就不设置。卖鱼的、卖肉的、卖鸡鸭的齐莫得长入的计量单元,那是难以变成一定的经济边界的。这亦然往日数据身分商场一直莫得开导起来的主要原因。

因此,Token(词元)的出现,事实上绮丽着数据身分商场的开启。这是一件具有久了道理的事情。咱们知谈,一个东西在商场上通顺时,它会经过许多东谈主的手,每次过手的时候,它齐要作念一次结算。有了Token(词元)这样一个可计量、可计价的单元,就意味着通盘的数据在通顺经由中不错自动结算,这将使产业链的资本大大裁减,通顺速率大大加速,并成为东谈主工智能产业贸易化的进犯旅途。将来,当一个企业为另一个企业坐蓐Token(词元)时,它们在采集上不错松驰完成来往,因此,数据身分商场将比其他身分商场愈加高效。

莫得任何一家企业是不错不和坐蓐身分商场打交谈的。是以,咱们一定要把Token(词元)放到数据身分商场的布景下,而不是粗浅地放到东谈主工智能的布景下去意会。

我认为,新的数据身分商场的出现,对翻新式企业、中小企业、初创企业可能会愈加友好。因为,大多数传统企业会更多享受传统身分商场的克己,而对新的数据身分商场可能会有一定的惰性。是以,这是企业翻新发展的一个最佳的时机。

从数据身分商场的角度来说,它还将有意于数据和算力的全球通顺。比如,你今天拿入部下手机到南好意思一个所在诈欺了AI,这就意味着Token(词元)从中国到了南好意思。淌若一个南好意思的开导者用中国的模子开导了诈欺,并向南好意思消费者提供办事的话,当然而然Token(词元)就通顺到了南好意思。是以,当东谈主工智能平台办事全球的时候,Token(词元)就变成了一种结算方式。

此前,许多东谈主对东谈主工智能的关心大多停留在大模子的时间竞速上,而Token(词元)的价值显现正在把一场深层的产业变革带到通盘东谈主的眼前,它不仅反应在时间层面,更将重构通盘这个词行业、通盘这个词产业的资本结构、贸易模式和调解方式,继而全面影响东谈主们的生涯。

『“小龙虾”片刻爆火的背后』

2026年1月底,一款名为Open Claw(昵称“小龙虾”)的开源AI智能体片刻爆火,从时间圈马上席卷全网,开启了全民“养虾”时期。这款以卡通小龙虾为Logo的智能体,澈底冲破了传统AI只会聊天、不会干活的局限,凭借感知、有规画、实施的闭环才气和24小时自主滥觞,成为大要继承领导、调用用具、读写文献、实施剧本的全功能数字助手。

但是,着实用过“小龙虾”的开导者和用户齐知谈一个痛点:Token(词元)消耗太猛了。一个看似粗浅的查询,大阳城app注册下载就能消耗几十万Token(词元),从而让消费者收到超出瞎想的高额账单。

其实,在往日几年,东谈主工智能的背后如故有Token(词元)的见地了。东谈主们使用豆包或千问时,你问一句,它答一句,Token(词元)的消费量没那么大,也便是说算力的消费量没那么大,是以公众不错免费使用豆包或千问。

但是,像“小龙虾”之类的诈欺,意味着东谈主工智能发展到了一定水平,它对数据的需求大大增多。为什么此次“小龙虾”的出现会引爆Token(词元)这个见地呢?因为“小龙虾”的Token(词元)消耗不是按需触发,而是捏续产生的,是以其消费的Token(词元)量大大超出了原来那些东谈主工智能的诈欺,从而导致使用者需要为消耗的巨量Token(词元)支付账单。“小龙虾”在实质上与其他的东谈主工智能诈欺比拟,由于Token(词元)调用量超过大,才使这个问题暴表露来。

忘我有偶,2026年3月25日,好意思国东谈主工智能公司OpenAI晓喻休止旗下AI视频生成模子Sora通盘的办事与运营。事实上,自2024年2月初次亮相以来,Sora在约25个月的运营时期里,诈欺才略的总收入仅约210万好意思元。而据福布斯测算,Sora相貌年化运营资本高达50多亿好意思元。逐日数亿级的Token(词元)消耗,让即使取得了大齐投资的OpenAI仍感不胜重任,只可忍痛将其关停。像Sora这样的事件,恰是因为生成视频需要消费比环球瞎想多得多的Token(词元),终局,消费那么多Token(词元)生成的视频的价值还抵不外Token(词元)自身的价值,是以贸易逻辑无法设置。

AI大模子出现以后,环球一直有这样一个困惑的问题:到底用什么方式、什么范例来使用东谈主工智能模子呢?这在往日是一个问题。而“小龙虾”的出现,诠释东谈主工智能有它我方荒谬的诈欺方式。比如,“小龙虾”把往日App的见地颠覆了,使用东谈主工智能诈欺不需要再去装一个个App。一个“小龙虾”履行上作念了往日十几个、二十几个App作念的事情。不错说,“小龙虾”的形态和构建方式与东谈主工智能是相匹配的。

跟着“小龙虾”从小众用具成为行家诈欺,国度互联网救急中心与中国采集空间安全协会于2026年3月发布了《Open Claw安全使用实践指南》,面向平常用户、企业用户、云办事商以实时间开导者等提议安全督察建议,为这一新兴生态系上“安全带”。

『Token爆发式增长意味着什么』

国度数据局局长刘烈宏在本年3月24日国务院新闻办举行的新闻发布会上公布了一组令东谈主战栗的数据:2024岁首,中国日均Token(词元)调用量为1000亿,至2025年底该数据跃升至100万亿,到本年3月如故突破140万亿。两年间,增长开头1000倍。

Token(词元)的爆发式增长意味着什么?

开头,意味着东谈主工智能诈欺自身发生了质的变化。

在软件时期,一个软件有些许行代码,基本上代表了这个软件的复杂度,也便是它的价值。今天,当咱们用AI模子的时候,Token(词元)就会产生通顺,这个通顺既自大出原来磨真金不怕火模子时所消耗的算力,同期也自大出其自身滥觞需要消耗的算力。是以,Token(词元)的消费量激增,代表东谈主工智能诈欺发展到了一个新的水平。

拿电来打比喻。早期的时候,家里唯唯一个电灯,只用少量点电,自后有了雪柜、洗衣机、空调,用电量大增,这代表了生流水平的提高,也诠释电对社会生涯和经济的影响。Token(词元)的爆发式增长亦然雷同,这是一个相等可喜的强大变化。是以说,Token(词元)的消耗量是东谈主工智能时期的标尺。

其次,意味着东谈主工智能在中国的发展到了一个相等进犯的拐点。在国内,开导、使用东谈主工智能的东谈主越来越多,每个东谈主使用的量也越来越多。日均Token(词元)调用量的大齐增多,充分标明中国的东谈主工智能发展如故投入了快速增长的阶段。从能对话的说话大模子到能有规画实施的智能体,跟着诈欺场景的不竭深化,中国东谈主工智能产业的竞争力也显赫增强。

另外,需要指出的是,Token(词元)的爆发式增长是需要矍铄的物资基础来支捏的,因此,单个Token(词元)的资本一定要裁减。环球遐想一下,淌若用电资本不降到填塞低的话,老庶民是不可能深广使用空调的。而单元Token(词元)资本的裁减,除了进一步提高东谈主工智能时间、算力时间外,还需要不竭纠正东谈主工智能模子的诈欺。这就像早年咱们用白炽灯,大部分的电齐被热量消耗掉了,是以目下咱们深广使用节能灯。我肯定畴昔的东谈主工智能诈欺也会不竭纠正,尽量箝制Token(词元)的消费量,这是一个不竭迭代、不竭发展的经由。

『一种新经济模式可能会出现』

在信息时期,软件在很长一段时期里不知谈若何才能挣钱。在微软公司出现之前,软件仅仅硬件的附属,是以软件产业一直莫得发展起来,直到微软公司成为第一家挣钱的软件企业。是以今天,咱们不可用静态的方式来看待东谈主工智能,因为这是一个变革性的产业,就像当年软件产业片刻降生并马上发展那样,可能东谈主工智能产业的发展也会出现这样的局面。

我认为,东谈主工智能的变革将远远超出之前通盘时间带来的变革,这可能是自东谈主类发明电以来最大的一次变革。环球想一下,自从发明电以后,产生了些许产业,产生了些许不同的工业门类,东谈主工智能也会有那么大的能量。

滔博体育TBO(中国)官网

以“小龙虾”为例,它实质上使咱们的职责方式发生了一次很大的篡改。以前咱们时常讲,要提高职责效果或者篡改职责方式,而以“小龙虾”为代表的智能体的出现,以至篡改了职责自身,真的每一项职责齐会濒临大的变化。

这里需要强调的是,“智能体”这个词的翻译不太准确,其实它底本的真谛是“代理”,翻译成“智能代理”应该更得当。从这个角度来看,将来会出现各式种种不同的“智能代理”,比如“旅行代理”“看病代理”等,不错匡助咱们贬责生涯中方方面面的问题。

遐想一下,咱们的职责有些许单干,将来就会出现些许不同方式的职责代理。“小龙虾”仅仅其中的一种代理云尔。但是挑升念念的是,“小龙虾”完成的一部单干作是以前莫得东谈主作念过的。淌若你用过“小龙虾”就会发现,以前莫得东谈主会把我方通盘硬盘上的东西齐看一遍,把我方几十年的相片齐看一遍,但“小龙虾”不错作念到,只须它以为这件事跟职责是关络续的。是以我认为,将来“智能代理”会完成一些莫得东谈主作念过的职责。这样的话,一种新的经济模式可能会出现。

一言以蔽之,Token(词元)在东谈主工智能时期是一个相等要津的见地大阳城app注册下载(SuncityGroup),它与时间、贸易、诈欺以及产业发展齐息息关系。但愿环球大要了解Token(词元),用好咱们手里相等宝贵的资源——数据资源。