ESSAY 19 / 代码之外
ai层底逻辑
最近闲来无事看到了一个博主写的《AI是怎么回事》
把ai层底到底是如何运作的讲得挺容易懂的,有兴趣的可以看看,网址:https://wmyskxz.cn/wiki/whats_ai/
输入一句话后,大模型内部到底发生了什么?
AI 本质上可以理解成: 它会根据你前面输入的内容,一点一点去预测下一个最可能出现的字、词或句子。
在这个过程中,文字不会直接按“字面意思”让计算机处理,而是会先被转换成一组数字。 这组数字不是简单编号,而更像是文字在计算机里的“数学表示”。 意思相近的词,它们对应的数字表示通常也会比较接近。
模型会结合这些数字表示,再根据上下文去判断: 下一步最有可能出现什么内容。 所以它看起来就像是在和人对话、回答问题、写文章,其实底层是在不断做“预测下一个内容”的计算。
大模型并不是把大量文本都先算成向量存起来,等你提问时再直接拿来匹配。
大模型在训练阶段,会读取海量文本,并通过反复训练,把语言规律、词和词之间的关系、句子的组织方式等,慢慢“压缩”到模型内部的大量参数里。
我们平时说一个模型有多少参数,指的就是这个模型内部有多少个可调节的数字。 这些参数不是“存好的原文”或者“现成句子库”,而更像是模型通过大量学习后积累下来的经验。
其实 AI 大模型,说白了就是一个特别厉害的“接话高手”。
做菜比喻版
1. 先看过无数菜谱
大模型在训练前,就像一个厨师先读了:
- 海量菜谱
- 各种做法
- 不同菜系搭配
- 大量别人做菜的经验
所以它慢慢学会了:
- 什么食材常一起出现
- 什么调料通常配什么菜
- 下一步一般该放什么
这就对应到 AI 里: 它通过大量文本,学习“前面有这些内容,后面大概率该接什么”。
2. 把“食材”先处理好
做菜前,厨师不会直接把一整桌原材料乱下锅, 而是要先切菜、分类、备料。
AI 也是一样。 它会先把一句话拆成小块,再转成计算机能处理的数字。
比如一句话, 就像把它拆成:
- 主食材
- 配菜
- 调料
- 顺序
这样模型才能“下锅处理”。
3. 注意力机制 = 厨师知道现在该盯哪口锅
做菜时,厉害的厨师不会每样都平均关注, 而是会看当前最关键的部分:
- 炒菜时盯火候
- 炖汤时看时间
- 调味时尝味道
- 出锅时看摆盘
AI 里的注意力机制也差不多。 它在生成一句话时,会动态判断:
前面这么多内容里,当前最该重点看哪一部分?
这就像厨师在关键时刻知道该注意盐、火、油温还是食材本身。
4. 训练 = 反复试菜
训练模型就像训练厨师:
- 先给他一部分菜谱
- 故意把下一步遮住
- 让他猜“下一步该怎么做”
- 猜错了就纠正
- 一次次重复
久而久之,这个厨师就越来越会“接下一步”。
AI 也是这样, 它其实一直在练一种能力:
根据前面的内容,猜后面最合理的内容。
5. 参数 = 厨师脑子里的经验
厨师做菜久了,脑子里会形成很多经验:
- 这个菜要大火快炒
- 那个汤要小火慢炖
- 这个味型要先放蒜再放辣椒
AI 里的参数,就相当于这些经验。 参数越多,通常表示它记住和表达复杂规律的能力越强。
6. 为什么它看起来像“真会做菜”?
因为它学过太多“菜谱和做法”, 所以你给它一个问题,它就能像老厨师一样接着往下做:
- 你让它写文章,像是在“出一道菜”
- 你让它翻译,像是在“换一种做法”
- 你让它写代码,像是在“按步骤做一道技术菜”
但本质上,它不是自己真的在“吃”和“品尝”, 而是非常擅长根据经验,给出最像正确做法的下一步。
一句话总结
AI 大模型就像一个看过无数菜谱、反复试菜很多次的超级厨师,本质能力是根据现有食材和步骤,判断下一步最合理该怎么做。
