无标题文档
来源：无标题文档
📎 大模型.html
📎 神经网络.png
口播文案：
AI大模型你玩的很熟吧
但是你有没有发现
你用的AI大模型
其实有一点点精神不太稳定
有时候他是一个无所不知的超级天才
像这样但有时候呢
他又像一个满嘴跑火车的人工智障
像这样
怎么控制大模型的输出效果呢
其实你和AI高手之间
或许就差这两个神之旋钮没有动
今天呢
我就把AI的底层逻辑扒给你看
让你也能彻底的驯服AI大模型
好我们先来看一看AI大模型
它是如何思考问题的
来先看这一张AI的思考流程图
当我们向AI大模型询问一个问题时
比如说我们输入今天天气很好
适合出去
AI第一步呢
不是直接思考这个问题
而是进行预处理
它会把你的这句话
给拆成一个一个的词
也就是我们常说的TOKEN
再把每个词变成一串
只有他才能看得懂的
数字密码也称为向量
接下来重点来了
这些数字
就会进入到AI
这个神秘的神经网络结构当中
接下来真正的魔法就开始了
他会根据你的前半句话
根据他以往学过的经验库
预测出下一个词可能出现的词表
并且计算出每个词可能正确的概率
然后会从中选出一个最可能的词
比如说这一次
他可能会选择这个概率最高的“玩”字
但他不会停
接下来还会把“玩”
接到之前的输入之后
作为一个新的输入
再次计算完后面的词是什么
这就是所谓的自回归模型
接下来会把今天天气很好
适合出去玩
作为一个新的线索
再问自己一遍
这句话后面又该接什么呢
这一次
他算出最后该接的是一个感叹号
接下来
他会不断的重复这个自回归的过程
直到推算出一个特殊的结束符啊
通常称为EOS
这时才会停止推测
最后他把推测出的所有的词拼到一起
一句流畅的完整的话就诞生了
这就是AI逐字思考的秘密
好理解了这个基础的流程之后呢
接下来重头戏来了
我们怎么去控制这个过程呢
实际上大模型提供了两个关键的旋钮
就是专门供用户来选择的
第一个呢
称为temperature温度
你可以把它想象成是
AI的一个胆量的开关
你看现在我把它的胆量调得非常的低
那右边这些柱状图里面
最高的这个玩字
它的概率就会变得非常非常的高
几乎就成为了唯一的选择
这时AI就会变得非常的保守
只会说最安全的话
现在我把它胆量拉满
这时候所有候选词的概率
就会变得更加的平均了
包括像散步啊烧烤啊
甚至是看电影啊
也都有了一些出场的机会
AI此时就会变得更加的有创意
更加爱冒险了
第二个参数呢
称为top-p
如果说温度是调整胆量
那么top-p就是AI的理智筛选器
你看这里有一个绿色的top圈
它决定了AI的候选名单到底有多大
如果我把这个top-p调的很低
你看这时候圈子会越变越小
当只有概率最高的
这个玩字被圈了进来
剩下的那些就会直接被淘汰
这呢显然能够让AI的回答更加的
专注不跑偏
这些调整
最终怎么去决定我们的答案呢
接下来我们来看最终的揭秘
这里呢每个候选词的概率和能量条
都一目了然
只有被这个top圈圈中的词
会显示为绿色高亮
他们才是真正的决赛圈的选手
这时候你看
我只要一动这个滑块
这里的候选词名单
包括能量条还有绿色高亮范围
全都在实时的变化
最终AI会从这些高亮的候选名单当中
按照他们的概率随机选出一个
成为天选之子
这就是你能看到的最终的答案
所以其实AI大模型
一直都提供了很多的参数
可以让用户根据不同的业务场景
进行灵活的组合
这些不同的参数组合
又怎么样
影响我们更好的使用大模型呢
我这里有一个案例给大家看一下
比如像这里啊
这是我使用LangChain框架
快速的开发一个
基于大语言模型的简单应用
那这里呢
我是希望大语言模型
帮我给一款智能手机
起一个炫酷的名字
那自然
是希望大语言模型能够给我更多的创意
更多的参考
但是这个时候
如果temperature设的比较小的话
会产生什么样效果呢
可以看到
这个时候
每次大语言模型给的答案就非常的固定
非常的呆板
很明显
是不太适合当前这个创意设计的场景
那怎么调整呢
相信大家也想到了
我是不是可以把这个temperature参数
调大一点
它是一个0-2之间的参数
那我把它调成1.8
这个时候
当我再来进行多次的抽卡的时候
你会发现
这一次大语言模型生成的结果
是不是比之前就灵动多了
当然如果效果不太好
还可以进行再次的抽卡
你看这次给出的结果
是不是就非常有创意了
所以其实我们在使用大语言模型的时候
也可以根据自己的业务场景
去进行灵活的参数定制
当我们要进行一些创意类的场景
比如说设计个海报啊
写个文案啊
写个广告词啊这样的场景
那就可以把temperature参数
相对应的调大一点
同时top p参数呢
也相对应的调大一点
这样让大模型可以更加的灵活
更加的发散
但反过来
当我们需要做一些比较确定的场景
比如说要做一个知识问答
或者说一个
解题助手这样的一些场景的时候
那就需要把temperature这个参数呢
调的相对小一点点
而top-p参数也要相对调小一点
这样能够让大模型的回答更加的准确
更加的固定
所以这其实都是在不同场景下
使用参数的一些技巧
也是我们迈向AI高手
必须经历的一个过程
最后呢
我们对AI的这两个旋钮来做一次总结
其实在AI大模型运行过程当中
暴露了非常多的参数
可以让我们根据不同的场景进行定制
其中影响最大的是一个temperature
这个相当于就是大模型的创造力
或理解为他的胆量
还有一个参数top-p可以理解为
是大模型的专注度
也就是他的理智
掌握了这两个参数
你基本上掌握了驯服AI的初级密码
当然
AI大模型虽然底层还有非常多的参数
甚至有些不同的大模型
还有不同的个性化的参数
那这些都需要我们再去进一步
进行深度的解密
那么接下来
求关注！求点赞！求转发！
我们下期再见
再给你分享更多的AI技巧