Размер видео: 1280 X 720853 X 480640 X 360
Показать панель управления
Автовоспроизведение
Автоповтор
AI开发者先AI一步，共学技术交流群，加微信：aixiagudao，或者自己扫码：techdiylife.github.io/blog/blog.html?category1=c05&blogid=0032
streaming输入这块肯定是，但这还不足以支撑。而且最大的问题是，如果在对话中加入了相反的意思，比如“你先唱首歌吧，哦不，你还是讲个故事吧”这就会导致最初的语音合成是错的，因为没有context。而实际上并没有
“你先唱首歌吧，哦不，你还是讲个故事吧”，大语言模型可以理解你这句话的意思，会把前面的忽略掉。如果中间停顿足够大，它已经开始唱歌了，也是可以将其终止的。
不用管啥架构只要token产生的速度足够快就行
如何解释4o可以唱歌？感觉生成的不只是文字再转语音，而是一次性转成语音？
非常有可能，我没有看到基于LLM的合成的资料，如果有相关的资料欢迎留言反馈。
那么，AI正在输出的时候，当有人打断他的话，它是如何能够进行中止输出快速转为新的任务执行呢？
這太簡單了直接把原本的session drop掉就好
LLM生成时每个生成一个token都是一次推理，也就是forward操作，所以是可以在任何一个token生成后停止的。
AI开发者先AI一步，共学技术交流群，加微信：aixiagudao，或者自己扫码：techdiylife.github.io/blog/blog.html?category1=c05&blogid=0032
streaming输入这块肯定是，但这还不足以支撑。而且最大的问题是，如果在对话中加入了相反的意思，比如“你先唱首歌吧，哦不，你还是讲个故事吧”这就会导致最初的语音合成是错的，因为没有context。而实际上并没有
“你先唱首歌吧，哦不，你还是讲个故事吧”，大语言模型可以理解你这句话的意思，会把前面的忽略掉。如果中间停顿足够大，它已经开始唱歌了，也是可以将其终止的。
不用管啥架构只要token产生的速度足够快就行
如何解释4o可以唱歌？感觉生成的不只是文字再转语音，而是一次性转成语音？
非常有可能，我没有看到基于LLM的合成的资料，如果有相关的资料欢迎留言反馈。
那么，AI正在输出的时候，当有人打断他的话，它是如何能够进行中止输出快速转为新的任务执行呢？
這太簡單了
直接把原本的session drop掉就好
LLM生成时每个生成一个token都是一次推理，也就是forward操作，所以是可以在任何一个token生成后停止的。