Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
摘要:: 针对用户近期反映的大模型对话卡顿现象,豆包 AI 正式上线了“地理感知接入策略”。用户现在可以根据自身所在地,手动或自动选择深圳、杭州、北京等不同的 Region 节点进行访问。该技术利用了边缘计算架构,将高频请求留在本地机房处理,从而避开主干网的流量拥塞。官方数据显示,采用新方案后,平均 token 生成速度提升了 50%,首字符响应时间降至 200 毫秒以内。这一举动显示出字节跳动在算力调度和网络优化上的深厚底蕴,也预示着大模型竞争正从“逻辑能力”拼杀转向“极致用户体验”的细节博弈。
来源:: IT 之家