张道鑫
小红书多模态搜索&国际化算法负责人
张道鑫,现小红书多模态搜索和rednote算法团队负责人,硕士毕业于浙江大学。长期专注于多模态理解和检索领域,在小红书和阿里巴巴主导搭建了视觉图片搜索、商品理解和同款检索、视频结构化和智能生产等诸多多模态系统,具有丰富的业界落地经验。并在ICCV、MM、SIGIR等会议发表多篇论文,主要研究方向包括多模态理解和评估、视频生成、跨模态检索。
演讲主题
多模态大模型在小红书搜索中的应用
随着大模型技术的快速发展,搜索是被直接影响最大的业务系统之一,LLM显著的提升了传统检索系统各环节的建模能力,同时以AI搜索的形态更高效的承接了部分用户Query需求。演讲将首先介绍小红书搜索的整体业务和架构情况,作为UGC为主的搜索面对的场景和挑战。聚焦到多模态搜索方向,从以图搜图、图片搜索、视频搜索、多模态AI搜索四个方向介绍多模态大模型落地的业务场景和应用进展。结合典型的应用场景,重点展开多模态大模型在内容理解和RAG系统中的算法细节,探讨多模LLM在大规模业务场景中落地的挑战和实践。