El equipo de Bing Search compartió cómo ayudó a que Bing Search y Deep Search de Bing fueran más rápidos, precisos y rentables mediante la transición a modelos SLM y la integración de TensorRT-LLM.
Bing escribió“para mejorar la eficiencia, entrenamos modelos SLM (una mejora del rendimiento de ~100 veces respecto a LLM), que procesan y comprenden las consultas de búsqueda con mayor precisión”.
Los beneficios. Bing dijo que ha ayudado a mejorar la búsqueda en normal al brindar estos tres beneficios principales a sus buscadores:
- Resultados de búsqueda más rápidos: con inferencia optimizada, los usuarios de Bing pueden disfrutar de tiempos de respuesta más rápidos, lo que hace que la experiencia de búsqueda de Bing sea más fluida y eficiente.
- Precisión mejorada: las capacidades mejoradas de los modelos SLM permiten a Microsoft ofrecer resultados de búsqueda más precisos y contextualizados, ayudando a los buscadores de Bing a encontrar la información que necesitan de manera más efectiva.
- Eficiencia de costos: al reducir el costo de alojamiento y ejecución de modelos grandes, Microsoft dijo que puede continuar invirtiendo en más innovaciones y mejoras, asegurando que Bing permanezca a la vanguardia de la tecnología de búsqueda.
Por qué nos importa. Una experiencia de búsqueda más rápida y una experiencia de búsqueda más precisa pueden ayudar a que Bing sea más confiable y útil para los buscadores. Esto puede llevar a que más buscadores adopten Bing Search en el futuro, quitándole cuota de mercado de búsqueda a actores más grandes como Google.
Nuevo en el mundo de los motores de búsqueda