Nuestra propia Ali-E AI: por qué estamos creando un LLM interno

Hoy en día, las funciones de inteligencia artificial de Ali-E se ejecutan en modelos externos sólidos, lo que nos permite ofrecer valor real a los usuarios rápidamente. Pero estratégicamente estamos construyendo nuestra propia IA. He aquí por qué.

Tres razones para abandonar la IA de terceros

Costo: cada llamada a un modelo externo cuesta dinero y, a medida que crece la base de usuarios, esto se convierte en un gasto importante que presiona el precio para el cliente.

Privacidad: los datos comerciales son sensibles. Un modelo interno significa más control sobre dónde y cómo se procesan los datos.

Control y especialización: un modelo general 'sabe de todo un poco'. Un modelo entrenado en el lenguaje de ventas, inventario y finanzas puede ser más preciso y predecible exactamente en nuestros escenarios.

como lo hacemos

Reunimos un conjunto seleccionado de ejemplos de capacitación para el producto: docenas de categorías en ocho idiomas, incluidos escenarios comerciales y rechazos correctos. A partir de ahí, ampliamos el conjunto de datos a miles de ejemplos y ajustamos un modelo de peso abierto (a través de LoRA) en hardware accesible.

Paralelamente, ya enviamos una capa de conocimiento (RAG): el modelo combina los datos relevantes de su empresa en la respuesta, por lo que responde a partir de hechos, no del "promedio de Internet".

El plan de transición

Esto lo hacemos paso a paso y sin riesgo para el usuario: primero RAG y calidad de datos, luego nuestro propio modelo como servicio, luego una sustitución paulatina de las llamadas externas. Si algo sale mal, el sistema recurre a mecanismos probados. Sin degradación de la experiencia.

lo que te da

Con el tiempo: costos de IA más bajos y predecibles, mejor privacidad y un asistente que comprende cada vez mejor las tareas comerciales. Estamos construyendo nuestra propia tecnología, no una envoltura sobre la API de otra persona.

Sigue el blog: compartimos los avances abiertamente. Es una rara oportunidad de ver cómo un producto desarrolla su propia inteligencia.