Наш власний штучний інтелект Ali-E: чому ми створюємо власний LLM

Сьогодні функції штучного інтелекту Ali-E працюють на потужних зовнішніх моделях, що дозволяє нам швидко надавати реальну цінність користувачам. Але стратегічно ми створюємо власний ШІ. Ось чому.

Три причини відмовитися від стороннього ШІ

Вартість: кожен дзвінок до зовнішньої моделі коштує грошей, і в міру зростання бази користувачів це стає значними витратами, що підвищує ціну для клієнта.

Конфіденційність: бізнес-дані конфіденційні. Внутрішня модель означає більше контролю над тим, де і як обробляються дані.

Контроль і спеціалізація: загальна модель «знає трохи про все». Модель, навчена мовою продажів, інвентарю та фінансів, може бути більш точною та передбачуваною саме в наших сценаріях.

Як ми це робимо

Ми зібрали підібраний набір навчальних прикладів для продукту — десятки категорій вісьмома мовами, включаючи бізнес-сценарії та правильні відмови. З цього ми розширили набір даних до тисяч прикладів і налаштували відкриту модель (через LoRA) на доступному обладнанні.

Паралельно ми вже розмістили рівень знань (RAG): модель об’єднує релевантні дані вашої компанії у відповідь, тож відповідає на факти, а не на «середнє значення в Інтернеті».

План переходу

Ми робимо це крок за кроком і без ризику для користувача: спочатку RAG і якість даних, потім наша власна модель як послуга, потім поступова заміна зовнішніх дзвінків. Якщо щось піде не так, система повертається до перевірених механізмів. Без деградації досвіду.

Що це вам дає

Згодом — менша, більш передбачувана вартість ШІ, краща конфіденційність і помічник, який все краще розуміє бізнес-завдання. Ми створюємо власну технологію, а не обгортку над чужим API.

Слідкуйте за блогом: ми відкрито ділимося прогресом. Це рідкісний шанс спостерігати, як продукт розвиває власний інтелект.