Компанія Kyivstar.Tech, яка є технологічним партнером Міністерства цифрової трансформації України у створенні української великої мовної моделі, планує використовувати розробку не лише для державних потреб, а й у власних комерційних продуктах. Одним із головних напрямів інтеграції має стати корпоративний віртуальний помічник «Зоряна».
Про це розповів СЕО Kyivstar.Tech Андрій Жуковський у подкасті «Сигнал і Шум». За його словами, нині рівень автоматизації «Зоряни» сягає 60% — саме таку частку звернень бот обробляє самостійно, без переведення клієнта на оператора.
Під час розробки компанія зіткнулася з технічними викликами, зокрема з ризиком так званих галюцинацій штучного інтелекту. Щоб зменшити їх кількість, модель довелося суттєво обмежити, однак це іноді погіршувало розуміння запитів користувачів. У Kyivstar.Tech очікують, що національна мовна модель допоможе усунути ці недоліки.
Ключовою причиною інтеграції власної LLM у компанії називають оптимізацію витрат. Через велику абонентську базу «Київстар» має значний обсяг звернень до служби підтримки, а обробка такого трафіку через платні глобальні моделі є надто дорогою.
«У нас великі сподівання, що таки вдасться дотренувати цю локальну модель до того стану, коли її використання буде набагато вигіднішим, ніж використання глобальної моделі», — підкреслив Жуковський.
Очікується, що українська LLM буде ефективнішою для роботи з українською мовою, оскільки від початку тренується з урахуванням її лінгвістичних особливостей. Окрім оновлення «Зоряни», Kyivstar.Tech розглядає можливість застосування національного штучного інтелекту в інших продуктах, де важливими є підтримка української мови та безпека даних.
