Т-Банк выпустил маленькую русскоязычную языковую модель T-lite

Центр искусственного интеллекта Т-Банка открыл доступ к своей большой языковой модели T-lite. Весовая категория T-lite — 7-8 млрд параметров. У Сбера (главного конкурента) год назад вышла модель ruGPT-3.5 с 13 млрд параметров. Но разработчики Т-Банка считают, что не в параметрах счастье, и что в бенчмарках модель показывает сравнимые результаты с большими моделями в решении бизнес-задач на русском языке, используя всего 3% вычислительных ресурсов, которые обычно требуются. Это особенно актуально сейчас, когда в России усиливается дефицит центров обработки данных. Из Китая импортировать сервера становится все сложнее, а отбирать сервера у Ютюба долго не получится. С помощью T-lite компании смогут создавать экономные LLM-приложения для собственного использования без передачи данных третьим лицам. Например, ассистентов поддержки, которые могут автоматически обрабатывать запросы клиентов.