Разработка фундаментальной большой языковой модели (LLM) — это инвестиционный проект создания базовой нейросети, способной выполнять широкий спектр задач после дообучения. Проект последовательно проходит фазы: сбор и очистка текстовых данных, предварительное обучение на массивах из миллиардов параметров, тонкая настройка под целевые приложения и выравнивание, обеспечивающее безопасное и полезное поведение модели.
Ключевой фактор затрат — вычислительная инфраструктура. Модель может обучаться на собственных GPU-кластерах или арендованных в облаке, причём стоимость одного цикла предобучения может достигать десятков и сотен миллионов рублей. Модель учитывает все стадии расходов: закупку или аренду оборудования, время обучения, итерации дообучения и затраты на инференс после выхода на рынок.
Монетизация строится вокруг предоставления доступа к модели через API с тарификацией за токены, корпоративных лицензий и подписки. Учтён постепенный выход на плановую базу пользователей, регулируемое ценообразование и конкурентное давление. Операционные расходы включают не только вычисления, но и постоянный найм исследователей, инженеров, менеджеров по продукту и продажам.
Отдельно проработана неопределённость качества: могут потребоваться дополнительные итерации обучения и дообучения, что существенно влияет на общий бюджет. Проект подходит, если вы создаёте одну фундаментальную модель с последующей монетизацией. Разработка нескольких параллельных моделей или построение прикладного бизнеса на базе созданной LLM — это другие продукты.