Total Cost of Ownership (TCO) для ИИ-проектов: мой кейс расчета

В сфере искусственного интеллекта произошло заметное событие. DKrupenin 21 минуту назад Total Cost of Ownership (TCO) для ИИ-проектов: мой кейс расчета Средний 31 мин 46 Управление продуктом * Кейс Recovery Mode Всем привет! Меня зовут Дмитрий Крупенин, я создаю внутренние и B2B ИТ-решения. Специализируюсь на цифровых продуктах для внутреннего использования в корпорациях.

Недавно передо мной встала задача посчитать сколько будет стоить инфраструктура под одну из ИИ-инициатив. я работаю в кровавом энтерпрайзе, мы не можем отдавать наши данные в облачные модели и вынуждены построить свой кластер для обучения и инференса. Хочу поделиться своими наработками - как можно посчитать стоимость, из чего она состоит, покажу формулы, которые мы использовали.

Технические детали

А еще посчитаем небольшой практический пример. По ходу дела буду под кат засовывать теорию, чтобы статья не выглядела монструозной =) Итак, поехали... Что такое ТСО и зачем её считатьТСО (Total Cost of Ownership, или на русском - Совокупная стоимость владения) - это ответ на вопрос: «Сколько денег я потрачу на этот актив за весь период, пока буду его использовать?

Представьте, что вы покупаете автомобиль. Допустим, его цена - 3 млн рублей, но вы будете платить за бензин, замену резины по мере износа и сезонности, техническое обслуживание, страховку и ремонт. Если ездить на этом авто 10 лет, реальная стоимость владения может быть больше 5 млн рублей.

Это и есть ТСО - полная стоимость, вся сумма, связанная с эксплуатацией автомобиля, которую вы потратили за все время. ​ То же самое с ИИ-инфраструктурой. Компания может купить кластеры GPU за $1 млн, но потом платить за электроэнергию, нанимать инженеров для управления, обслуживать оборудование, заменять вышедшие из строя части.

Отраслевые последствия

За 5 лет полная стоимость может быть $3-4 млн. Поэтому важно понимать какой бюджет на несколько лет будет необходимо выделить, если мы хотим держать у себя GPU кластеры и развивать AI-решения. Почему ТСО важна для ИИ-проектов?

Показывает скрытые затраты: Первая оценка только через цену покупки GPU обманчива. 60-80% реальных расходов скрыты в операционных затратах. ТСО показывает всю картину целиком.

​Сравнивает варианты: Облако кажется дешевле (платишь только за используемое), но за 5 лет может обойтись дороже собственной инфраструктуры вдвое при стабильной нагрузке. ТСО помогает выбрать оптимальный вариант. ​Помогает финансам: Финансовые директора видят, на сколько лет нужно амортизировать оборудование.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.