AI-расходы вышли из-под контроля: токены как неуправляемый метаболизм
Счет за токены растет по экспоненте, а CFO теряет понимание, куда утекают деньги. Разбираю, почему это не просто IT-бюджет.
Про неуправляемый метаболизм
Получила на pre-read отчёт к Совету Директоров, и, после анализа затрат на IT, если опустить обсценную лексику, в голове одна цитата:
«Он поглощал энергию с невероятной скоростью… Его метаболизм был настолько эффективен, что за считанные часы он мог превратить плодородный участок земли в пустыню… Казалось, ничто не могло насытить этот ненасытный механизм».
Кто узнал автора — поставьте 🔥, чтобы я понимала, сколько здесь любителей научной фантастики.
Компания — это живой организм, который стремится к развитию, внедрению новых технологий, автоматизации процессов. Но внутри него заводится существо, выращенное в целях этого самого научно-технического прогресса, требующее всё больше энергии и при этом не поддающееся контролю. Вообще никак.
Для меня такой кадавр сегодня — это AI и токены, которые сгорают в растущем организме. С одной стороны, мы внедряем нейросети для ускорения работы, повышения качества обслуживания, оптимизации маркетинга. С другой — счёт за токены растёт по экспоненте. Чем выше нагрузка, тем дороже каждый отдельный запрос.
Проблема даже не в том, чтобы приучить сотрудников использовать искусственный интеллект, научить правильно маршрутизировать свои запросы, или в том, что токены дороги сами по себе. Главная опасность: при росте числа сотрудников, использующих искусственный интеллект, общий счёт за токены начинает расти стремительно — и компания теряет контроль над расходами. Теряет не просто контроль, а само понимание, куда всё утекает.
Плюс ко всему — вишенка на торте. Хорошо, не вишенка, пусть будет клубничка. Токены — это не просто расходы IT-бюджета, которые с какого-то перепугу вырастают в сотни раз по отношению к прошлому периоду. В зависимости от того, какую добавочную стоимость они создают, это могут быть капитальные затраты (если связаны с разработкой), операционные расходы (если идут на поддержку текущих процессов) или вообще формировать себестоимость выпущенного продукта.
Есть некая дилемма руководителя: либо позволить ИИ развиваться свободно и рисковать перерасходом ресурсов, либо пытаться ограничивать процесс, жертвуя прогрессом ради финансовой стабильности.
На этот вопрос я сегодня не знаю ответа.
Как регулировать метаболизм и превратить технологический голод в управляемую силу, а не в угрозу бизнесу? Чтобы кадавр не сожрал всё, что мы зарабатываем.
#проденьги
Еженедельный дайджест
Лучшее из блогов менторов — раз в неделю
- разборы реальных бизнес-ситуаций
- управление, найм, продукт и продажи
- опыт основателей и практиков клуба
- новые материалы менторов за неделю
