ИИ в бизнес-процессах: где он полезен и как ему доверять
Главная идея проста: ИИ может использоваться не только как отдельный ассистент или copilot, но и непосредственно внутри бизнес-процесса — там, где раньше требовалась мыслительная работа человека.
Практически это места, где человек должен ответить на три вопроса:
«Всё ли здесь в порядке?» → Evaluation Проверить полноту, качество, соответствие правилам, выявить риски или несоответствия.
«Что делать дальше?» → Recommendation Предложить следующий шаг, подготовить рекомендацию, объяснение или вариант решения.
Такие задачи встречаются практически на всех этапах процесса: Discovery → Intake → Submission → Review → Decision Support → Post-Decision / Service.
При этом роль человека меняется. ИИ берёт на себя всё больше обработки и анализа информации, а человек сохраняет полномочия, ответственность и право принятия решения.
Но здесь сразу возникает второй вопрос: насколько этому можно доверять?
Интересно, что с человеческими экспертами мы решаем очень похожую проблему. Мы тоже не можем полностью видеть, как эксперт приходит к каждому выводу. Мы доверяем ему не потому, что понимаем каждый шаг его мышления, а потому что можем оценить его опыт, квалификацию, результаты, качество работы, consistency, peer review и performance на реальных кейсах.
С AI можно применять похожий подход.
Ответ не в том, чтобы считать ИИ идеальным. Нам нужно доказать, что для конкретной бизнес-задачи он работает достаточно стабильно и предсказуемо.
Именно поэтому тестирование AI становится частью дизайна бизнес-процесса. Вместо нескольких ручных проверок prompt можно прогнать через множество реалистичных сценариев, измерить качество результатов, найти слабые места и определить границы, в которых AI можно безопасно использовать.
Тогда разговор меняется с:
«Кажется, это работает»
на:
«Мы протестировали это на реальных сценариях и можем показать, насколько надёжно оно работает для этой задачи».
Поэтому тестирование AI - это не только поиск ошибок. Это способ создать и продемонстрировать доверие к AI внутри реального бизнес-процесса.
Не совсем уверен что мы можем так делать. Потому что я не могу быть уверен что в похожих ситуациях выводы AI будут одними и теми же, а в случае с человеческим экспертом - могу
Я не уверен хорошо это или плохо, но это данность.
Вот пример. Я тут недавно зададся вопросом какой хостинг для моей платформы оптимален на сегодняшний день. И получил вполне себе убедительный ответ. И уже начал его исследовать, но как оказалось есть еще один вариант и очень даже не плохой, но AI почему-то забыл об этом упомянуть.
Возможно в этом есть и моя ошибка, нужно было четче формулировать задание.
У тебя была довольно открытая задача для ИИ: условно говоря, «иди во внешний мир, найди что-то и определи, что мне подходит».
А задачи, которые я имею в виду, наоборот, полностью boxed-in — всё необходимое уже находится внутри ограниченного контекста. Вот конкретная заявка. Вот наши policies. При необходимости мы можем сделать semantic search по другим внутренним policies. Вот наши примеры того, как мы реагировали на похожие ситуации раньше.
То есть задача для ИИ здесь не в том, чтобы самостоятельно искать что-то во внешнем мире, а в том, чтобы правильно оценить конкретный кейс на основе заранее определённого набора внутренних данных и правил и предложить, как мы должны на него отреагировать.
А я спросил у ии можно ли мне пополнять криптой зарубежные финтех сервисы - на что получил ответ, конечно бро, давай, в беларуси нет никаких ограничений
А можно поподробнее? Из любопытства так сказать. "Твоя платформа" если не ошибаюсь ты недавно завайбкодил клон Salesforce - свою CRM. Это ты про нее? Какой tech stack используешь (язык, фреймвокр, база данных). И что тебе посоветовал ИИ в качестве хостинга? И что ты нашел что он тебе не посоветовал? Люблю эту тему "За пределами Salesforce". сам не раз изучал и испытывал разные сочетания стеков и хостингов. Может чего нового узнаю
А какой фреймворк? ExpressJS? Просто я недавно столкнулся с похожим . Знакомый рассказывал что наняли вайбкодера пилить внешний сервис. Я тоже спросил про технологии и услышал про NodeJS. Когда спросил про детали (какой фреймворк используется), на меня удивленно посмотрели и сказали что "просто NodeJS" . После этого мне стало страшно за наше будущее.
Интересно! Не слышал пока про такой, надо изучить. А почему выбрал именно его?
А! Я подумал что ты планируешь проект типа SaaS. А у тебя получается пакет для собственного развертывания у клиента. Согласен, это логичнее и безопаснее. Да и независимость клиентов для кастомизации лучше.
Напомнило. Раньше работал на проекте, там был большой пакет которые купили несколько крупных клиентов и каждый хотел его допилить под себя. Естественно все кастомизации от разных клиентов попадали в один пакет. Получалась жесть.
