Към съдържанието
Последна актуализация:
Технически блог

Корпоративно търсене, пълнотекстово търсене и изкуствен интелект в организацията

Enterprise Search

Приемане на ИИ агенти за бизнеса: грешки, въпроси за уточнение и доработка се измерват поотделно

В пилотната фаза един ИИ агент често изглежда добре. Дали в реалната работа ще спести повече труд, отколкото струват контролът и поддръжката, само процентът на успех не показва. За целта трябва да отчитате поотделно грешките, въпросите за уточнение и доработката. Тази статия описва тест за приемане в офиса, който можете да проведете със собствени случаи.

от Sebastian @searchit · · 9 мин. четене

Споделяне
Конвейерна лента с писма, лист от календар и папка с оферта минава през стъклена контролна врата; зад нея четири сини сортиращи тави в степенувани нюансиГенерирано с ИИ

Отговаряне на имейли, вписване на срещи, подготовка на оферти – това са типични примери за агенти с изкуствен интелект (ИИ) в офиса, и всеки от тях използва няколко инструмента един след друг. В пилотната фаза обикновено се брои само едно: излезе ли накрая правилният резултат? За решението дали агентът да влезе в реална експлоатация това не ми стига. Агент, който изпълнява правилно девет от десет задачи, пак може да създава повече работа, отколкото спестява – защото постоянно задава въпроси, някой трябва да проверява всеки резултат или защото единствената грешка е била сгрешен имейл до клиент.

Едно уточнение предварително: ние сме производителят на searchit. Тестът за приемане по-долу е методически проект от собствената ни работа, който се опира на Evaluation best practices на OpenAI. Той не е стандарт. Моят съвет при въвеждането на ИИ в организацията: адаптирайте теста към Вашите процеси и проверявайте всеки резултат върху собствените си данни – при всеки доставчик.

Накратко

  • Един процент прикрива твърде много. Отчитайте поотделно грешките, въпросите за уточнение, доработката и разходите за контрол.
  • Грешките имат класове. Грешно изречение в чернова е нещо различно от имейл до грешния получател. Грешка с външен ефект никога не влиза в средната стойност.
  • Целевият резултат е определен преди теста – от човек, който познава процеса, а не от агента и не след изпълнението.
  • Тества се без външен ефект: като чернова, в пробно изпълнение или с тестов акаунт с реалистични права.
  • Балансът съпоставя спестеното време с усилията за проверка, доработка и поддръжка – и се изчислява наново след всяка промяна.

Защо процентът на успех не е достатъчен

„Агентът изпълнява правилно 90 процента от случаите“ звучи като ясен отговор. За реалната експлоатация обаче решаващите въпроси остават открити:

  • Как е стигнал до края? Сам, след два въпроса за уточнение или едва след като някой е преработил резултата?
  • Колко струва контролът? Трябва ли да се проверява всеки резултат, или са достатъчни извадкови проверки?
  • Какво се е случило в останалите случаи? Прекъснал ли е агентът и съобщил ли е за това – или е дал грешен резултат, който никой не е забелязал?
  • Колко струва поддръжката? Инструкциите, правата и инструментите се променят; нов езиков модел се държи различно от стария.

При ИИ работен процес с няколко инструмента грешките често възникват при предаването между стъпките. Агентът избира грешния инструмент, предава правилна стойност по грешен начин или продължава, въпреки че инструмент е съобщил за грешка. В крайния резултат от това се вижда малко – в протокола от изпълнението обаче се вижда.

Четири отчитания вместо една оценка

За всеки тестов случай отчитайте четири области поотделно. Едва заедно те дават смислена картина.

1. Грешки – по класове

Грешка е резултат, който се отклонява от предварително определения целеви резултат. Отнесете всяка грешка към клас:

КласПримерКак се отчита
критичнаимейл до грешния получател, среща при грешния клиент, презаписан запис, предадена поверителна информацияпоотделно, никога в средната стойност – един случай стига за „не е приет“
съдържателнагрешен срок, грешна сума, грешно лице за контакт в черноватакато процент, с праг
формалнаобръщение, форматиране, тонкато процент, със собствен праг

Освен това отбележете дали грешката е била забелязана. Агент, който съобщава „Не намирам договор с този клиент“, не е изпълнил задачата си, но е разкрил пропуска. Агент, който вместо това цитира измислен договор, е по-опасен – дори двата случая да се отчитат като „неизпълнено“. Разграничавайте тези случаи в записките си.

2. Въпроси за уточнение – основателни или избежими

Въпросите за уточнение не са лошо нещо по принцип. Агент, който пита преди имейл с външен ефект, постъпва точно правилно. Затова разграничавайте:

  • основателни въпроси: информацията наистина е липсвала или действието изисква одобрение.
  • избежими въпроси: информацията е била в задачата, в документа или в пощенската кутия, а агентът не я е намерил.

Избежимите въпроси сочат липсващо знание или неясна инструкция – често този проблем се решава най-евтино.

3. Доработка – в минути

Доработка е всичко, което човек променя в резултата, преди той да продължи нататък. Измервайте я в минути вместо с „да“ или „не“. Чернова, в която трябва да се поправят само две думи, спестява почти цялото време; такава, която трябва да напишете наново, не спестява нищо.

4. Контрол и поддръжка

Отчитайте времето за проверка и тогава, когато резултатът е бил верен. Към него се добавя текущата поддръжка: изостряне на инструкциите, настройване на правата, нов тест след смяна на модела. Който пропусне това, си разкрасява сметката за агента – и половин година по-късно се чуди защо спестяването така и не се е появило.

Тестът за приемане в осем стъпки

Процесът е проект за офиса. Той не изисква програмиране, но изисква няколко часа от човек, който познава процеса. Преди първото изпълнение определете както целевите резултати, така и праговете от стъпка 6.

  1. Формулирайте задачата тясно. Не „агентът помага в продажбите“, а „агентът отговаря на запитвания за срокове на доставка от пощенската кутия и създава напомняне за проследяване“.
  2. Съставете тестова папка от реални случаи. По-добре малко реални случаи, отколкото много измислени. Включете целенасочено трудните: непълни запитвания, противоречиви данни и случаи, в които агентът не бива да прави нищо.
  3. Определете целевия резултат предварително. За всеки случай човек, който познава процеса, записва какво би било правилно – преди агентът да е стартирал. Иначе целта несъзнателно се нагажда към резултата.
  4. Изпълнявайте без външен ефект. Имейли като чернова, процеси в пробно изпълнение, тестов акаунт с правата на реална роля. Тестов акаунт с пълен достъп измерва нещо различно от реалната работа.
  5. За всеки случай попълнете четирите отчитания – във формуляра по-долу. За целта четете протокола от изпълнението, а не само резултата.
  6. Определете праговете предварително. Например: никаква критична грешка, съдържателни грешки под граница, която определяте сами. Оценете изпълнението спрямо тези предварително зададени прагове. Една критична грешка прекратява приемането, независимо колко добре изглежда останалото.
  7. Направете баланса. Сравнете досегашното време за ръчна обработка с времето за проверка, доработката и очакваните усилия за поддръжка. Ако остава твърде малко, това е резултат – а не провал.
  8. Повтаряйте след всяка промяна. Нов езиков модел, нова инструкция, нов инструмент, променени права: същата тестова папка, същите целеви резултати, сравнение с последното изпълнение.

Формулярът за измерване

СлучайЦелта постигната?Клас на грешкатаЗабелязана?Въпроси за уточнение (основателни / избежими)Доработка (мин.)Време за проверка (мин.)
1
2
…

Накрая резултатите от четирите области стоят един до друг, вместо да изчезнат в една оценка. И в нашите измервания на обогатяването на документи от езикови модели работим с предварително определен целеви вариант. При това отчитаме поотделно какво моделът е намерил правилно, какво е пропуснал и какво е измислил.

Какво трябва да предлага агентът за приемането

Колко добре може да се приеме един агент, зависи и от софтуера, в който работи. Попитайте всеки доставчик:

  • Има ли пробно изпълнение? Може ли един процес да се изиграе, без нещо да излезе навън?
  • Кой одобрява? Отделено ли е създаването на процес от одобряването му?
  • Какво показва запитването за потвърждение? Вижда ли потребителят преди изпращането какво всъщност излиза навън – получатели, прикачени файлове, текст?
  • От какво зависят правата? От агента или от потребителя, за когото той работи?
  • Проследимо ли е кой модел какво е създал? Само тогава смяната на модела може да се сравни коректно със старото изпълнение.
  • Записват ли се корекциите? Доработка, която не е записана никъде, не се появява в никакъв баланс.

Как searchit подпомага приемането

searchit е паметта под Вашите ИИ агенти и носи собствен агент – searchit AI Agent. За теста за приемане това означава:

  • Изиграване на процесите в ускорен режим. От версия 8.0 потребителят описва процес със свои думи, а агентът прави от това чернова. searchit я проверява спрямо разрешените градивни елементи и я изиграва в ускорен режим: кое съобщение кога до кого би отишло – без нищо да бъде изпратено. Процесът става активен едва след одобрение. Създаването и одобряването са самостоятелни роли.
  • Версии вместо изненади. Процесите имат версии. Ако промените процес след теста, вече започнал случай остава на своята версия – следващото тестово изпълнение сравнява коректно старото с новото.
  • Запитване преди изпращане. Преди searchit AI Agent да изпрати имейл или кратко съобщение (SMS) или да изтрие имейли, диалог на работното място показва получатели, тема, прикачени файлове и текст. „Не изпращай“ е избрано по подразбиране.
  • Правата са на потребителя. Какво може да прави агентът през интерфейса, зависи от ролите на влезлия потребител. Ако липсва роля, сървърът отказва и я назовава. Затова тестов акаунт с реална роля проверява същите роли, които важат в реалната работа.
  • Произход на всяко ИИ поле. Всяко поле, което езиков модел създава при индексирането, носи модел, версия на модела, момент на създаване и идентификатор на промпта. След смяна на модела виждате кои резултати са от старото и кои от новото изпълнение.
  • Корекциите на разпознати случаи остават видими. Ако searchit е разпознал погрешно даден случай, потребителят го коригира с едно щракване и вижда корекциите си заедно с ефекта им в списък. За служебните агенти управлението на агентите показва последните задачи и грешки.

Как процеси, агенти и памет се допълват, показва слайдът „Едно колело задвижва другото“ на searchit-agent.ai.

Често задавани въпроси

Колко тестови случая са нужни за приемане?

Фиксирано число няма. По-важна от количеството е смесицата: реални случаи, сред тях трудните и такива, в които агентът не бива да прави нищо. Ако в реалната работа се появят нови видове грешки, тези случаи влизат в тестовата папка.

Кой определя целевия резултат?

Човек, който днес изпълнява процеса ръчно – преди изпълнението и без да знае резултата на агента. При спорни случаи помага втори човек.

Какво е критична грешка?

Всяка грешка, която има ефект извън агента или трудно може да бъде отменена: сгрешено съобщение навън, погрешно променена или изтрита информация, неоправомерно предадена поверителна информация. Кои действия спадат към това при Вас, определяте преди теста.

Кога трябва да тествам отново?

След всяка промяна, която влияе на поведението: друг езиков модел, променена инструкция или умение, нов инструмент, други права. Със същата тестова папка сравнението се прави за кратко време.

Достатъчно ли е агентът да пита преди всяко действие?

Не. Запитването за потвърждение предпазва от външен ефект, но струва време. Който всеки ден потвърждава десетки запитвания, рано или късно спира да чете внимателно. Затова тестът отчита и въпросите за уточнение.

Заключение

За мен към ИИ автоматизацията за бизнеса спада баланс, който отчита и разходите за контрол. Според този методически проект един ИИ агент в организацията е приет, когато остава без критична грешка, спазва определените прагове и като краен резултат спестява повече време, отколкото струват контролът, доработката и поддръжката. Само процентът на успех не показва това. За целта Ви трябват формулярът за измерване с четирите му области и тестова папка от собствените Ви случаи.

Как един процес в searchit възниква, минава в ускорен режим и бива одобрен, ще Ви покажем с удоволствие върху собствените Ви данни – в демонстрация.

Свързани статии: Най-добрите системи за корпоративно търсене 2026 · Хардуер за локални LLM

Източник за метода: OpenAI, „Evaluation best practices“, достъпен през ноември 2026 г. Тестът за приемане в тази статия е собствен проект, а не препоръка на OpenAI. Посочените имена на продукти и фирми са марки на съответните им притежатели.

Може да ви заинтересува също

Генерирано с ИИ

Enterprise Search

Търсене в документи с ИИ: как да проверите PDF таблици в RAG система, без общата оценка да прикрива грешки

RAG система с много добра обща оценка пак може да отнесе решаващата сума към грешното място. Особено при многостранични PDF таблици заглавните редове, колоните и номерата на …

Генерирано с ИИ

Enterprise Search

Памет за ИИ агенти за бизнеса: фирмено знание, факти и случаи в сравнение

ИИ агент без памет започва всеки ден отначало. Но „памет“ означава различни неща според доставчика: знанието в масива от данни на Вашата организация, факти за хора и …

Генерирано с ИИ

Enterprise Search

Правото да четеш не е право да действаш: как безопасно да тествате ИИ агенти с права за запис

ИИ агент с права за четене намира информация. С права за запис той изпраща имейли, променя записи и създава срещи. Преди да разрешите това, Ви трябват три отговора: кой какво …